Konten deepfake merupakan isu yang semakin memprihatinkan akibat potensi penyebaran disinformasi secara massif di internet. Dibuat melalui modifikasi sistem kecerdasan buatan (AI), konten deepfake menjadi perhatian utama dalam dunia teknologi. Meskipun raksasa teknologi berlomba-lomba mengembangkan AI untuk kepentingan positif, seperti membantu aktivitas manusia, namun masih ada oknum jahat yang memanfaatkan teknologi ini untuk tujuan negatif.
Dampak negatif dari deepfake terutama terkait dengan penyebaran konten yang memicu polarisasi, konflik, dan ujaran kebencian. Padahal, deepfake seharusnya dapat dimanfaatkan untuk hal-hal yang lebih positif, seperti mendemokratisasi ide dan kreativitas. YouTube sebagai salah satu platform video terbesar telah mengambil langkah dengan menambahkan label dan watermarks khusus pada konten deepfake untuk membantu pengguna membedakannya dengan konten asli.
Salah satu upaya YouTube dalam memerangi penyebaran deepfake adalah melalui fitur video AI-generatif baru yang memungkinkan kreator konten membuat video di Shorts. Dengan model AI Google Veo 2 dan fitur eksperimental Dream Screen, pengguna dapat membuat klip video yang unik dan menarik. Meskipun fitur ini saat ini hanya tersedia untuk pengguna di Amerika Serikat, Kanada, Australia, dan Selandia Baru, YouTube berencana untuk memperluas cakupan ke negara-negara lain di masa mendatang. Tantangan berikutnya adalah bagaimana kita dapat menggunakan teknologi secara bijaksana dan bertanggung jawab untuk mendukung keberlangsungan konten positif di platform-platform digital.
