YouTube dan X Jadi ‘Pintu Gerbang’ Aplikasi Nudify: Studi Ungkap Bahaya Deepfake Ilegal

YouTube dan X Jadi ‘Pintu Gerbang’ Aplikasi Nudify

Platform media sosial Apps utama seperti YouTube dan X (sebelumnya Twitter) selama ini memiliki pedoman ketat yang melarang penyebaran gambar intim nonkonsensual (NCII) atau foto dan video eksplisit seksual. Namun, sebuah studi baru mengungkapkan fakta mengejutkan: banyak platform media sosial justru secara langsung merujuk pengguna ke konten semacam itu.

Studi yang dirilis pada 14 Juli 2026 ini menemukan bahwa YouTube dan X telah menjadi ‘pintu gerbang’ utama bagi aplikasi-aplikasi yang disebut ‘nudify’ — aplikasi berbasis kecerdasan buatan (AI) yang mampu membuat deepfake seksual tanpa persetujuan korban, dengan biaya serendah $1 per gambar.

Bagaimana Platform Media Sosial Menjadi Perantara?

Peneliti menemukan bahwa pengguna dapat dengan mudah menemukan tautan dan petunjuk langsung di YouTube dan X untuk mengakses situs-situs yang menawarkan layanan pembuatan deepfake seksual. Platform-platform ini tidak hanya menjadi tempat promosi, tetapi juga menyediakan tutorial langkah demi langkah tentang cara menggunakan aplikasi tersebut.

Beberapa video tutorial di YouTube, misalnya, menunjukkan cara mengunggah foto seseorang dan menghasilkan gambar telanjang palsu secara instan. Sementara itu, di X, banyak akun yang membagikan tautan langsung ke aplikasi nudify dan bahkan menawarkan hasil karya mereka sebagai ‘contoh’.

Fenomena ini sangat mengkhawatirkan karena platform-platform tersebut memiliki jangkauan global dan basis pengguna yang sangat besar, termasuk anak di bawah umur. Padahal, sebagian besar platform ini memiliki kebijakan yang melarang konten eksplisit nonkonsensual.

Dampak dan Bahaya Deepfake Nonkonsensual

Aplikasi nudify menggunakan teknologi AI generatif untuk ‘menanggalkan pakaian’ seseorang dalam foto tanpa izin. Teknologi ini sering disalahgunakan untuk melecehkan, mempermalukan, atau memeras korban. Dampak psikologis dan sosial bagi korban sangat serius, termasuk kecemasan, depresi, hingga hilangnya reputasi.

Biaya Murah, Akses Mudah

Salah satu temuan paling mengkhawatirkan dari studi ini adalah betapa murah dan mudahnya layanan ini diakses. Dengan hanya $1 per gambar, siapa pun bisa membuat deepfake seksual yang tampak realistis. Beberapa aplikasi bahkan menawarkan paket berlangganan bulanan dengan harga yang sangat terjangkau, membuat teknologi ini semakin mudah diakses oleh khalayak luas.

Kemudahan akses ini diperparah oleh peran platform media sosial yang secara tidak langsung mempromosikan layanan tersebut. Algoritma rekomendasi YouTube dan X seringkali menyarankan konten serupa kepada pengguna yang sudah menonton video terkait, menciptakan lingkaran setan yang sulit diputus.

Respons Platform dan Regulasi

Hingga saat ini, belum ada tanggapan resmi dari YouTube (milik Google) maupun X (milik Elon Musk) terkait temuan studi ini. Namun, para peneliti mendesak platform untuk segera mengambil tindakan tegas, seperti menghapus konten yang mempromosikan aplikasi nudify, memblokir tautan, dan memperbarui algoritma agar tidak merekomendasikan konten berbahaya.

Di sisi regulasi, banyak negara mulai memperketat undang-undang terkait deepfake dan NCII. Di Indonesia, misalnya, penyebaran konten asusila dan deepfake nonkonsensual dapat dijerat dengan Undang-Undang ITE dan Undang-Undang Pornografi. Namun, penegakan hukum masih menjadi tantangan karena sifat lintas batas dari platform digital.

Peran AI dalam Deteksi dan Pencegahan

Menariknya, teknologi AI juga bisa menjadi solusi untuk memerangi penyalahgunaan AI itu sendiri. Beberapa perusahaan pengembang keamanan siber telah menciptakan alat deteksi deepfake yang mampu mengidentifikasi gambar atau video hasil manipulasi. Platform media sosial bisa mengintegrasikan alat semacam itu untuk menyaring konten sebelum diunggah.

Namun, para ahli menekankan bahwa solusi teknis saja tidak cukup. Diperlukan pendekatan holistik yang melibatkan edukasi publik, kebijakan platform yang lebih ketat, dan kerja sama internasional untuk mengatasi masalah ini secara efektif.

Penutup

Temuan studi ini menjadi pengingat bahwa kemajuan teknologi AI harus diimbangi dengan tanggung jawab etis dan perlindungan terhadap hak-hak individu. Platform media sosial tidak boleh menjadi ‘pintu gerbang’ bagi penyalahgunaan teknologi. Pengguna juga perlu lebih waspada dan kritis terhadap konten yang mereka konsumsi dan bagikan. Dengan kesadaran dan tindakan kolektif, kita bisa mencegah teknologi AI digunakan untuk merugikan orang lain.