San Francisco Minta Apple dan Google Apps Aplikasi AI ‘Nudify’ dari App Stores

Latar Belakang: Aplikasi AI ‘Nudify’ dan Dampaknya

Pada Juli 2026, Kantor Jaksa Kota San Francisco secara resmi meminta Apple dan Google untuk menghapus 13 aplikasi AI ‘nudify’ atau ‘face-swap’ dari platform toko aplikasi mereka. Aplikasi-aplikasi ini menggunakan teknologi kecerdasan buatan untuk menghasilkan gambar telanjang palsu dari seseorang hanya dengan mengunggah foto wajah mereka. Menurut laporan dari WIRED, aplikasi tersebut sebagian besar disalahgunakan untuk menargetkan perempuan dan anak perempuan tanpa izin, menimbulkan ancaman serius terhadap Privacy dan keamanan digital.

Permintaan ini disampaikan dalam bentuk surat penghentian dan penghentian (cease-and-desist) yang menuduh Apple dan Google terus memfasilitasi penyebaran teknologi berbahaya ini dengan tetap menampilkan aplikasi-aplikasi tersebut di App Stores dan Google Play Stores. Kota San Francisco menekankan bahwa kedua raksasa teknologi itu tidak boleh terus mengambil keuntungan dari aplikasi yang melanggar hukum dan etika ini.

Mengapa Aplikasi ‘Nudify’ Berbahaya?

Aplikasi AI ‘nudify’ bekerja dengan memanfaatkan model deep learning untuk memanipulasi gambar, menciptakan konten eksplisit palsu yang sangat realistis. Teknologi ini sering disebut sebagai ‘deepfake’ dan telah menjadi alat pelecehan siber yang marak, terutama terhadap perempuan. Berikut adalah beberapa dampak negatifnya:

Pelanggaran Privacy dan Pelecehan Digital

Korban sering kali tidak tahu bahwa foto mereka telah digunakan tanpa izin untuk membuat gambar telanjang palsu. Konten ini kemudian dapat disebarluaskan di media sosial atau platform lainnya, menyebabkan trauma psikologis, pencemaran nama baik, dan bahkan kerugian profesional. Kasus-kasus seperti ini telah dilaporkan di berbagai negara, termasuk Indonesia, di mana deepfake digunakan untuk memeras atau mempermalukan korban.

Target Utama: Perempuan dan Anak Perempuan

Data menunjukkan bahwa mayoritas korban dari aplikasi ‘nudify’ adalah perempuan dan anak perempuan. Mereka sering menjadi sasaran oleh mantan pasangan, teman, atau bahkan orang asing yang mendapatkan akses ke foto mereka dari media sosial. Hal ini memperkuat kesenjangan gender dalam keamanan digital dan menuntut respons tegas dari regulator dan platform teknologi.

Tindakan Hukum: Surat Penghentian dan Penghentian

Surat dari Kantor Jaksa Kota San Francisco ini bukan sekadar imbauan, melainkan peringatan hukum yang serius. Dalam surat tersebut, pihak kota meminta Apple dan Google untuk segera menghapus 13 aplikasi yang diidentifikasi, serta mencegah aplikasi serupa muncul kembali di masa depan. Jika tidak dipatuhi, kota dapat mengambil langkah hukum lebih lanjut, termasuk tuntutan perdata.

Langkah ini sejalan dengan upaya global untuk memperketat regulasi terhadap konten yang dihasilkan AI. Di Amerika Serikat, beberapa negara bagian telah mengeluarkan undang-undang yang melarang pembuatan dan penyebaran deepfake tanpa izin, terutama yang bersifat eksplisit. Sementara itu, Uni Eropa juga sedang merancang aturan ketat untuk platform digital melalui Digital Services Act (DSA).

Tanggapan Apple dan Google

Hingga berita ini diturunkan, Apple dan Google belum memberikan pernyataan resmi terkait surat tersebut. Namun, kedua perusahaan memiliki kebijakan yang melarang konten eksplisit tanpa izin di toko aplikasi mereka. Apple, misalnya, memiliki pedoman App Stores yang ketat tentang Privacy dan keamanan, sementara Google Play Stores juga melarang aplikasi yang mempromosikan kebencian atau pelecehan.

Meskipun demikian, aplikasi ‘nudify’ sering kali lolos dari moderasi dengan menyamar sebagai alat pengeditan foto biasa. Mereka menggunakan istilah seperti ‘face-swap’ atau ‘photo enhancer’ untuk mengelabui sistem pemeriksaan otomatis. Hal ini menunjukkan perlunya peningkatan pengawasan berbasis AI dan manusia untuk mendeteksi aplikasi berbahaya sebelum tersedia untuk publik.

Implikasi untuk Pengguna di Indonesia

Kasus ini juga relevan bagi pengguna teknologi di Indonesia. Dengan maraknya penggunaan AI tools untuk berbagai keperluan, penting bagi pengguna untuk waspada terhadap aplikasi yang menawarkan fitur ‘nudify’ atau ‘undress’. Aplikasi semacam itu tidak hanya ilegal di banyak yurisdiksi, tetapi juga melanggar etika dan hak Privacy orang lain.

Pemerintah Indonesia melalui Kementerian Komunikasi dan Digital (KOMDIGI) telah menunjukkan komitmen untuk memberantas konten ilegal di ruang digital, termasuk deepfake. Pengguna di Indonesia disarankan untuk:

• Hanya mengunduh aplikasi dari sumber terpercaya seperti App Stores atau Google Play Stores yang telah terverifikasi.
• Melaporkan aplikasi mencurigakan yang menawarkan fitur manipulasi gambar tanpa izin.
• Tidak menyebarkan atau membuat konten deepfake yang dapat merugikan orang lain.

Kesimpulan: Langkah Maju untuk Keamanan AI

Tindakan San Francisco terhadap Apple dan Google menandai langkah penting dalam regulasi AI, khususnya untuk melindungi kelompok rentan dari penyalahgunaan teknologi. Dengan meningkatnya kecanggihan AI, platform teknologi harus bertanggung jawab atas konten yang mereka izinkan beredar. Bagi pengguna, kesadaran akan risiko aplikasi ‘nudify’ dan partisipasi aktif dalam melaporkan konten berbahaya adalah kunci untuk menciptakan ekosistem digital yang lebih aman.