Meta Tayangkan Iklan Berisi Gambar Eksploitasi Anak Buatan AI, Lebih dari 50 Iklan Terdeteksi
Meta Gagal Menyaring Iklan Berisi CSAM Buatan AI
Laporan investigatif Wired yang diterbitkan 5 Agustus 2026 mengungkap fakta mengerikan: selama sembilan bulan terakhir, Meta telah menayangkan lebih dari 50 iklan berbayar yang berisi gambar dan video eksploitasi Sexual anak (CSAM) yang dihasilkan oleh kecerdasan buatan. Iklan-iklan tersebut tersebar di seluruh ekosistem Meta — Facebook, Instagram, Messenger, dan Threads — dan beberapa di antaranya masih berjalan hingga minggu ini.
Data perpustakaan iklan Meta sendiri menjadi bukti nyata kegagalan sistem moderasi iklan raksasa media sosial ini. Para peneliti dan aktivis keamanan anak menemukan pola yang konsisten: iklan-iklan tersebut menggunakan gambar yang dihasilkan oleh model AI generatif untuk menciptakan visual eksploitasi anak yang photorealistis, lalu memasangnya sebagai konten promosi yang ditargetkan kepada pengguna platform.
Bagaimana Iklan-Iklan Ini Lolos Moderasi?
Sistem tinjauan iklan Meta bergantung pada kombinasi deteksi otomatis (machine learning classifier) dan tinjauan manusia. Namun, gambar CSAM buatan AI menghadirkan tantangan unik: karena gambar-gambar tersebut tidak pernah ada di dunia nyata — tidak ada korban nyata yang difoto, tidak ada hash (sidik jari digital) yang tercatat di database NCMEC (National Center for Missing & Exploited Children) atau database hash industri seperti PhotoDNA — sistem deteksi berbasis hash gagal total mengenali mereka.
Model AI generatif Shut ini (seperti Midjourney, Stable Diffusion, DALL-E, dan model open-source yang di-fine-tune) mampu menghasilkan gambar anak yang sangat realistis dalam pose eksploitatif. Para pelaku hanya perlu memasukkan prompt yang tepat, lalu mengunggah hasilnya sebagai aset iklan. Klasifikator Meta yang dilatih pada CSAM dunia nyata sering kali tidak memflag gambar sintetis ini karena distribusi piksel, tekstur, dan artefak generasi berbeda dari foto asli.
Skala dan Durasi: Sembilan Bulan Tanpa Terhenti
Menurut analisis Wired atas data Ad Library Meta, minimal 53 iklan unik terdeteksi berisi materi CSAM sintetis. Iklan paling awal ditayangkan pada November 2025, dan iklan terbaru masih aktif pada awal Agustus 2026. Beberapa iklan berjalan selama minggu sebelum dihapus, mengumpulkan ribuan impression dan klik. Harga per iklan relatif murah — beberapa dolar per hari — memungkinkan pelaku menjalankan kampanye berkelanjutan dengan budget minim.
Meta mengklaim memiliki kebijakan “zero tolerance” terhadap CSAM dan menggunakan teknologi canggih untuk mendeteksi dan menghapus konten tersebut. Namun realita menunjukkan celah besar: sistem moderasi iklan tidak dilengkapi detektor CSAM sintetis yang cukup kuat, dan proses eskalasi ke tim keamanan manusia terlalu lambat.
Implikasi bagi Industri AI dan Moderasi Konten
Kasus ini memperparah tekanan pada seluruh industri teknologi. Tiga isu kritis muncul:
- Deteksi CSAM sintetis harus jadi standar industri. Perusahaan AI (OpenAI, Anthropic, Google, Meta, Stability AI, dll) dan platform (Meta, TikTok, X, YouTube) harus berkolaborasi membangun model deteksi yang mengenali artefak generasi AI — bukan hanya hash gambar bekas.
- Verifikasi identitas pengiklan perlu diperketat. Banyak iklan CSAM sintetis ditayangkan oleh akun baru atau akun yang dibajak. Meta harus menerapkan KYC (Know Your Customer) ketat untuk pengiklan, termasuk verifikasi identitas pemerintah sebelum iklan langsung dijalankan.
- Transparansi Ad Library harus diperluas. Data perpustakaan iklan Meta memungkinkan investigasi ini. Platform lain harus menyediakan akses serupa agar peneliti dan sivil society bisa mengaudit iklan berbahaya secara independen.
Tanggapan Meta dan Langkah Selanjutnya
Sejak publikasi laporan, Meta menyatakan telah menghapus iklan-iklan yang teridentifikasi dan memperbarui sistem deteksi. Namun perusahaan menolak mengungkap detail teknis perbaikan apa yang diterapkan, berapa banyak akun pelaku yang diblokir permanen, dan apakah mereka akan berbagi sinyal deteksi CSAM sintetis ke industri luas.
Pakar keamanan anak seperti Thorn dan NCMEC mendesak Meta untuk:
- Menerapkan detektor CSAM sintetis real-time pada setiap aset iklan sebelum dipublikasikan (pre-flight scan).
- Membagikan hash dan embedding gambar CSAM sintetis yang terdeteksi ke database industri (NCMEC, Tech Coalition) agar platform lain bisa memblokirnya.
- Melaporkan pelaku ke penegak hukum — bukan hanya menghapus iklan.
Apa yang Bisa Dilakukan Pengguna dan Pengembang
Bagi pengguna biasa: laporkan iklan mencurigakan melalui menu “Laporkan Iklan” di pojok kanan atas iklan. Pilih “Eksploitasi Sexual Anak” sebagai alasan. Laporan massa mempercepat tinjauan manusia.
Bagi pengembang AI dan platform: integrasikan Safety by Design sejak awal. Model generatif harus memiliki guardrail keras yang menolak prompt CSAM (termasuk variasi dan jailbreak). Platform harus menjalankan red teaming berkala meniru taktik pelaku: mencoba mengunggah CSAM sintetis sebagai iklan, konten organik, atau pesan pribadi untuk menguji deteksi.
Bagi regulator: kasus ini memperkuat urgensi regulasi seperti EU Digital Services Act, UK Online Safety Act, dan rancangan US Kids Online Safety Act (KOSA) yang mewajibkan platform melakukan risk assessment tahunan, audit independen, dan transparansi moderasi iklan.
Kesimpulan: Krisis Kepercayaan yang Harus Diselesaikan
Fakta Meta menayangkan iklan CSAM buatan AI selama sembilan bulan bukan sekadar kegagalan teknis — ini kegagalan tata kelola, prioritas, dan akuntabilitas. Teknologi AI generatif telah menurunkan biaya dan hambatan teknis pembuatan CSAM hingga hampir nol. Jika platform terbesar dunia tidak bisa melindungi pengguna paling rentan dari iklan berbayar yang eksplisit ilegal, pertanyaan fundamental muncul: apa lagi yang lolos dari moderasi?
Solusi butuh kolaborasi lintas industri, transparansi algoritma deteksi, dan tekanan regulasi yang konsekuen. Anak-anak tidak bisa menunggu siklus PR berikutnya. Waktu untuk tindakan nyata adalah sekarang.
