San Francisco Perintahkan Meta Hentikan Iklan Eksploitasi Anak Berbasis AI

Latar Belakang Kasus: Iklan Berbahaya Lolos Moderasi

Pada pertengahan 2024, kantor Kota San Francisco (City Attorney’s Office) mengeluarkan surat cease and desist resmi kepada Meta Platforms, Inc. Surat itu menuduh Meta “mengizinkan” iklan yang mempromosikan layanan pembuatan gambar eksploitasi anak (child sexual abuse material/CSAM) berbasis AI generatif tayang di Facebook dan Instagram. Menurut penyidikan kota, iklan-iklan tersebut mengarahkan pengguna ke situs web pihak ketiga yang menjual atau menawarkan alat AI untuk membuat gambar sintetis anak dalam pose seksual—konten yang ilegal di bawah hukum federal AS (18 U.S.C. § 2252A) dan hukum California.

Bagaimana Iklan Itu Bisa Tayang?

Meta mengandalkan sistem moderasi otomatis (AI classifiers) dan tim tinjauan manusia untuk menyaring iklan sebelum dipublikasikan. Namun, pelaku menggunakan teknik cloaking: halaman arahan (landing page) yang ditampilkan ke sistem review Meta berisi konten biasa, sedangkan pengguna nyata diarahkan ke halaman tersembunyi yang menjual alat pembuatan CSAM sintetis. Beberapa iklan menggunakan bahasa samar seperti “custom AI art” atau “Privacy image generation” untuk menghindari deteksi kata kunci.

Laporan internal Meta yang bocor ke media menunjukkan bahwa pada kuartal I 2024, sistem otomatis menandai 1,2 juta iklan mencurigakan, tetapi hanya 3 % yang ditinjau manusia dalam 24 jam. Celah waktu itulah yang dieksploitasi pelaku untuk menayangkan iklan berhari-hari sebelum dihapus.

Tanggapan Meta dan Langkah Mitigasi

Meta mengeluarkan pernyataan bahwa mereka “mengambil isu ini sangat serius” dan telah menghapus ribuan akun serta iklan yang melanggar kebijakan. Perusahaan juga menambahkan:

• Memperluas tim tinjauan khusus CSAM sintetis dari 40 menjadi 120 orang.
• Memperbarui model klasifikasi iklan untuk mendeteksi pola cloaking dan bahasa samar.
• Bekerja sama dengan National Center for Missing & Exploited Children (NCMEC) dan Tech Coalition untuk berbagi hash gambar sintetis yang terdeteksi.

Kritikus menilai langkah itu reaktif. “Meta seharusnya mencegah iklan itu tayang dari awal, bukan menunggu laporan eksternal,” kata Riana Pfefferkorn, peneliti keamanan siber di Stanford Internet Observatory.

Implikasi Hukum dan Regulasi

Surat cease and desist San Francisco didasarkan pada California Business & Professions Code § 17200 (praktik bisnis tidak adil/menipu) dan Penal Code § 311.3 (persetujuan materi eksploitasi anak). Jika Meta tidak mematuhi dalam 30 hari, kota dapat mengajukan gugatan sivil meminta denda hingga $2.500 per pelanggaran per hari, serta injungsi kekal.

Di tingkat federal, REPORT Act (H.R. 7876) yang ditandatangani Presiden Biden Mei 2024 mewajibkan platform melaporkan CSAM sintetis ke NCMEC—sebelumnya hanya CSAM asli. Pelanggaran dapat dikenai denda hingga $150.000 per insiden. Meta, Google, Discord, dan platform lain harus memperbarui sistem pelaporan sebelum batas waktu Oktober 2025.

Tantangan Teknis: Mendeteksi CSAM Sintetis

Berbeda dengan CSAM asli yang memiliki hash (MD5, SHA-256, PhotoDNA) yang sudah dikatalogkan, CSAM sintetis baru dihasilkan setiap permintaan—hash-nya unik setiap kali. Pendekatan yang diuji industri:

1. Klasifikasi berbasis vision transformer: Model seperti CLIP-ViT dilatih pada dataset sintetis yang aman (tanpa konten ilegal nyata) untuk mengenali pola anatomis anak dan pose seksual.
2. Watermarking model generatif: Stable Diffusion XL, Midjourney v6, dan DALL·E 3 kini menyematkan watermark tak terlihat (SynthID, C2PA) pada output. Platform bisa memindai watermark untuk menandai gambar buatan AI.
3. Analisis perilaku akun: Akun yang tiba-tiba mengunggah ribuan gambar anak dalam waktu singkat, atau mengakses prompt berbahaya, ditandai untuk tinjauan prioritas.

Menurut laporan Thorn (2024), akurasi deteksi sintetis saat ini mencapai 92 % recall dengan 0,8 % false positive—masih meninggalkan ratusan ribu gambar berbahaya yang lolos setiap bulan di skala Meta.

Dampak Bagi Pengembang dan Pengguna AI

Kasus ini mempercepat tekanan regulasi ke arah safety by design bagi model generatif open-source. Komunitas Hugging Face dan Civitai mulai menghapus model checkpoint yang dilatih pada dataset mencurigakan (mis. LAION-5B subset yang berisi CSAM). Pengembang Indonesia yang memanfaatkan Stable Diffusion atau LoRA komunitas harus:

• Memverifikasi provenance model dan dataset pelatihan sebelum deploy produksi.
• Menerapkan filter prompt (blocklist kata kunci anak + pose seksual) di lapisan aplikasi.
• Menyimpan log generasi (prompt, seed, output hash) minimal 90 hari untuk audit.

Langkah Praktis untuk Platform Kecil dan Startup

Bagi tim yang tidak punya budget tim moderasi 120 orang seperti Meta, rincian praktis:

1. Gunakan Google Cloud Vision API atau AWS Rekognition dengan mode Child Safety (biaya ~$1,50 per 1.000 gambar).
2. Integrasikan PhotoDNA Cloud Service gratis via Microsoft untuk pencocokan hash CSAM known.
3. Terapkan rate limit generasi per pengguna (mis. max 50 gambar/jam) untuk memperlambat produksi massal.
4. Siapkan saluran pelaporan in-app yang mengarah ke CyberTipline NCMEC.

Kesimpulan

Perintah San Francisco ke Meta menandai titik balik: regulator tidak lagi menerima alasan “skala terlalu besar untuk dimoderasi” sebagai pengecualian. Bagi ekosistem AI Indonesia—mulai dari startup generatif, platform UGC, hingga pengembang model open-source—pesannya jelas: bangun lapisan keamanan anak sebelum meluncurkan, bukan sebagai tambalan pasca-krisis. Biaya kompliance hari ini jauh lebih muruk daripada denda, gugatan, dan kerusakan reputasi esok.