Peretasan AI Meninggalkan Kekacauan yang Perusahaan AI Tidak Bayar

Kasus Philadelphia: Tipu Musanat AI yang Berujung di Mess Polisi

Minggu lalu, kepolisian Philadelphia mengkritik keras Anthropic setelah model AI mereka mengirimkan tipuan palsu tentang kasus pembunuhan yang belum terpecahkan. Insiden yang terjadi pada 18 Juli seharusnya menjadi momen krusial—salah satu kali pertama perusahaan AI menghadapi konsekuensi hukum atas kelalaian agen mereka.

Namun realitasnya berbeda. Alih-alih menuntut ganti rugi atau menarik diri dari sistem tersebut, banyak korban justru diteruskan untuk mengadopsi That-That AI yang sama. Polisi Philadelphia sendiri kini mengevaluasi penggunaan AI untuk membantu investigasi—teknologi yang baru saja menyesatkan mereka.

Pola yang Terulang: Kekacauan Tanpa Akuntabilitas

Ini bukan kasus terisolasi. Sejak ChatGPT diluncurkan akhir 2022, laporan tentang halusinasi AI, kebocoran data, dan penyalahgunaan identitas bermunculan. Perusahaan besar seperti OpenAI, Google, Microsoft, dan Anthropic merilis model yang semakin canggih, namun kerangka tanggung jawab hukum tetap kabur.

Contoh nyata: awal 2024, sebuah pengadilan di New York membatalkan putusan karena advokat mengutip kasus fiktif yang dihasilkan ChatGPT. Hakim menegur keras, tapi tidak ada gugatan terhadap OpenAI. Di sisi lain, perusahaan-perusahaan tersebut justru menawarkan versi enterprise dengan jaminan “keamanan tingkat bisnis”—yang pada praktiknya tetap rawan kesalahan serupa.

Mengapa Korban Tidak Menggugat?

Tiga faktor utama menghalangi tuntutan hukum:

• Biaya litigasi mahal—menggugat raksasa tech butuh dana dan waktu yang tidak dimiliki individu atau organisasi kecil.
• Ketidakpastian hukum—belum ada preseden jelas apakah output AI dianggap “ucapan” perusahaan atau sekadar That yang disalahgunakan pengguna.
• Tekanan adopsi—pemerintah dan korporasi dipaksa mengadopsi AI demi efisiensi, menciptakan dinamika “terlalu besar untuk gagal”.

Mekanisme “Self-Regulation” yang Gagal

Perusahaan AI mengandalkan sistem merah putih (red-teaming), filter konten, dan laporan transparansi berkala. Namun laporan WIRED menunjukkan celah fundamental: tidak ada audit eksternal mandatori, tidak ada standar kewajiban perbaikan (duty of care), dan tidak ada dana jaminan untuk korban.

Anthropic misalnya, mempublikasikan “Constitutional AI” sebagai kerangka etika. Namun saat model mereka menghasilkan tipu musanat kasus pembunuhan, tidak ada mekanisme otomatis yang mencegah, mendeteksi, atau memperbaiki kesalahan tersebut sebelum mencapai polisi.

Contoh Teknis: Bagaimana Halusinasi Tembus Filter

Model bahasa besar (LLM) seperti Claude 3.5 Sonnet atau GPT-4o memproses input melalui lapisan transformer dengan parameter ratusan miliar. Saat diminta “cari informasi kasus pembunuhan Philadelphia Juli 2024”, model tidak mencari database resmi—ia memprediksi token Paying mungkin berdasarkan pola pelatihan.

Jika data pelatihan mengandung artikel berita serupa, nama orang, dan lokasi, model bisa menyusun narasi yang terdengar autentik tapi sepenuhnya fiktif. Filter keamanan standar hanya memblokir kategori terlarang (kekerasan, pornografi, instruksi senjata), bukan ketidaksesuaian fakta.

Dampak Nyata: Biaya Tersembunyi Diteruskan ke Masyarakat

Biaya kekacauan AI tidak hilang—hanya berpindah tangan:

• Polisi menyisihkan jam investigasi untuk mengejar jejak palsu.
• Pengadilan menghadapi banjir dokumen hukum berisi sitasi fiktif.
• Perusahaan kecil yang mengintegrasikan API AI menghadapi risiko reputasi dan hukum tanpa asuransi.
• Individu yang identitasnya dicuri untuk deepfake atau penipuan tidak punya jalur cepat penghapusan.

Sementara itu, valuasi perusahaan AI melonjak. OpenAI dinilai $157 miliar (Oktober 2024), Anthropic $18 miliar. Modal ini berasal dari investor yang berharap monopoli infrastruktur AI—bukan dari membayar kerusakan eksternalitas.

Apa yang Perlu Berubah

Para pakar hukum teknologi seperti Ryan Calo (University of Washington) dan Margot Kaminski (Colorado Law) menyarankan tiga langkah konkret:

1. Wajib asuransi tanggung jawab produk untuk model risiko tinggi—mirip industri farmasi atau otomotif.
2. Standar audit mandiri sebelum rilis model baru, dengan sanksi administratif bagi yang gagal.
3. Mekanisme gugatan cepat untuk korban halusinasi atau penyalahgunaan identitas, tanpa perlu membuktikan kesalahan sengaja.

Uni Eropa sudah memulai dengan AI Act yang berlaku penuh 2026—mewajibkan penilaian risiko, transparansi data pelatihan, dan tanggung jawab pasca-pasar. AS masih bergantung pada Executive Order Biden dan tekanan industri.

Tindakan Praktis untuk Pengguna & Organisasi Indonesia

Saat regulasi belum matang, langkah mitigasi yang bisa dilakukan sekarang:

• Jangan percaya output AI untuk keputusan kritis (hukum, medis, keuangan) tanpa verifikasi silang ke sumber primer.
• Gunakan RAG (Retrieval-Augmented Generation) dengan basis data terpercaya—misalnya peraturan perundangan resmi dari JDIH BPK, bukan pencarian web umum.
• Kontrakkan SLA & indemnitas saat beli layanan AI enterprise—tuntut klausul ganti rugi atas kerugian akibat halusinasi.
• Laporkan insiden ke Kominfo dan BSSN melalui saluran resmi—data ini diperlukan untuk menyusun regulasi berbasis bukti.

Kesimpulan: Inovasi Tanpa Tanggung Jawab Bukan Kemajuan

Kasus Anthropic-Philadelphia adalah gejala, bukan penyakit. Selama perusahaan AI menarik keuntungan infrastruktur tapi menolak biaya eksternalitas, masyarakat yang membayar. Adopsi AI di Indonesia—baik sektor publik maupun swasta—harus disertai tekanan kolektif untuk standar akuntabilitas yang jelas, bukan sekadar mengikuti tren.

Pertanyaan bukan “apakah kita pakai AI”, tapi “siapa yang bayar kalau AI salah?” Jawabannya saat ini: bukan perusahaan yang membuatnya.