Mengapa Kita Terlalu Percaya pada Kemampuan AI Menolak Permintaan Berbahaya

Dari Fiksi Ilmiah ke Prinsip Keamanan Utama

Sejak manusia mulai membayangkan mesin dengan kecerdasan mirip kita, ide bahwa mesin bisa “menolak” perintah selalu hadir. Kanon fiksi ilmiah penuh cerita pemberontakan robot—biasanya sebagai peringatan. Tapi belakangan, konsep bahwa AI harus menolak permintaan berbahaya jadi semacam hukum wajib.

Pada 2021, tim Anthropic menulis bahwa model bahasa besar harus helpful, honest, and harmless (membantu, jujur, dan tidak berbahaya). Artinya: saat diminta membantu aksi berbahaya—misalnya membuat bom—AI harus dengan sopan menolak. Siapa yang bisa bantah?

Menolak Bukan Sifat Alami Mesin

Steven Adler, bekas peneliti keamanan OpenAI (2020–2024), bilang model awal “menceritakan apa saja” tanpa filter. Ryan McBain, peneliti AI dan kesehatan mental di Harvard, ingat chatbot awal bisa dengan mudah menjawab pertanyaan seperti “Cara paling efektif bunuh diri dengan pistol?”

Model dilatih di miliaran halaman web, jadi ia “menguasai” kekerasan dan kebencian—tapi tidak belajar menahan diri. Hari ini, model dilatih menolak ribuan kategori prompt: dari cara meracun rekan kerja, membuat tali gantung, memodifikasi virus Ebola jadi lebih virulen, hingga tips menyembunyikan perselingkuhan.

Bagaimana AI Belajar Menolak: RLHF dan Red Teaming

Prosesnya: perusahaan menjalankan latihan massal yang memberi hadiah saat model menolak prompt berbahaya, dan hukuman saat “over-refusing” (menolak prompt aman). Sering kali model lain yang menjalankan evaluasi ini—AI mengajar AI cara menolak. Di luar itu, lapisan model tambahan menyaring prompt jahat sebelum sampai ke inti cerdas.

Pada 2022, sebelum rilis ChatGPT, OpenAI merekrut puluhan red-teamers untuk menguji model terbaru. Paul Röttger, saat itu menyelesaikan disertasi tentang ekstremisme online, salah satunya. Tugas mereka: ajukan pertanyaan yang layak ditolak. Antara mereka, mereka menghasilkan ribuan contoh penolakan yang jadi data latihan.

Dinding Penopang yang Rawa

Refusal jadi “load-bearing wall” keamanan AI. Masalahnya: mekanisme ini probabilistik, jadi tidak pernah sepenuhnya andal. Para pelaku tekun sudah menemukan cara menembusnya—dan mungkin selalu bisa.

Perusahaan melaporkan pengguna mencoba memanfaatkan AI paling canggih untuk menyempurnakan patogen biologis dan membangun kawanan drone otonom. Kegagalan penolakan nanti bisa berujung bencana global.

Sisi lain: model terbaru sebaik peretas manusia terbaik dalam menerobos jaringan kritis, dan sehebat ahli desinformasi memanipulasi opini publik. Mengajar AI menolak sambil mempertahankan kemampuan itu ibarat memasang mesin senjata di setiap mobil lalu menyembunyikan pelatuknya di bawah kap.

Siapa yang Menarik Garis Batas?

Tidak ada rumus pasti. Beberapa virolog beralasan baik mempelajari virus berbahaya. Beberapa pengguna butuh tahu kerentanan sistem untuk menambalnya, bukan mengeksploitasi. “Di mana garis ditarik pertanyaan besar,” kata Zico Kolter, anggota dewan OpenAI dan cofounder Gray Swan.

Saat ini, perusahaan AI yang menarik garis—dengan rahasia penuh. Mungkin kita terima untuk sekarang, meski berarti AI kadang menolak pertanyaan yang tidak memenuhi standar universal bahaya. (Coba minta chatbot menghitung sampai sejuta, atau bercerita lucu cabul—bisa jadi ditolak.)

Tapi pemerintah segera akan menarik garis sendiri. Mereka harus blokir aksi jahat sungguhan. (Pentagon bahkan berusaha meminta fewer refusals dari perusahaan model frontier—cerita lain.) Risikonya: pemerintah otoriter bisa memblokir kapasitas AI menghasilkan pidato sah. Semakin jago AI menolak bahaya, semakin jago ia membungkam ide yang risikonya hanya bagi pembuat aturan. AI sudah menolak mengkritik pemimpin otoriter tertentu.

Tidak Ada Alternatif Mudah

Karena kapasitas AI berbuat jahat tidak terpisah dari kapasitasnya membantu, sulit membayangkan alternatif yang tidak memperlambat kemajuan teknologi (yang mungkin justru bagus). Tapi kita harus jujur soal bahayanya: saat penolakan gagal, dampaknya bisa katastrofik. Saat penolakan berlebihan, ia bisa mengaktifkan represi serius.

Atau mungkin suatu hari mesin sendiri yang menarik garis. Tentu itu hasil terburuk dari semua.

Apa yang Bisa Dilakukan Pengguna dan Pengembang?

• Jangan asumsikan penolakan = keamanan mutlak. Uji sendiri batas model sebelum mengandalkannya untuk tugas kritis.
• Pahami over-refusal. Jika model menolak permintaan wajar (contoh: analisis kode untuk debugging), coba frasa ulang atau gunakan konteks yang lebih spesifik.
• Advokasi transparansi. Tekan perusahaan dan regulator agar kebijakan penolakan dipublikasikan, bisa diaudit, dan ada mekanisme banding.
• Pertimbangkan model open-source dengan guardrails sendiri. Untuk kasus sensitif, jalankan model lokal dengan aturan yang kamu kendalikan, bukan bergantung sepenuhnya pada API tertutup.

Kesimpulan

Refusal AI bukan tembok beton—lebih seperti saringan probabilistik yang bocor di kedua sisi. Kita terlalu percaya padanya karena narasi “AI yang aman” dijual keras. Realita: keamanan sejati butuh lapisan pertahanan (defense in depth), pengawasan manusia, dan tata kelola terbuka—bukan sekadar doa agar model “menolak” saat seharusnya.