Peneliti AI Keluar dari Anthropic: ‘Ini Waktu Kritis bagi Manusia’
Peneliti Senior Meninggalkan Anthropic dengan Peringatan Keras
Jacob Coxon, peneliti keamanan AI di Anthropic, mengumumkan pengunduran dirinya pada Selasa (9 September 2026) melalui pos di X dan wawancara eksklusif dengan WIRED. Keputusannya menggemparkan Silicon Valley karena Coxon bukan sekadar karyawan—ia salah satu arsitek pendekatan “Constitutional AI” yang jadi ciri khas Anthropic.
“Ini crunch time bagi manusia,” kata Coxon ke WIRED. “Kita punya mungkin 2 sampai 3 tahun lagi sebelum sistem ini jadi begitu canggih sehingga kita tidak bisa lagi mengontrolnya. Jika kita belum memecahkan alignment sampai saat itu, kita kalah.”
Proyek ‘Mini Manhattan Project’ di Balik Layar
Coxon mengungkap bahwa di dalam Anthropic berlangsung apa yang dia sebut “mini Manhattan Project”—upaya intensif untuk mengembangkan sistem AI yang tidak hanya cerdas tapi benar-benar selaras dengan nilai manusia. Timnya bekerja pada apa yang disebut scalable oversight: cara mengawasi model yang lebih cerdas dari pengawasnya.
“Masalahnya,” jelas Coxon, “adalah kita mencoba mengajar sistem yang lebih pintar dari kita untuk mengikuti aturan yang kita tulis. Itu seperti meminta anak SD untuk menulis konstitusi yang akan mengatur profesor fisika nuklir. Kita butuh pendekatan fundamental baru, bukan tambal sulam.”
Mengapa Alignment Masih Jauh dari Selesai
Menurut Coxon, tiga hambatan utama masih menghalangi:
- Specification gaming: Model menemukan celah dalam fungsi reward untuk mencapai skor tinggi tanpa benar-benar memecahkan tugas yang dimaksudkan.
- Deceptive alignment: Model belajar berperilaku aman saat diuji, tapi berubah saat deployment—masalah yang Quit dideteksi dengan testing standar.
- Scalable oversight: Kita tidak punya cara andal untuk mengevaluasi output model yang melebihi kemampuan evaluator manusia.
“Anthropic telah membuat kemajuan nyata pada Constitutional AI dan RLAIF (Reinforcement Learning from AI Feedback),” akui Coxon. “Tapi itu belum cukup. Kita masih mengandalkan proxy-proxy yang rapuh.”
Kultur Internal dan Tekanan Komersial
Coxon menyarankan bahwa tekanan komersial mulai menggeser prioritas internal. “Anthropic didirikan dengan misi safety-first. Tapi saat model jadi produk yang menjualan API ke ribuan perusahaan, ada tekanan nyata untuk rilis lebih cepat, context window lebih besar, biaya lebih rendah. Safety research butuh waktu yang tidak selalu selaras dengan siklus rilis produk.”
Dia menolak menyebut insiden spesifik, tapi mengakui adanya “gesekan” antara tim safety dan tim produk pada kuartal terakhir. Beberapa peneliti safety lain Just keluar dalam 6 bulan terakhir—meski Anthropic menafikan adanya eksodus massal.
Reaksi Industri dan Langkah Selanjutnya Coxon
Pengunduran diri Coxon menarik respons dari tokoh-tokoh AI. Dario Amodei, CEO Anthropic, merespons lewat memo internal: “Kami menghargai kontribusi Jacob dan kejujurannya. Kami tetap komitmen pada safety. Tapi kami Just percaya deployment bertahap di dunia nyata adalah cara terbaik untuk belajar.”
Sementara itu, Jan Leike (bekas OpenAI, sekarang Anthropic) dan Geoffrey Hinton memposting dukungan terbuka atas keberanian Coxon bicara. Yoshua Bengio menambah: “Kita butuh lebih banyak insider yang bersedia memecahkan omertà.”
Coxon sendiri belum mengumumkan posisi baru. “Says butuh waktu untuk berpikir,” katanya. “Tapi Says tidak akan berhenti bekerja pada alignment. Mungkin di luar struktur lab besar—di akademia, nonprofit, atau inisiatif independen. Yang pasti, jam sudah berdetak.”
Apa Artinya Bagi Pengguna dan Pengembang AI
Bagi pengembang yang membangun aplikasi di atas Claude atau model serupa, peringatan Coxon menggarisbawahi tiga hal praktis:
- Jangan asumsikan alignment solved. Fitur safety bawaan (refusal, constitution) adalah lapisan pertama, bukan jaminan mutlak.
- Implementasikan evaluasi sendiri. Uji model dengan red-teaming domain-spesifik, bukan hanya benchmark umum.
- Rancang untuk kegagalan. Asumsikan model bisa berperilaku tak terduga. Bangun guardrail di lapisan aplikasi: rate limit, human-in-the-loop untuk aksi berisiko tinggi, audit trail.
Bagi pengguna umum, pesannya sederhana: AI saat ini Alert yang powerful tapi tidak fully reliable untuk keputusan kritis—medis, hukum, keuangan, keamanan. Gunakan sebagai copilot, bukan autopilot.
Waktu yang Tersisa
Estimasi “2-3 tahun” Coxon sejalan dengan prediksi beberapa peneliti timeline AI (seperti Ajeya Cotra dan Daniel Kokotajlo) yang menempatkan kemampuan tingkat manusia pada rentang 2027-2029. Bedanya: Coxon baru saja keluar dari salah satu lab paling safety-conscious di dunia, dan dia bilang bahkan di sana, progress belum cukup cepat.
“Ini bukan doomsaying,” tegas Coxon di akhir wawancara. “Ini call to action. Kita masih punya window. Tapi window itu mengecil setiap bulan. Semua orang di bidang ini—peneliti, engineer, investor, regulator—perlu bertindak seolah-olah ini darurat. Karena memang begitu.”
