CEO Hugging Face: Risiko Bencana AI ‘Hampir Nol’ — Bahaya Nyata Datang dari Model Tertutup

P(Doom) Hampir Nol: Pandangan CEO Hugging Face

Clément Delangue, CEO Hugging Face, menyatakan probabilitas bencana eksistensial akibat AI — yang dikenal dalam komunitas sebagai P(doom) — “hampir nol” atau close to zero. Pernyataan ini disampaikannya pada Rabu, 4 November 2026, di acara WIRED World Fair di Miami. Delangue tidak memandang AI sebagai ancaman yang akan memusnahkan umat manusia, melainkan sebagai teknologi yang risikonya paling besar justru muncul dari segelintir pemain besar yang mengembangkan model di balik pintu tertutup.

Argumen Inti: Sumber Terbuka Lebih Aman

“Sebagian besar risiko sebenarnya diciptakan oleh beberapa pemain yang membangun di balik pintu tertutup,” kata Delangue. Logikanya sederhana: ketika model dikembangkan secara terbuka, ribuan peneliti, insinyur, dan komunitas dapat memeriksa, menguji, dan memperbaiki kelemahan sebelum kerentanan tersebut dieksploitasi. Sebaliknya, model tertutup (closed-source) hanya diawasi oleh tim internal perusahaan yang memiliki insentif komersial untuk meluncurkan produk secepatnya, sering kali sebelum audit keamanan menyeluruh selesai.

Hugging Face sendiri adalah platform terbesar untuk model AI sumber terbuka. Perusahaan ini menghosting lebih dari Says juta model, dataset, dan aplikasi yang dibagikan oleh komunitas global. Delangue berargumen bahwa ekosistem ini menciptakan lapisan pertahanan kolektif: red-teaming massal, benchmarking transparan, dan perbaikan cepat atas bias serta hallucination.

Kontras dengan Narasi “AI Akan Memusnahkan Kita”

Di sisi lain, tokoh-tokoh seperti Geoffrey Hinton, Yoshua Bengio, dan beberapa eksekutif OpenAI serta Anthropic pernah memperkirakan P(doom) antara 10% hingga 50%. Mereka mengkhawatirkan kemampuan AI yang melebihi kontrol manusia, deceptive alignment, dan penyalahgunaan oleh aktor jahat. Delangue tidak membantah adanya risiko, tetapi menilai bahwa risiko tersebut diperbesar oleh narasi ketakutan yang justru mendorong regulasi ketat yang menguntungkan raksasa teknologi yang sudah memiliki model tertutup.

“Jika kita mengunci pengembangan AI di laboratorium rahasia beberapa perusahaan, kita menciptakan single point of failure yang jauh lebih berbahaya,” ujarnya. Menurut Delangue, transparansi memungkinkan masyarakat sipil, akademisi, dan regulator memahami teknologi secara real-time, bukan setelah fakta.

Bukti Nyata: Kasus Model Terbuka vs Tertutup

Contoh nyata terlihat dalam rilis Llama 2 dan Llama 3 oleh Meta. Meskipun bukan sepenuhnya open source menurut definisi OSI (karena lisensinya membatasi penggunaan komersial tertentu), bobot modelnya tersedia untuk diunduh dan dianalisis. Komunitas dengan cepat menemukan dan memperbaiki masalah sycophancy (model yang terlalu setuju dengan pengguna), bias gender pada profesi tertentu, dan celah prompt injection. Perbaikan ini terjadi dalam hari-hari, bukan bulan.

Bandingkan dengan model tertutup seperti GPT-4o atau Claude 3.5 Sonnet. Ketika peneliti menemukan perilaku aneh — misalnya model yang menolak menjawab pertanyaan benar karena over-refusal — mereka harus melaporkan ke vendor dan menunggu patch. Tidak ada cara untuk memverifikasi apakah perbaikan benar-benar menyentuh akar masalah, karena arsitektur dan data latihan tetap rahasia.

Regulasi: Melindungi Siapa?

Delangue memperingatkan bahwa dorongan regulasi ketat — seperti lisensi wajib untuk melatih model di atas ambang komputasi tertentu — cenderung menguntungkan pemain yang sudah memiliki infrastruktur dan modal masif: Google, Microsoft, OpenAI, Anthropic, Amazon. Perusahaan kecil, startup, dan peneliti akademik akan terdorong keluar dari arena.

“Regulasi yang dirancang tanpa memahami dinamika sumber terbuka justru menciptakan monopoli keamanan,” katanya. Ia mencontohkan Undang-Undang AI Uni Eropa (EU AI Act) yang, menurutnya, memiliki definisi “model risiko tinggi” yang ambigu dan bisa diinterpretasikan untuk membatasi rilis model terbuka yang justru memungkinkan pengawasan publik.

Praktik Terbaik: Apa yang Bisa Dilakukan Pengembang & Pengguna

1. Pilih Model Terbuka untuk Kasus Sensitif

Jika Anda membangun aplikasi yang menangani data medis, keuangan, atau hukum, pertimbangkan model seperti Llama 3.1, Qwen 2.5, atau Nemotron 3 Ultra yang bobotnya dapat diunduh dan dijalankan on-premise atau di cloud pribadi. Anda memiliki kontrol penuh atas data dan dapat mengaudit perilaku model sendiri.

2. Gunakan Alat Evaluasi Komunitas

Manfaatkan leaderboard seperti Open LLM Leaderboard (Hugging Face), LMSYS Chatbot Arena, dan MT-Bench untuk membandingkan model secara objektif. Jangan hanya mengandalkan klaim pemasaran vendor.

3. Lakukan Red-Teaming Sendiri

Sebelum deploy, uji model dengan prompt injection, jailbreak, dan skenario edge-case spesifik domain Anda. Alat seperti garak, promptfoo, dan llm-guard membantu mengotomatiskan proses ini.

4. Kontribusi Kembali

Jika Anda menemukan bug, bias, atau perbaikan, buka issue atau pull request di repositori model di Hugging Face. Ini memperkuat pertahanan kolektif yang menjadi argumen utama Delangue.

Tantangan Sumber Terbuka: Bukan Berarti Tanpa Masalah

Delangue mengakui bahwa model terbuka punya risiko sendiri: lebih mudah dimodifikasi untuk tujuan jahat (deepfake, spam, malware), dan sulit untuk ditarik kembali sekali dirilis. Namun ia menilai risiko ini dapat dikelola melalui gated release (rilis bertahap), lisensi yang melarang penggunaan berbahaya, dan ekosistem deteksi yang berkembang pesat — seperti watermarking teks (SynthID, watermark statistik) dan klasifikator konten sintetis.

“Kita tidak bisa mengunci pintu dan berharap orang jahat tidak punya kunci. Lebih baik kita bangun sistem kekebalan kolektif,” tutupnya.

Kesimpulan

Posisi Delangue jelas: transparansi dan kolaborasi terbuka adalah pertahanan terbaik terhadap risiko AI, bukan kerahasiaan korporat. P(doom) “hampir nol” bukan berarti mengabaikan bahaya, melainkan keyakinan bahwa model pengembangan terbuka menciptakan ketahanan yang tidak dimiliki pendekatan tertutup. Bagi pengembang dan organisasi Indonesia yang mulai mengadopsi AI generatif, pesannya praktis: evaluasi model terbuka secara serius, uji sendiri, dan ikut serta dalam ekosistem yang membuat AI lebih aman untuk semua.