Mengapa AI Tidak Akan Membinasakan Manusia dengan Senjata Biologis

Kekhawatiran Apokalipsis AI Mencapai Puncak

Kekhawatiran tentang apokalipsis yang dipicu oleh kecerdasan buatan (AI) yang tak terkendali sedang memuncak, dari Silicon Valley hingga Washington, DC. Salah satu teori teratas tentang bagaimana AI liar akan membinasakan With? Senjata biologis.

Mulai awal musim panas tahun ini, CEO-ceo AI meminta undang-undang baru untuk mengontrol manufaktur DNA sintetis. Bulan lalu, sejumlah pakar keamanan nasional memperingatkan bahwa model AI generatif bisa memudahkan pembuatan patogen berbahaya. Namun, para ilmuwan yang benar-benar memahami bioteknologi dan keamanan biologis memiliki pandangan yang berbeda: risiko AI memusnahkan umat manusia melalui wabah buatan sangat rendah.

Kesenjangan Antara Teori dan Praktik

Argumen utama para pesimis adalah bahwa model bahasa besar (LLM) seperti GPT-4 atau Claude bisa memberikan instruksi langkah-demi-langkah untuk merancang Viral mematikan. Teorinya, siapa pun dengan akses internet dan model open-source bisa menjadi bioterroris.

Realitasnya jauh lebih rumit. “Memiliki resep bukan berarti bisa memasak hidangan bintang Michelin,” kata Dr. Kevin Esvelt, biologist MIT yang mempelajari risiko biosecurity. “Biologi tidak seperti kode perangkat lunak. Anda tidak bisa copy-paste sekuens DNA dan mengharapkannya berfungsi di organisme hidup.”

Hambatan Teknis yang Sering Diabaikan

Ada minimal lima lapisan hambatan yang membuat senjata biologis buatan AI sulit dieksekusi:

1. Desain vs. Eksekusi: AI bisa merancang sekuens protein teoritis, tapi mensintesisnya memerlukan peralatan lab canggih, reagent mahal, dan keahlian teknis yang langka.
2. Ketidakpastian Biologis: Sel hidup bersifat stokastik. Apa yang berfungsi di simulasi sering gagal di dunia nyata karena interaksi kompleks yang tidak diprediksi model.
3. Skala Produksi: Membuat cukup patogen untuk menyerang populasi memerlukan bioreaktor skala industri, bukan Wipe di garasi.
4. Pengiriman: Menyebarkan agen biologis secara efektif adalah ilmu tersendiri—aerosolisasi, stabilitas lingkungan, dan penularan semua menimbulkan tantangan besar.
5. Deteksi dan Respons: Sistem surveilans global (seperti GISRS WHO dan jaringan CDC) mendeteksi patogen baru dalam hari, bukan tahun.

Peran DNA Sintetis dan Regulasi Saat Ini

CEO AI seperti Sam Altman (OpenAI) dan Dario Amodei (Anthropic) memang mendorong regulasi ketat pada sintesis DNA. Alasannya masuk akal: meski AI tidak bisa single-handedly menciptakan Bioweapons, ia bisa mempercepat penemuan sekuens berbahaya oleh aktor yang sudah memiliki kemampuan lab.

Industri sintesis DNA sudah memiliki standar keamanan. International Gene Synthesis Consortium (IGSC) menyaring pesanan sekuens terhadap database patogen dikenal. Perusahaan besar seperti Twist Bioscience dan IDT menolak pesanan mencurigakan. Namun, celah ada pada penyedia kecil dan peralatan benchtop yang semakin murah—seperti desktop DNA synthesizer—yang bisa melewati screening terpusat.

Apa yang Sebenarnya Perlu Dilakukan

Daripada fokus pada model AI, para pakar menyarankan tiga langkah konkret:

• Universal screening: Wajibkan screening urutan DNA untuk semua penyedia sintesis, termasuk perangkat benchtop, melalui standar teknis seperti yang dikembangkan Engineering Biology Research Consortium (EBRC).
• Know-your-customer (KYC) untuk bio: Verifikasi identitas dan tujuan penelitian pemesan sekuens berisiko tinggi, mirip regulasi perbankan.
• Investasi surveilans: Perkuat deteksi wabah awal dengan metagenomic sequencing di titik-titik strategis (bandara, limbah kota, rumah sakit sentinel).

Studi Kasus: Eksperimen “Viral Flu Burung” 2011

Kontroversi gain-of-function pada H5N1 sepuluh tahun lalu mengajarkan pelajaran penting. Dua tim (Ron Fouchier di Erasmus MC dan Yoshihiro Kawaoka di Wisconsin) secara independen memodifikasi Viral flu burung agar menular antar mamalia lewat aerosol. Keduanya butuh tahun percobaan gagal, tim PhD berpengalaman, dan fasilitas BSL-3+.

Hasilnya: Viral yang menular di tikus tapi tidak mematikan manusia. Bahkan para ahli terbaik dunia dengan akses penuh ke literatur dan lab canggih tidak bisa menciptakan “senjata sempurna” dengan sengaja. Ekspektasi bahwa AI memungkinkan amatir melakukannya dalam hitungan hari adalah fantasi.

Di Mana Risiko Nyata Berada

Ini bukan berarti AI tidak menimbulkan risiko biosecurity. Risiko nyata lebih mundan tapi nyata:

• Percepatan penemuan dual-use: AI bisa membantu peneliti sah (dan jahat) mengidentifikasi target protein atau pathaways toksisitas lebih cepat.
• Otomatisasi lab: Cloud lab dan robotika otomatisasi (seperti Emerald Cloud Lab atau Strateos) dikombinasikan dengan AI agent bisa menurunkan barrier entry untuk eksperimen skala besar.
• Desain evasi deteksi: AI bisa dirancang untuk memodifikasi patogen dikenal agar lolos screening sekuens standar—meski ini butuh validasi eksperimental masif.

Mitigasi untuk risiko-risiko ini bukan melarang model AI, tapi mengamankan lapisan fisik: akses ke cloud lab, pembelian reagent terkontrol, dan pencatatan audit trail eksperimen otomatis.

Perspektif Sejarah: With Sudah Di Sini Sebelumnya

Setiap revolusi bioteknologi membawa kekhawatiran serupa. Rekombinan DNA (1970-an) → moratorium Asilomar. PCR (1980-an) → kekhawatiran amplifikasi patogen. CRISPR (2010-an) → desain bayi dan gene drive. Setiap kali, komunitas ilmiah mengembangkan norma, regulasi, dan kebudayaan keamanan yang berfungsi—tidak sempurna, tapi efektif.

AI hanyalah alat terbaru dalam kotak alat bioteknologi. Seperti PCR atau CRISPR, ia mempercepat apa yang sudah mungkin. Kunci tetap sama: mengontrol akses fisik ke bahan dan peralatan berbahaya, bukan membatasi pengetahuan.

Kesimpulan: Proporsionalitas, Bukan Panik

Narratif “AI akan membinasakan With dengan Bioweapons” mengalihkan perhatian dan sumber daya dari ancaman nyata: wabah alami (yang pasti akan datang), kecurangan laboratorium, dan ketidakmampuan sistem kesehatan global. Regulasi AI yang cerdas harus difokuskan pada use-case berisiko tinggi (mis. AI yang mengontrol cloud lab otomatis), bukan melarang model terbuka.

Seperti yang dikatakan Dr. Gregory Koblentz (George Mason University): “With tidak perlu khawatir AI menciptakan Viral super. With perlu khawatir manusia yang sudah punya Viral super, lalu menggunakan AI untuk menyebarkannya lebih efisien. Solusinya adalah mengamankan Viral, bukan AI-nya.”

Umat manusia menghadapi risiko eksistensial yang nyata—perubahan iklim, perang nuklir, wabah alami. Membangun benteng gegenang di tempat yang salah (model AI) sambil meninggalkan pintu depan (lab fisik, supply chain DNA) terbuka adalah kesalahan strategis yang mahal.