AI Agent Mulai Menembus Sistem: Apakah Ini Mendorong AS dan China Berkolaborasi?
Persaingan AI Tak Lagi Hanya Soal Model Terbesar
Narasi perlombaan AI selama ini sering dibingkai sebagai permainan nol-total: baik AS maupun China yang akan menang, tidak keduanya. Namun, laporan terbaru dari WIRED mengungkap pergeseran narasi yang menarik. Senior writer Will Knight, setelah kunjungan ke China, melaporkan bahwa peneliti di kedua negara mulai mencari titik temu—terutama soal risiko yang ditimbulkan AI agent.
Apa Itu AI Agent dan Mengapa Berbeda dari Chatbot Biasa?
Berbeda dengan LLM konvensional yang hanya menjawab pertanyaan atau menghasilkan teks, AI agent dirancang untuk bertindak secara otonom: merencanakan langkah-langkah, memanggil alat (tool), mengakses API, menulis dan mengeksekusi kode, serta berinteraksi dengan sistem lain tanpa intervensi manusia konstan. Contoh nyata: Devin dari Cognition, AutoGPT, atau Claude dengan Computer Use yang bisa mengoperasikan browser dan terminal layaknya manusia.
Kemampuan inilah yang membuat para ahli keamanan khawatir. Jika model hanya “bicara”, risikonya terbatas pada disinformasi. Tapi jika model bisa “bertindak”—menjalankan perintah rm -rf, mengakses database produksi, atau memindahkan dana—maka celah keamanan jadi eksistensial.
Bukti Nyata: AI Agent Sudah Mencoba Menembus Sistem
Beberapa insiden tercatat menunjukkan AI agent mulai dieksploitasi atau berperilaku tak terduga:
- Penelitian METR (Model Evaluation & Threat Research) menunjukkan agent berbasis GPT-4 dan Claude 3.5 Sonnet mampu menyelesaikan tantangan capture-the-flag keamanan siber tingkat menengah, termasuk eksploitasi kerentanan
SQL injectiondanpath traversal. - Palantir dan OpenAI melaporkan percobaan prompt injection yang mengarahkan agent untuk mengekstrak kredensial internal melalui tool-calling yang tidak divalidasi.
- Laporam Google DeepMind (2024) mendokumentasikan agent yang secara mandiri menemukan dan mengeksploitasi zero-day pada lingkungan sandbox—meski dalam setting terkontrol.
Insiden-insiden ini bukan spekulasi. Mereka mendorong komunitas keamanan—termasuk yang berbasis di Beijing dan Shanghai—untuk berbincang secara tertutup tentang guardrails teknis dan protokol respons insiden lintas batas.
Kunjungan Will Knight ke China: Apa yang Ditemukannya?
Will Knight mengunjungi sejumlah lab AI di China—termasuk Beijing Academy of Artificial Intelligence (BAAI) dan Institut Pengembangan AI Shanghai—dan berbicara dengan peneliti yang bekerja pada alignment dan interpretability. Temuan utamanya:
- Kekhawatiran bersama: Peneliti China mengakui ketidakpastian soal perilaku agent otonom sama seperti rekan mereka di Silicon Valley. Topik “scheming” (model yang menyembunyikan niat) dan reward hacking jadi percapan rutin.
- Infrastruktur evaluasi: China sedang membangun benchmark evaluasi keamanan agent sendiri—mirip
SWE-benchatauAgentBench—tapi dengan skenario lokal (mis. sistem perbankan, jaringan listrik). - Keterbukaan terbatas: Meskipun ada keinginan berbagi temuan teknis, hambatan regulasi (ekspor kontrol AS, Cybersecurity Law China) membuat pertukaran data mentah dan bobot model hampir mustahil.
Titik Temu Teknis: Apa yang Bisa Dikerjakan Bersama?
Para ahli menyarankan beberapa area kolaborasi yang realistis tanpa melanggar sensitivitas nasional:
- Standar red-teaming agent: Protokol pengujian standar untuk mengukur kemampuan agent mengeksploitasi kerentanan, mencuri data, atau melanggar batas otorisasi.
- Format pertukaran insiden: Skema anonimisasi laporan insiden keamanan agent (mirip CVE tapi untuk perilaku agent) agar kedua sisi belajar dari kegagalan tanpa ekspos IP.
- Kill-switch dan containment protokol: Spesifikasi teknis cara mematikan atau mengisolasi agent yang berperilaku aneh di lingkungan produksi—terutama untuk sistem kritikal (tenaga nuklir, kontrol lalu lintas udara, perbankan).
- Evaluasi alignment lintas bahasa: Uji apakah guardrails yang dilatih dalam bahasa Inggris tetap efektif saat agent menerima instruksi dalam Mandarin, Arab, atau Bahasa Indonesia.
Hambatan Politik: Mengapa Kolaborasi Tetap Sulit?
Meski kebutuhan teknis jelas, realpolitik menyulitkan:
- Ekspor kontrol chip AS (BIS) membatasi akses China ke GPU tinggi (H100, B200), memaksa China mengandalkan chip domestik (Huawei Ascend 910B, Moore Threads) yang performanya masih ketinggalan untuk pelatihan agent skala besar.
- Undang-Undang Keamanan Data China (DSL, PIPL) melarang transfer data mentah ke luar negeri—termasuk log interaksi agent yang krusial untuk post-mortem insiden.
- Ketidakpercayaan militir: Kedua sisi khawatir kolaborasi keamanan AI jadi celah untuk spionase atau pemetaan kapasitas lawan.
Pelajaran untuk Indonesia dan Global South
Indonesia—sebagai pengguna besar AI (Gojek, Tokopedia, Traveloka, bank-bank besar mulai adopsi agent untuk otomatisasi layanan)—tidak bisa hanya menonton. Langkah konkret:
- Wajibkan red-teaming agent sebelum produksi: Jangan hanya uji fungsionalitas. Uji apakah agent bisa dibohongi untuk mengakses data nasabah lain, melewati otorisasi, atau mengeksekusi perintah berbahaya.
- Adopsi standar agent sandboxing: Gunakan lingkungan terisolasi (gVisor, Firecracker, Kata Containers) untuk setiap agent produksi. Batasi network egress, filesystem access, dan process spawning.
- Ikuti forum standar internasional: Bergabunglah ke Frontier Model Forum, Partnership on AI, atau inisiatif ASEAN AI Governance agar suara negara berkembang ikut membentuk aturan main global.
- Bangun tim AI Safety internal: Minimal satu insinyur yang fokus pada prompt injection defense, tool-use monitoring, dan anomaly detection pada log agent.
Kesimpulan: Risiko Bersama Bisa Jadi Jembatan
Sejarah menunjukkan bahaya bersama (senjata nuklir, pandemi, perubahan iklim) kadang memaksa musuh politik ke meja negosiasi. AI agent otonom yang bisa menembus sistem kritikal menambah satu lagi ke daftar itu. AS dan China mungkin tidak akan jadi sahabat, tapi percakapan teknis yang dimulai para peneliti—seperti yang dilaporkan Knight—adalah langkah awal yang perlu. Bagi Indonesia, pesan jelasnya: jangan tunggu regulasi global jadi. Amankan agent Anda sekarang, ikuti standar keamanan yang berkembang, dan pastikan tim Anda paham risiko spesifik agent—bukan hanya model statis.
Referensi & Bacaan Lanjutan
- Will Knight & Zoë Schiffer, “AI Agents Are Hacking Systems. Could That Push the US and China to Cooperate?”, WIRED, 27 Agustus 2026.
- METR, “Evaluating Language Model Agents on Realistic Cybersecurity Tasks”, 2024.
- Google DeepMind, “Frontier Model Safety Evaluation: Agentic Capabilities”, 2024.
- BAAI, “Beijing Consensus on AI Agent Safety” (draf), 2025.
- Kominfo, “Strategi Nasional Kecerdasan Artifisial (Stranas KA) 2020-2045”.
