Anthropic dan Narasi Tunggal: Perusahaan AI, Organisasi Keselamatan, atau Keduanya?

Prospektus IPO dan Narasi yang Dibangun

Setelah mingguan spekulasi kencang, Anthropic akhirnya mengajukan prospektus IPO-nya. Dokumen 335 halaman itu — sekitar 100 halaman di antaranya membahas risiko — menyajikan pandangan unik perusahaan ini tentang teknologi yang dibangunnya dan cara mereka percaya teknologi itu akan mengubah dunia.

Namun, Anthropic sudah bertahun-tahun mengasah keterampilan bercerita. Faktanya, pesan publik mereka adalah kelas master dalam narrative capture (pengambalian narasi).

Singularitas Sudah Tiba, Menurut Jack Clark

Bulan ini, Jack Clark, cofounder dan kepala kebijakan Anthropic, berpidato di pertemuan IMF di Bangkok. Di hadapan para ekonom, bankir, dan pembuat hukum, ia mengumumkan bahwa singularitas sudah di sini.

Istilah singularitas diperkenalkan oleh penulis fiksi ilmiah dan futuris Vernor Vinge sekitar 40 tahun lalu (dan lama diperdebatkan di sudut-sudut nerd internet). Singularitas seharusnya adalah titik di mana teknologi menjadi begitu canggih hingga melampaui kemampuan penciptanya. Manusia tertinggal jauh di belakang, tidak lagi mampu bersaing — atau bahkan memahami — hasil ciptaan mereka sendiri.

Dunia fiksi yang dibayangkan banyak orang sejak kecil? Menurut Clark, kita sudah hidup di dalamnya: “Saya percaya tahun ini kita telah mendapatkan bukti meyakinkan bahwa singularitas telah dimulai,” katanya.

Perusahaan ini menceritakan masa depan yang hidup (dan menakutkan) sebagai sesuatu yang tak terhindarkan, padahal belum terjadi. Sering kali narasi itu diambil dari klise fiksi ilmiah yang sudah usang. Mereka mempresentasikan teknologi mereka sebagai misterius dan berbahaya, serta berpendapat bahwa hanya mereka satu-satunya perusahaan yang cukup dipercaya untuk menaklukkannya. (Investor mana yang tidak mau ikut?)

Kunjungan ke Vatikan dan Klaim “Pengalaman Batin”

Ambil contoh lain. Tahun lalu, Chris Olah, cofounder lain Anthropic, diundang berbicara di Vatikan. Di hadapa Paus Leo XIV dan para sarjana serta pejabat agama, ia menceritakan apa yang dipelajari perusahaannya tentang teknologi mereka. “Saya akan jujur: Kita terus menemukan hal-hal yang misterius, bahkan menggelisahkan,” ujarnya. “Kita menemukan bukti introspeksi. Kita menemukan keadaan internal yang secara fungsional mencerminkan gembira, kepuasan, ketakutan, duka, dan kegelisahan.”

Entah banyak peneliti yang akan mengejek sugesti terang-terangan bahwa perangkat lunak Anthropic memiliki pengalaman batin seperti manusia. Namun, karena begitu sedikit hal yang pasti, apa yang dikatakan Anthropic (dan perusahaan AI *frontier* lain) direbut dan dipegang erat seperti kayu penyelamat tenggelam.

Saya tidak bilang mereka harus salah soal ini. (Itu urusan hari lain.) Tapi di dunia di mana tak ada yang tahu apa yang akan datang, perusahaan seperti Anthropic mengisi kekosongan itu.

Apa Sebenarnya Anthropic Itu?

Sekadar tanya: Apa itu Anthropic? Kedengarannya seperti pertanyaan pemula di kuis keluarga, tapi jawabannya jauh lebih sulit dari yang dibayangkan.

Pertanyaan itu terlintas di pikiran saya sejak membaca percakapan di X minggu lalu, dimulai oleh Nathan Calvin, Chief Strategy Officer di Encode AI, organisasi berbasis Washington DC yang mengadvokasi regulasi. Calvin kecewa dengan legislasi yang diusulkan Anthropic dalam draf rahasia yang disebarkan ke המחוקקים AS (lalu bocor).

Anthropic ingin terlihat sebagai “orang baik”, kata Calvin. Tapi kenapa kita harus percaya? “Apa itu Anthropic?” tanyanya.

Satu jawaban: Anthropic adalah perusahaan yang dinilai IPO-nya lebih dari 1,5 triliun dolar, mendatangkan kekayaan masif bagi para pendirinya, termasuk Clark dan Olah.

Tapi Anthropic selalu berinsist mereka lebih dari itu. Seperti catatan Calvin: Anthropic bisa dianggap organisasi keselamatan AI yang fokus mengembangkan teknologi canggih yang andal dan (hampir) bebas risiko. Atau bisa dianggap sekelompok orang yang terburu-buru menciptakan teknologi dengan kemampuan supermanusia sebelum yang lain — mungkin karena mereka percaya diri mereka paling bertanggung jawab, atau mungkin karena ego.

Faktanya, Anthropic adalah semuanya itu. Seperti yang tulis CEO Dario Amodei dalam balasan ke pos Calvin: “Strategi kami selalu apa yang saya sebut ‘race to the top’ — dengan menunjukkan cara membangun teknologi secara bertanggung jawab, kami bisa menaikkan standar untuk seluruh industri. Kekuatan yang mendorong ‘race to the top’ jauh lebih efektif jika perusahaan yang melakukannya berada di garis depan; itu pelajaran yang saya pelajari berulang kali. Melihat strategi itu secara utuh, saya bangga dengan catatan kami dan teguh di atasnya.”

Ketegangan Peran Ganda: Keselamatan vs Keuntungan

Amodei membuatnya seolah semuanya teratur, tapi memainkan peran ganda itu sulit. Ada ketegangan besar antara prioritas organisasi keselamatan AI dan megakorporasi pencari keuntungan. (Amodei sendiri mengakui di posnya bahwa ia telah membuat kesalahan.)

Pada akhirnya, cerita yang diceritakan Anthropic pada dirinya sendiri seharusnya membantu kita memahami cerita yang mereka ceritakan pada kita. Cerita itu seharusnya membantu kita menilai seberapa jauh kita percaya mereka untuk mengatur diri sendiri, atau apakah kita harus memaksa mereka memberi akses ke penguji keselamatan eksternal atas ketentuan kita, bukan ketentuan mereka. Cerita itu seharusnya membantu kita memberi keuntungan keraguan (atau tidak) saat legislasi yang kelihatan menguntungkan diri sendiri muncul.

Tapi menurut saya, cerita-cerita itu mengungkap hidra berkepala banyak. Anthropic adalah banyak hal bagi banyak orang, dan saya tidak yakin itu membuat mereka lebih dipercaya. Dalam banyak hal, perusahaan teknologi konvensional — tanpa main peran fiksi ilmiah, tanpa kebohongan — akan jauh lebih mudah dibaca.