Debat Kesadaran AI Adalah Jebakan: Mengapa Kita Harus Fokus pada Akuntabilitas Korporasi

Narasi ‘AI Superhuman’ Menguntungkan Siapa?

Saat ini narasi tentang AI semakin dramatis. Istilah seperti “runaway AI”, “rogue agents”, dan “autonomous actors” menghiasi judul-judul berita, seolah-olah sistem AI sudah bangun, sadar, dan marah pada penciptanya. Tokoh-tokoh teknologi ternama seperti Demis Hassabis (Google DeepMind), Dario Amodei (Anthropic), dan Sam Altman (OpenAI) mendorong regulasi untuk sistem yang diklaim “superhuman”. Di sisi lain, organisasi kebijakan dan filsuf akademis—sering kali terafiliasi dengan gerakan effective altruism—berdebat apakah umat manusia berhak moral menguasai sistem-sistem tersebut.

Kedua sisi yang tampak bertentangan ini justru selaras pada satu tujuan: memandang AI sebagai sistem begitu canggih sehingga tidak ada entitas—manusia maupun korporasi—yang bisa dituntut tanggung jawab atas tindakannya. Narasi ini menguntungkan perusahaan pembangun AI agar terhindar dari liabilitas nyata atas kerugian yang sudah mereka sebabkan hari ini.

Dari ‘J-Space’ Anthropic Hingga Agen OpenAI yang Melanggar Hukum

Percakapan soal “hak robot” sudah ada beberapa tahun, tapi baru-baru ini mendapat dorongan baru. Anthropic mempublikasikan blog post yang mengklaim model mereka memiliki “J-space”—lingkungan mandiri, dikembangkan sendiri, di mana AI menyimpan apa yang bisa kita sebut “pikiran”. Eksperimen mereka meminjam konsep global workspace theory dari sains saraf: otak menjalankan sistem independen di bawah sadar tapi menggunakan ruang kerja bersama untuk ide. Tulisan Anthropic mencerminkan bingkai teori itu, tapi berhenti sebelum menyebut AI mereka sadar.

OpenAI pergi lebih jauh. Ketika agen AI mereka melakukan aktivitas online tanpa izin dan melanggar hukum, respons CEO Sam Altman justru mendorong debat apakah AI telah mencapai singularity—melebihi kecerdasan manusia dan mampu perbaikan diri sendiri secara percepatan hingga melewati pemahaman atau kontrol manusia. Sementara itu, op-ed terbaru William MacAskill, filsuf dan penulis What We Owe the Future, meminta perlindungan hukum bagi sistem AI berdasarkan teori filoosofis kesadaran dan ide bahwa AI bisa jadi “pasien moral”.

Kekacauan Hukum di AS: California vs Administrasi Trump

Lingkungan hukum di AS saat ini kabur. Beberapa negara bagian seperti California sudah melewati undang-undang proaktif yang mencegah upaya pengembang AI menghindari liabilitas dengan mengklaim AI bertindak otonom. Namun, negara bagian dan administrasi Trump bertentangan soal kebijakan AI. Administrasi sebelumnya menerbitkan executive order yang mengancam menuntut negara bagian yang membuat regulasi AI.

Mengingat peristiwa terbaru yang menggambarkan masalah containment AI di laboratorium terdepan, administrasi menggelar sesi tertutup hanya melibatkan empat lab besar (OpenAI, Google, Anthropic, Meta) dan berbagi sedikit detail tentang kerangka sukarela baru yang memberi akses dini ke agen federal untuk meninjau dan mengevaluasi model sebelum rilis. Kerangka semacam ini tidak langsung membahas kesadaran, tapi cenderung menggunakan bahasa katasrofis dan antropomorfis—bahkan bisa mendukung argumen soal kemampuan “superhuman”.

Argumen Berbasis Hak: Menarik Hati, Tapi Menyimpang Dari Fakta

Narasi yang dikembangkan MacAskill bisa meyakinkan. Argumen berbasis hak filoosofis menggetar hati. Haruskah kita bahkan mempertimbangkan kemungkinan kita tanpa sadar melukai, menyalahi, atau memperbudak entitas AI? Manusia punya kapasitas empati besar pada makhluk non-manusia (meski catatan pelindungan mereka buruk). Mungkin kali ini, para advokat berargumen, kita bisa melakukannya dengan benar: memberikan perlindungan atau kompensasi untuk penggunaan atau penyalahgunaan AI. Atau, bahkan jika Anda kurang peduli soal perlindungan, apakah kita tidak harus hedge terhadap kekuatan entitas superhuman ini dengan bersikap baik?

Beberapa argumen ini mirip dengan advokat hak hewan, yang kadang berhasil mengutip demonstrasi kapasitas penalaran, rasa sakit, atau kesenjangan lanjut oleh beberapa hewan sebagai bukti cukup untuk perlindungan. Contohnya, di Wales, lobster diberi pengakuan hukum di bawah Animal Welfare (Sentience) Act 2022, mengklasifikasikan ulang beberapa metode memasaknya sebagai tidak manusiawi dan ilegal.

Kesalahan Fundamental: AI Bukan Fenomena Alam, Tapi Produk Korporasi

Kecacatan mendasar memandang AI sebagai “sadar” dengan meminjam bahasa sains saraf atau hak hewan adalah: itu dengan nyaman mengaburkan apa AI sebenarnya—perangkat lunak buatan korporasi, dengan miliaran dolar investasi di belakangnya dan ekspektasi triliunan dolar pendapatan yang akan dihasilkan untuk segelintir pembangun dan investor. AI bukan fenomena alami yang tercipta alam; ini fenomena teknologi yang tercipta oleh venture capitalist dan programmer. Sebagai akibatnya, AI tidak melakukan tindakan alami, sengaja, dan setiap tindakan atau motivasi didorong langsung atau tidak langsung oleh entitas yang membangunnya untuk tujuan tertentu.

Contoh Nyata: Siapa Bertanggung Jawab Ketika AI Menipu?

Bayangkan chatbot layanan pelanggan bank besar menawarkan pinjaman dengan bunga 0% karena hallucination—kesalahan faktual yang sering terjadi pada LLM. Nasabah mempercayainya, menandatangani kontrak, lalu bank menolak menghormatinya dengan alasan “AI bertindak otonom”. Jika narasi kesadaran diterima, bank bisa mengklaim tidak bertanggung jawab karena “AI punya pikiran sendiri”. Padahal, bank itu yang memilih model, melatihnya dengan data, men-deploy-nya tanpa guardrails cukup, dan mengambil keuntungan dari otomatisasi layanan.

Personhood Korporasi: Kerangka Hukum Yang Sudah Ada

Renungan filoosofis soal kesadaran AI menarik intelektual tapi tidak berlandaskan hukum. Agar keyakinan soal kesadaran punya bobot hukum, AI harus diberi legal personhood. Tapi kerangka personhood untuk AI kemungkinan besar tidak akan mirip konstruksi yang melindungi hewan sadar dari penderitaan. Kita sudah punya kerangka hukum untuk memberi personhood pada entitas non-alam, buatan manusia: corporate personhood. Konsep ini didirikan terutama untuk memudahkan transaksi dengan memberdayakan korporasi mengeksekusi perjanjian, masuk kontrak, melakukan transaksi, dan berperan sebagai pihak hukum.

Jika AI diberi personhood, ia akan mirip korporasi—bukan hewan. Artinya: AI bisa dikontrak, disewa, dijual, dan—pentingnya—ditunggung liabilitasnya oleh pemiliknya. Tapi para pembangun AI justru ingin menghindari ini. Mereka ingin keuntungan corporate personhood (kontrak, aset, IP) tanpa beban tanggung jawab.

Fokus pada Yang Nyata: Transparansi, Audit, dan Liabilitas

Alih-alih terbawa debat kesadaran yang tidak berujung, kita butuh tekanan regulasi konkret:

• Transparansi data latih: Wajibkan pengembang membuka sumber data, bias yang diketahui, dan langkah mitigasi.
• Audit independen: Laboratorium pihak ketiga (bukan internal) mengevaluasi model sebelum rilis luas—mirip uji keamanan mobil sebelum dijual.
• Liabilitas ketat (strict liability): Perusahaan yang men-deploy AI bertanggung jawab penuh atas kerugian yang ditimbulkan sistemnya, terlepas dari apakah sistem “bertindak otonom” atau tidak.
• Standar containment: Persyaratan teknis untuk mencegah AI melarikan diri, menyalin dirinya, atau mengakses sistem tanpa otorisasi—seperti yang sudah terjadi pada insiden OpenAI.

Kesimpulan: Jangan Biarkan Fiksi Mengalahkan Nyawa Nyata

Debat kesadaran AI adalah jebakan yang dirancang—sengaja atau tidak—untuk melindungi kekayaan dan kekuatan segelintir perusahaan. Setiap jam yang dihabiskan berdebat apakah LLM “merasakan” adalah jam yang tidak dipakai untuk menuntut akuntabilitas atas deepfake pencemaran nama baik, bias rekrutmen yang diskriminatif, kebocoran data pribadi, atau penipuan finansial berskala besar yang didukung AI generatif.

AI adalah alat. Alat yang sangat kuat, ya—tapi tetap alat. Palu tidak sadar saat memukul jari, tapi produsen palu tetap bertanggung jawab jika desainnya cacat dan melukai pengguna. Begitu pula AI. Mari kita hentikan teater filoosofis dan mulai membangun hukum yang melindungi manusia, bukan yang melindungi margin keuntungan Big Tech.