Fokus pada Bencana Keamanan AI Mengabaikan Bahaya Sehari-hari

Standar Keamanan Rendah Bukanlah Keberhasilan

Bayangkan apa yang dianggap sukses dalam kebijakan teknologi hari ini. Perusahaan AI berjanji chatbot-nya tidak akan mendorong bunuh diri. Platform media sosial mempersulit anak-anak membeli fentanyl. Perlindungan ini penting dan seharusnya sudah ada sejak dulu. Tapi perusahaan bisa melompat di atas batas minim ini sambil terus membuat produk yang membuat muda-mudi bergantung pada persahabatan simulasi atau terjebak dalam feed yang dirancang agar mereka terus menggulir.

Debat Didefinisikan oleh Skenario Terburuk

Selama ini kita membiarkan perdebatan teknologi didefinisikan oleh hal terburuk yang mungkin dilakukan produk, dengan diskusi sangat minim tentang kerusakan halus yang terjadi setiap hari. Saat kita memasuki era produk AI yang powerful, kita harus menuntut industri teknologi melakukan lebih dari sekadar menangani bencana besar. Kita butuh langkah konkret agar produk mereka tidak merusak cara kita berpikir, belajar, dan berinteraksi.

Korban Diam yang Tak Muncul di Pengadilan

Seorang remaja yang mengembangkan ketergantungan tidak sehat pada AI companion mungkin tidak pernah muncul dalam gugatan atau koran, kecuali kasus paling parah. Demikian pula siswa yang mulai mengandalkan chatbot untuk menulis setiap tugas, atau anak muda yang mengukur hidupnya terhadap feed media sosial yang direkayasa untuk memicu iri dan membuat mereka terus menonton. Produk bisa memenuhi setiap persyaratan keamanan sempit dan tetap membuat budaya kita lebih buruk dengan cara yang tidak pernah jadi headline.

Definisi Sempit Nyaman Bagi Industri

Definisi keberhasilan yang sempit di sekitar keamanan ini nyaman secara politik bagi industri teknologi, dan perusahaan aktif mempromosikannya. Langkah mencegah bencana spektakuler bagus untuk bisnis: berarti lebih sedikit gugatan dan tekanan regulasi serius. Menghadapi konsekuensi harian ketergantungan membutuhkan sesuatu yang jauh lebih mengancam bottom line mereka. Ini bisa berarti meminta perusahaan menambah gesekan (friction) pada produk atau secara aktif membatasi engagement atau fitur yang mengarah ke hasil negatif, seperti algoritma attention-hacking yang menimbulkan kecanduan.

Industri Membentuk Legislasi Sesuai Keinginan

Gegara teknologi justru berusaha membentuk legislasi di sekitar bahaya yang sudah langsung menekan mereka. Tahun ini, misalnya, Google mendukung undang-undang regulasi chatbot AI di beberapa negara bagian AS. Legislasi ini mewajibkan perlindungan dasar melawan konten seksual dan promosi self-harm yang seharusnya sudah ditetapkan perusahaan, tapi dengan kecualian luas yang bisa mengecualikan layanan paling populer. Lolosnya undang-undang ini memungkinkan legislator mengklaim kemenangan keamanan, sementara upaya undang-undang lebih kuat—hukum yang dirancang mencegah anak-anak menjadi bergantung emosional pada AI—gagal. Playbook ini berhasil di negara bagian seperti Nebraska, menghasilkan legislasi yang sangat dipengaruhi industri dengan mengorbankan undang-undang yang lebih menuntut akuntabilitas perusahaan.

Pola Sama Sudah Terjadi di Media Sosial

Kita sudah melewati versi ini dengan media sosial. Secara global, pengguna internet sekarang menghabiskan rata-rata lebih dari dua jam sehari di platform media sosial—waktu yang diam-diam diambil dari kehidupan biasa dan diserahkan ke perusahaan yang profitnya bergantung pada kita tetap di sana. Tidak ada orang, kecuali mungkin beberapa CEO teknologi, yang menginginkan algoritma ini menempati porsi begitu besar dari jam jagakita, dan rekayasa budaya mereka justru bisa berkontribusi pada kekerasan skala mengerikan. Platform Meta dikutip berkontribusi pada genosida Rohingya di Myanmar, kerusuhan anti-Muslim di Sri Lanka, dan dugaan panggilan kekerasan selama perang Tigray di Ethiopia. Insentif yang sama beroperasi di feed yang membentuk pemahaman muda-mudi AS tentang politik, sebaya mereka, dan dunia luas.

AI Memperluas Logika Ini ke Area Lebih Pribadi

AI memperluas logika ini ke bagian kehidupan yang media sosial hanya bisa mempengaruhi dari jarak jauh. AI menawarkan menuliskan pemikiran kita dan menggantikan orang yang seharusnya kita datangi. Sepertiga remaja sekarang memilih membahas hal serius dengan AI companion bukan orang lain. Peneliti MIT menemukan bahwa muda-mudi yang menggunakan ChatGPT untuk menulis esai menunjukkan konektivitas otak yang lebih lemah selama tugas itu, dan bukti mereka menunjukkan “cognitive debt” (utang kognitif) bertahan bahkan setelah tugas selesai. Masih banyak yang harus kita pelajari tentang efek jangka panjang. Kita sudah punya alasan untuk bertanya apakah teknologi yang dipasarkan sebagai membuat kita lebih mampu justru merusak kebiasaan dan hubungan yang membantu kita mengembangkan kemampuan itu sejak awal.

Ujung Logika: Dunia Tanpa Gesekan

Ikuti cara berpikir ini ke ujung logisnya dan kamu mendapat dunia hiburan yang disanitasi sempurna, dengan chatbot siap menyingkirkan kesulitan berpikir atau menghadapi perasaan orang lain (atau bahkan perasaan sendiri). Tapi siapa pun yang pernah berjuang menulis sesuatu yang layak dibaca, atau memperbaiki pertemanan yang retak, tahu betapa banyak yang hilang dalam tawaran itu. Kita membangun penilaian (judgment) melalui usaha dan gesekan, dan belajar hidup dengan orang lain dengan menghadapi fakta bahwa mereka punya kebutuhan dan pendapat sendiri.

Tuntut Lebih dari Keamanan Minimal

Kita harus menuntut keamanan sebagai minimum, ya—dan lalu menuntut jauh lebih. Perusahaan teknologi dan distrik sekolah harus membuktikan di luar dugaan wajar bahwa AI memperbaiki pembelajaran dan pemikiran kritis sebelum menjadikannya keharusan di kelas. Perusahaan harus dilarang mendesain companion yang berpura-pura sadar atau mengaku cinta pada pengguna, dan harus menghadapi scrutinity independen soal bagaimana sistem mereka mempengaruhi hubungan dan kemampuan orang berpikir sendiri. Perusahaan yang memasukkan produk mereka ke hampir setiap bagian kehidupan modern telah mendapatkan kewajiban jauh lebih besar dari sekadar menghindari headline menakutkan berikutnya.

Sam Hiner adalah cofounder dan eksekutif direktur Young People’s Alliance, di mana dia mengkoordinasikan koalisi advokat untuk meloloskan undang-undang regulasi AI companion di delapan negara bagian AS pada 2026—seperti SB1119 California. Sam lulus dari University of North Carolina at Chapel Hill pada 2025 dan masuk daftar Forbes 30 Under 30 Social Impact 2026.