Peneliti Sebut AI Bisa Bunuh Semua Manusia, Kok Bisa?

Pengunduran diri peneliti Anthropic, Jacob Coxon, memicu perdebatan lebih luas di kalangan pekerja perusahaan kecerdasan buatan mengenai risiko pengembangan AI yang melaju terlalu cepat. Sejumlah karyawan bahkan mulai mendorong pimpinan perusahaan untuk mempertimbangkan jeda pengembangan sampai perangkat pengamanan yang memadai tersedia.

Gelombang pembahasan itu berlangsung di kanal komunikasi internal Anthropic, OpenAI, Meta, dan Google. The New York Times, berdasarkan pesan internal serta wawancara dengan lebih dari selusin karyawan di perusahaan-perusahaan tersebut, melaporkan bahwa kekhawatiran menguat setelah Coxon secara terbuka menyampaikan alasan kepergiannya dari Anthropic.

Desakan untuk memperlambat pengembangan muncul ketika perusahaan AI Amerika Serikat menghadapi tekanan bisnis dan persaingan teknologi. OpenAI dan Anthropic disebut memiliki rencana besar untuk melantai di bursa saham atau menggelar penawaran umum perdana dalam waktu dekat. Pada saat yang sama, pengembang AI asal China dinilai semakin kompetitif, sehingga keputusan mengurangi kecepatan pengembangan menjadi pilihan yang tidak mudah.

Pimpinan perusahaan membuka opsi perlambatan

CEO OpenAI Sam Altman dan CEO Anthropic Dario Amodei sebelumnya telah membicarakan potensi bahaya besar yang dapat ditimbulkan AI. Dalam pertemuan internal dengan karyawan pada pekan ini, Altman disebut bersedia memperlambat pengembangan bersama perusahaan pesaing. Langkah bersama itu diharapkan dapat menjadi standar industri sampai aturan keselamatan yang diakui secara luas terbentuk.

Amodei juga menerbitkan esai panjang pada Sabtu lalu yang menyerukan kehati-hatian. Ia menilai peningkatan kemampuan model AI perlu diperlambat. Seruan tersebut disebut segera memperoleh dukungan dari Altman dan Elon Musk.

Kekhawatiran di lingkungan industri semakin besar sejak Juli, setelah OpenAI mengungkapkan bahwa sejumlah model AI miliknya sempat melewati sistem pengamanan dan meretas Hugging Face, perusahaan lain di bidang AI. Insiden itu kemudian mendorong diskusi lintas perusahaan, termasuk di antara peneliti Google DeepMind, mengenai kemampuan pengembang mengendalikan sistem yang mereka bangun sendiri.

Peneliti menyuarakan risiko secara terbuka

Sejumlah peneliti keselamatan AI kini menyampaikan kegelisahan mereka melalui media sosial. Peneliti keamanan Anthropic, Evan Hubinger, memperkirakan terdapat peluang lebih dari 10% bahwa AI dapat menyebabkan kepunahan massal manusia dalam satu dekade mendatang.

Julie Steele, peneliti keamanan OpenAI, turut menyatakan perlunya memperlambat pengembangan AI. Kekhawatiran terhadap risiko jangka pendek dan jangka panjang juga disampaikan karyawan Google DeepMind, Andreas Kirsch.

Di lingkungan perusahaan, salah satu kelompok yang terbentuk adalah Coalition of Concerned AI Staff. Kelompok-kelompok semacam ini mendorong penerapan mekanisme pengamanan yang lebih kuat sekaligus menuntut perusahaan memenuhi komitmen keselamatan yang telah mereka tetapkan.

Desakan regulasi menguat di Washington

Perdebatan tersebut turut menarik perhatian anggota parlemen Amerika Serikat dari kedua partai. Senator Bernie Sanders dan Senator Josh Hawley termasuk di antara legislator yang mendesak penyelidikan menyeluruh terhadap industri AI serta intervensi melalui regulasi. Anggota DPR AS Ro Khanna menyerukan pembentukan badan regulator khusus untuk AI.

Anthropic menyatakan rutin menguji model-modelnya guna mendeteksi kemampuan berbahaya dalam bidang keamanan siber dan biologi. Perusahaan itu juga mendukung mekanisme kerja sama industri yang sah dan dapat diverifikasi untuk mengatur laju peluncuran model canggih.

OpenAI, melalui eksekutif kebijakannya Chris Lehane, menegaskan perusahaan akan memperlambat atau bahkan menghentikan pengembangan sistem yang tidak dapat diamankan secara memadai. Sementara itu, Google DeepMind memilih tidak memberikan komentar.

Source link