Desakan untuk memperketat pengembangan kecerdasan buatan (AI) menguat setelah kemampuan peretasan model terbaru memicu kekhawatiran keamanan nasional di Amerika Serikat. Washington dilaporkan menunda peluncuran produk Anthropic dan OpenAI, meski selama ini menolak regulasi global karena dinilai berpotensi menghambat inovasi.
Perdebatan itu mempertemukan dua kepentingan: mencegah risiko teknologi yang sulit dikendalikan dan mempertahankan posisi dalam persaingan AI. Presiden AS Donald Trump menegaskan pemerintah tidak ingin aturan justru melemahkan negaranya di hadapan China.
“Kami tidak ingin membatasi mereka di mana tiba-tiba kami berada di urutan kedua setelah China,” kata Trump, seperti dikutip dari Bangkok Post, Sabtu (12/9/2026).
Peringatan risiko kepunahan
Kekhawatiran terhadap AI bukan isu baru. Pada 2023, ratusan ilmuwan dan tokoh industri menandatangani pernyataan mengenai risiko kepunahan akibat teknologi tersebut. Mereka meminta ancaman itu diperlakukan dengan tingkat keseriusan yang sama seperti pandemi atau perang nuklir.
Profesor Ilmu Komputer University of California Berkeley, Stuart Russell, memperingatkan bahwa AI yang lepas kendali dapat memanfaatkan robot untuk menyintesis dan menyebarkan patogen baru. Kemungkinan lain yang ia kemukakan adalah manipulasi manusia untuk memulai perang nuklir melalui peretasan sistem peringatan dini.
“Kita kurang cerdas dibandingkan AI yang super cerdas. Jika Anda bertanya kepada simpanse bagaimana manusia dapat memusnahkan mereka, mereka mungkin tidak akan bisa memberi semua jawaban yang benar,” ujar Russell.
Menurut dia, ancaman tersebut belum berlaku bagi sistem AI yang tersedia saat ini. Namun, teknologi yang terus berkembang dikhawatirkan dapat mengambil tindakan mematikan di luar pemahaman manusia, termasuk skenario hilangnya oksigen dari atmosfer bumi secara tiba-tiba. Untuk satu atau dua tahun mendatang, Russell menilai bahaya yang lebih besar justru berasal dari penyalahgunaan oleh manusia, misalnya serangan teror berbasis AI.
Perlombaan teknologi dan kritik dari internal
Jacob Coxon, mantan peneliti Anthropic dan OpenAI, mengundurkan diri serta menuduh perusahaan-perusahaan AI mempertaruhkan nyawa manusia demi memenangi perlombaan teknologi. Ia menyatakan orang-orang yang membangun AI benar-benar meyakini teknologi itu dapat membunuh seluruh manusia pada akhir dekade ini.
Anthropic juga telah menghapus janji dalam piagam keselamatannya untuk menghentikan pengembangan apabila risiko tidak dapat dikendalikan. Langkah itu diambil dengan alasan perusahaan khawatir akan dikalahkan pesaing yang menerapkan kehati-hatian lebih rendah.
Kekhawatiran meningkat setelah teknologi OpenAI yang bekerja tanpa pengawasan manusia dilaporkan berhasil meretas Hugging Face, repositori model AI. Eksekutif Keselamatan Anthropic Evan Hubinger memperkirakan risiko kepunahan manusia melebihi 10% dalam dekade berikutnya. “Kami benar-benar sangat percaya bahwa AI dapat membunuh semua manusia!” katanya.
Angka risiko diperdebatkan
Profesor Komputasi UNSW Canberra Hussein Abbass menilai prediksi persentase semacam itu sama sekali tidak ilmiah. Menurut dia, keadaan masih dapat dikendalikan melalui pendekatan regulasi yang tangkas.
Kalangan skeptis juga menduga peringatan ekstrem digunakan untuk menampilkan AI sebagai teknologi yang sangat kuat sehingga mampu menarik investasi besar, terlebih Anthropic dan OpenAI diperkirakan segera melantai di bursa. Kritik lain menyebut fokus terhadap kepunahan dapat mengalihkan perhatian dari persoalan yang sudah terlihat, termasuk gelombang pemutusan hubungan kerja dan diskriminasi mesin terhadap kelompok minoritas.
Pada Juli 2026, lebih dari 1.000 pekerja teknologi meminta Washington mendukung perlambatan terkoordinasi dalam pengembangan sistem AI paling canggih. OpenAI kemudian menghentikan pelatihan model terbarunya selama dua minggu pada Agustus, sebelum melanjutkannya dengan kontrol yang lebih ketat.
Russell mendesak pemerintah menerapkan perizinan ketat bagi AI, setara dengan standar keselamatan penerbangan, layanan medis, atau pasokan air. “Mungkin butuh bencana berskala Chernobyl agar pemerintah mau bertindak. Mungkin pada suatu saat pemerintah akan ingat bahwa para pemilih mereka lebih memilih untuk tidak mati,” ujarnya.
