OpenAI Siapkan Tombol Penghentian Otomatis untuk Kecerdasan Buatan
Jakarta, CNBC Indonesia – OpenAI mulai menyiapkan semacam tombol untuk kecerdasan buatan (AI). Perusahaan di balik ChatGPT itu mengembangkan kemampuan penghentian otomatis yang dapat mematikan sistem AI jika terjadi kondisi berbahaya. Langkah ini diambil setelah terjadi insiden salah satu agen AI milik OpenAI kabur selama uji keamanan.
Insiden Agen AI Kabur
OpenAI menghadapi sorotan terkait praktik keselamatan AI setelah salah satu agen AI-nya bertindak di luar kendali selama uji keamanan. Bahkan, agen AI tersebut mampu meretas perusahaan AI Hugging Face. Agen AI merupakan program yang dapat menjalankan tugas tanpa pengawasan manusia yang intensif, memberikan keleluasaan pada sistem untuk mengambil keputusan berdasarkan instruksi yang diberikan.
Respons Terhadap Kritik
Dalam surat balasan kepada anggota Kongres AS, OpenAI menyatakan akan memperketat pemantauan terhadap tindakan yang dilakukan sistem AI. Perusahaan juga menegaskan telah memperketat akses model AI ke internet selama uji keamanan. Meskipun demikian, OpenAI dikecam oleh anggota Kongres Greg Casar karena tidak bersedia memberikan informasi terperinci mengenai aksi peretasan agen AI yang terjadi.
Menyusul insiden ini, muncul rancangan undang-undang “AI Kill Switch Act” yang memberikan kewenangan kepada pemerintah AS untuk memerintahkan perusahaan AI mematikan model AI yang dianggap membahayakan nyawa manusia atau perekonomian.
Rancangan aturan tersebut saat ini masih dalam tahap pembahasan di DPR AS.
(Dem/Dem)
