Sam Altman, salah satu pendiri OpenAI, awal bulan ini mendadak dicopot dari jabatan CEO oleh dewan direksi perusahaan. Namun tak butuh waktu lama ia kembali diangkat karena protes dari para karyawan dan pemegang saham.
Reuters pekan lalu secara eksklusif melaporkan bahwa pemecatan tersebut terjadi tak lama setelah para peneliti menghubungi dewan perusahaan. Mereka memperingatkan akan penemuan berbahaya yang mereka khawatirkan dapat menimbulkan konsekuensi yang tidak diinginkan.
Proyek internal bernama Q* (disebut Q-Star) bisa menjadi terobosan dalam kecerdasan umum buatan (artificial general intelligence/AGI).
OpenAI mendefinisikan AGI sebagai sistem otonom yang melampaui manusia dalam tugas yang bernilai ekonomi. Namun, Presiden Microsoft Brad Smith, menolak klaim terobosan berbahaya tersebut.
“Sama sekali tidak ada kemungkinan bahwa Anda akan melihat apa yang disebut AGI, di mana komputer lebih kuat daripada manusia, dalam 12 bulan ke depan. Ini akan memakan waktu bertahun-tahun, bahkan puluhan tahun, tapi saya masih memikirkan waktu untuk melakukannya. fokus pada keselamatan sekarang,” katanya, dikutip dari Reuters, Jumat (1/12/2023).
Sumber mengatakan kepada Reuters bahwa peringatan kepada dewan OpenAI adalah salah satu faktor di antara daftar banyaknya keluhan yang menyebabkan pemecatan Altman, serta kekhawatiran atas komersialisasi sebelum sempat menilai risikonya.
Ketika ditanya apakah penemuan yang diduga berkontribusi pada pemecatan Altman, Smith mengatakan bukan itu masalah sebenarnya. Ia percaya bahwa jelas ada perbedaan pendapat antara dewan direksi dan yang pihak lainnya soal rem pengaman untuk AGI.
“Yang benar-benar kami butuhkan adalah rem pengaman. Sama seperti Anda memiliki pengaman di dalam lift, pemutus arus listrik, rem darurat untuk bus. Harus ada pengaman di sistem AI yang mengontrol infrastruktur penting, sehingga infrastruktur tersebut selalu berada di bawah kendali manusia.” ujar Smith.
