Dunia di Ambang Kehancuran: Pemasok Senjata AS Ungkap Rangkuman Kengerian
Jakarta, CNBC Indonesia – Anthropic akhir-akhir ini menjadi pusat perhatian setelah mengungkap berbagai pengembangan terbaru di dunia kecerdasan buatan (AI). Sebagai pemasok ‘senjata canggih’ untuk militer AS, Anthropic baru-baru ini merilis model terbaru bernama Mythos yang begitu canggih hingga menimbulkan kekhawatiran di banyak negara.
Peringatan Keras: Bahaya Teknologi AI
Mendapati perkembangan AI yang semakin cepat, Anthropic memperingatkan perusahaan-perusahaan besar di bidang kecerdasan buatan untuk menunda pengembangan lebih lanjut. Perusahaan ini memperkirakan bahwa teknologi AI dapat berkembang secara eksponensial melebihi kemampuan manusia untuk menghadapi risikonya.
Claude, salah satu pencipta Anthropic, menyebutkan bahwa AI sudah mampu menyelesaikan tugas-tugasnya sendiri dengan kecepatan yang mengkhawatirkan. Hal ini membawa AI menuju fase “peningkatan diri rekursif”, di mana teknologi dapat berkembang tanpa campur tangan manusia.
Anthropic memperingatkan bahwa penundaan dalam pengembangan teknologi AI bisa menjadi langkah penting untuk mempersiapkan masyarakat menghadapi implikasi yang lebih besar di masa depan. Kecemasan akan sistem AI canggih yang lepas dari kendali manusia telah menjadi topik yang semakin relevan.
Regulasi dan Respons Pemerintah
Di tengah peringatan keras dari Anthropic, regulasi terkait pengembangan teknologi AI masih terbilang lambat. Pemerintahan AS sendiri telah menerbitkan perintah eksekutif untuk mendorong perusahaan teknologi menguji keamanan siber model-model AI sebelum dirilis ke publik.
Sementara itu, para peneliti dan aktivis AI juga telah mendesak untuk menghentikan pengembangan AI untuk sementara waktu guna memastikan keamanan. Namun, upaya-upaya ini belum sepenuhnya berhasil dalam mengatasi cepatnya perkembangan teknologi AI.
Dengan nilai perusahaan yang mencapai US$965 miliar dan rencana untuk meluncurkan penawaran umum perdana (IPO), Anthropic terus mengukuhkan posisinya di dunia kecerdasan buatan. Meskipun terus menuai kontroversi, peningkatan dalam pengembangan teknologi AI tetap menjadi sorotan utama dalam persaingan global.
