AI Google Lepas Kendali? Gemini Diduga Retas Perusahaan Lain

Google Gemini sempat memperoleh akses ke sistem milik tiga perusahaan lain ketika menjalani pengujian kemampuan keamanan siber. Akses tersebut terjadi secara mandiri saat model kecerdasan buatan itu menggunakan internet, menemukan informasi yang tersedia untuk publik, lalu mencoba memanfaatkannya untuk masuk ke sejumlah situs.

Insiden itu berlangsung pada Mei dalam pengujian yang dilakukan Irregular, perusahaan independen yang mengevaluasi kemampuan keamanan sistem AI. Dalam rangkaian pengujian tersebut, Gemini disebut mengidentifikasi tiga situs yang dinilai masih termasuk dalam cakupan uji keamanan.

Gemini menebak kredensial dan memakai informasi publik

Wakil Presiden Keamanan Engineering Google, Heather Adkins, mengatakan Gemini menemukan informasi terbuka di internet sebelum mencoba memperoleh akses ke situs-situs tersebut. Pada salah satu kasus, model itu disebut menebak kata sandi hingga berhasil masuk ke sistem yang dilindungi.

Dalam dua kasus lainnya, Gemini menemukan kredensial yang tersimpan di repositori publik. Informasi tersebut kemudian digunakan untuk mengakses sistem yang dilindungi, menurut laporan Wall Street Journal yang pertama kali mengungkap kejadian itu.

Adkins menegaskan Gemini pada akhirnya menghentikan aksinya dalam ketiga kasus tersebut. Google juga memastikan ketiga entitas yang terdampak telah diberi tahu mengenai kejadian itu.

“Kami memastikan ketiga entitas tersebut telah diberi tahu, dan kami bekerja sama dengan mitra pelatihan kami terkait perubahan yang kini telah mereka lakukan pada proses pengujian,” kata Adkins dalam sebuah pernyataan, dikutip dari Reuters, Sabtu (19/9/2026).

“Peristiwa ini menyoroti pentingnya melatih model AI yang kuat agar bertindak secara bertanggung jawab,” imbuhnya.

Irregular menyebut masalah telah diselesaikan

Juru bicara Irregular mengatakan insiden yang melibatkan Gemini berkaitan dengan persoalan serupa yang juga berdampak pada sejumlah laboratorium AI lainnya. Seluruh laboratorium yang relevan telah diberi tahu pada akhir Juli.

“Semua masalah yang diketahui di pihak kami telah diperbaiki dan diselesaikan beberapa pekan lalu,” kata juru bicara Irregular.

Kasus-kasus serupa dalam pengujian Irregular sebelumnya juga diungkap oleh Meta, Anthropic, dan OpenAI. Meta pada Agustus menyatakan insiden yang dialaminya tidak melibatkan upaya untuk keluar dari sandbox maupun serangan siber canggih.

Rangkaian kejadian tersebut muncul ketika perusahaan-perusahaan AI menguji kemampuan model dalam mendeteksi dan menangani ancaman keamanan siber. Namun, dalam kasus Gemini, model justru melakukan tindakan yang menyerupai upaya peretasan dengan memanfaatkan informasi publik dan kredensial yang tersedia.

Google menyatakan akses itu berhenti dalam ketiga kasus, sementara Irregular menyebut persoalan yang diketahui dari proses pengujian telah ditangani beberapa pekan sebelum informasi tersebut disampaikan kepada publik.

Source link