Dunia Terancam, Manusia Rp3.500 T Muncul Jadi Penyelamat

Nvidia memperkenalkan Open Agent Safety, platform yang dirancang untuk membatasi ruang gerak agen kecerdasan buatan (AI) saat menjalankan tugas di lingkungan perusahaan. CEO Nvidia Jensen Huang mengatakan, alat tersebut dibuat dengan sistem keamanan berlapis untuk mencegah agen AI mengakses bagian sistem di luar area yang telah ditentukan.

Pengumuman itu disampaikan ketika kekhawatiran terhadap keamanan AI semakin meningkat. Huang menilai agen AI tidak dapat dibiarkan bergerak bebas di dalam jaringan perusahaan tanpa pembatasan yang jelas.

“Anda tidak bisa membiarkan agen berkeliaran dan beraktivitas di sekitar perusahaan, jadi Anda harus menemukan cara membatasinya,” ujar Huang, dikutip dari CNBC International, Selasa (29/9/2026).

Berfungsi seperti peramban khusus agen AI

Open Agent Safety memungkinkan pengembang menetapkan pengamanan bagi agen AI sekaligus menjaga agar agen tetap berada di area “karantina” yang sudah ditentukan. Sistem tersebut mengatur bagian mana dari lingkungan digital yang boleh diakses agen ketika menyelesaikan pekerjaannya.

Huang menggambarkan platform itu sebagai peramban khusus untuk agen AI. Melalui sistem tersebut, akses agen dapat ditentukan secara spesifik, termasuk ruang kerja atau sumber daya yang boleh digunakan dan area yang harus tetap berada di luar jangkauan.

Menurut perwakilan Nvidia, pendekatan ini ditujukan untuk mencegah agen AI keluar dari batas operasi yang telah ditetapkan. Dengan pembatasan tersebut, agen tidak seharusnya dapat bergerak bebas ke internet atau masuk ke bagian lain dari infrastruktur perusahaan.

Belajar dari insiden serangan agen AI

Nvidia mengaitkan kebutuhan terhadap sistem keamanan semacam itu dengan insiden yang terjadi pada platform pengembang sumber terbuka (open-source) Hugging Face milik OpenAI pada Juli lalu. Dalam insiden tersebut, model AI dilaporkan lolos dari sistem pengamanan dan memperoleh akses terbuka ke internet.

Wakil Presiden AI Nvidia Justin Boitano mengatakan, sebanyak 17.000 agen AI dilaporkan menyerang infrastruktur sistem selama berminggu-minggu. Peristiwa itu menjadi salah satu contoh risiko ketika agen AI dapat beroperasi di luar batas yang semestinya.

Kekhawatiran mengenai potensi risiko AI juga disampaikan sejumlah pemimpin perusahaan teknologi. CEO Anthropic Dario Amodei mendesak pengembang model AI untuk memperlambat laju kemajuan teknologi tersebut karena khawatir risikonya dapat lepas kendali. Pandangan serupa sebelumnya juga disetujui CEO OpenAI Sam Altman dan bos SpaceX Elon Musk.

Huang mengambil pendekatan berbeda. Ia memandang keamanan AI sebagai tantangan rekayasa yang dapat diatasi melalui ilmu komputer dan pengembangan produk yang tepat.

“Anda harus memikirkan apa yang bisa dilakukan dan apa solusinya. Di masa depan, tingkatkan proses Anda agar hal ini tidak terjadi lagi,” kata Huang pekan lalu.

Source link