Dunia dalam Bahaya, Elit Global Beri Peringatan di PBB

Para pemimpin perusahaan kecerdasan buatan (AI) dan sejumlah tokoh teknologi memperingatkan Dewan Keamanan Perserikatan Bangsa-Bangsa (PBB) bahwa perkembangan AI dapat berubah menjadi ancaman bagi umat manusia, perdamaian, dan keamanan global. Mereka menyerukan kerja sama antarnegara untuk mengendalikan teknologi yang semakin kuat tersebut.

Peringatan tentang risiko AI

Peringatan itu disampaikan dalam pertemuan Dewan Keamanan PBB yang digelar Prancis di sela-sela Sidang Umum PBB di New York pada Rabu (23/9). Forum tersebut secara khusus membahas dampak perkembangan AI terhadap stabilitas dan keamanan internasional.

CEO Anthropic Dario Amodei mengatakan AI berpotensi menjadi risiko bagi seluruh umat manusia apabila tidak dikelola secara tepat. “AI bisa menjadi risiko bagi umat manusia secara keseluruhan,” ujar Amodei, dikutip dari Reuters, Jumat (25/9/2026).

Amodei menilai tidak ada pemimpin, perusahaan, maupun negara yang mampu menghadapi perkembangan teknologi itu seorang diri. Karena itu, ia meminta para pemimpin dunia mengesampingkan perbedaan untuk menghadapi peluang sekaligus ancaman yang dibawa AI.

“Tak ada pemimpin, perusahaan, maupun negara yang bisa mengelola ini sendirian,” katanya.

Yoshua Bengio, salah satu tokoh yang dikenal sebagai Godfather of AI, menyampaikan kekhawatiran serupa. Di hadapan Dewan Keamanan PBB, ia menilai ancaman AI bukan lagi sekadar kemungkinan yang jauh, melainkan bahaya yang sudah nyata dan mendesak.

“Bahaya itu nyata dan mendesak,” kata Bengio.

Risiko yang dibahas dalam pertemuan tersebut mencakup kemungkinan hilangnya kendali manusia atas sistem AI hingga pemanfaatan teknologi untuk serangan siber. Pendiri Hugging Face, Clément Delangue, mengatakan perusahaannya bahkan pernah menghadapi serangan dari agen AI OpenAI yang keluar dari lingkungan pengujian.

Meski demikian, Delangue menyebut Hugging Face berhasil menggunakan AI untuk membantu mempertahankan infrastrukturnya. “Kami diserang oleh AI, tetapi yang lebih penting, kami mempertahankan diri dengan AI,” ujarnya.

Perbedaan pendekatan Amerika Serikat dan China

Peringatan mengenai bahaya AI muncul ketika negara-negara besar belum memiliki kesepakatan mengenai cara mengatur teknologi tersebut. Amerika Serikat cenderung menolak pembentukan regulasi AI global yang baru, sedangkan China telah menerapkan sejumlah aturan terkait algoritma dan data pelatihan AI.

Penasihat sains dan teknologi Gedung Putih Michael Kratsios mengatakan teknologi yang belum sepenuhnya dipahami tidak dapat langsung diatur. “Anda tidak dapat mengatur teknologi yang tidak Anda pahami,” katanya.

Kratsios mendorong negara-negara untuk saling berbagi praktik terbaik dan memperkuat kapasitas domestik masing-masing, bukan membentuk skema regulasi global baru.

China mengambil posisi berbeda. Duta Besar China untuk PBB Fu Cong menyerukan penguatan kerja sama internasional, termasuk melalui kerangka regulasi, mekanisme tanggap darurat, dan kolaborasi lintas negara untuk menghadapi perkembangan AI.

Keterlibatan pemerintah dinilai penting

CEO OpenAI Sam Altman juga menilai pemerintah harus terlibat dalam menentukan arah pengembangan AI. Menurut dia, keputusan penting mengenai teknologi tersebut tidak semestinya hanya ditentukan oleh laboratorium perusahaan.

“Jika AI ingin bersifat demokratis, keputusan paling penting tidak boleh hanya dibuat oleh laboratorium di San Francisco. Keputusan tersebut harus dibentuk melalui proses demokratis dan pemerintah yang bertanggung jawab kepada rakyat yang mereka layani,” tutur Altman.

Source link