Peringatan Petaka: Jutaan Kematian Terjadi dalam 5 Tahun

Jakarta, CNBC Indonesia – Perkembangan teknologi kecerdasan buatan (AI) menciptakan dilema besar bagi para pengusaha yang mencari ladang ‘cuan’. Di satu sisi, mereka terus-terusan berlomba memenangkan perlombaan AI untuk menguasai pasar.

Di sisi lain, AI telah membawa dampak buruk di berbagai sektor. Penyebaran disinformasi, krisis air-listrik, gelombang PHK, menjadi beberapa masalah serius yang sudah terlihat jelas.

Kecerdasan Buatan dan Risiko Dampaknya

Ada banyak dampak lain yang juga signifikan, tetapi lebih jarang digembar-gemborkan. Misalnya serangan siber yang makin canggih, pengembangan senjata militer canggih yang lebih mudah, serta dampak-dampak tak langsung lainnya.

Sebuah studi baru dari MIT FutureTech dan University of Queensland menawarkan cara untuk memetakan lanskap risiko tersebut. Dalam laporan bertajuk “Prioritization of Risks From Artificial Intelligence” (Prioritasi Risiko dari Kecerdasan Buatan), tim peneliti yang melibatkan Neil Thompson, ilmuwan riset utama di MIT Sloan School of Management, meminta 272 pakar AI internasional untuk mengevaluasi 24 risiko AI berdasarkan kemungkinan terjadi dan tingkat keparahannya.

Mereka juga mencatat sektor dan aktor mana yang paling rentan, serta siapa yang harus bertanggung jawab untuk mengatasi risiko tersebut.

Risiko Terbesar dalam Lima Tahun ke Depan

Para pakar mengidentifikasi lima risiko utama yang paling berpotensi menimbulkan dampak paling parah dalam lima tahun ke depan. Masing-masing adalah munculnya kemampuan berbahaya (dangerous capabilities), tekanan persaingan, senjata dan serangan siber, pemusatan kekuasaan, serta informasi palsu.

Sektor informasi dan keuangan dinilai sangat rentan, dan orang-orang maupun organisasi yang paling rentan terhadap risiko tersebut sering kali tidak berada dalam posisi yang tepat untuk mengatasinya.

Studi ini menggunakan metode Delphi, yaitu proses penelitian terstruktur yang mengumpulkan penilaian para ahli melalui beberapa tahapan untuk mencapai kesepakatan dan memetakan titik perbedaan secara lebih jelas. Para peneliti menggunakan penilaian ahli tersebut untuk mengevaluasi risiko dalam horizon waktu lima tahun (2025 hingga 2030) di bawah dua skenario:

Business as usual (kondisi tanpa perubahan kebijakan): Organisasi dan pemerintah melanjutkan pendekatan mereka saat ini.

Pragmatic mitigation (mitigasi pragmatis): Organisasi dan pemerintah melakukan upaya hemat biaya (cost-effective) untuk mengurangi risiko AI.

Dinamika Risiko Utama

Kemampuan Berbahaya (Dangerous Capabilities): Cakupannya lebih luas. Meskipun aktor jahat dapat menggunakan sistem AI untuk merugikan, kemajuan pada sistem tersebut juga dapat mempermudah pelaksanaan tugas-tugas sulit dan berbahaya, seperti persuasi massa, pengawasan (surveillance), pembuatan deepfake, hingga membantu pembuatan senjata kimia atau biologi.

Dinamika Persaingan (Competitive Pressures): Bukan berupa satu bentuk penggunaan AI yang berbahaya, melainkan kondisi yang dapat memperparah risiko lainnya. Ketika perusahaan atau negara percaya bahwa AI akan memberikan keunggulan ekonomi atau strategis yang besar, mereka terdorong untuk bergerak cepat, mengabaikan batasan, atau kurang berinvestasi pada aspek keselamatan.

Sektor Rentan dan Pihak yang Bertanggung Jawab

Studi ini menunjuk tiga sektor yang dinilai para ahli paling rentan terhadap risiko AI dalam lima tahun ke depan: informasi, keamanan nasional, dan keuangan. Para pemimpin di sektor-sektor ini harus memahami bahwa risiko yang mereka hadapi bersifat spesifik sesuai karakteristik masing-masing.

Di seluruh sektor ini, AI membuat risiko yang ada saat ini lebih mudah diperbesar (scalable). Orang yang sebelumnya tidak bisa meretas kini dapat melakukan berbagai hal terkait peretasan, sementara mereka yang sudah ahli dapat bekerja lebih cepat, lebih baik, dan lebih mudah.

Para pakar menyatakan bahwa pengembang AI dan lembaga tata kelola (pemerintah serta regulator) memegang tanggung jawab utama untuk mengatasi risiko AI. Namun, pengguna sistem AI dan masyarakat terdampak adalah pihak yang paling rentan. Adanya ketidaksesuaian (misalignment) antara pihak yang bertanggung jawab dan pihak yang paling rentan menciptakan celah dalam pengambilan tindakan.

Penyesuaian ini juga tidak bisa dilakukan sekali saja. Hal itulah yang membuat temuan ini sangat berguna bagi para pemimpin bisnis, terutama mengingat banyak organisasi masih memperlakukan risiko AI sebatas masalah kepatuhan (compliance) atau ancaman masa depan yang masih jauh.

Meskipun demikian, penelitian ini memberikan pandangan mendalam tentang risiko AI dan memberikan pemimpin bisnis pijakan yang kuat untuk mengatasi tantangan-tantangan ke depan.

Source link