Sejumlah perusahaan terbesar di dunia menandatangani kesepakatan yang menetapkan pengawasan independen terhadap sistem kecerdasan buatan (AI) yang mereka kembangkan. Presiden Amerika Serikat Donald Trump juga ikut menandatangani kesepakatan tersebut dan menyebutnya sebagai bentuk perlindungan bagi pengembangan serta penggunaan teknologi AI.
Pengawasan menjadi bagian utama kesepakatan
Dalam kesepakatan itu, perusahaan-perusahaan berjanji menunjuk pengawas bebas. Pengawas tersebut bertugas memeriksa apakah sistem AI yang dibuat perusahaan berjalan sesuai dengan rencana yang telah ditetapkan.
Mandat pengawasan itu tidak hanya berkaitan dengan kinerja sistem. Pengawas juga harus memastikan alat AI tidak menyusup ke sistem lain atau mengakses sistem di luar batas yang diizinkan. Dengan ketentuan tersebut, kesepakatan memberikan perhatian pada dua hal: kesesuaian antara rancangan dan pelaksanaan sistem, serta pembatasan akses AI terhadap lingkungan teknologi lain.
Komitmen untuk menggunakan pengawas independen menempatkan pemeriksaan dari pihak luar sebagai bagian dari kesepakatan. Artinya, penilaian terhadap sistem AI tidak semata-mata dilakukan oleh perusahaan yang mengembangkan alat tersebut. Namun, sumber tidak menjelaskan siapa saja perusahaan yang terlibat, siapa pengawas yang akan ditunjuk, maupun mekanisme pemeriksaan yang akan digunakan.
Trump menyamakan kesepakatan dengan konstitusi
Trump menggambarkan kesepakatan itu sebagai dokumen yang memiliki kedudukan penting dalam mengatur pengembangan AI. Ia menyamakannya dengan konstitusi karena menurutnya kesepakatan tersebut ditandatangani oleh perusahaan-perusahaan terbesar di dunia dan juga oleh dirinya selaku presiden.
“Ini hampir seperti konstitusi, sejujurnya. Perusahaan-perusahaan terbesar di dunia telah menandatanganinya, dan saya sebagai presiden juga menandatanganinya. Ini adalah bentuk perlindungan yang sesungguhnya,” ujar Trump.
Pernyataan tersebut menempatkan kesepakatan sebagai upaya perlindungan yang menurut Trump diperlukan dalam pengembangan sistem AI. Fokus yang disebutkan dalam kesepakatan berada pada pengawasan independen dan pencegahan akses yang melampaui izin.
Meski demikian, informasi yang tersedia belum memuat rincian mengenai waktu penerapan kesepakatan, bentuk laporan pengawas, sanksi apabila perusahaan tidak memenuhi komitmen, ataupun batasan teknis yang akan digunakan untuk menentukan apakah sebuah sistem telah mengakses sistem lain di luar izin. Fakta yang disampaikan sejauh ini adalah adanya janji penunjukan pengawas bebas, pemeriksaan terhadap kinerja sistem sesuai rencana, serta pengendalian akses AI.
