Pemanfaatan kecerdasan buatan (artificial intelligence/AI) di Indonesia masih dihadapkan pada tujuh tantangan besar menurut Wakil Menteri Komunikasi dan Digital, Nezar Patria. Tantangan pertama adalah terkait dengan bias dan diskriminasi yang muncul karena algoritma data yang digunakan oleh AI cenderung mencerminkan keyakinan personal developer yang bersumber dari berbagai sumber data yang memuat bias terhadap ras, agama, suku, dan kelompok tertentu.
Kekhawatiran kedua muncul dari kurangnya transparansi dan akuntabilitas dalam banyak sistem AI yang beroperasi sebagai ‘kotak hitam’, sehingga sulit untuk memahami proses pengambilan keputusan dan tanggung jawab yang ada. Dilaporkan bahwa upaya riset untuk memahami cara kerja AI ini masih menemui hambatan.
Masalah privasi, keamanan, dan pengawasan muncul sebagai tantangan ketiga, dikarenakan kerap kali data yang dibutuhkan oleh AI bersifat sensitif dan besar jumlahnya. Hal ini menimbulkan keraguan terkait pengumpulan, penyimpanan, dan penggunaan data pribadi oleh AI.
Selain itu, isu penggantian tenaga kerja oleh AI juga menjadi perdebatan di banyak negara, meskipun terdapat peluang pekerjaan baru yang muncul dengan berkembangnya AI. Tantangan kelima muncul dari keprihatinan terkait kepemilikan hak cipta karya seni yang dihasilkan oleh AI.
Kekhawatiran selanjutnya adalah manipulasi sosial dan penyebaran misinformasi yang dihasilkan oleh algoritma AI. Nezar juga menambahkan tentang pengembangan AI yang otonom dan potensi penyalahgunaannya dalam bidang senjata. Regulasi internasional diperlukan untuk mengatur pengembangan senjata berbasis AI secara etis dan akuntabel.
Nezar memandang bahwa pengembangan AI yang etis sangat penting untuk memastikan keamanan dan keadilan dalam pemanfaatannya. Di tengah perkembangan AI yang semakin pesat, regulasi yang ketat sangat diperlukan untuk menjaga keseimbangan dan memastikan bahwa AI dapat menjadi alat yang berguna tanpa membahayakan manusia.
