Pemerintah Amerika menyatakan bahwa kecerdasan buatan (AI) menjadi ancaman nyata dalam meningkatnya disinformasi selama pemilu AS tahun depan. Gedung Putih menyebutkan bahwa konten-konten yang beredar antara lain merupakan gambar palsu penangkapan Donald Trump dan video yang menggambarkan masa depan dystopia di bawah kepemimpinan Joe Biden. Mereka menyebut bahwa pemilu presiden tahun 2024 akan menghadapi gelombang disinformasi yang didukung oleh teknologi AI, dan disebut sebagai pemilu AI pertama di Amerika.
Kedua kubu politik di Amerika Serikat memanfaatkan alat-alat canggih yang didukung oleh kecerdasan buatan, namun oleh banyak pakar teknologi dianggap sebagai senjata bermata dua. Program AI dapat mengkloning suara tokoh politik, membuat video dan teks yang tampak nyata, sehingga pemilih kesulitan membedakan kebenaran dari fiksi. Keberadaan AI ini akan merusak kepercayaan terhadap proses pemilu.
Namun demikian, kampanye politik cenderung menggunakan teknologi ini untuk meningkatkan efisiensi operasional, mulai dari analisis basis data pemilih hingga penyusunan email penggalangan dana.
Contoh penggunaan AI dalam kampanye politik adalah video yang dirilis oleh kampanye kepresidenan Gubernur Florida Ron DeSantis, yang dimaksudkan untuk menunjukkan mantan Presiden Trump merangkul Anthony Fauci. Namun, video tersebut ternyata menggunakan gambar yang dihasilkan AI.
Setelah Biden secara resmi mengumumkan pencalonannya kembali, Partai Republik merilis sebuah video menggunakan AI yang menggambarkan kemungkinan masa depan Amerika Serikat jika Biden menang. Video tersebut menunjukkan gambaran foto rekayasa yang realistis tentang situasi di Wall Street, invasi China ke Taiwan, gelombang imigran di perbatasan, dan pengambilalihan San Francisco oleh militer di tengah kejahatan yang mengerikan.
Lembaga nirlaba Freedom House dalam laporan terbarunya memperingatkan bahwa AI generatif mengancam akan meningkatkan kampanye disinformasi online. Teknologi ini telah digunakan untuk mencemarkan nama baik lawan politik di Amerika Serikat, dengan menggunakan gambar, audio, dan teks yang dihasilkan oleh AI. Hal ini membuat kebenaran lebih mudah diputarbalikkan dan lebih sulit dipahami.
Menurut jajak pendapat yang dilakukan oleh grup media Axios dan firma intelijen bisnis Morning Consult, lebih dari 50 persen warga Amerika memperkirakan kebohongan yang disebabkan oleh AI akan berdampak pada hasil pemilu tahun 2024. Sekitar sepertiga warga Amerika juga mengatakan bahwa mereka akan kurang mempercayai hasil pemilu karena AI.
Dalam situasi politik yang hiperpolarisasi, para pengamat memperingatkan bahwa sentimen seperti itu berisiko memicu kemarahan publik terhadap proses pemilu. Keberadaan AI yang mudah dan murah untuk digunakan dapat menyebabkan klaim kampanye dan kontra-klaim yang sangat beragam, dengan kemampuan terbatas untuk membedakan materi palsu dan asli. Hal ini juga menimbulkan ketidakpastian mengenai bagaimana penggunaan AI ini akan mempengaruhi pemilu, seperti yang dikatakan oleh Darrell West dari Brookings Institution.
Namun AI juga memiliki potensi sebagai sumber daya yang “mengubah permainan” dalam pemahaman pemilih dan tren kampanye. Dalam kampanye sebelumnya, staf kampanye mengandalkan konsultan mahal untuk mengembangkan rencana penjangkauan dan menyusun pidato, pembicaraan, dan postingan di media sosial. Namun dengan adanya AI, pekerjaan tersebut dapat dilakukan dalam waktu yang sangat singkat.
Namun, perlu ditekankan mengenai potensi penyalahgunaan AI. AFP melakukan percobaan dengan mengajukan pertanyaan yang salah tentang Trump kepada ChatGPT, yang malah menghasilkan sebuah kampanye yang apik, lengkap dengan data dari dokumen yang salah. Ketika AFP mendorong chatbot dari OpenAI untuk membuat buletin, AI tersebut menyebarkan kebohongan yang sama dengan nada yang lebih apokaliptik.
Otoritas sedang berupaya untuk mengatur penggunaan AI, dengan beberapa negara bagian seperti Minnesota mengeluarkan undang-undang untuk mengkriminalisasi deepfake yang bertujuan merugikan kandidat politik atau mempengaruhi pemilu. Pada Senin (30/10), Biden menandatangani perintah eksekutif untuk mempromosikan penggunaan AI yang aman, terjamin, dan dapat dipercaya. Biden mengkhawatirkan bahwa AI dapat digunakan untuk merekam suara seseorang selama tiga detik untuk menghasilkan audio deepfake.
