Artikel ini menganalisis laporan terbaru yang dirilis oleh Meta, yang menilai dampak kecerdasan buatan generatif terhadap pemilu di berbagai negara dan wilayah di seluruh dunia. Laporan tersebut menyimpulkan bahwa meskipun ada beberapa kasus penggunaan kecerdasan buatan untuk propaganda politik atau menyebarkan informasi palsu, dampaknya jauh lebih rendah dari yang diperkirakan, dan kebijakan serta tindakan Meta saat ini sudah cukup untuk menghadapi tantangan ini. Laporan tersebut merinci langkah-langkah respons yang diambil oleh Meta dan menganalisis penyebaran informasi palsu di platform lain.
Pada awal tahun ini, terdapat kekhawatiran yang meluas mengenai bagaimana AI generatif dapat mengganggu pemilu global dan menyebarkan propaganda dan disinformasi. Namun, laporan terbaru dari Meta menunjukkan bahwa kekhawatiran ini belum terwujud pada platformnya. Meta mengatakan bahwa pada platform sosial seperti Facebook, Instagram, dan Threads, kecerdasan buatan generatif memiliki dampak yang sangat terbatas terhadap informasi terkait pemilu.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan gambar tersebut disahkan oleh penyedia layanan Midjourney
Menurut penelitian Meta, laporan tersebut mencakup pemilu besar di berbagai negara dan wilayah, termasuk Amerika Serikat, Bangladesh, india, India, Pakistan, Parlemen Eropa, Prancis, Inggris, Afrika Selatan, Meksiko, dan Brasil. Meta mencatat bahwa meskipun ada beberapa konfirmasi atau dugaan penggunaan kecerdasan buatan selama pemilu, jumlah keseluruhannya masih rendah dan kebijakan serta proses yang ada sudah cukup untuk mengurangi risiko yang ditimbulkan oleh konten AI generatif. Laporan tersebut menunjukkan bahwa selama periode pemilu yang disebutkan di atas, konten AI yang terkait dengan pemilu, politik, dan topik sosial menyumbang kurang dari 1% informasi palsu yang diperiksa faktanya.
Untuk mencegah gambar deepfake terkait pemilu, generator gambar Imagine AI milik Meta menolak hampir 590.000 gambar yang dibuat yang melibatkan Trump, Wakil Presiden Harris, Gubernur Walz, dan Presiden Biden pada bulan menjelang Hari Pemilu. Selain itu, Meta menemukan bahwa akun online yang mencoba menyebarkan propaganda atau disinformasi hanya memperoleh sedikit peningkatan produktivitas dan perolehan konten saat menggunakan AI generatif.
Meta menekankan bahwa penggunaan AI tidak menghalangi kemampuannya untuk memerangi aktivitas pengaruh terselubung ini, karena perusahaan berfokus pada perilaku akun-akun tersebut dibandingkan konten yang mereka publikasikan, baik konten tersebut dihasilkan oleh AI atau tidak. Selain itu, Meta juga mengumumkan bahwa mereka telah menghapus sekitar 20 operasi pengaruh rahasia baru secara global untuk mencegah campur tangan asing. Sebagian besar jaringan hit ini tidak memiliki pemirsa nyata, dan beberapa bahkan secara palsu menunjukkan popularitas mereka melalui suka dan pengikut palsu.
Meta juga menyalahkan platform lain, dengan mengatakan bahwa video palsu terkait pemilu AS sering muncul di platform seperti X. Meta mengatakan pihaknya akan terus meninjau kebijakannya sambil mempertimbangkan pembelajaran yang diperoleh selama tahun ini dan akan mengumumkan perubahan apa pun dalam beberapa bulan mendatang.
Secara keseluruhan, laporan Meta memberikan data referensi yang berharga mengenai dampak kecerdasan buatan generatif dalam pemilu, dan langkah-langkah respons proaktifnya juga patut untuk dipelajari. Namun pemantauan dan perbaikan berkelanjutan tetap diperlukan untuk mengatasi tantangan yang mungkin timbul di masa depan. Kemajuan teknologi perlu dikoordinasikan dengan strategi pengawasan dan respons yang sesuai untuk menjaga kesehatan dan stabilitas lingkungan jaringan dengan lebih baik.