Laporan penelitian terbaru yang dirilis oleh Google memperingatkan bahwa kecerdasan buatan generatif (GenAI) mencemari Internet dengan konten palsu. Laporan tersebut menunjukkan bahwa ada banyak sekali kasus penyalahgunaan GenAI, mulai dari perusakan foto hingga pemalsuan bukti, sebagian besar untuk tujuan mempengaruhi opini publik, penipuan, atau keuntungan. Google sendiri juga menjadi pembuat disinformasi karena produk AI-nya yang memberikan saran-saran konyol, sehingga peringatannya semakin mengkhawatirkan dan memicu masyarakat untuk memikirkan secara mendalam potensi risiko GenAI.
Baru-baru ini, para peneliti di Google memperingatkan bahwa kecerdasan buatan generatif (GenAI) merusak Internet dengan konten palsu. Ini bukan sekedar peringatan, tapi juga saat refleksi diri.
Ironisnya, Google memainkan peran ganda dalam “perang antara kebenaran dan kepalsuan” ini. Di satu sisi, mereka merupakan pendukung penting AI generatif, dan di sisi lain, mereka juga merupakan penghasil disinformasi. Fitur ikhtisar AI Google memiliki saran konyol seperti "tempelkan lem pada pizza" dan "makan batu", dan pesan-pesan yang salah ini akhirnya harus dihapus secara manual.
Tim peneliti Google melakukan penyelidikan mendalam terhadap 200 laporan berita tentang penyalahgunaan AI generatif dan menemukan bahwa merusak potret manusia dan memalsukan bukti adalah metode penyalahgunaan yang paling umum. Tujuan dari tindakan tersebut tidak lebih dari untuk mempengaruhi opini publik, menipu atau mendapatkan keuntungan. Meskipun risiko AI generatif belum mencapai tingkat "ancaman eksistensial", risiko tersebut sedang terjadi saat ini dan mungkin menjadi lebih buruk di masa depan.
Para peneliti menemukan bahwa sebagian besar kasus penyalahgunaan GenAI adalah penggunaan sistem secara normal dan tidak melibatkan perilaku "jailbreaking". Jenis "operasi rutin" ini mencakup 90%. Ketersediaan, aksesibilitas, dan hiperrealisme GenAI yang luas memungkinkan terjadinya bentuk-bentuk penyalahgunaan yang tidak ada habisnya. Biaya untuk menghasilkan informasi palsu terlalu rendah!
Materi penelitian Google sebagian besar berasal dari laporan media. Apakah ini berarti kesimpulan penelitian bersifat bias oleh media? Media lebih cenderung melaporkan peristiwa sensasional, yang dapat menyebabkan kumpulan data menjadi bias terhadap jenis pelecehan tertentu. 404Media menunjukkan bahwa ada banyak penyalahgunaan AI generatif yang belum kami sadari.
“Pagar” alat AI dapat dengan cerdik dielakkan dengan beberapa tips. Misalnya, alat kloning suara AI ElevenLabs dapat meniru suara rekan kerja atau selebritas dengan tingkat ketelitian yang tinggi. Pengguna Civitai dapat membuat gambar selebritas yang dihasilkan AI, dan meskipun platform tersebut memiliki kebijakan yang melarang NCII (gambar intim tanpa persetujuan), tidak ada yang menghentikan pengguna untuk menggunakan alat sumber terbuka untuk menghasilkan NCII di mesin mereka sendiri.
Ketika informasi palsu menyebar, kekacauan di Internet akan membawa ujian besar bagi kemampuan masyarakat dalam membedakan kebenaran dan kepalsuan. Kita akan terus-menerus terjebak dalam keraguan, “Apakah ini nyata?” Jika tidak ditangani, kontaminasi data publik oleh konten yang dihasilkan oleh AI juga dapat menghambat perolehan informasi dan mendistorsi persepsi kolektif mengenai realitas sosiopolitik atau pemahaman konsensus ilmiah.
Google telah berkontribusi terhadap penyebaran konten palsu yang disebabkan oleh AI generatif. Peluru yang ditembakkan bertahun-tahun yang lalu akhirnya mengenai alisnya hari ini. Penelitian Google mungkin merupakan awal dari penyelamatan diri dan peringatan bagi seluruh masyarakat Internet.
Alamat makalah: https://arxiv.org/pdf/2406.13843
Laporan Google ini tidak diragukan lagi merupakan peringatan bagi perkembangan GenAI di masa depan. Bagaimana menyeimbangkan perkembangan teknologi dan pengendalian risiko, dan bagaimana merespons secara efektif penyebaran informasi palsu yang dibawa oleh GenAI, merupakan tantangan umum yang dihadapi komunitas dan masyarakat teknologi global. Kami menantikan lebih banyak penelitian dan tindakan untuk bersama-sama menjaga keaslian dan kemurnian Internet.