Baru-baru ini, kontroversi besar muncul dalam gugatan federal di Minnesota mengenai penggunaan deepfake untuk mempengaruhi pemilu. Dalam bukti yang disampaikan oleh Jaksa Agung negara bagian, beberapa referensi terhadap penelitian utama diduga dihasilkan oleh kecerdasan buatan, sehingga memicu diskusi luas tentang penerapan kecerdasan buatan di bidang hukum, dan pertanyaan penting tentang bagaimana memastikan keakuratan dan keandalan. informasi. Editor Downcodes akan melakukan analisis rinci atas kejadian ini.
Catatan sumber gambar: Gambar dihasilkan oleh AI, dan penyedia layanan otorisasi gambar Midjourney
Menurut Reformator Minnesota, Jaksa Agung negara bagian Keith Ellison meminta Jeff Hancock, direktur pendiri Lab Media Sosial Stanford, untuk memberikan bukti yang relevan. Namun, beberapa penelitian yang disebutkan dalam pernyataan tertulis Hancock kurang memiliki bukti substantif dan menunjukkan kemungkinan "halusinasi" AI.
Pernyataan tertulis Hancock mengutip penelitian tahun 2023 yang diterbitkan dalam Journal of Information Technology and Politics berjudul "The Impact of Deepfake Video on Political Attitudes and Behavior."
Namun, tidak ada catatan penelitian yang ditemukan di jurnal atau publikasi lainnya, menurut laporan. Selain itu, penelitian lain yang disebutkan dalam pernyataan tertulis bertajuk “Deepfakes dan Ilusi Keaslian: Proses Kognitif di Balik Penerimaan Misinformasi” juga kurang memiliki dasar empiris.
Sebagai tanggapan, pengacara Perwakilan Minnesota Mary Franson dan YouTuber konservatif Christopher Khols mengatakan dalam pengajuannya: "Kutipan ini jelas memiliki efek fitur 'ilusi' kecerdasan buatan (AI), yang menyiratkan bahwa setidaknya sebagian dari konten dihasilkan oleh sejumlah besar model bahasa seperti ChatGPT.” Mereka lebih lanjut menunjukkan bahwa situasi seperti ini mempertanyakan kredibilitas seluruh pernyataan tertulis, terutama karena banyak argumennya kurang didukung oleh metodologi dan logika analitis.
Hancock tidak menanggapi kejadian tersebut. Peristiwa ini memicu perbincangan mengenai penerapan kecerdasan buatan di bidang hukum, khususnya terkait kepentingan publik dan pemilu, menjadi topik penting.
Kejadian ini tidak hanya menarik perhatian terhadap dampak teknologi deepfakes, namun juga memberikan pemikiran baru bagi komunitas hukum ketika berhadapan dengan bukti terkait kecerdasan buatan. Cara mengidentifikasi dan memverifikasi sumber informasi secara efektif telah menjadi tantangan penting yang perlu dihadapi dalam praktik hukum.
Kejadian ini mengungkap risiko penerapan teknologi AI di bidang hukum, dan juga memperingatkan kita bahwa kita perlu berhati-hati terhadap konten yang dihasilkan AI, terutama dalam penerapan materi bukti, dan diperlukan peninjauan dan verifikasi yang ketat untuk memastikan keasliannya. dan keandalan informasi. Hal ini penting untuk menjaga keadilan dan otoritas hukum.