近日，明尼蘇達州一起關於「使用深度偽造技術影響選舉」的聯邦訴訟中，出現了一起引人注目的爭議。在該州司法部長提交的證據中，部分關鍵研究的引用疑似由人工智慧生成，引發了關於人工智慧在法律領域應用的廣泛討論，以及如何確保資訊準確性和可靠性的重要問題。 Downcodes小編將對此事件進行詳細分析。
圖源備註:圖片由AI生成，圖片授權服務商Midjourney
根據《明尼蘇達改革者》的報道，該州的司法部長基思・埃里森（Keith Ellison）曾要求斯坦福社交媒體實驗室的創始主任傑夫・漢考克(Jeff Hancock)提供相關證據。然而，漢考克所提交的宣誓書中提到的幾項研究並沒有實質證據，且顯示出可能的AI 「幻覺」。
漢考克的宣誓書中引用了一項2023年在《資訊科技與政治雜誌》上發表的研究，標題為「深度偽造影片對政治態度和行為的影響」。
然而，相關報導指出，在該雜誌或其他任何出版物中並沒有找到這項研究的記錄。此外，宣誓書中提到的另一篇名為「深度偽造與真實性的錯覺:接受錯誤訊息背後的認知過程」 的研究同樣缺乏實證依據。
對此，明州眾議員瑪麗・弗蘭森（Mary Franson）及保守派YouTuber 克里斯托弗・霍爾斯(Christopher Khols)的律師在文件中表示:“這些引文顯然具有人工智能(AI)'幻覺'的特徵，暗示至少部分內容是由大型語言模型如ChatGPT 生成的。
漢考克對此事件並未回應。此事引發了對人工智慧在法律領域應用的討論，尤其是在涉及公共利益和選舉事務的情況下，如何確保資訊的準確性和可靠性成為了一個重要議題。
這事件不僅讓人關注深度偽造技術的影響，也為法律界在處理與人工智慧相關的證據時提供了新的思考。對於如何有效地辨別和驗證資訊來源，成為了法律實務中需要面對的重要挑戰。
這次事件揭露了AI技術在法律領域的應用風險，也警示我們需謹慎對待AI生成內容，尤其是在證據資料的應用上，更需嚴格審核與驗證，確保資訊的真實性和可靠性。這對於維護法律的公正性和權威性至關重要。