近日，明尼蘇達州一項關於「使用深度偽造技術影響選舉」的法律的聯邦訴訟中，出現了一起引人注目的爭議：支持該法律的宣誓書內容被質疑為AI生成文本。此事件的核心在於，司法部長提交的證據中，多篇研究論文被指證實為不存在，引發了對人工智慧技術在法律領域應用的擔憂，以及對資訊真實性驗證的嚴峻挑戰。此事件不僅關係到法律訴訟的公正性，也凸顯了在人工智慧時代維護資訊準確性的重要性。
近日，明尼蘇達州一項關於「使用深度偽造技術影響選舉」 的法律正在進行的聯邦訴訟中，出現了新的爭議。原告律師團在最新的法律文件中指出，支持這項法律的宣誓書可能包含了由人工智慧產生的文本。
圖源備註:圖片由AI生成，圖片授權服務商Midjourney
根據《明尼蘇達改革者》的報道，該州的司法部長基思・埃里森（Keith Ellison）曾要求斯坦福社交媒體實驗室的創始主任傑夫・漢考克(Jeff Hancock)提供相關證據。然而，漢考克所提交的宣誓書中提到的幾項研究並沒有實質證據，且顯示出可能的AI 「幻覺」。
漢考克的宣誓書中引用了一項2023年在《資訊科技與政治雜誌》上發表的研究，標題為「深度偽造影片對政治態度和行為的影響」。
然而，相關報導指出，在該雜誌或其他任何出版物中並沒有找到這項研究的記錄。此外，宣誓書中提到的另一篇名為「深度偽造與真實性的錯覺:接受錯誤訊息背後的認知過程」 的研究同樣缺乏實證依據。
對此，明州眾議員瑪麗・弗蘭森（Mary Franson）及保守派YouTuber 克里斯托弗・霍爾斯(Christopher Khols)的律師在文件中表示:“這些引文顯然具有人工智能(AI)'幻覺'的特徵，暗示至少部分內容是由大型語言模型如ChatGPT 生成的。
漢考克對此事件並未回應。此事引發了對人工智慧在法律領域應用的討論，尤其是在涉及公共利益和選舉事務的情況下，如何確保資訊的準確性和可靠性成為了一個重要議題。
這事件不僅讓人關注深度偽造技術的影響，也為法律界在處理與人工智慧相關的證據時提供了新的思考。對於如何有效地辨別和驗證資訊來源，成為了法律實務中需要面對的重要挑戰。
劃重點:
明州深度偽造法案的宣誓書內容被質疑為AI 產生的文本。
律師團隊指出引用的研究並不存在，疑似出現AI 「幻覺」。
此事件引發對人工智慧在法律文件使用中的廣泛討論，並關注資訊的準確性。
這起事件為法律界敲響了警鐘，提示我們需要重新審視人工智慧技術在法律證據中的應用，並建立更完善的驗證機制，以確保法律程序的公正性和可靠性。未來，如何有效地辨識和防範AI產生的虛假資訊將成為一個重要的課題。