前川普律師邁克爾科恩近日承認在其法庭文件中引用了由AI生成的虛假案例。他將Google的Bard誤認為“超級搜尋引擎”,並在使用Bard進行法律研究時,未經核實地引用了AI生成的內容。科恩聲稱自己並非有意誤導法庭,而是對AI法律技術缺乏了解。此事件並非個案,先前已有類似的AI產生虛假引用出現在法庭文件中,引發了廣泛的爭議,凸顯了AI技術在法律領域應用中的風險和挑戰。
前川普律師Michael Cohen承認在法庭文件中引用虛假的AI生成案例,使用Google的Bard進行法律研究時錯誤地將其視為「超級搜尋引擎」。 Cohen聲稱未有意誤導法庭,對AI法律技術了解不足。此前,類似AI生成的虛假引用在法庭文件中出現過,引起了一些爭議。
科恩事件再次警示我們,在法律領域應用AI技術時,需要謹慎評估其可靠性和準確性,並加強對AI工具的倫理規範和監管。 對AI技術的依賴需要建立在對其局限性的充分認識之上,避免因誤用而造成嚴重後果。 未來,如何更好地利用AI輔助法律研究,同時規避其潛在風險,將成為一個重要的課題。