스탠포드 대학의 제프 핸콕(Jeff Hancock) 교수는 정치적 딥페이크 영상 관련 사건의 전문가 증언에서 존재하지 않는 연구를 인용해 학문적 정직성과 법률 분야에서의 AI 적용에 대한 의문을 제기한 혐의로 기소됐다. 키스 엘리슨(Keith Ellison) 미네소타 법무장관이 제기한 이 사건은 표현의 자유를 위협할 수 있는 미네소타의 금지령과 관련이 있습니다. 핸콕 교수의 증언은 금지를 지지했지만, 원고 측 법무팀은 그가 인용한 연구가 존재하지 않는다고 판단하고, AI가 생성한 허위 내용일 가능성이 있어 증언의 신뢰성에 심각한 영향을 미칠 수 있다고 판단했다.
최근 스탠포드 대학 커뮤니케이션 교수인 제프 핸콕(Jeff Hancock)은 정치적인 딥페이크 영상과 관련된 사건에서 증언을 위조하기 위해 인공지능을 사용한 혐의로 많은 주목을 받았습니다. 이 사건은 표현의 자유에 대한 잠재적 위협으로 간주되는 정치적 딥페이크 비디오를 금지하는 미네소타주 최근 통과된 법안에 대해 키스 엘리슨(Keith Ellison) 미네소타주 법무장관이 제기한 사건입니다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
그 안에 핸콕 교수는 법무장관이 옹호한 법을 뒷받침하는 전문가 성명을 제출했습니다. 그러나 법무팀은 핸콕이 인용한 '딥페이크 동영상이 정치적 태도와 행동에 미치는 영향'이라는 연구가 존재하지 않는다는 사실을 발견했습니다. 그들은 36페이지 분량의 메모에서 관련 저널이 존재하지만 그러한 연구가 출판된 적이 없다고 지적했습니다.
메모에서 변호사들은 해당 연구를 찾으려는 시도를 자세히 설명했으며 해당 정보는 인터넷과 여러 학술 검색 엔진에서 찾을 수 없다는 점을 강조했습니다. 변호사들은 "이 제목의 일부는 학술 검색 엔진인 구글 학술검색에서도 찾을 수 없다"고 말했다. 변호사들은 핸콕의 증거에 대해 "인공지능에 의해 생성되었을 수 있다"고 주장했다. 허위 내용은 진술의 신뢰성에 심각한 영향을 미친다.
아울러 변호사들은 핸콕의 진술에는 필요한 연구 방법론과 분석 논리가 부족해 진술 전체의 신빙성에 의문이 제기됐다고 지적했다. 그들은 진술의 일부가 위조된 경우 전체 증언을 신뢰할 수 없는 것으로 간주하고 이를 고려 대상에서 제외하도록 법원에 요청해야 한다고 주장했다.
이 사건은 학문적 진실성과 법률 분야에서의 인공지능 적용에 대한 광범위한 논의를 촉발시켰습니다. 현재 이 사건은 추가 심리가 진행 중이며 법원의 최종 판결은 아직 정해지지 않았다.
가장 밝은 부분:
핸콕 교수는 자신의 증거에서 AI가 생성했을 가능성이 있는 존재하지 않는 연구를 인용했다는 혐의를 받고 있다.
미네소타주 법무장관 엘리슨이 제출한 증언에 의문이 제기돼 정치적인 딥페이크 영상 법안에 대한 지지에 영향을 미쳤습니다.
원고 측 변호사들은 핸콕의 증언이 전체적인 신뢰성에 심각한 영향을 미쳤다며 법원에 핸콕의 증언을 배제할 것을 촉구했습니다.
이번 사건은 인공지능 기술의 급속한 발전으로 인한 윤리적, 법적 문제를 강조하고 정보 출처의 신뢰성에 대해 항상 경계해야 함을 상기시켜줍니다. 사건의 후속 전개는 지속적인 관심을 받을 가치가 있으며, 그 결과는 법률 분야에서 인공지능을 적용하는 데 지대한 영향을 미칠 것입니다.