최근 선거에 영향을 미치기 위해 딥페이크를 사용하는 것과 관련해 미네소타에서 열린 연방 소송에서 세간의 이목을 끄는 논란이 불거졌습니다. 주 법무장관이 제출한 증거에서 주요 연구에 대한 일부 언급은 인공지능에 의해 생성된 것으로 의심되어 법률 분야에서 인공지능의 적용에 대한 광범위한 논의와 정확성과 신뢰성을 보장하는 방법에 대한 중요한 질문을 촉발했습니다. 정보의. Downcodes의 편집자는 이 사건에 대한 자세한 분석을 수행할 것입니다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
미네소타 개혁가(Minnesota Reformer)에 따르면, 키스 엘리슨(Keith Ellison) 주 법무장관은 스탠포드 소셜 미디어 연구소(Stanford Social Media Lab) 창립 이사인 제프 핸콕(Jeff Hancock)에게 관련 증거를 제공해달라고 요청했습니다. 그러나 Hancock의 진술서에 언급된 몇몇 연구에는 실질적인 증거가 부족하고 AI의 "환각" 가능성이 있음을 보여줍니다.
Hancock의 진술서는 Journal of Information Technology and Politics에 게재된 "정치적 태도 및 행동에 대한 딥페이크 동영상의 영향"이라는 제목의 2023년 연구를 인용했습니다.
그러나 해당 연구에 대한 기록은 저널이나 기타 출판물에서 발견되지 않았다고 보고서는 밝혔습니다. 또한, 진술서에 언급된 "딥페이크와 진위의 환상: 잘못된 정보 수용 이면의 인지 과정"이라는 제목의 또 다른 연구도 실증적 근거가 부족합니다.
이에 대해 미네소타 하원의원 메리 프랜슨(Mary Franson)의 변호사와 보수적인 유튜버 크리스토퍼 콜스(Christopher Khols)는 서류에서 다음과 같이 말했습니다. 그들은 ChatGPT와 같은 언어 모델을 사용하여 특히 진술서의 많은 주장이 방법론과 분석 논리에 대한 지원이 부족하기 때문에 전체 진술서의 신뢰성에 의문을 제기한다고 지적했습니다.
핸콕은 사건에 응답하지 않았습니다. 이번 사건을 계기로 법률 분야, 특히 공익과 선거 문제에서 인공지능을 어떻게 활용하는가에 대한 논의가 촉발되었습니다.
이번 사건은 딥페이크 기술의 영향력에 대한 관심을 불러일으킬 뿐만 아니라, 인공지능과 관련된 증거를 다룰 때 법조계에 새로운 사고를 제시합니다. 정보 출처를 효과적으로 식별하고 검증하는 방법은 법률 실무에서 직면해야 할 중요한 과제가 되었습니다.
이번 사건은 법률 분야에 AI 기술을 적용하는 데 따른 위험성을 노출시켰으며, AI가 생성한 콘텐츠, 특히 증거자료 활용에 있어 주의가 필요하며, 진위 여부를 확보하기 위해서는 엄격한 검토와 검증이 필요하다는 점을 경고했습니다. 그리고 정보의 신뢰성. 이는 법의 공정성과 권위를 유지하는 데 매우 중요합니다.