DoNotPay는 "로보 변호사" 서비스를 과장했다는 이유로 미국 연방거래위원회(FTC)로부터 193,000달러의 벌금을 부과 받았습니다. FTC는 DoNotPay가 AI 서비스가 충분한 테스트 없이 인간 변호사를 대체할 수 있다고 주장하여 소비자를 오도했다고 믿습니다. 이 처벌은 소비자를 속이기 위해 인공지능을 사용하는 것을 방지하는 것을 목표로 하는 FTC의 "AI 준수 조치"의 일부입니다. 다운코드 편집자는 이번 사건을 자세히 해석하고 AI 산업에 미치는 영향을 분석할 예정이다.
최근에는 '로보 변호사' 기업 두낫페이(DoNotPay)가 미국 연방거래위원회(FTC)와 19만3000달러의 벌금을 내기로 합의했다. 이번 조치는 인공지능 서비스를 사용해 소비자를 속이는 기업을 겨냥한 FTC의 'AI 컴플라이언스 조치'의 일환이다.
사진 출처 참고: 사진은 AI에 의해 생성되었으며 사진은 서비스 제공업체 Midjourney의 승인을 받았습니다.
FTC는 성명에서 두낫페이(DoNotPay)가 2000억 달러 규모의 법률 산업을 인공지능으로 대체한다고 주장하며 심지어 자사의 '로봇 변호사'가 법률 문서를 생성하고 인간 변호사의 전문 지식을 완전히 대체할 수 있다고 주장한다고 지적했다. 그러나 FTC는 DoNotPay가 이러한 주장을 뒷받침할 테스트도 없이 주장했다고 밝혔습니다.
불만 사항에 따르면 DoNotPay의 서비스 기술은 연방 및 주 법률, 규정, 사법 결정에 따라 완전하고 최신 상태가 아니며 이러한 법률이 특정 사실에 어떻게 적용되는지 테스트되지 않았습니다. 게다가 DoNotPay 직원은 법률 관련 기능으로 생성된 법률 문서 및 조언의 품질과 정확성을 테스트하지 않았습니다. 또한 DoNotPay는 서비스의 품질과 정확성을 검증하기 위해 변호사를 고용하거나 관련 법률 전문 지식을 갖춘 변호사와 상담하지 않습니다.
고소장은 또한 DoNotPay가 소비자에게 변호사를 고용하지 않고도 자사의 AI 서비스를 사용하여 저작권 침해 소송을 제기할 수 있으며 이 서비스가 소비자의 이메일 주소만을 기반으로 중소기업 웹사이트의 존재를 확인할 수 있다고 말했다고 주장합니다. 회사는 자사 서비스를 이용하면 기업의 법적 비용을 최대 125,000달러까지 절약할 수 있다고 주장했지만 FTC는 이 서비스가 효과적이지 않다고 밝혔습니다.
합의의 일환으로 DoNotPay는 193,000달러의 벌금을 지불하기로 합의했으며 2021년에서 2023년 사이에 소비자에게 회사의 법적 관련 제품의 한계를 상기시키기 위해 경고를 발행할 것입니다. 또한 DoNotPay는 더 이상 증거 없이 해당 서비스가 전문 서비스를 대체한다고 주장하지 않습니다.
FTC는 DoNotPay에 대한 벌금 외에도 인공 지능 서비스를 사용하여 고객을 오도하는 여러 회사에 대해 조치를 취했습니다. 여기에는 AI 작성 보조 서비스 Rytr이 포함되며, FTC는 사용자에게 가짜 AI 생성 리뷰를 작성할 수 있는 도구를 제공했다고 밝혔습니다. 이에 대해 FTC는 최근 모든 회사가 AI 생성 리뷰를 포함해 가짜 리뷰를 작성하거나 판매하는 것을 금지하는 최종 규칙을 발표했습니다.
마지막으로 FTC는 Ascend Ecom을 상대로 소송을 제기했습니다. 이 회사는 사용자가 Amazon과 같은 전자상거래 플랫폼에서 온라인 상점을 열고 AI 도구를 통해 상당한 월 소득을 얻을 수 있다고 약속하여 소비자에게 최소 2,500만 달러를 사취했다고 비난했습니다.
가장 밝은 부분:
- 두낫페이(DoNotPay)는 로봇변호사 서비스의 효율성에 대한 증거를 제공하지 못한 것에 대해 193,000달러의 벌금을 지불하기로 합의했습니다.
- 공정위가 AI를 활용해 소비자를 속이는 기업에 대한 감독을 강화하고, 리터(Rytr) 등 다른 기업도 처벌됐다.
- Ascend Ecom은 AI 도구를 통해 높은 수익을 약속하며 소비자에게 2,500만 달러를 사취한 혐의로 기소되었습니다.
이번 사건은 AI 기업들에게 제품 기능을 과장하지 말고 홍보에 주의해야 하며, 제품 품질과 신뢰성을 확보하고, 허위 홍보로 인한 법적 위험에 직면하지 않도록 해야 한다는 점을 경고한다. FTC의 조치는 규제기관이 AI 산업 발전에 세심한 주의를 기울이고 있으며 감독 강화가 시급하다는 점을 보여준다.