DoNotPayは、自社の「ロボ弁護士」サービスを誇張したとして、米連邦取引委員会（FTC）から19万3000ドルの罰金を科せられた。 FTCは、DoNotPayが十分なテストを行わずにAIサービスが人間の弁護士に取って代わる可能性があると主張し、消費者に誤解を与えたと考えている。この罰則は、消費者を欺くための人工知能の使用と戦うことを目的としたFTCの「AIコンプライアンス行動」の一環である。 Downcodesの編集者はこの事件を詳細に解釈し、AI業界への影響を分析します。
最近、「ロボ弁護士」企業 DoNotPay が米国連邦取引委員会 (FTC) と合意に達し、19 万 3,000 ドルの罰金を支払うことに同意しました。この措置は、消費者を欺くために人工知能サービスを使用する企業を対象としたFTCの「AIコンプライアンス措置」の一環である。
画像出典注：画像はAIによって生成され、画像はサービスプロバイダーMidjourneyによって許可されています
FTCは声明の中で、DoNotPayが2000億ドル規模の法律業界を人工知能に置き換えると主張し、同社の「ロボット弁護士」が法的文書を作成でき、人間の弁護士の専門知識を完全に置き換えることができるとさえ主張していると指摘した。しかしFTCは、DoNotPayがこれらの主張を裏付けるテストを一切行わずに行ったと述べた。
訴状には、DoNotPayのサービス技術は連邦および州の法律、規制、司法判断に完全かつ最新ではなく、これらの法律が特定の事実にどのように適用されるかについてテストされていないと述べられている。さらに、DoNotPay のスタッフは、その法的関連機能によって生成された法的文書やアドバイスの品質と正確性をテストしていませんでした。さらに、DoNotPay は、サービスの品質と正確性を検証するために弁護士を雇用したり、関連する法的専門知識を持つ弁護士に相談したりすることはありません。
また訴状では、DoNotPayが消費者に対し、人間の弁護士を雇わずに自社のAIサービスを利用すれば著作権侵害を訴えることができると伝え、同サービスは消費者の電子メールアドレスのみに基づいて中小企業のウェブサイトの存在を確認できると主張している。同社は、サービスを利用することで企業の訴訟費用を最大12万5000ドル節約できると主張したが、FTCはサービスは効果がないと主張した。
和解の一環として、DoNotPayは19万3000ドルの違約金を支払うことに同意し、2021年から2023年にかけて同社の法的に関連する製品の限界を消費者に思い出させる警告を発する予定だ。さらに、DoNotPay は、証拠なしに自社のサービスが専門サービスの代替であると主張することはなくなります。
DoNotPayに対する罰金に加えて、FTCは人工知能サービスを利用して顧客を誤解させる他の多くの企業に対しても措置を講じた。これらには、AIライティングアシスタントサービス「Rytr」が含まれており、FTCはAIが生成した偽のレビューを作成するツールをユーザーに提供したと発表した。これに応じて、FTCは最近、すべての企業がAIによって生成されたレビューを含む偽レビューの作成または販売を禁止する最終規則を発表した。
最後に、FTCはまた、ユーザーがAmazonなどの電子商取引プラットフォームにオンラインストアを開設し、AIツールを通じて多額の月収を得ることができると約束して、同社が消費者から少なくとも2,500万ドルをだまし取ったとして、Ascend Ecomに対して訴訟も起こした。
ハイライト:
- DoNotPay は、ロボ弁護士サービスの有効性の証拠を提出しなかったことに対して 193,000 ドルの罰金を支払うことに同意した。
・FTCはAIを利用して消費者を欺く企業の監督を強化しており、Rytrなど他の企業も処罰されている。
- ? Ascend Ecom は、AI ツールを通じて高収入を約束して消費者に 2,500 万ドルをだまし取ったとして告発されています。
この事件はAI企業に対し、宣伝には慎重であること、製品の機能を誇張しないこと、製品の品質と信頼性を確保すること、虚偽の宣伝による法的リスクに直面することを避ける必要があることを警告している。 FTCの行動は、規制当局がAI産業の発展に細心の注意を払っており、監督強化が不可欠であることも示している。