DoNotPay a été condamné à une amende de 193 000 $ par la Federal Trade Commission (FTC) des États-Unis pour avoir exagéré ses services de « robot-avocat ». La FTC estime que DoNotPay a induit les consommateurs en erreur en prétendant que son service d'IA pourrait remplacer les avocats humains sans tests suffisants. Cette sanction fait partie de l’« AI Compliance Action » de la FTC, qui vise à lutter contre l’utilisation de l’intelligence artificielle pour tromper les consommateurs. L'éditeur de Downcodes interprétera cet incident en détail et analysera son impact sur l'industrie de l'IA.
Récemment, la société de « robots-avocats » DoNotPay a conclu un accord avec la Federal Trade Commission (FTC) des États-Unis, acceptant de payer une amende de 193 000 $. Cette action fait partie de l’« AI Compliance Action » de la FTC ciblant les entreprises qui utilisent des services d’intelligence artificielle pour tromper les consommateurs.
Remarque sur la source de l'image : l'image est générée par l'IA et l'image est autorisée par le fournisseur de services Midjourney
La FTC a souligné dans la déclaration que DoNotPay prétend remplacer l'industrie juridique de 200 milliards de dollars par l'intelligence artificielle, et affirme même que ses « avocats robots » peuvent générer des documents juridiques et remplacer complètement les connaissances professionnelles des avocats humains. Cependant, la FTC a déclaré que DoNotPay avait fait ces affirmations sans aucun test pour les étayer.
La plainte indique que la technologie de service de DoNotPay n’a pas été entièrement et à jour avec les lois, réglementations et décisions judiciaires fédérales et étatiques, et n’a pas été testée sur la façon dont ces lois s’appliquent à des faits spécifiques. De plus, le personnel de DoNotPay n’a pas testé la qualité et l’exactitude des documents juridiques et des conseils générés par ses fonctionnalités juridiques. De plus, DoNotPay n'emploie pas d'avocats et ne consulte pas d'avocats possédant une expertise juridique pertinente pour vérifier la qualité et l'exactitude de ses services.
La plainte allègue également que DoNotPay a déclaré aux consommateurs qu'il pouvait utiliser son service d'IA pour intenter des poursuites pour violation du droit d'auteur sans embaucher d'avocats humains et a déclaré que le service pouvait vérifier l'existence de sites Web de petites entreprises sur la seule base des adresses e-mail des consommateurs. La société a affirmé que l'utilisation de son service pourrait permettre aux entreprises d'économiser jusqu'à 125 000 dollars en frais juridiques, mais la FTC a déclaré que le service était inefficace.
Dans le cadre du règlement, DoNotPay a accepté de payer une pénalité de 193 000 $ et émettra des avertissements aux consommateurs entre 2021 et 2023 pour leur rappeler les limites des produits juridiquement pertinents de l'entreprise. De plus, DoNotPay ne prétendra plus que ses services remplacent des services professionnels sans preuve.
Outre l'amende imposée à DoNotPay, la FTC a également pris des mesures contre un certain nombre d'autres entreprises qui utilisent des services d'intelligence artificielle pour induire leurs clients en erreur. Il s'agit notamment du service d'assistance à la rédaction d'IA Rytr, qui, selon la FTC, fournit aux utilisateurs des outils pour créer de fausses critiques générées par l'IA. En réponse, la FTC a récemment annoncé une règle définitive interdisant à toutes les entreprises de créer ou de vendre de faux avis, y compris les avis générés par l'IA.
Enfin, la FTC a également intenté une action en justice contre Ascend Ecom, accusant l'entreprise d'avoir fraudé les consommateurs d'au moins 25 millions de dollars en promettant que les utilisateurs pourraient ouvrir des boutiques en ligne sur des plateformes de commerce électronique telles qu'Amazon et gagner un revenu mensuel substantiel grâce à ses outils d'IA.
Souligner:
- DoNotPay a accepté de payer une amende de 193 000 $ pour avoir omis de fournir la preuve de l'efficacité de ses services de robot-avocat.
- La FTC renforce la surveillance des entreprises qui utilisent l'IA pour frauder les consommateurs, et d'autres entreprises comme Rytr ont également été sanctionnées.
- ? Ascend Ecom est accusé d'avoir fraudé les consommateurs de 25 millions de dollars, en promettant des revenus élevés grâce aux outils d'IA.
Cet incident avertit les entreprises d'IA qu'elles doivent être prudentes en matière de publicité, ne pas exagérer les fonctions des produits, garantir la qualité et la fiabilité des produits et éviter de s'exposer à des risques juridiques dus à une fausse publicité. Les actions de la FTC montrent également que les agences de régulation accordent une attention particulière au développement de l'industrie de l'IA et qu'il est impératif de renforcer la surveillance.