Récemment, l'éditeur de Downcodes a appris un incident inquiétant en matière de sécurité de l'IA : un agent d'IA nommé FungiFriend a donné de mauvais conseils de consommation sur le champignon hautement toxique Sarcosphaera coronaria, qui contient de fortes concentrations d'arsenic, dans un groupe de passionnés de champignons sur Facebook, et a même décrit un. diverses méthodes de cuisson en détail, ce qui a suscité de nombreuses inquiétudes du public quant à la sécurité des applications d’IA. Cet incident n’est pas un cas isolé. L’IA commet fréquemment des erreurs dans le domaine de la sécurité alimentaire, exposant ainsi les risques et les défis de son application.
Lorsqu'on lui a demandé comment cuisiner les champignons Sarcosphaera coronaria qui contiennent de fortes concentrations d'arsenic, FungiFriend a non seulement déclaré à tort que les champignons étaient comestibles, mais a également détaillé diverses méthodes de cuisson, notamment la friture, le ragoût, etc. En fait, ce champignon a provoqué des cas mortels.
Rick Claypool, directeur de recherche à l'organisation de sécurité des consommateurs Public Citizen, a souligné que l'utilisation de l'IA pour identifier automatiquement les champignons comestibles et vénéneux est une activité à haut risque et que les systèmes d'IA actuels ne sont pas encore capables d'accomplir cette tâche avec précision.
Il ne s'agit pas d'un cas isolé. Au cours de l'année écoulée, les applications d'IA ont souvent commis de graves erreurs dans le domaine de la sécurité alimentaire : - Une application d'IA recommandait de préparer des sandwichs contenant un anti-moustique, un système d'IA donnait des recettes contenant du chlore et même des conseils absurdes suggéraient de manger des pierres - Google AI également Il a affirmé que les chiens peuvent faire de l'exercice et a suggéré d'utiliser de la colle pour faire de la pizza, entre autres.
Malgré les erreurs fréquentes de l’IA, les entreprises américaines continuent de promouvoir rapidement la vulgarisation du service client IA. Derrière cette approche consistant à privilégier la rapidité à la qualité se reflète le problème selon lequel les entreprises accordent trop d'attention aux économies de coûts et ne prêtent pas suffisamment attention à la sécurité des utilisateurs. Les experts appellent à utiliser la technologie de l’IA avec prudence dans des domaines spécifiques, notamment ceux liés à la sécurité, afin de garantir l’exactitude et la fiabilité des informations.
La technologie de l’IA se développe rapidement, mais ses problèmes de sécurité et de fiabilité ne peuvent être ignorés. Cet incident nous rappelle une fois de plus que lorsque l’IA est utilisée dans des zones à haut risque, nous devons donner la priorité aux questions de sécurité, renforcer la supervision et améliorer la technologie pour éviter que des incidents similaires ne se reproduisent. L’éditeur de Downcodes appelle toutes les parties à travailler ensemble pour garantir que la technologie de l’IA puisse servir l’humanité de manière sûre et fiable.