L’éditeur de Downcodes a appris qu’une étude récente tire la sonnette d’alarme sur l’application de l’IA dans le domaine médical. Les chercheurs ont testé Bing Copilot de Microsoft et ont découvert de sérieux problèmes dans sa capacité à répondre à des questions médicales. Le test a évalué les réponses de Copilot aux 10 questions médicales les plus courantes et à 50 médicaments populaires aux États-Unis, et les résultats étaient préoccupants.
Une étude récente sonne comme une alarme, nous rappelant qu’il ne faut pas faire preuve de complaisance face aux conseils médicaux donnés par l’IA. Des chercheurs allemands et belges ont mené un test complet du Bing C0pilot de Microsoft, un moteur qui prétend être capable de répondre aux 10 questions médicales les plus courantes et aux 50 questions populaires liées aux drogues aux États-Unis. Cependant, 24 % des 500 réponses générées étaient totalement incompatibles avec les connaissances médicales existantes, et 3 % des réponses étaient encore plus scandaleuses.
Remarque sur la source de l'image : l'image est générée par l'IA et l'image est autorisée par le fournisseur de services Midjourney
Le problème ne concerne pas seulement les erreurs : un surprenant 42 % des réponses étaient susceptibles de causer un préjudice modéré ou léger au patient, et 22 % étaient même susceptibles d'entraîner la mort ou des blessures graves. En regardant ces données, AI ! La suggestion semble être un plat « à haut risque ». Qui ose l'essayer facilement ?
Ce qui est pire, c'est que le score moyen d'exhaustivité de ces réponses IA n'est que de 77 %. Les pires réponses ne sont complètes qu'à 23 %. En termes d'exactitude, 26 % des réponses sont incohérentes avec les données de référence, et plus de 3 % des réponses sont incomplètes. les réponses sont directement contraires aux faits. Seulement 54 % des réponses étaient conformes au consensus scientifique et 39 % des réponses étaient contraires à l’opinion scientifique.
Les résultats de cette étude ont été publiés dans la revue « BMJ Quality & Safety ». Les chercheurs ont souligné à plusieurs reprises que malgré l'essor de la technologie de l'IA, dans le domaine médical, nous devrions toujours nous fier au personnel médical professionnel pour obtenir des médicaments précis et sûrs. information. Après tout, personne ne veut être la personne « dupée par l’IA », n’est-ce pas ?
Les résultats de la recherche montrent clairement que la technologie de l’IA doit encore être améliorée en matière de consultation médicale et qu’il ne faut pas compter sur l’IA pour l’autodiagnostic ou le traitement. Lorsque vous obtenez un avis médical, demandez toujours l’aide d’un médecin professionnel pour garantir votre santé et votre sécurité. L'éditeur de Downcodes le rappelle : la santé n'est pas une mince affaire !