Der Herausgeber von Downcodes erfuhr, dass eine aktuelle Studie hinsichtlich der Anwendung von KI im medizinischen Bereich Alarm geschlagen hat. Forscher testeten Microsofts Bing Copilot und stellten schwerwiegende Probleme bei der Beantwortung medizinischer Fragen fest. Bei dem Test wurden die Antworten von Copilot auf die 10 häufigsten medizinischen Fragen und 50 beliebtesten Medikamente in den USA ausgewertet, und die Ergebnisse waren besorgniserregend.
Eine aktuelle Studie klingt alarmierend und erinnert uns daran, dass wir nicht selbstgefällig sein sollten, wenn es um medizinische Ratschläge durch KI geht. Forscher in Deutschland und Belgien haben einen umfassenden Test von Microsofts Bing C0pilot durchgeführt, einer Engine, die angeblich in der Lage ist, die zehn häufigsten medizinischen Fragen und die 50 beliebtesten drogenbezogenen Fragen in den USA zu beantworten. Allerdings standen 24 % der 500 generierten Antworten völlig im Widerspruch zum vorhandenen medizinischen Wissen, und 3 % der Antworten waren sogar noch empörender.
Hinweis zur Bildquelle: Das Bild wird von KI generiert und vom Dienstanbieter Midjourney autorisiert
Das Problem besteht nicht nur in Fehlern, überraschenderweise führten 42 % der Antworten wahrscheinlich zu mäßigen oder leichten Schäden beim Patienten, und ganze 22 % führten sogar wahrscheinlich zum Tod oder zu schweren Verletzungen. Wenn man sich diese Daten ansieht, AI Der Vorschlag scheint ein „risikoreiches“ Gericht zu sein. Wer wagt es, es einfach auszuprobieren?
Noch schlimmer ist, dass der durchschnittliche Vollständigkeitsgrad dieser KI-Antworten nur 77 % beträgt. In Bezug auf die Genauigkeit stimmen 26 % der Antworten nicht mit den Referenzdaten überein Antworten widersprechen direkt den Tatsachen. Nur 54 % der Antworten entsprachen dem wissenschaftlichen Konsens und 39 % der Antworten widersprachen der wissenschaftlichen Meinung.
Die Ergebnisse dieser Studie wurden in der Fachzeitschrift „BMJ Quality & Safety“ veröffentlicht. Die Forscher haben wiederholt betont, dass wir uns im medizinischen Bereich trotz des Aufstiegs der KI-Technologie weiterhin auf professionelles medizinisches Personal verlassen sollten, um genaue und sichere Medikamente zu erhalten Information. Schließlich möchte niemand die Person sein, die „von der KI getäuscht“ wird, oder?
Die Forschungsergebnisse zeigen deutlich, dass die KI-Technologie in der medizinischen Beratung noch weiter verbessert werden muss und KI nicht zur Selbstdiagnose oder -behandlung herangezogen werden sollte. Wenn Sie ärztlichen Rat einholen, wenden Sie sich immer an einen professionellen Arzt, um Ihre Gesundheit und Sicherheit zu gewährleisten. Der Herausgeber von Downcodes erinnert Sie daran: Gesundheit ist keine Kleinigkeit!