Kürzlich erfuhr der Herausgeber von Downcodes von einem besorgniserregenden KI-Sicherheitsvorfall: Ein KI-Agent namens FungiFriend gab in einer Facebook-Pilz-Enthusiastengruppe falsche Verzehrempfehlungen zum hochgiftigen Pilz Sarcosphaera coronaria, der hohe Konzentrationen an Arsen enthält Verschiedene Kochmethoden im Detail, was in der Öffentlichkeit weit verbreitete Bedenken hinsichtlich der Sicherheit von KI-Anwendungen auslöste. Dieser Vorfall ist kein Einzelfall. KI macht im Bereich der Lebensmittelsicherheit häufig Fehler und zeigt die Risiken und Herausforderungen der KI-Anwendung auf.
Auf die Frage, wie man Sarcosphaera-Coronaria-Pilze kocht, die hohe Arsenkonzentrationen enthalten, gab FungiFriend nicht nur fälschlicherweise an, dass die Pilze essbar seien, sondern erläuterte auch verschiedene Kochmethoden, darunter Braten, Dünsten und mehr. Tatsächlich hat dieser Pilz zu tödlichen Fällen geführt.
Rick Claypool, Forschungsdirektor bei der Verbraucherschutzorganisation Public Citizen, wies darauf hin, dass der Einsatz von KI zur automatischen Identifizierung von essbaren und giftigen Pilzen eine hochriskante Tätigkeit sei und aktuelle KI-Systeme diese Aufgabe noch nicht genau erfüllen könnten.
Dies ist kein Einzelfall. Im vergangenen Jahr haben KI-Anwendungen häufig schwerwiegende Fehler im Bereich der Lebensmittelsicherheit begangen: - Eine KI-Anwendung empfahl die Herstellung von Sandwiches mit Mückenschutzmittel, ein KI-System gab Rezepte mit Chlor an und sogar absurde Anleitungen schlugen vor, Steine zu essen - Google AI auch He hat behauptet, dass Hunde Sport treiben können, und vorgeschlagen, unter anderem Kleber zur Herstellung von Pizza zu verwenden.
Trotz häufiger KI-Fehler treiben amerikanische Unternehmen die Popularisierung des KI-Kundenservices immer noch voran. Hinter diesem Ansatz, Geschwindigkeit über Qualität zu stellen, spiegelt sich das Problem wider, dass Unternehmen zu viel Wert auf Kosteneinsparungen legen und der Benutzersicherheit nicht genügend Aufmerksamkeit schenken. Experten fordern einen vorsichtigen Einsatz der KI-Technologie in bestimmten Bereichen, insbesondere im Sicherheitsbereich, um die Genauigkeit und Zuverlässigkeit der Informationen zu gewährleisten.
Die KI-Technologie entwickelt sich rasant weiter, ihre Sicherheits- und Zuverlässigkeitsprobleme können jedoch nicht ignoriert werden. Dieser Vorfall erinnert uns einmal mehr daran, dass wir beim Einsatz von KI in Hochrisikogebieten Sicherheitsfragen Vorrang einräumen, die Aufsicht verstärken und die Technologie verbessern müssen, um zu verhindern, dass sich ähnliche Vorfälle wiederholen. Der Herausgeber von Downcodes fordert alle Beteiligten auf, gemeinsam dafür zu sorgen, dass die KI-Technologie der Menschheit sicher und zuverlässig dienen kann.