In den letzten Jahren hat sich die Technologie der künstlichen Intelligenz rasant weiterentwickelt, bringt aber auch neue Herausforderungen mit sich – das Phänomen der KI-„Halluzinationen“ rückt immer stärker in den Vordergrund. Fälle, in denen KI-Systeme fehlerhafte Informationen produzieren, Daten fabrizieren und sogar gefährliche Vorschläge machen, kommen häufig vor und beeinträchtigen den Ruf und die Interessen von Unternehmen erheblich. Der Herausgeber von Downcodes stellt Ihnen ein Start-up-Unternehmen und seine innovativen Produkte vor, die sich der Lösung dieses Problems widmen.
Heutzutage, mit der rasanten Entwicklung der künstlichen Intelligenz, kommt es immer häufiger zu KI-„Halluzinationen“, die vielen Unternehmen erhebliche Probleme bereiten. Kundendienst-Chatbots beschreiben selbstbewusst nicht existierende Produkte, Finanz-KI fabriziert Marktdaten und medizinische Bots bieten gefährliche medizinische Ratschläge. Bei diesen Problemen handelt es sich nicht mehr nur um bloße Anekdoten, sondern um ernsthafte versteckte Gefahren, die sich negativ auf den Ruf und die Rentabilität des Unternehmens auswirken.
Um dieser Herausforderung zu begegnen, kündigte das in San Francisco ansässige Startup Patronus AI die Einführung der weltweit ersten Self-Service-Plattform an, die darauf ausgelegt ist, Ausfälle von KI-Systemen in Echtzeit zu erkennen und zu verhindern. Die Plattform fungiert wie eine „Rechtschreibprüfung“ für KI-Systeme und erkennt Probleme, bevor sie auftreten.
Anand Kannappan, CEO von Patronus AI, sagte in einem Interview, dass viele Unternehmen in Produktionsumgebungen mit KI-Ausfällen konfrontiert sind, zu denen Halluzinationen, Sicherheitslücken und unvorhersehbares Verhalten gehören. Den Untersuchungen des Unternehmens zufolge besteht bei führenden KI-Modellen wie GPT-4 eine Wahrscheinlichkeit von 44 %, dass sie urheberrechtlich geschützte Inhalte duplizieren, wenn sie dazu aufgefordert werden, und selbst fortschrittliche Modelle haben bei grundlegenden Sicherheitstests eine Wahrscheinlichkeit von mehr als 20 %, unsichere Inhalte zu generieren.
Um Unternehmen dabei zu helfen, die Sicherheit ihrer KI-Systeme zu verbessern, bietet Patronus AI eine Reihe innovativer Funktionen. Unter ihnen ermöglicht die wichtigste „Evaluator“-Funktion Unternehmen, individuelle Bewertungsregeln in einfachem Englisch zu verfassen. Diese Flexibilität ermöglicht es Unternehmen aller Branchen, sich an ihre Bedürfnisse anzupassen, von Finanzdienstleistungsunternehmen, die sich auf Compliance konzentrieren, bis hin zu Gesundheitsorganisationen, die sich auf die Privatsphäre der Patienten und medizinische Genauigkeit konzentrieren.
Das Herzstück der Plattform ist ein bahnbrechendes Halluzinationserkennungsmodell namens Lynx, das bei der Erkennung medizinischer Ungenauigkeiten 8,3 % genauer als GPT-4 ist. Darüber hinaus verfügt die Plattform über zwei Betriebsmodi: einen für die Echtzeitüberwachung und einen für die detaillierte Analyse. Zusätzlich zur herkömmlichen Fehlerprüfung hat das Unternehmen auch spezielle Tools wie CopyrightCatcher (Tool zur Erkennung von Urheberrechten) und FinanceBench (Benchmark zur Bewertung der Finanzleistung) entwickelt, um Unternehmen einen umfassenden KI-Fehlerschutz zu bieten.
Um diese Sicherheitstools für mehr Unternehmen erschwinglich zu machen, führt Patronus AI ein „Pay-as-you-go“-Preismodell ein, das bei 10 US-Dollar pro 1.000 API-Aufrufe beginnt. Zu den ersten Anwendern zählen bereits große Unternehmen wie HP, AngelList und Pearson, was zeigt, wie wichtig ihnen Investitionen in die KI-Sicherheit sind.
Angesichts der rasanten Entwicklung der KI können Tools wie die Plattform von Patronus AI Unternehmen heute nicht nur dabei helfen, Risiken zu reduzieren, sondern auch bei der Einhaltung künftiger Gesetze und Vorschriften helfen. Da sich KI-Systeme ständig weiterentwickeln, wird es für Unternehmen eine große Herausforderung sein, diese „Illusionen“ genau zu erfassen und zu korrigieren.
Produkteingang: https://www.patronus.ai/
Das Aufkommen von Patronus AI bietet eine neue Denkweise zur Lösung des Problems der KI-Illusion. Seine Self-Service-Plattform und seine innovativen Funktionen verdienen Aufmerksamkeit. Mit der Weiterentwicklung der KI-Technologie werden ähnliche KI-Sicherheitstools eine immer wichtigere Rolle spielen und Unternehmen dabei helfen, KI-Technologie besser zu nutzen und gleichzeitig Risiken effektiv zu kontrollieren.