Microsoft hat kürzlich eine Patentanwendung eingereicht, um das Problem der künstlichen Intelligenz zu lösen, die falsche Informationen (AI -Halluzinationen) generiert. Die Patentanwendung, die als "Eingabe von externen Kenntnissen und Feedback zur Interaktion mit Sprachmodellen" bezeichnet wird, zielt darauf ab, die Genauigkeit und Zuverlässigkeit von KI -Modellen durch einen Mechanismus zu verbessern, der als "Antwort Augmentation System" (RAS) bezeichnet wird. Das System kann automatisch weitere Informationen aus externen Quellen erhalten, die von der KI generierten Antworten überprüfen und Benutzer auf potenzielle Mängel auffordern, um falsche Informationen zu verringern, die von AI generiert werden. Die Offenlegung dieser Patentanmeldung ist ein wichtiger Schritt vorwärts in Microsofts Kampf gegen das Thema AI -Halluzinationen und spiegelt die dringende Notwendigkeit der Branche wider, dieses Problem zu lösen.
Kürzlich hat Microsoft eine Patentanwendung eingereicht, die darauf abzielt, falsche Informationen zu reduzieren oder zu beseitigen, die durch künstliche Intelligenz durch einen technischen Ansatz generiert wurden. Das Patent mit dem Titel "Verwendung externer Kenntnisse und Feedback zur Interaktion mit Sprachmodellen" wurde letztes Jahr beim US -amerikanischen Patent- und Markenbüro (USPTO) vorgelegt und am 31. Oktober veröffentlicht. Im Zentrum dieses Vorschlags ist es, AI -Modelle ein „Antwortverbesserungssystem“ (RAS) bereitzustellen, sodass es automatisch weitere Informationen basierend auf Benutzeranfragen extrahiert und die „Gültigkeit“ seiner Antworten überprüfen kann.
Insbesondere kann das System zur Verbesserung der Antwort feststellen, ob Informationen aus "externen Quellen" vorhanden sind, die die Fragen der Benutzer besser beantworten können. Wenn die Antwort der KI diese Informationen nicht enthält, bestimmt das System sie als unwirksam. Darüber hinaus kann RAS den Benutzer auch auffordern, ob seine Antworten Mängel enthalten, und Benutzer können auch Feedback dazu geben. Der Vorteil dieser Lösung besteht darin, dass Entwickler oder Unternehmen keine detaillierten Anpassungen an vorhandenen Modellen vornehmen müssen.
Derzeit hat die USPTO -Website die Patentnummer für den Antrag nicht gezeigt, was bedeutet, dass das Patent noch überprüft wird. Wir haben Microsoft kontaktiert, um weitere Informationen zu erhalten, einschließlich der Frage, ob das Patent mit dem Azure AI Content Security Tool zusammenhängt, einem zuvor angekündigten Tool zur Reduzierung von KI -Illusionen. Dieses Tool bietet eine AI-gesteuerte Überprüfung für Unternehmens-AI-Chatbots, die im Hintergrund eine Überprüfung der Fakten durchführen können, um festzustellen, ob die Antworten von KI "unbegründet" oder "gegründet" sind, bevor sie Antworten an Benutzer liefern, nur die tatsächliche Datenunterstützung bereitstellen.
Das KI -Halluzinationsproblem ist eine der größten Herausforderungen für die generative KI, die die Glaubwürdigkeit von KI -Chatbots ernsthaft beeinflusst. In dieser Hinsicht haben sowohl die KI -Systeme von Google als auch von Twitter bemerkenswerte Fehler hervorgebracht, z. Apple -CEO Tim Cook gab auch zu, dass die intelligente Technologie von Apple Halluzinationen nicht vermeiden kann. In jüngster Zeit hat sich auch das "Whisper" -Transkriptionsinstrument von OpenAI häufige Halluzinationen befindet, die die Aufmerksamkeit für die Verwendung in amerikanischen Krankenhäusern auf sich gezogen haben.
Trotz des prominenten KI-Illusionsproblems haben Tech-Giganten nach wie vor eine starke Nachfrage nach KI-Rechenzentren, und Unternehmen wie Google, Microsoft und Meta betrachten die Kernenergie als potenzielle Lösung, um die energiestarken Bedürfnisse von AI zu decken.
Schlüsselpunkte:
Microsoft hat ein neues Patent eingereicht, um falsche Informationen zu reduzieren, die von AI generiert wurden.
Der Kern dieses Patents besteht darin, ein System zur Verbesserung der Antwort für KI -Modelle einzuführen, um automatisch weitere Informationen zu extrahieren.
Trotz des schwerwiegenden KI -Halluzinationsproblems bleibt die Nachfrage nach KI -Rechenzentren von Technologieunternehmen stark.
Die Offenlegung der Patentanwendung von Microsoft zeigt, dass Technologieunternehmen weiterhin mehr Anstrengungen in das Problem der AI -Halluzinationen investieren werden. In Zukunft werden zuverlässigere und vertrauenswürdigere KI -Systeme erwartet, die den Anwendungswert und die Benutzererfahrung der KI -Technologie erheblich verbessern.