Microsoft a récemment déposé une demande de brevet pour résoudre le problème de l'intelligence artificielle générant de fausses informations (hallucinations d'IA). La demande de brevet, appelée «entrant des connaissances externes et des commentaires pour interagir avec les modèles de langage», vise à améliorer la précision et la fiabilité des modèles d'IA via un mécanisme appelé «système d'augmentation de réponse» (RAS). Le système peut obtenir automatiquement plus d'informations à partir de sources externes, vérifier les réponses générées par l'IA et inviter les utilisateurs pour des lacunes potentielles, réduisant efficacement les fausses informations générées par l'IA. La divulgation de cette demande de brevet marque un pas en avant important dans la lutte de Microsoft contre la question des hallucinations de l'IA et reflète le besoin urgent de l'industrie de résoudre ce problème.
Récemment, Microsoft a déposé une demande de brevet visant à réduire ou à éliminer les fausses informations générées par l'intelligence artificielle grâce à une approche technique. Le brevet, intitulé "Utilisation de connaissances externes et de commentaires pour interagir avec les modèles de langues", a été soumise au U.S.Patent and Trademark Office (USPTO) l'année dernière et a été publié le 31 octobre. Au cœur de cette proposition est de fournir un «système d'amélioration des réponses» (RAS) pour les modèles d'IA, ce qui lui permet d'extraire automatiquement plus d'informations en fonction des requêtes utilisateur et de vérifier la «validité» de ses réponses.
Plus précisément, le système d'amélioration de la réponse peut déterminer s'il existe des informations provenant de "sources externes" qui peuvent mieux répondre aux questions des utilisateurs. Si la réponse de l'IA ne contient pas ces informations, le système le déterminera comme inefficace. De plus, RAS peut également inciter l'utilisateur à savoir s'il y a des lacunes dans leurs réponses, et les utilisateurs peuvent également fournir des commentaires à ce sujet. L'avantage de cette solution est que les développeurs ou les entreprises n'ont pas besoin de faire des ajustements détaillés aux modèles existants.
Actuellement, le site Web de l'USPTO n'a pas affiché le numéro de brevet de la demande, ce qui signifie que le brevet est toujours en cours d'examen. Nous avons contacté Microsoft pour plus d'informations, notamment si le brevet est lié à l'outil de sécurité du contenu Azure AI, un outil annoncé précédemment pour réduire les illusions de l'IA. Cet outil fournit une vérification axée sur l'IA pour les chatbots de l'IA d'entreprise, ce qui peut effectuer une vérification des faits en arrière-plan pour déterminer si les réponses de l'IA sont "non fondées" ou "fondées".
Le problème d'hallucination de l'IA est l'un des plus grands défis auxquels l'IA génératrice est confrontée, ce qui affecte sérieusement la crédibilité des chatbots d'IA. À cet égard, les systèmes d'IA de Google et de Twitter ont produit des erreurs remarquables, comme suggérant aux utilisateurs d'appliquer de la colle sur la pizza ou manger des pierres, et même répartir la désinformation électorale. Le PDG d'Apple, Tim Cook, a également admis que la technologie intelligente d'Apple ne pouvait pas éviter les hallucinations. Récemment, l'outil de transcription audio "Whisper" d'Openai s'est également révélé avoir des hallucinations fréquentes, qui ont attiré l'attention sur son utilisation dans les hôpitaux américains.
Malgré le problème de premier plan de l'IA, les géants de la technologie ont toujours une forte demande de centres de données sur l'IA, et des entreprises, dont Google, Microsoft et Meta, considérant l'énergie nucléaire comme une solution potentielle pour répondre aux besoins à haute énergie de l'IA.
Points clés:
Microsoft a déposé un nouveau brevet pour réduire les fausses informations générées par l'IA.
Le noyau de ce brevet est d'introduire un système d'amélioration de la réponse pour les modèles d'IA afin d'extraire automatiquement plus d'informations.
Malgré le grave problème d'hallucination de l'IA, la demande de centres de données d'IA des entreprises technologiques reste forte.
La divulgation de la demande de brevet de Microsoft indique que les sociétés technologiques continueront d'investir plus d'efforts pour traiter le problème des hallucinations de l'IA. À l'avenir, les systèmes d'IA plus fiables et dignes de confiance devraient apparaître, ce qui améliorera considérablement la valeur de l'application et l'expérience utilisateur de la technologie d'IA.