L'éditeur de Downcodes a appris que Microsoft a récemment déposé une demande de brevet visant à résoudre le problème des fausses informations générées par l'intelligence artificielle. La demande de brevet, intitulée « Utiliser des connaissances et des commentaires externes pour interagir avec des modèles linguistiques », a été soumise l'année dernière à l'Office américain des brevets et des marques (USPTO) et a été rendue publique le 31 octobre. Le brevet propose un « système d'augmentation de réponse » (RAS), qui vise à améliorer la précision et la fiabilité des réponses du modèle d'IA et à réduire l'apparition d'« hallucinations » d'IA. Cette technologie ne nécessite pas d'ajustements complexes aux modèles existants et améliore efficacement la qualité des réponses de l'IA en combinant des sources d'informations externes et les commentaires des utilisateurs, réduisant ainsi la génération de fausses informations.
Récemment, Microsoft a déposé une demande de brevet visant à réduire ou éliminer les fausses informations générées par l'intelligence artificielle grâce à une méthode technique. Le brevet, intitulé « Interagir avec des modèles linguistiques à l'aide de connaissances et de commentaires externes », a été soumis l'année dernière à l'Office américain des brevets et des marques (USPTO) et a été rendu public le 31 octobre.
Le cœur de cette proposition est de fournir aux modèles d'IA un « système d'augmentation de réponse » (RAS) capable d'extraire automatiquement plus d'informations en fonction des requêtes des utilisateurs et de vérifier la « validité » de leurs réponses.
Plus précisément, le système d'amélioration des réponses est capable d'identifier si les informations provenant d'une « source extérieure » pourraient mieux répondre à la question de l'utilisateur. Si la réponse de l’IA n’inclut pas cette information, le système la jugera pas assez utile. En outre, RAS peut également avertir les utilisateurs en cas de lacunes dans leurs réponses, et les utilisateurs peuvent également fournir des commentaires à ce sujet. L’avantage de cette approche est qu’elle n’oblige pas les développeurs ou les entreprises à apporter des ajustements détaillés aux modèles existants.
Actuellement, le site Web de l'USPTO n'affiche pas encore de numéro de brevet pour la demande, ce qui signifie que le brevet est toujours en cours d'examen. Nous avons contacté Microsoft pour en savoir plus, notamment si le brevet est lié à l'outil annoncé précédemment par Microsoft pour réduire les illusions de l'IA : l'outil Azure AI Content Security. Cet outil fournit une vérification basée sur l'IA pour les chatbots IA d'entreprise. Il peut vérifier les faits en arrière-plan pour déterminer si les réponses de l'IA sont « non fondées » ou « fondées » et fournir uniquement des réponses étayées par des données réelles avant de fournir des réponses aux utilisateurs. répondre.
Le problème de l’illusion de l’IA est l’un des plus grands défis auxquels est confrontée l’IA générative, ce qui affecte sérieusement la crédibilité des chatbots IA. À cet égard, les systèmes d’IA de Google et de Twitter ont commis des erreurs très médiatisées, comme suggérer aux utilisateurs de mettre de la colle sur une pizza ou de manger des pierres, et même de diffuser de la désinformation électorale. Le PDG d’Apple, Tim Cook, a également admis que la technologie intelligente d’Apple était également incapable d’éviter le problème des hallucinations. Récemment, il a été constaté que l’outil de transcription audio « Whisper » d’OpenAI provoque fréquemment des hallucinations, attirant l’attention sur son utilisation dans les hôpitaux américains.
Malgré le problème majeur des hallucinations de l’IA, les géants de la technologie ont toujours une forte demande pour les centres de données d’IA, et des entreprises comme Google, Microsoft et Meta envisagent l’énergie nucléaire comme une solution potentielle pour répondre aux besoins de consommation énergétique élevés de l’IA.
La décision de Microsoft vise à améliorer la fiabilité des modèles d'IA et à réduire la propagation de fausses informations, ce qui revêt une grande importance pour le développement et l'application de la technologie de l'IA. À l’avenir, nous espérons que ce brevet passera avec succès l’examen et sera enfin utilisé dans des produits réels pour offrir aux utilisateurs une expérience d’IA plus sûre et plus fiable.