Microsoft recientemente presentó una solicitud de patente para resolver el problema de la inteligencia artificial que genera información falsa (alucinaciones de IA). La aplicación de patente, llamada "Ingreso de conocimiento externo y retroalimentación para interactuar con los modelos de idiomas", tiene como objetivo mejorar la precisión y confiabilidad de los modelos de IA a través de un mecanismo llamado "Sistema de aumento de respuesta" (RAS). El sistema puede obtener automáticamente más información de fuentes externas, verificar las respuestas generadas por la IA y pedir a los usuarios posibles deficiencias, reduciendo efectivamente la información falsa generada por la IA. La divulgación de esta solicitud de patente marca un importante paso adelante en la lucha de Microsoft contra el tema de las alucinaciones de IA y refleja la necesidad urgente de la industria de resolver este problema.
Recientemente, Microsoft presentó una solicitud de patente destinada a reducir o eliminar la información falsa generada por la inteligencia artificial a través de un enfoque técnico. La patente, titulada "Usar conocimiento externo y comentarios para interactuar con los modelos de idiomas", se presentó a la Oficina de Patentes y Marcas de EE. UU. (USPTO) el año pasado y se publicó el 31 de octubre. En el corazón de esta propuesta, debe proporcionar un "Sistema de mejora de la respuesta" (RAS) para los modelos de IA, lo que le permite extraer automáticamente más información en función de las consultas de los usuarios y verificar la "validez" de sus respuestas.
Específicamente, el sistema de mejora de la respuesta puede identificar si hay información de "fuentes externas" que pueden responder mejor a las preguntas de los usuarios. Si la respuesta de la IA no contiene esta información, el sistema lo determinará como ineficaz. Además, RAS también puede solicitar al usuario si hay alguna deficiencia en sus respuestas, y los usuarios también pueden proporcionar comentarios sobre esto. La ventaja de esta solución es que los desarrolladores o empresas no necesitan hacer ajustes detallados a los modelos existentes.
Actualmente, el sitio web de la USPTO no ha mostrado el número de patente para la solicitud, lo que significa que la patente aún está bajo revisión. Nos pusimos en contacto con Microsoft para obtener más información, incluido si la patente está relacionada con la herramienta de seguridad de contenido Azure AI, una herramienta anunciada previamente para reducir las ilusiones de IA. Esta herramienta proporciona una verificación de IA para Chatbots de AI Enterprise, que puede realizar una verificación de hechos en segundo plano para determinar si las respuestas de AI son "infundadas" o "fundadas".
El problema de la alucinación de IA es uno de los mayores desafíos que enfrenta la IA generativa, lo que afecta seriamente la credibilidad de los chatbots de IA. En este sentido, los sistemas de IA de Google y Twitter han producido errores notables, como sugerir a los usuarios que apliquen pegamento en pizza o comer piedras, e incluso difundir la desinformación electoral. El CEO de Apple, Tim Cook, también admitió que la tecnología inteligente de Apple no puede evitar las alucinaciones. Recientemente, también se ha descubierto que la herramienta de transcripción de audio "Whisper" de OpenAI tiene alucinaciones frecuentes, lo que ha atraído la atención sobre su uso en los hospitales estadounidenses.
A pesar del prominente problema de ilusión de IA, los gigantes tecnológicos aún tienen una fuerte demanda de centros de datos de IA, y las compañías como Google, Microsoft y Meta están considerando la energía nuclear como una solución potencial para satisfacer las necesidades de alta energía de la IA.
Puntos clave:
Microsoft ha presentado una nueva patente para reducir la información falsa generada por AI.
El núcleo de esta patente es introducir un sistema de mejora de respuesta para los modelos de IA para extraer automáticamente más información.
A pesar del grave problema de alucinación de IA, la demanda de centros de datos de IA de compañías tecnológicas sigue siendo fuerte.
La divulgación de la aplicación de patentes de Microsoft indica que las compañías de tecnología continuarán invirtiendo más esfuerzos para tratar el problema de las alucinaciones de IA. En el futuro, se espera que aparezcan sistemas de IA más confiables y confiables, lo que mejorará en gran medida el valor de la aplicación y la experiencia del usuario de la tecnología de IA.