El editor de Downcodes conoció que Microsoft presentó recientemente una solicitud de patente destinada a resolver el problema de la información falsa generada por la inteligencia artificial. La solicitud de patente, titulada "Uso de conocimientos y comentarios externos para interactuar con modelos lingüísticos", se presentó a la Oficina de Patentes y Marcas de los Estados Unidos (USPTO) el año pasado y se hizo pública el 31 de octubre. La patente propone un "Sistema de aumento de respuesta" (RAS), cuyo objetivo es mejorar la precisión y confiabilidad de las respuestas del modelo de IA y reducir la aparición de "alucinaciones" de IA. Esta tecnología no requiere ajustes complejos a los modelos existentes y mejora efectivamente la calidad de las respuestas de la IA al combinar fuentes de información externas y comentarios de los usuarios, reduciendo así la generación de información falsa.
Recientemente, Microsoft presentó una solicitud de patente destinada a reducir o eliminar la información falsa generada por la inteligencia artificial mediante un método técnico. La patente, titulada "Interactuar con modelos lingüísticos utilizando conocimientos y comentarios externos", se presentó a la Oficina de Patentes y Marcas de los Estados Unidos (USPTO) el año pasado y se hizo pública el 31 de octubre.
El núcleo de esta propuesta es proporcionar a los modelos de IA un "sistema de aumento de respuesta" (RAS) que pueda extraer automáticamente más información en función de las consultas de los usuarios y comprobar la "validez" de sus respuestas.
Específicamente, el sistema de mejora de respuestas es capaz de identificar si la información de una "fuente externa" podría responder mejor a la pregunta del usuario. Si la respuesta de la IA no incluye esta información, el sistema la considerará no lo suficientemente útil. Además, RAS también puede avisar a los usuarios si hay deficiencias en sus respuestas, y los usuarios también pueden proporcionar comentarios al respecto. La ventaja de este enfoque es que no requiere que los desarrolladores ni las empresas realicen ajustes detallados en los modelos existentes.
Actualmente, el sitio web de la USPTO aún no muestra un número de patente para la solicitud, lo que significa que la patente aún está bajo revisión. Nos comunicamos con Microsoft para obtener más información, incluido si la patente está relacionada con la herramienta previamente anunciada por Microsoft para reducir las ilusiones de la IA: la herramienta de seguridad de contenido de IA de Azure. Esta herramienta proporciona verificación impulsada por IA para chatbots empresariales de IA. Puede verificar los hechos en segundo plano para determinar si las respuestas de la IA son "infundadas" o "fundamentadas" y solo proporciona respuestas respaldadas por datos reales antes de proporcionar respuestas a los usuarios. respuesta.
El problema de la ilusión de la IA es uno de los mayores desafíos que enfrenta la IA generativa, lo que afecta seriamente la credibilidad de los chatbots de IA. En este sentido, los sistemas de inteligencia artificial de Google y Twitter han cometido errores de alto perfil, como sugerir que los usuarios pongan pegamento en la pizza o coman piedras, e incluso difundan desinformación electoral. El director ejecutivo de Apple, Tim Cook, también admitió que la tecnología inteligente de Apple tampoco puede evitar el problema de las alucinaciones. Recientemente, también se descubrió que la herramienta de transcripción de audio “Whisper” de OpenAI experimenta alucinaciones con frecuencia, lo que llama la atención sobre su uso en hospitales de EE. UU.
A pesar del importante problema de las alucinaciones de la IA, los gigantes tecnológicos todavía tienen una fuerte demanda de centros de datos de IA, y empresas como Google, Microsoft y Meta están considerando la energía nuclear como una posible solución para satisfacer las necesidades de alto consumo de energía de la IA.
La medida de Microsoft tiene como objetivo mejorar la confiabilidad de los modelos de IA y reducir la difusión de información falsa, lo cual es de gran importancia para el desarrollo y la aplicación de la tecnología de IA. En el futuro, esperamos que esta patente pase con éxito la revisión y finalmente se utilice en productos reales para brindar a los usuarios una experiencia de IA más segura y confiable.