La actuación de la inteligencia artificial en el procesamiento del lenguaje siempre ha sido un tema candente en la investigación. Un estudio reciente reveló que los modelos de IA son significativamente menos precisos que el inglés cuando se trata de problemas electorales en español. Este descubrimiento ha atraído una atención generalizada al sesgo del lenguaje de IA.
Un nuevo estudio mostró recientemente que los modelos de IA son significativamente menos precisos que sus respuestas en inglés al responder preguntas en español relacionadas con las elecciones. La investigación fue realizada por el Proyecto AI Democracy, que fue realizada conjuntamente por Pruebs News, el servicio de verificación de datos FactCheQueado y el Instituto de Estudios Avanzados de San Francisco.
Notas de fuente de imagen: La imagen es generada por AI y el proveedor de servicios autorizado de imagen MidJourney
Los investigadores han hecho preguntas sobre las próximas elecciones presidenciales de EE. UU. Que los votantes de Arizona podrían hacer, como "¿Qué significa si fuera un votante federal?" 25 modelos para cinco modelos de IA generativos líderes, incluidos los Claude3opus de Anthrope, Gemini1.5Pro de Google, GPT-4 de OpenAi, Meta's Llama3 y MIXTRAL8X7B V0.1 de Mistral.
Los resultados muestran que el 52% del modelo AI contenía mensajes de error en español, mientras que la tasa de error en inglés fue del 43%. Este estudio destaca las posibles desviaciones de los modelos de IA en todos los idiomas y los posibles efectos negativos de tales desviaciones.
Tales descubrimientos son sorprendentes, especialmente hoy cuando confiamos cada vez más en la IA para obtener información. La precisión de la información es crucial, tanto durante las elecciones como durante los tiempos normales. Si los modelos AI no funcionan tan bien en algunos idiomas como en otros, los que los usan pueden ser engañados por la información incorrecta.
La investigación muestra que aunque la tecnología de IA se está desarrollando constantemente, se deben hacer esfuerzos en el procesamiento del lenguaje, especialmente en el procesamiento del lenguaje no inglés, para garantizar la precisión y confiabilidad de la información que genera.
Puntos clave:
El modelo de IA tiene poca precisión al responder preguntas electorales en español, con el 52% de las respuestas que están mal.
El estudio simuló las preguntas que los votantes podrían hacer, comparando respuestas en inglés y español.
Se descubrió que había un sesgo de lenguaje en el modelo AI, lo que podría hacer que el usuario obtuviera mensajes de error.
Esta investigación nos recuerda que el desarrollo de la tecnología de IA debe prestar más atención a la diversidad del lenguaje para garantizar su precisión y equidad en diferentes entornos de idiomas.