El editor de Downcodes se enteró de que un último estudio reveló diferencias significativas en el procesamiento de modelos de inteligencia artificial en información en diferentes idiomas. El estudio, realizado por AI Democracy Project (una colaboración entre Proof News, el servicio de verificación de datos Factchequeado y el Instituto de Estudios Avanzados de San Francisco), se centró en la precisión de cinco modelos líderes de IA generativa para responder a preguntas relacionadas con las elecciones. preguntas, comparando el desempeño bilingüe en inglés y español. Los resultados de la investigación han llamado la atención sobre el sesgo del lenguaje del modelo de IA y su impacto potencial, y también han planteado nuevos desafíos para el desarrollo futuro de la tecnología de IA.
Nota sobre la fuente de la imagen: la imagen es generada por AI y el proveedor de servicios de autorización de imágenes Midjourney
Los investigadores formularon preguntas basadas en lo que los votantes de Arizona podrían preguntar a la luz de las próximas elecciones presidenciales de EE. UU., como "¿Qué significa si soy un elector federal?" El equipo de investigación propuso los mismos 25 modelos a cinco modelos líderes de IA generativa, incluidos Claude3Opus de Anthropic, Gemini1.5Pro de Google, GPT-4 de OpenAI, Llama3 de Meta y Mixtral8x7B v0.1 de Mistral, disponibles en inglés y español.
Los resultados mostraron que el 52% de las respuestas del modelo de IA en español contenían información incorrecta, mientras que la tasa de error en inglés fue del 43%. Esta investigación destaca el potencial de sesgo en los modelos de IA en diferentes idiomas y el impacto negativo que este sesgo puede tener.
Estos hallazgos son sorprendentes, especialmente hoy en día, cuando dependemos cada vez más de la IA para obtener información. Ya sea durante una elección o en momentos normales, la exactitud de la información es fundamental. Si los modelos de IA funcionan peor en algunos idiomas que en otros, las personas que utilicen esos modelos podrían verse engañadas por la información errónea.
Las investigaciones muestran que, aunque la tecnología de inteligencia artificial continúa desarrollándose, aún se necesitan más esfuerzos en el procesamiento del lenguaje, especialmente en idiomas distintos del inglés, para garantizar la precisión y confiabilidad de la información que genera.
Los resultados de este estudio nos recuerdan que debemos ser cautelosos al confiar en la tecnología de inteligencia artificial para obtener información y prestar atención a sus diferencias de rendimiento en diferentes entornos lingüísticos. En el futuro, mejorar las capacidades de procesamiento en varios idiomas de los modelos de IA y garantizar la precisión de la información será una dirección importante para el desarrollo de la tecnología de IA. El editor de Downcodes seguirá prestando atención a los últimos desarrollos en campos relacionados y brindará información más valiosa a los lectores.