Un reciente informe de investigación publicado por Google advierte que la inteligencia artificial generativa (GenAI) está contaminando Internet con contenidos falsos. El informe señala que hay infinitos casos de abuso de GenAI, desde la manipulación de retratos hasta la fabricación de pruebas, principalmente con el fin de influir en la opinión pública, el fraude o el lucro. El propio Google también se ha convertido en un creador de desinformación debido a sus productos de IA que han dado sugerencias ridículas, lo que hace que sus advertencias sean aún más alarmantes y lleva a la gente a pensar profundamente sobre los riesgos potenciales de GenAI.
Recientemente, investigadores de Google advirtieron que la inteligencia artificial generativa (GenAI) está arruinando Internet con contenido falso. Este no es sólo una advertencia, sino también un momento de autorreflexión.
Irónicamente, Google desempeña un doble papel en esta “guerra entre la verdad y la falsedad”. Por un lado, es un importante promotor de la IA generativa y, por otro, también es un productor de desinformación. La función de descripción general de la IA de Google tenía sugerencias ridículas como "poner pegamento en la pizza" y "comer piedras", y estos mensajes erróneos finalmente tuvieron que eliminarse manualmente.
El equipo de investigación de Google llevó a cabo una investigación en profundidad de 200 informes de noticias sobre el abuso de la IA generativa y descubrió que la manipulación de retratos humanos y la fabricación de pruebas eran los métodos de abuso más comunes. El objetivo de estas acciones no es más que influir en la opinión pública, defraudar o obtener beneficios. Aunque los riesgos de la IA generativa aún no han alcanzado el nivel de "amenaza existencial", son lo que está sucediendo ahora y pueden empeorar en el futuro.
Los investigadores descubrieron que la mayoría de los casos de abuso de GenAI se debían al uso normal del sistema y no implicaban un comportamiento de "jailbreaking". Este tipo de "operaciones rutinarias" representa el 90%. La amplia disponibilidad, accesibilidad e hiperrealismo de GenAI permiten infinitas formas de abuso de nivel inferior. ¡El costo de generar información falsa es demasiado bajo!
El material de investigación de Google proviene en gran medida de informes de los medios. ¿Significa esto que los medios de comunicación están sesgados por las conclusiones de las investigaciones? 404Media señala que hay muchos abusos no denunciados de la IA generativa de los que aún no somos conscientes.
Las “vallas” de las herramientas de IA se pueden sortear inteligentemente con algunos consejos. Por ejemplo, la herramienta de clonación de voz mediante IA de ElevenLabs puede imitar las voces de colegas o celebridades con un alto grado de fidelidad. Los usuarios de Civitai pueden crear imágenes de celebridades generadas por IA, y aunque la plataforma tiene una política contra NCII (imágenes íntimas sin consentimiento), no hay nada que impida a los usuarios utilizar herramientas de código abierto para generar NCII en sus propias máquinas.
Cuando se difunda información falsa, el caos en Internet pondrá a prueba la capacidad de las personas para distinguir entre la verdad y la falsedad. Estaremos atrapados en un estado constante de duda: "¿Es esto real?" Si no se aborda, la contaminación de los datos públicos por contenido generado por IA también puede impedir la recuperación de información y distorsionar las percepciones colectivas de la realidad sociopolítica o la comprensión del consenso científico.
Google ha contribuido a la proliferación de contenidos falsos provocada por la IA generativa. La bala disparada hace muchos años finalmente le alcanzó hoy entre las cejas. La investigación de Google puede ser el comienzo de la salvación personal y una llamada de atención para toda la sociedad de Internet.
Dirección del artículo: https://arxiv.org/pdf/2406.13843
Sin duda, este informe de Google es una advertencia para el desarrollo futuro de GenAI. Cómo equilibrar el desarrollo tecnológico y el control de riesgos, y cómo responder eficazmente a la proliferación de información falsa generada por GenAI, son desafíos comunes que enfrenta la comunidad tecnológica y la sociedad global. Esperamos más investigaciones y acciones para mantener conjuntamente la autenticidad y pureza de Internet.