Este artículo analiza un informe reciente publicado por Meta, que evalúa el impacto de la inteligencia artificial generativa en las elecciones en múltiples países y regiones del mundo. El informe concluye que, aunque hay algunos casos de uso de inteligencia artificial para propaganda política o para difundir información falsa, el alcance de su impacto es mucho menor de lo esperado y las políticas y medidas existentes de Meta son suficientes para hacer frente a este desafío. El informe detalla las medidas de respuesta adoptadas por Meta y analiza la difusión de información falsa en otras plataformas.
A principios de año, había preocupación generalizada sobre cómo la IA generativa podría interferir con las elecciones globales y difundir propaganda y desinformación. Sin embargo, un informe reciente de Meta mostró que estas preocupaciones no se han materializado en su plataforma. Meta dijo que en plataformas sociales como Facebook, Instagram y Threads, la inteligencia artificial generativa tiene un impacto extremadamente limitado en la información relacionada con las elecciones.
Nota sobre la fuente de la imagen: la imagen es generada por IA y la imagen está autorizada por el proveedor de servicios Midjourney
Según la investigación de Meta, el informe cubre elecciones importantes en múltiples países y regiones, incluidos Estados Unidos, Bangladesh, Indonesia, India, Pakistán, el Parlamento Europeo, Francia, Reino Unido, Sudáfrica, México y Brasil. Meta señaló que, si bien hubo algunos usos confirmados o sospechados de inteligencia artificial durante las elecciones, el número general aún era bajo y las políticas y procesos existentes eran suficientes para reducir los riesgos que planteaba el contenido generativo de IA. El informe muestra que durante el período electoral mencionado anteriormente, el contenido de IA relacionado con elecciones, política y temas sociales representó menos del 1% de la información falsa verificada.
Para evitar imágenes deepfake relacionadas con las elecciones, el generador de imágenes Imagine AI de Meta rechazó casi 590.000 imágenes creadas que involucraban a Trump, el vicepresidente Harris, el gobernador Walz y el presidente Biden en el mes previo al día de las elecciones. Además, Meta descubrió que las cuentas en línea que intentaban difundir propaganda o desinformación solo obtuvieron ganancias menores en productividad y generación de contenido cuando utilizaron IA generativa.
Meta enfatizó que el uso de IA no obstaculiza su capacidad para combatir estas actividades de influencia encubierta, porque la compañía se centra en el comportamiento de estas cuentas en lugar del contenido que publican, ya sea que ese contenido sea generado por IA o no. Además, Meta también anunció que ha eliminado aproximadamente 20 nuevas operaciones encubiertas de influencia a nivel mundial para evitar la interferencia extranjera. La mayoría de estas exitosas redes no tienen audiencias reales, y algunas incluso muestran falsamente su popularidad a través de me gusta y seguidores falsos.
Meta también culpó a otras plataformas, diciendo que a menudo aparecen vídeos falsos relacionados con las elecciones estadounidenses en plataformas como X. Meta dijo que continuará revisando sus políticas a medida que haga un balance de las lecciones aprendidas durante el año y anunciará cualquier cambio en los próximos meses.
En definitiva, el informe de Meta proporciona datos de referencia valiosos sobre el impacto de la inteligencia artificial generativa en las elecciones, y también vale la pena aprender de sus medidas de respuesta proactiva. Sin embargo, aún son necesarios un seguimiento y una mejora continuos para abordar los desafíos que puedan surgir en el futuro. El progreso tecnológico debe coordinarse con las correspondientes estrategias de supervisión y respuesta para mantener mejor la salud y la estabilidad del entorno de la red.