Un estudio de la Universidad de Cambridge ha revelado la posible naturaleza manipuladora de la inteligencia artificial (IA), ya que las herramientas de IA pueden utilizarse para influir en las decisiones de los usuarios en línea, que van desde las elecciones de los consumidores hasta el voto político. Las investigaciones predicen que surgirá un nuevo mercado llamado "economía de la intención", en el que los asistentes de IA predecirán y manipularán las intenciones de los usuarios y venderán esta información a las empresas. Esto ha desencadenado una reflexión profunda sobre la ética y la regulación de la IA, así como nuevas preocupaciones sobre la privacidad personal y la seguridad de los datos.
Según una investigación de la Universidad de Cambridge, las herramientas de inteligencia artificial (IA) tienen el potencial de usarse para manipular las decisiones de los usuarios en línea, desde la compra de bienes hasta la elección por quién votar. El estudio señala el potencial para que surja un nuevo mercado en el futuro, llamado “economía de la intención”, en el que los asistentes de IA pueden comprender, predecir y manipular las intenciones humanas y vender esta información a empresas que se beneficien de ella.
Nota sobre la fuente de la imagen: la imagen es generada por IA y el proveedor de servicios de autorización de imágenes Midjourney
El equipo de investigación procede del Centro para la Inteligencia Futura (LCFI) de la Universidad de Cambridge y considera que la economía de la intención es la sucesora de la economía de la atención. En la economía de la atención, las redes sociales mantienen la economía en marcha atrayendo la atención de los usuarios y publicando anuncios. En la economía de intención, las empresas de tecnología que entienden la IA venderán la información que tienen sobre la motivación del usuario, como los planes de los usuarios para reservar un hotel o sus opiniones sobre un determinado candidato político, a la empresa con la oferta más alta.
El Dr. Jonny Payne, historiador de tecnología de LCFI, dijo: "La atención ha sido la moneda de Internet durante décadas. Los usuarios comparten su atención en plataformas de redes sociales como Facebook e Instagram, impulsando la economía en línea". Señaló que si no se regula, la economía de la intención tratará las motivaciones de los usuarios como nuevas monedas y desencadenará una “fiebre del oro” por las intenciones humanas.
El estudio afirma que los grandes modelos de lenguaje (LLM) que sustentan las herramientas de inteligencia artificial como ChatGPT se utilizarán para "predecir y guiar" el comportamiento del usuario, y estos modelos se analizarán a través de "datos de intención, comportamiento y psicológicos". Según el estudio, la economía de la atención permite a los anunciantes captar la atención de los usuarios a través de ofertas en tiempo real, mientras que en la economía de la intención, los LLM podrán acceder a las intenciones de los usuarios en tiempo real, como preguntarles si considerarían ir a ver una película determinada, o si les gustaría ayudarlos a reservar entradas para el cine.
En esta economía de intención emergente, los anunciantes podrán aprovechar las herramientas de inteligencia artificial generativa para crear anuncios en línea personalizados. Además, el estudio señaló que Cicero, un modelo de inteligencia artificial desarrollado por la compañía Meta de Mark Zuckerberg, ha logrado habilidades "a nivel humano" al jugar el juego de mesa "Diplomacy", que se basa en la especulación y anticipar las intenciones de su oponente.
La investigación explora más a fondo escenarios futuros en los que Meta podría subastar la intención del usuario, como reservar un restaurante, un vuelo o un hotel, a los anunciantes. Si bien ya existe una industria dedicada a predecir y apostar por el comportamiento humano, los modelos de IA perfeccionarán estas prácticas hasta convertirlas en una forma "altamente cuantificada, dinámica y personalizada".
Reflejos:
Las herramientas de inteligencia artificial pueden manipular las decisiones de los usuarios, formando una nueva "economía de intención" de mercado.
En la economía de intención, las motivaciones de los usuarios serán tratadas como la nueva moneda, y las empresas de tecnología venderán esta información.
Los modelos de inteligencia artificial ayudarán a los anunciantes a publicar anuncios con precisión mediante el análisis de los datos de los usuarios para predecir sus intenciones.
Este estudio nos ha hecho sonar la alarma, pidiendo consideraciones éticas y regulatorias en el desarrollo de la tecnología de IA para prevenir su uso malicioso, salvaguardar los derechos de los usuarios y la seguridad de los datos, y garantizar que el progreso científico y tecnológico beneficie a la humanidad.