Un especialista en ética de la IA de la Universidad de Cambridge advirtió que en el futuro, los asistentes de IA podrían predecir e influir en nuestras decisiones sin que nos demos cuenta, e incluso vender estas "señales de intención" a las empresas. Lo llaman la "economía de la intención" y es un mercado digital lucrativo pero preocupante. Este artículo explorará en profundidad el mecanismo operativo, los riesgos potenciales y las tendencias de los gigantes tecnológicos en este campo, y analizará su impacto en la sociedad futura.
En el futuro, los asistentes de IA podrán predecir e influir en nuestras decisiones en una etapa temprana, vendiendo estas “intenciones” emergentes en tiempo real a empresas que puedan satisfacer la necesidad, incluso antes de que seamos conscientes de nuestras decisiones. Esto no es ciencia ficción, sino una advertencia de un especialista en ética de la IA de la Universidad de Cambridge. Argumentan que estamos en el comienzo de un "nuevo mercado lucrativo pero preocupante para las señales de intención digital", que afecta todo, desde la compra de entradas para el cine hasta la votación de candidatos. Lo llaman la "economía de la intención".
Investigadores del Centro para la Inteligencia Futura (LCFI) de la Universidad de Cambridge creen que la explosión de la IA generativa y nuestra creciente familiaridad con los chatbots ha abierto un nuevo campo de "tecnología persuasiva", que ya se insinúa en los últimos anuncios de la tecnología. gigantes.
Los agentes de IA con apariencia humana, como asistentes de chatbot, mentores digitales e incluso amantes virtuales, tendrán acceso a grandes cantidades de datos psicológicos y de comportamiento personales, a menudo recopilados a través de conversaciones informales. Estas IA no solo conocen nuestros hábitos en línea, sino que también tienen una asombrosa capacidad para conectarse con nosotros de maneras con las que nos sentimos cómodos, imitando personalidades y prediciendo nuestras respuestas deseadas. Los investigadores advierten que este nivel de confianza y comprensión permitirá una manipulación social a gran escala.
El Dr. Yaqub Chaudhary, académico visitante de LCFI, dijo: "Los enormes recursos invertidos en el posicionamiento de asistentes de IA en diversas áreas de la vida plantean la cuestión de qué intereses y propósitos están realmente diseñados estos llamados asistentes". Lo que se dice durante una conversación, cómo se dice y las inferencias en tiempo real que se extraen de ello son más privados que un mero registro de una interacción en línea. "Advertimos que ya se están desarrollando herramientas de IA para obtener, inferir, recopilar, registrar, comprender, predecir y, en última instancia, manipular y comercializar planes y propósitos humanos".
El Dr. Jonnie Penn, historiador de tecnología del LCFI de la Universidad de Cambridge, señala: "La atención ha sido la moneda de Internet durante décadas. Compartir su atención con plataformas de redes sociales como Facebook e Instagram impulsa la economía en línea", advirtió. : “Si no se regula, la economía de la intención tratará sus motivaciones como la nueva moneda. Será una fiebre del oro para quienes localizan, canalizan y venden la intención humana”.
El Dr. Penn y el Dr. Chaudhary señalaron en un artículo del "Harvard Data Science Review" que la economía de la intención será la "temporalización" de la economía de la atención: analizando la conexión entre la atención del usuario, los métodos de comunicación y los patrones de comportamiento, y el final. Toma de decisiones. "Aunque algunas intenciones son efímeras, clasificar y dirigirse a aquellas que son duraderas será muy rentable para los anunciantes", explica el Dr. Chaudhary.
En la economía de la intención, se pueden utilizar grandes modelos lingüísticos (LLM) para centrarse de forma económica en el tono de voz, la postura política, el vocabulario, la edad, el género, el historial en línea e incluso la preferencia por los halagos de un usuario. Esta información se vinculará a una red de ofertas intermediada para maximizar un objetivo específico, como vender entradas para el cine (“Mencionaste que te sientes sobrecargado de trabajo, ¿déjame ayudarte a reservar esa entrada para el cine de la que estábamos hablando?”). Los investigadores creen que esto podría incluir dirigir conversaciones para servir a plataformas, anunciantes, empresas o incluso organizaciones políticas específicas.
Si bien los investigadores creen que la economía intencional sigue siendo una "visión" para la industria tecnológica por ahora, están rastreando los primeros signos de la tendencia a través de investigaciones publicadas y sugerencias de varias empresas tecnológicas importantes. Estos incluyen la convocatoria abierta de OpenAI para "datos que expresen la intención humana en cualquier idioma, tema y formato" en una publicación de blog de 2023, y el director de producto de Shopify hablando en una conferencia ese mismo año sobre cómo los chatbots pueden "captar explícitamente la intención de los usuarios".
El director ejecutivo de Nvidia habló públicamente sobre el uso de LLM para comprender las intenciones y deseos, y Meta publicó su estudio “Intentonomy” en 2021, un conjunto de datos para comprender la intención humana. En 2024, el nuevo marco de desarrollo "App Intents" de Apple para conectar aplicaciones a Siri incluye "predecir acciones que alguien podría realizar en el futuro" y "usar predicciones que usted [el desarrollador] proporcione en el futuro". a alguien.
El Dr. Chaudhary señaló que se dice que el agente de inteligencia artificial de Meta, CICERO, logró un desempeño a nivel humano en Diplomacia, un juego que se basa en inferir y predecir intenciones y utilizar el diálogo persuasivo para avanzar en la propia posición. Advirtió: “Estas empresas ya están vendiendo nuestra atención. Para obtener una ventaja comercial, el siguiente paso lógico es utilizar la tecnología que están desarrollando para predecir nuestras intenciones y atacarlas antes de que comprendamos completamente nuestros deseos”.
El Dr. Penn señaló que estos acontecimientos no eran necesariamente malos, pero podrían tener consecuencias devastadoras. "La conciencia pública de lo que se avecina es clave para garantizar que no vayamos por el camino equivocado", afirmó.
En definitiva, el auge de la “economía de la intención” trae consigo ventajas y riesgos potenciales. Cómo lograr un equilibrio entre el desarrollo tecnológico y las normas éticas requiere la atención y los esfuerzos conjuntos de toda la sociedad. Una comprensión profunda y una supervisión eficaz de la "economía de la intención" serán la clave para mantener la privacidad personal y la estabilidad social en el futuro.