Um especialista em ética em IA da Universidade de Cambridge alertou que, no futuro, os assistentes de IA poderão prever e influenciar as nossas decisões sem o nosso conhecimento, e até mesmo vender estes “sinais de intenção” às empresas. Eles chamam isso de “economia da intenção” e é um mercado digital lucrativo, mas preocupante. Este artigo explorará profundamente o mecanismo operacional, os riscos potenciais e as tendências dos gigantes da tecnologia neste campo, e analisará o seu impacto na sociedade futura.
No futuro, os assistentes de IA poderão prever e influenciar as nossas decisões numa fase inicial, vendendo estas “intenções” emergentes em tempo real a empresas que possam satisfazer a necessidade, mesmo antes de termos conhecimento das nossas decisões. Isto não é ficção científica, mas um aviso de um especialista em ética em IA da Universidade de Cambridge. Eles argumentam que estamos no início de um “novo mercado lucrativo, mas preocupante, para sinais de intenção digital”, que afeta tudo, desde a compra de ingressos de cinema até a votação em candidatos. Eles chamam isso de “economia da intenção”.
Pesquisadores do Centro de Inteligência do Futuro (LCFI) da Universidade de Cambridge acreditam que a explosão da IA generativa e nossa crescente familiaridade com chatbots abriu um novo campo de "tecnologia persuasiva", que já é sugerido pelos últimos anúncios do setor de tecnologia. gigantes.
Agentes de IA semelhantes aos humanos, como assistentes de chatbot, mentores digitais e até amantes virtuais, terão acesso a grandes quantidades de dados psicológicos e comportamentais pessoais, muitas vezes recolhidos através de conversas informais. Essas IAs não apenas conhecem nossos hábitos on-line, mas também têm uma capacidade incrível de se conectar conosco de maneiras com as quais nos sentimos confortáveis – imitando personalidades e prevendo as respostas desejadas. Os investigadores alertam que este nível de confiança e compreensão permitirá a manipulação social em grande escala.
Yaqub Chaudhary, pesquisador visitante da LCFI, disse: “Os enormes recursos investidos no posicionamento de assistentes de IA em várias áreas da vida levantam a questão de quais interesses e propósitos esses chamados assistentes realmente foram projetados. O que é dito durante uma conversa, como é dito e as inferências em tempo real extraídas dela são mais privados do que um mero registro de uma interação online. “Advertimos que ferramentas de IA já estão sendo desenvolvidas para extrair, inferir, coletar, registrar, compreender, prever e, em última análise, manipular e comercializar planos e propósitos humanos”.
Jonnie Penn, historiador de tecnologia do LCFI da Universidade de Cambridge, salienta: “A atenção tem sido a moeda da Internet há décadas. Partilhar a sua atenção com plataformas de redes sociais como o Facebook e o Instagram impulsiona a economia online”, alertou. : “Se não for regulamentada, a economia da intenção tratará as suas motivações como a nova moeda. Será uma corrida ao ouro para aqueles que localizam, canalizam e vendem a intenção humana.”
Chaudhary apontaram em um artigo na "Harvard Data Science Review" que a economia intencional será a "temporalização" da economia da atenção: analisando a conexão entre a atenção do usuário, métodos de comunicação e padrões de comportamento, e final tomando uma decisão. “Embora algumas intenções sejam efêmeras, classificar e direcionar aquelas que são duradouras será muito lucrativa para os anunciantes”, explica o Dr.
Na economia intencional, os grandes modelos de linguagem (LLMs) podem ser usados para atingir de forma barata o tom de voz, a posição política, o vocabulário, a idade, o género, a história online de um utilizador e até mesmo a preferência por lisonjas. Essas informações serão vinculadas a uma rede de licitação intermediada para maximizar um objetivo específico, como a venda de ingressos de cinema (“Você mencionou que está se sentindo sobrecarregado, deixe-me ajudá-lo a reservar aquele ingresso de cinema de que estávamos falando?”). Os pesquisadores acreditam que isso poderia incluir o direcionamento de conversas para plataformas, anunciantes, empresas ou até mesmo organizações políticas específicas.
Embora os investigadores acreditem que a economia intencional continua a ser uma “visão” para a indústria tecnológica por enquanto, estão a acompanhar os primeiros sinais da tendência através de pesquisas publicadas e sugestões de várias grandes empresas tecnológicas. Isso inclui a chamada aberta da OpenAI para “dados que expressam a intenção humana em qualquer idioma, tópico e formato” em uma postagem de blog de 2023, e o diretor de produto do Shopify falando em uma conferência no mesmo ano sobre como os chatbots podem “capturar explicitamente a intenção dos usuários”.
O CEO da Nvidia falou publicamente sobre o uso do LLM para compreender intenções e desejos, e Meta lançou seu estudo “Intentonomy” em 2021, um conjunto de dados para compreender a intenção humana. Em 2024, a nova estrutura de desenvolvedor "App Intents" da Apple para conectar aplicativos ao Siri inclui "prever ações que alguém pode realizar no futuro" e "usar previsões que você [o desenvolvedor] fornece, no futuro. protocolo com a intenção de recomendar o aplicativo para alguém.
Chaudhary observou que o agente de IA da Meta, CICERO, teria alcançado um desempenho de nível humano em Diplomacia, um jogo que se baseia na inferência e previsão de intenções e no uso de diálogo persuasivo para avançar a posição de alguém. Ele alertou: “Essas empresas já estão vendendo nossa atenção. Para obter uma vantagem comercial, o próximo passo lógico é usar a tecnologia que estão desenvolvendo para prever nossas intenções e direcioná-las antes de entendê-las completamente.
Dr. Penn observou que esses desenvolvimentos não eram necessariamente ruins, mas poderiam ter consequências devastadoras. “A conscientização pública sobre o que está por vir é fundamental para garantir que não sigamos o caminho errado”, disse ele.
Em suma, a ascensão da “economia intencional” traz consigo conveniência e riscos potenciais. Como encontrar um equilíbrio entre o desenvolvimento tecnológico e as normas éticas requer a atenção e os esforços conjuntos de toda a sociedade. A compreensão profunda e a supervisão eficaz da “economia intencional” serão a chave para manter a privacidade pessoal e a estabilidade social no futuro.