Um estudo da Universidade de Cambridge revelou a potencial natureza manipuladora da inteligência artificial (IA), com ferramentas de IA potencialmente utilizadas para influenciar as decisões dos utilizadores online, desde as escolhas dos consumidores até ao voto político. A investigação prevê que surgirá um novo mercado denominado “economia de intenções”, no qual os assistentes de IA irão prever e manipular as intenções dos utilizadores e vender esta informação às empresas. Isto desencadeou uma reflexão profunda sobre a ética e a regulamentação da IA, bem como novas preocupações sobre a privacidade pessoal e a segurança dos dados.
De acordo com uma investigação da Universidade de Cambridge, as ferramentas de inteligência artificial (IA) têm potencial para serem utilizadas para manipular as decisões dos utilizadores online, desde a compra de bens até à escolha em quem votar. O estudo aponta para o potencial de surgimento de um novo mercado no futuro, denominado “economia intencional”, na qual os assistentes de IA podem compreender, prever e manipular as intenções humanas e vender esta informação a empresas que lucram com isso.
Nota sobre a fonte da imagem: a imagem é gerada pela IA e pelo provedor de serviços de autorização de imagem Midjourney
A equipe de pesquisa vem do Center for Future Intelligence (LCFI) da Universidade de Cambridge e considera a economia da intenção a sucessora da economia da atenção. Na economia da atenção, as redes sociais mantêm a economia em movimento, atraindo a atenção dos utilizadores e veiculando anúncios. Na economia da intenção, as empresas tecnológicas que compreendem a IA venderão as informações de motivação dos utilizadores que possuem, tais como os planos dos utilizadores para reservar um hotel ou as suas opiniões sobre um determinado candidato político, à empresa com a oferta mais elevada.
Jonny Payne, historiador de tecnologia da LCFI, disse: “A atenção tem sido a moeda da Internet há décadas. Os usuários compartilham sua atenção em plataformas de mídia social como Facebook e Instagram, alimentando a economia online. a economia da intenção tratará as motivações dos utilizadores como novas moedas e desencadeará uma “corrida do ouro” para as intenções humanas.
O estudo afirma que grandes modelos de linguagem (LLMs) que sustentam ferramentas de IA como ChatGPT serão usados para “prever e orientar” o comportamento do usuário, e esses modelos serão analisados por meio de “dados de intenção, comportamentais e psicológicos”. De acordo com o estudo, a economia da atenção permite que os anunciantes ganhem a atenção dos usuários por meio de lances em tempo real, enquanto na economia da intenção, os LLMs serão capazes de acessar as intenções dos usuários em tempo real, como perguntar aos usuários se eles considerariam ir para assistir a um determinado filme ou se gostariam de ajudá-los a reservar ingressos de cinema.
Nesta economia emergente de intenções, os anunciantes poderão aproveitar ferramentas generativas de IA para criar anúncios online personalizados. Além disso, o estudo observou que Cícero, um modelo de IA desenvolvido pela empresa Meta de Mark Zuckerberg, alcançou habilidades de “nível humano” ao jogar o jogo de tabuleiro “Diplomacia”, que se baseia na especulação e antecipa as intenções do seu oponente.
A pesquisa explora ainda cenários futuros em que a Meta poderá leiloar a intenção do usuário, como reservar um restaurante, voo ou hotel, para anunciantes. Embora já exista uma indústria dedicada a prever e licitar o comportamento humano, os modelos de IA irão refinar estas práticas numa forma que seja “altamente quantificada, dinâmica e personalizada”.
Destaques:
As ferramentas de IA podem manipular as decisões dos usuários, formando uma nova “economia de intenções” de mercado.
Na economia intencional, as motivações dos utilizadores serão tratadas como a nova moeda e as empresas tecnológicas venderão esta informação.
Os modelos de IA ajudarão os anunciantes a entregar anúncios com precisão, analisando os dados dos usuários para prever suas intenções.
Este estudo soou-nos o alarme, apelando a considerações éticas e regulamentares no desenvolvimento da tecnologia de IA para prevenir a sua utilização maliciosa, salvaguardar os direitos dos utilizadores e a segurança dos dados, e garantir que o progresso científico e tecnológico beneficia a humanidade.