Une étude de l'Université de Cambridge a révélé la nature potentiellement manipulatrice de l'intelligence artificielle (IA), les outils d'IA étant potentiellement utilisés pour influencer les décisions des utilisateurs en ligne, allant des choix des consommateurs au vote politique. Les recherches prédisent l'émergence d'un nouveau marché appelé « économie de l'intention », dans lequel les assistants IA prédiront et manipuleront les intentions des utilisateurs et vendront ces informations aux entreprises. Cela a déclenché une réflexion approfondie sur l’éthique et la réglementation de l’IA, ainsi que de nouvelles préoccupations concernant la vie privée et la sécurité des données.
Selon une étude de l'Université de Cambridge, les outils d'intelligence artificielle (IA) peuvent potentiellement être utilisés pour manipuler les décisions des utilisateurs en ligne, depuis l'achat de biens jusqu'au choix pour qui voter. L’étude souligne le potentiel d’émergence d’un nouveau marché à l’avenir, appelé « économie de l’intention », dans lequel les assistants IA peuvent comprendre, prédire et manipuler les intentions humaines et vendre ces informations aux entreprises qui en profitent.
Remarque sur la source de l'image : l'image est générée par l'IA et le fournisseur de services d'autorisation d'image Midjourney
L’équipe de recherche vient du Center for Future Intelligence (LCFI) de l’Université de Cambridge et considère l’économie de l’intention comme le successeur de l’économie de l’attention. Dans l’économie de l’attention, les réseaux sociaux entretiennent l’économie en attirant l’attention des utilisateurs et en diffusant des publicités. Dans l’économie de l’intention, les entreprises technologiques qui comprennent l’IA vendront les informations de motivation des utilisateurs dont elles disposent, telles que les projets des utilisateurs de réserver un hôtel ou leurs opinions sur un certain candidat politique, à l’entreprise ayant fait l’offre la plus élevée.
Le Dr Jonny Payne, historien des technologies au LCFI, a déclaré : « L'attention est la monnaie d'Internet depuis des décennies. Les utilisateurs partagent leur attention sur les plateformes de médias sociaux telles que Facebook et Instagram, alimentant l'économie en ligne. » Il a souligné que si elle n'est pas réglementée, l'économie de l'intention traitera les motivations des utilisateurs comme de nouvelles monnaies et déclenchera une « ruée vers l'or » pour les intentions humaines.
L'étude indique que les grands modèles de langage (LLM) qui sous-tendent les outils d'IA tels que ChatGPT seront utilisés pour « prédire et guider » le comportement des utilisateurs, et ces modèles seront analysés à travers « des données d'intention, comportementales et psychologiques ». Selon l'étude, l'économie de l'attention permet aux annonceurs d'attirer l'attention des utilisateurs grâce à des enchères en temps réel, tandis que dans l'économie de l'intention, les LLM pourront accéder aux intentions des utilisateurs en temps réel, par exemple en leur demandant s'ils envisageraient d'aller à voir un certain film, ou s'ils souhaitent les aider à réserver des billets de cinéma.
Dans cette économie d’intention émergente, les annonceurs pourront tirer parti des outils d’IA générative pour créer des publicités en ligne personnalisées. En outre, l'étude a noté que Cicéron, un modèle d'IA développé par la société Meta de Mark Zuckerberg, a atteint des capacités « de niveau humain » en jouant au jeu de société « Diplomatie », qui repose sur la spéculation et anticipe les intentions de votre adversaire.
La recherche explore en outre les scénarios futurs dans lesquels Meta pourrait mettre aux enchères l'intention de l'utilisateur, comme la réservation d'un restaurant, d'un vol ou d'un hôtel, aux annonceurs. Bien qu’il existe déjà une industrie dédiée à la prévision et aux enchères sur le comportement humain, les modèles d’IA affineront ces pratiques sous une forme « hautement quantifiée, dynamique et personnalisée ».
Points forts:
Les outils d’IA peuvent manipuler les décisions des utilisateurs, formant ainsi une nouvelle « économie d’intention » de marché.
Dans l’économie de l’intention, les motivations des utilisateurs seront considérées comme la nouvelle monnaie, et les entreprises technologiques vendront ces informations.
Les modèles d'IA aideront les annonceurs à diffuser des publicités avec précision en analysant les données des utilisateurs pour prédire leurs intentions.
Cette étude a tiré la sonnette d'alarme pour nous, appelant à des considérations éthiques et réglementaires dans le développement de la technologie de l'IA afin d'empêcher son utilisation malveillante, de protéger les droits des utilisateurs et la sécurité des données, et de garantir que le progrès scientifique et technologique profite à l'humanité.