Исследование Кембриджского университета выявило потенциальную манипулятивную природу искусственного интеллекта (ИИ), при этом инструменты ИИ потенциально могут использоваться для влияния на решения онлайн-пользователей, начиная от потребительского выбора и заканчивая политическим голосованием. Исследования предсказывают, что возникнет новый рынок под названием «экономика намерений», на котором помощники ИИ будут прогнозировать намерения пользователей и манипулировать ими, а также продавать эту информацию предприятиям. Это вызвало глубокие размышления об этике и регулировании ИИ, а также новые опасения по поводу конфиденциальности личной информации и безопасности данных.
Согласно исследованиям Кембриджского университета, инструменты искусственного интеллекта (ИИ) могут быть использованы для манипулирования решениями онлайн-пользователей, от покупки товаров до выбора, за кого голосовать. Исследование указывает на возможность появления в будущем нового рынка, называемого «экономикой намерений», на котором помощники ИИ смогут понимать, предсказывать и манипулировать человеческими намерениями и продавать эту информацию компаниям, которые получают от этого прибыль.
Примечание к источнику изображения: изображение генерируется искусственным интеллектом и поставщиком услуг авторизации изображений Midjourney.
Исследовательская группа из Центра будущего интеллекта (LCFI) Кембриджского университета считает экономику намерения преемницей экономики внимания. В экономике внимания социальные сети поддерживают экономику, привлекая внимание пользователей и показывая рекламу. В экономике намерений технологические компании, понимающие ИИ, будут продавать имеющуюся у них информацию о мотивации пользователей, например планы пользователей забронировать отель или их взгляды на определенного политического кандидата, компании, предложившей самую высокую цену.
Доктор Джонни Пейн, историк технологий LCFI, сказал: «Внимание было валютой Интернета на протяжении десятилетий. Пользователи делятся своим вниманием на платформах социальных сетей, таких как Facebook и Instagram, подпитывая онлайн-экономику». экономика намерений будет рассматривать мотивацию пользователей как новую валюту и вызовет «золотую лихорадку» человеческих намерений.
В исследовании говорится, что большие языковые модели (LLM), лежащие в основе инструментов искусственного интеллекта, таких как ChatGPT, будут использоваться для «предсказания и управления» поведением пользователей, и эти модели будут анализироваться с помощью «намерений, поведенческих и психологических данных». Согласно исследованию, экономика внимания позволяет рекламодателям привлекать внимание пользователей посредством торгов в реальном времени, в то время как в экономике намерений LLM смогут получать доступ к намерениям пользователей в режиме реального времени, например, спрашивая пользователей, рассматривают ли они возможность перехода к посмотреть определенный фильм или, если они хотят помочь им, закажите билеты в кино.
В условиях развивающейся экономики намерений рекламодатели смогут использовать генеративные инструменты искусственного интеллекта для создания персонализированной онлайн-рекламы. Кроме того, в исследовании отмечается, что Цицерон, модель искусственного интеллекта, разработанная компанией Meta Марка Цукерберга, достигла способностей «человеческого уровня» в настольной игре «Дипломатия», которая опирается на предположения и предвидит намерения вашего оппонента.
Исследование дополнительно изучает будущие сценарии, в которых Meta может продавать намерения пользователей, такие как бронирование ресторана, рейса или отеля, рекламодателям. Хотя уже существует индустрия, занимающаяся прогнозированием и оценкой человеческого поведения, модели ИИ доведут эти методы до «высоко количественной, динамичной и персонализированной формы».
Основные моменты:
Инструменты искусственного интеллекта могут манипулировать решениями пользователей, формируя новую рыночную «экономику намерений».
В экономике намерений мотивы пользователей будут рассматриваться как новая валюта, а технологические компании будут продавать эту информацию.
Модели искусственного интеллекта помогут рекламодателям точно показывать рекламу, анализируя данные пользователей и прогнозируя их намерения.
Это исследование забило для нас тревогу, призывая учитывать этические и нормативные соображения при разработке технологии искусственного интеллекта, чтобы предотвратить ее злонамеренное использование, защитить права пользователей и безопасность данных, а также гарантировать, что научно-технический прогресс принесет пользу человечеству.