케임브리지 대학의 연구에서는 인공 지능(AI)의 잠재적인 조작 특성이 밝혀졌으며, AI 도구는 소비자 선택부터 정치적 투표에 이르기까지 온라인 사용자의 결정에 영향을 미치는 데 잠재적으로 사용될 수 있습니다. 연구에 따르면 AI 비서가 사용자 의도를 예측 및 조작하고 이 정보를 기업에 판매하는 '의도 경제'라는 새로운 시장이 나타날 것으로 예상됩니다. 이는 AI 윤리 및 규제에 대한 깊은 생각뿐만 아니라 개인 정보 보호 및 데이터 보안에 대한 새로운 우려를 불러일으켰습니다.
케임브리지 대학의 연구에 따르면 인공지능(AI) 도구는 상품 구매부터 투표 대상 선택에 이르기까지 온라인 사용자의 결정을 조작하는 데 사용될 수 있는 잠재력을 가지고 있습니다. 이 연구는 인공지능 비서가 인간의 의도를 이해, 예측, 조작하고 이 정보를 이익을 얻는 기업에 판매할 수 있는 '의도 경제'라고 불리는 새로운 시장이 미래에 나타날 가능성을 지적합니다.
사진 출처 참고: 사진은 AI가 생성한 것이며, 사진 인증 서비스 제공업체 Midjourney가 제공한 것입니다.
연구팀은 케임브리지대학교 미래지능센터(LCFI) 소속으로, 의도경제를 관심경제의 후속으로 간주하고 있다. 관심 경제에서 소셜 네트워크는 사용자의 관심을 끌고 광고를 제공함으로써 경제를 유지합니다. 의도 경제에서 AI를 이해하는 기술 회사는 사용자의 호텔 예약 계획, 특정 정치 후보에 대한 견해 등 사용자 동기 정보를 가장 높은 입찰가를 제시한 회사에 판매합니다.
LCFI의 기술 역사학자인 Jonny Payne 박사는 "관심은 수십 년 동안 인터넷의 화폐였습니다. 사용자는 Facebook 및 Instagram과 같은 소셜 미디어 플랫폼에서 관심을 공유하여 온라인 경제를 촉진합니다"라고 말했습니다. 의도 경제는 사용자의 동기를 새로운 통화로 취급하고 인간 의도에 대한 "골드 러시"를 촉발할 것입니다.
이 연구에서는 ChatGPT와 같은 AI 도구를 뒷받침하는 대규모 언어 모델(LLM)이 사용자 행동을 "예측하고 안내"하는 데 사용될 것이며 이러한 모델은 "의도, 행동 및 심리적 데이터"를 통해 분석될 것이라고 밝혔습니다. 연구에 따르면 관심 경제에서는 광고주가 실시간 입찰을 통해 사용자의 관심을 얻을 수 있는 반면, 의도 경제에서는 LLM이 사용자에게 다음을 고려할 것인지 묻는 등 사용자의 의도에 실시간으로 접근할 수 있습니다. 특정 영화를 보거나 도움을 주고 싶은 경우 영화 티켓을 예약하세요.
새롭게 떠오르는 의도 경제에서 광고주는 생성 AI 도구를 활용하여 개인화된 온라인 광고를 만들 수 있습니다. 또한 연구에서는 마크 주커버그의 메타(Meta) 회사가 개발한 AI 모델인 시세로(Cicero)가 추측에 의존하고 상대방의 의도를 예측하는 보드 게임 '외교'(Diplomacy)를 플레이하면서 '인간 수준'의 능력을 달성했다고 지적했다.
이 연구에서는 Meta가 레스토랑, 항공편 또는 호텔 예약과 같은 사용자 의도를 광고주에게 경매할 수 있는 미래 시나리오를 추가로 탐색합니다. 이미 인간 행동을 예측하고 입찰하는 데 전념하는 산업이 있지만, AI 모델은 이러한 관행을 "매우 정량화되고 역동적이며 개인화된" 형태로 개선할 것입니다.
하이라이트:
AI 도구는 사용자 결정을 조작하여 새로운 시장 "의도 경제"를 형성할 수 있습니다.
의도 경제에서는 사용자의 동기가 새로운 통화로 취급되며 기술 회사는 이 정보를 판매합니다.
AI 모델은 사용자 데이터를 분석해 광고주의 의도를 예측함으로써 광고주가 광고를 정확하게 전달하는 데 도움을 줍니다.
이 연구는 AI 기술의 악의적인 사용을 방지하고, 사용자의 권리와 데이터 보안을 보호하며, 과학 및 기술 진보가 인류에게 이익이 되도록 보장하기 위해 AI 기술 개발에 윤리적 및 규제적 고려를 요구하면서 우리에게 경종을 울렸습니다.