케임브리지 대학교의 한 AI 윤리학자는 미래에는 AI 비서가 우리가 인지하지 못하는 사이에 우리의 결정을 예측하고 영향을 미칠 수 있으며 심지어 이러한 "의도 신호"를 기업에 판매할 수도 있다고 경고했습니다. 그들은 이를 "의도 경제"라고 부르는데, 이는 수익성이 좋지만 문제가 많은 디지털 시장입니다. 이 기사에서는 이 분야의 거대 기술 기업의 운영 메커니즘, 잠재적 위험 및 동향을 심층적으로 살펴보고 그것이 미래 사회에 미치는 영향을 분석할 것입니다.
미래에는 AI 비서가 초기 단계에서 우리의 결정을 예측하고 영향을 미칠 수 있으며, 우리가 결정을 인지하기도 전에 이러한 새로운 "의도"를 필요를 충족할 수 있는 회사에 실시간으로 판매할 수 있습니다. 이것은 공상 과학 소설이 아니라 케임브리지 대학의 AI 윤리학자가 경고하는 내용입니다. 그들은 우리가 영화 티켓 구매부터 후보자 투표까지 모든 것에 영향을 미치는 "수익성이 있지만 문제가 있는 디지털 의도 신호에 대한 새로운 시장"의 시작점에 있다고 주장합니다. 그들은 이를 '의도 경제'라고 부릅니다.
캠브리지 대학 미래 지능 센터(LCFI)의 연구원들은 생성 AI의 폭발적인 증가와 챗봇에 대한 우리의 친숙도 증가가 "설득 기술"이라는 새로운 분야를 열었다고 믿습니다. 이는 이미 기술 분야의 최신 발표에서 암시되고 있습니다. 거인.
챗봇 도우미, 디지털 멘토, 심지어 가상 연인과 같은 인간과 유사한 AI 에이전트는 종종 비공식 대화를 통해 수집되는 방대한 양의 개인 심리 및 행동 데이터에 접근할 수 있습니다. 이러한 AI는 우리의 온라인 습관을 알고 있을 뿐만 아니라 우리가 편안하게 느끼는 방식으로 우리와 연결하는 놀라운 능력을 가지고 있습니다. 즉, 성격을 모방하고 우리가 원하는 반응을 예측하는 것입니다. 연구자들은 이러한 수준의 신뢰와 이해가 대규모 사회적 조작을 가능하게 할 것이라고 경고합니다.
LCFI의 방문 학자인 Yaqub Chaudhary 박사는 "삶의 다양한 영역에서 AI 보조자를 배치하는 데 투자된 막대한 자원은 소위 보조자라고 불리는 이러한 보조자가 실제로 누구의 관심과 목적을 위해 설계되었는지에 대한 의문을 제기합니다"라고 강조했습니다. 대화 중에 말하는 내용, 말하는 방식, 그리고 그로부터 도출되는 실시간 추론은 단순한 온라인 상호 작용 기록보다 더 사적입니다. "우리는 인간의 계획과 목적을 도출하고, 추론하고, 수집하고, 기록하고, 이해하고, 예측하고, 궁극적으로 조작하고 상업화하기 위한 AI 도구가 이미 개발되고 있음을 경고합니다."
캠브리지 대학 LCFI의 기술 역사가인 Jonnie Penn 박사는 다음과 같이 지적합니다. "관심은 수십 년 동안 인터넷의 화폐였습니다. Facebook 및 Instagram과 같은 소셜 미디어 플랫폼에 관심을 공유하는 것이 온라인 경제를 주도합니다."라고 그는 경고했습니다. : “만약 규제되지 않으면 의도 경제는 당신의 동기를 새로운 통화로 취급할 것입니다. 이는 인간의 의도를 찾아 전달하고 판매하는 사람들에게 골드러시가 될 것입니다.”
Penn 박사와 Chaudhary 박사는 "Harvard Data Science Review"의 논문에서 의도 경제가 주의 경제의 "일시화"가 될 것이라고 지적했습니다. 즉, 사용자 주의, 의사소통 방법 및 행동 패턴 간의 연관성을 분석하고 최종적으로 의사결정. Chaudhary 박사는 “일부 의도는 일시적이지만 오래 지속되는 의도를 분류하고 타겟팅하는 것은 광고주에게 매우 유익할 것입니다.”라고 설명합니다.
의도 경제에서는 LLM(대형 언어 모델)을 사용하여 사용자의 목소리 톤, 정치적 입장, 어휘, 연령, 성별, 온라인 기록, 아첨 선호도를 저렴하게 타겟팅할 수 있습니다. 이 정보는 중개 입찰 네트워크에 연결되어 영화 티켓 판매와 같은 특정 목표를 극대화합니다(“과로하다고 말씀하셨는데, 우리가 얘기했던 영화 티켓 예약을 도와드릴까요?”). 연구원들은 여기에는 특정 플랫폼, 광고주, 기업 또는 심지어 정치 조직에 서비스를 제공하기 위한 대화를 지시하는 것이 포함될 수 있다고 믿습니다.
연구원들은 의도 경제가 현재 기술 산업의 "비전"으로 남아 있다고 믿고 있지만, 출판된 연구와 여러 주요 기술 회사의 힌트를 통해 추세의 초기 징후를 추적하고 있습니다. 여기에는 2023년 블로그 게시물에서 "모든 언어, 주제 및 형식으로 인간의 의도를 표현하는 데이터"에 대한 OpenAI의 공개 요청과 같은 해 컨퍼런스에서 챗봇이 "사용자의 의도를 명시적으로 포착"할 수 있는 방법에 대해 연설하는 Shopify의 제품 이사가 포함됩니다.
Nvidia의 CEO는 의도와 욕구를 이해하기 위해 LLM을 사용하는 것에 대해 공개적으로 이야기했으며 Meta는 2021년에 인간 의도를 이해하기 위한 데이터 세트인 "Intentonomy" 연구를 발표했습니다. 2024년에는 앱을 Siri에 연결하기 위한 Apple의 새로운 "앱 의도" 개발자 프레임워크에는 "미래에 누군가가 취할 수 있는 작업 예측"과 "미래에 귀하(개발자)가 제공하는 예측 사용"이 포함됩니다. 앱을 추천하려는 의도가 있는 프로토콜 누군가에게.
Chaudhary 박사는 Meta의 AI 에이전트인 CICERO가 의도를 추론 및 예측하고 설득력 있는 대화를 통해 자신의 입장을 발전시키는 게임인 Diplomacy에서 인간 수준의 성능을 달성했다고 언급했습니다. 그는 “이 회사들은 이미 우리의 관심을 팔고 있습니다. 상업적 이점을 얻기 위해 논리적인 다음 단계는 그들이 개발 중인 기술을 사용하여 우리의 의도를 예측하고 우리가 원하는 것을 완전히 이해하기 전에 목표를 설정하는 것입니다.”라고 경고했습니다.
펜 박사는 이러한 발전이 반드시 나쁜 것은 아니지만 파괴적인 결과를 초래할 수 있다고 지적했습니다. 그는 "앞으로 일어날 일에 대한 대중의 인식은 우리가 잘못된 길로 가지 않도록 하는 열쇠"라고 말했습니다.
결국 '의도 경제'의 부상은 편의성과 잠재적인 위험을 동시에 가져옵니다. 기술 발전과 윤리 규범 사이의 균형을 어떻게 맞추느냐에 따라 사회 전체의 공동 관심과 노력이 필요합니다. '의도 경제'에 대한 심층적인 이해와 효과적인 감독은 향후 개인의 프라이버시와 사회적 안정을 유지하는 열쇠가 될 것입니다.