ケンブリッジ大学の研究により、人工知能 (AI) の潜在的な操作的性質が明らかになり、AI ツールは消費者の選択から政治的投票に至るまで、オンライン ユーザーの決定に影響を与えるために使用される可能性があります。研究によると、AIアシスタントがユーザーの意図を予測・操作し、その情報を企業に販売する「インテンション・エコノミー」と呼ばれる新たな市場が出現すると予測されている。これにより、AI の倫理と規制について深く考えるようになっただけでなく、個人のプライバシーとデータ セキュリティについても新たな懸念が生まれました。
ケンブリッジ大学の研究によると、人工知能 (AI) ツールは、商品の購入から投票先の選択に至るまで、オンライン ユーザーの意思決定を操作するために使用される可能性があります。この研究では、AIアシスタントが人間の意図を理解、予測、操作し、その情報を企業に販売して利益を得られる「インテンションエコノミー」と呼ばれる、将来的に新たな市場が出現する可能性があると指摘している。
画像出典注：画像はAIにより生成され、画像認証サービスプロバイダMidjourney
研究チームはケンブリッジ大学フューチャーインテリジェンスセンター（LCFI）の出身で、インテンションエコノミーをアテンションエコノミーの後継とみなしている。アテンションエコノミーでは、ソーシャルネットワークがユーザーの注目を集め、広告を配信することで経済を維持します。インテンション・エコノミーでは、AIを理解しているテクノロジー企業が、ホテルを予約するユーザーの計画や特定の政治的候補者に対する意見など、自社が保有するユーザーの動機に関する情報を、最も高い入札額を付けた企業に販売します。
LCFIの技術史家であるジョニー・ペイン博士は、「何十年もの間、注目はインターネットの通貨であった。ユーザーはFacebookやInstagramなどのソーシャルメディアプラットフォームで注目を共有し、オンライン経済を刺激している」と述べ、規制されないまま放置されれば、インテンションエコノミーはユーザーのモチベーションを新たな通貨として扱い、人間のインテントに対する「ゴールドラッシュ」を引き起こすでしょう。
この研究では、ChatGPTなどのAIツールを支える大規模言語モデル（LLM）がユーザーの行動を「予測して導く」ために使用され、これらのモデルは「意図、行動、心理データ」を通じて分析されると述べられている。アテンション・エコノミーでは、広告主はリアルタイム入札を通じてユーザーの注目を集めることができます。一方、インテント・エコノミーでは、LLM は、ユーザーに特定の映画を見に行くことを検討するかどうか尋ねるなど、ユーザーの意図にリアルタイムでアクセスできるようになります。または、映画のチケットを予約するかどうかを尋ねると研究結果は述べています。
この新たなインテントエコノミーにおいて、広告主は生成 AI ツールを活用してパーソナライズされたオンライン広告を作成できるようになります。さらに、この研究では、マーク・ザッカーバーグ氏のメタ社が開発したAIモデルであるシセロが、思惑や相手の意図を予測するボードゲーム「外交」をプレイする上で「人間レベル」の能力を達成したと指摘している。
この調査では、レストラン、航空券、ホテルの予約など、メタがユーザーの意図を広告主にオークションする可能性がある将来のシナリオについてもさらに調査しています。人間の行動の予測と入札に特化した業界はすでに存在しますが、AI モデルはこれらの実践を「高度に定量化され、動的でパーソナライズされた」形式に洗練します。
ハイライト:
AIツールはユーザーの意思決定を操作し、新たな市場の「インテンションエコノミー」を形成する可能性がある。
インテントエコノミーでは、ユーザーのモチベーションが新しい通貨として扱われ、テクノロジー企業がこの情報を販売することになります。
AI モデルは、ユーザー データを分析してユーザーの意図を予測することで、広告主が広告を正確に配信できるように支援します。
この研究は私たちに警鐘を鳴らし、悪意のある使用を防止し、ユーザーの権利とデータのセキュリティを保護し、科学技術の進歩が人類に利益をもたらすことを保証するために、AI テクノロジーの開発における倫理的および規制上の考慮を求めています。