ケンブリッジ大学のAI倫理学者は、将来的にはAIアシスタントが人間の意識なしに人間の意思決定を予測して影響を与え、さらにはこうした「意図シグナル」を企業に販売する可能性があると警告した。彼らはこれを「インテンションエコノミー」と呼んでいますが、これは儲かりますが、厄介なデジタル市場です。この記事では、この分野における巨大テクノロジー企業の動作メカニズム、潜在的なリスク、動向を深く掘り下げ、それが将来社会に与える影響を分析します。
将来的には、AI アシスタントが早い段階で私たちの意思決定を予測し、影響を与え、私たちが意思決定に気づく前に、ニーズを満たすことができる企業にこれらの新たな「意図」をリアルタイムで販売するようになるかもしれません。これは SF ではなく、ケンブリッジ大学の AI 倫理学者からの警告です。彼らは、私たちは現在、映画のチケットの購入から候補者への投票に至るまで、あらゆることに影響を与える「儲かるが、厄介なデジタル意図信号の新たな市場」の始まりにいると主張している。彼らはそれを「意図経済」と呼んでいます。
ケンブリッジ大学フューチャー インテリジェンス センター (LCFI) の研究者らは、生成型 AI の爆発的な普及とチャットボットへの親しみの高まりにより、「説得テクノロジー」という新しい分野が開かれたと考えており、このテクノロジーの最新の発表によってすでに示唆されています。巨人たち。
チャットボット アシスタント、デジタル メンター、さらには仮想恋人など、人間に似た AI エージェントは、多くの場合非公式な会話を通じて収集される膨大な個人の心理データや行動データにアクセスできるようになります。これらの AI は、私たちのオンライン習慣を知っているだけでなく、性格を模倣したり、私たちが望む反応を予測したりするなど、私たちが快適に感じる方法で私たちとつながる驚くべき能力も備えています。研究者らは、このレベルの信頼と理解によって大規模な社会操作が可能になると警告している。
LCFIの客員研究員であるヤクブ・チョーダリー博士は、「生活のさまざまな分野でAIアシスタントを位置づけるために莫大なリソースが投資されているが、これらのいわゆるアシスタントが実際に設計されているのは誰の利益や目的なのかという疑問が生じている」と強調した。会話中に言われたこと、その言い方、そしてそこから導き出されたリアルタイムの推論は、オンラインでのやりとりの単なる記録よりもプライベートなものです。 「私たちは、人間の計画や目的を引き出し、推論、収集、記録、理解、予測し、最終的には操作して商業化するための AI ツールがすでに開発されていると警告します。」
ケンブリッジ大学LCFIの技術史家ジョニー・ペン博士は、「何十年もの間、注目はインターネットの通貨であった。FacebookやInstagramなどのソーシャルメディアプラットフォームで注目を共有することがオンライン経済を推進する」と指摘し、警告した。 : 「もし規制されなければ、意図経済はあなたの動機を新しい通貨として扱うことになり、人間の意図を特定し、誘導し、販売する人々にとってはゴールドラッシュになるでしょう。」
ペン博士とチョーダリー博士は、「ハーバード データ サイエンス レビュー」に掲載された論文の中で、インテント エコノミーはアテンション エコノミーの「一時化」になると指摘しました。ユーザーの注意、コミュニケーション方法、行動パターンと最終的な関係を分析しています。意思決定。 「一部のインテントは一時的なものですが、長期にわたるインテントを分類してターゲティングすることは、広告主にとって非常に有益です」とチョーダリー博士は説明します。
インテントエコノミーでは、大規模言語モデル (LLM) を使用して、ユーザーの口調、政治的立場、語彙、年齢、性別、オンライン履歴、さらにはお世辞の好みさえも低コストでターゲットにすることができます。この情報は、映画チケットの販売などの特定の目標を最大化するために、仲介入札ネットワークにリンクされます (「過労だとおっしゃいましたが、私が話していた映画チケットの予約を手伝いましょうか?」)。研究者らは、これには特定のプラットフォーム、広告主、企業、さらには政治団体にサービスを提供するために会話を誘導することも含まれる可能性があると考えている。
研究者らは、今のところインテントエコノミーはテクノロジー業界にとっての「ビジョン」にとどまると信じているが、発表された研究やいくつかの大手テクノロジー企業からのヒントを通じて、この傾向の初期の兆候を追跡している。これらには、OpenAIが2023年のブログ投稿で「あらゆる言語、トピック、形式で人間の意図を表現するデータ」を公募したことや、同年のカンファレンスでShopifyのプロダクトディレクターがチャットボットがどのように「ユーザーの意図を明示的に捉える」ことができるかについて講演したことが含まれる。
Nvidia の CEO は、LLM を使用して意図と欲求を理解することについて公に話しており、Meta は 2021 年に人間の意図を理解するためのデータセットである「Intentonomy」研究を発表しました。 2024 年、アプリを Siri に接続するための Apple の新しい「App Intents」開発者フレームワークには、「誰かが将来実行する可能性のあるアクションを予測する」ことと、「アプリを推奨することを目的とした、あなた（開発者）が提供する予測を使用する」プロトコルが含まれます。誰かに。
チョーダリー博士は、メタの AI エージェントである CICERO が、意図の推論と予測、そして自分の立場を前進させるための説得力のある会話に依存するゲームである外交において、人間レベルのパフォーマンスを達成したと言われていると指摘しました。同氏は、「これらの企業はすでに私たちの関心を売り込んでおり、商業的な優位性を得るには、私たちが彼らの欲望を完全に理解する前に、彼らが開発しているテクノロジーを利用して私たちの意図を予測し、彼らをターゲットにすることが論理的である」と警告した。
ペン博士は、こうした展開は必ずしも悪いものではないが、壊滅的な結果をもたらす可能性があると指摘した。 「これから何が起こるかについて国民が認識することが、私たちが間違った道を歩まないようにするための鍵となる」と同氏は語った。
全体として、「インテンションエコノミー」の台頭は利便性と潜在的なリスクの両方をもたらします。技術開発と倫理規範のバランスをどう取るかには、社会全体の共同の注意と努力が必要です。 「意図の経済」を深く理解し、効果的に監督することが、将来、個人のプライバシーと社会の安定を維持する鍵となるでしょう。