劍橋大學的一項研究揭示了人工智慧（AI）潛在的操縱性，AI工具可能被用於影響線上使用者的決策，從消費選擇到政治投票，影響範圍廣泛。研究預測，一個名為「意圖經濟」的新市場將出現，AI助理將預測並操縱用戶意圖，並將這些資訊出售給企業。這引發了對AI倫理和監管的深刻思考，以及對個人隱私和資料安全的新擔憂。
根據劍橋大學的研究，人工智慧（AI）工具有可能被用來操縱線上使用者的決策，從購買商品到選擇投票對象，AI 都可能發揮作用。該研究指出，未來可能出現一個新的市場，稱為“意圖經濟”，在這個市場中，AI 助理可以理解、預測和操縱人類的意圖，並將這些資訊出售給能從中獲利的公司。
圖源備註:圖片由AI生成，圖片授權服務商Midjourney
研究團隊來自劍橋大學的未來智慧研究中心（LCFI），他們將意圖經濟視為注意力經濟的繼承者。在註意力經濟中，社交網路透過吸引用戶注意力並投放廣告來維持經濟運轉。而在意圖經濟中，懂得AI 的科技公司會把他們掌握的用戶動機訊息，例如用戶預訂酒店的計劃或對某位政治候選人的看法，賣給出價最高的公司。
LCFI 的技術歷史學家 Joany・佩恩博士表示：「幾十年來，注意力一直是互聯網的貨幣。用戶在社交媒體平台如Facebook 和Instagram 上分享他們的注意力，從而推動了在線經濟的發展。
研究指出，支撐如ChatGPT 等AI 工具的大型語言模型（LLMs）將被用於「預測和引導」 使用者的行為，這些模型將透過「意圖、行為和心理數據」 進行分析。研究稱，注意力經濟允許廣告商透過即時競價獲得用戶的注意力，而在意圖經濟中，LLMs 將能夠即時存取用戶的意圖，例如詢問用戶是否考慮去看某部電影，或詢問是否要幫他們預訂電影票。
在這個新興的意圖經濟中，廣告主將能夠利用生成式AI 工具創造個人化的線上廣告。此外，研究還提到了馬克・扎克伯格的Meta 公司開發的一種AI 模型Cicero，該模型在玩桌遊《外交》時已達到了“人類水平” 的能力，這種遊戲依賴於推測和預測對手的意圖。
研究進一步探討了未來的場景，其中Meta 可能會向廣告商拍賣用戶的意圖，例如預訂餐廳、航班或酒店。儘管目前已經存在一個專門預測和競價人類行為的行業，但AI 模型將把這些實踐提煉成一種「高度量化、動態化和個人化」 的形式。
劃重點:
AI 工具可能操縱使用者決策，形成新市場「意圖經濟」。
在意圖經濟中，用戶的動機將被視為新的貨幣，科技公司將出售這些資訊。
AI 模型將透過分析使用者資料預測其意圖，幫助廣告商精準投放廣告。
這項研究為我們敲響了警鐘，呼籲對AI技術發展進行倫理和監管上的考量，以防止其被惡意利用，維護用戶的權益和資料安全，確保科技進步造福人類。