微軟近日提交了一項專利申請，旨在解決人工智能生成虛假信息（AI幻覺）的問題。這項名為“利用外部知識和反饋與語言模型互動”的專利申請，旨在通過一個名為“響應增強系統”（RAS）的機制來提升AI模型的準確性和可靠性。該系統能夠自動從外部來源獲取更多信息，驗證AI生成的答案，並向用戶提示潛在的不足之處，從而有效減少AI生成的虛假信息。這項專利申請的公開，標誌著微軟在對抗AI幻覺問題上邁出了重要一步，也反映了業界對解決這一問題的迫切需求。
近日，微軟提交了一項專利申請，旨在通過一種技術方法減少或消除人工智能生成的虛假信息。該專利的名稱為“利用外部知識和反饋與語言模型互動”，於去年向美國專利商標局（USPTO）遞交，並於10月31日公開。這一提案的核心是為AI 模型提供一種“響應增強系統”（RAS），使其能夠根據用戶的查詢自動提取更多信息，並檢查其回答的“有效性”。
具體來說，響應增強系統能夠識別是否有來自“外部來源” 的信息能夠更好地回答用戶的問題。如果AI 的回答沒有包含這些信息，該系統會將其判定為不夠有用。此外，RAS 還可以向用戶提示其回答是否存在不足之處，用戶也可以對此進行反饋。這一方案的優點在於，不需要開發者或公司對現有模型進行細緻的調整。
目前，USPTO 網站尚未顯示該申請的專利編號，這意味著該專利仍在審查之中。我們聯繫了微軟以了解更多信息，包括該專利是否與微軟此前宣布的降低AI 幻覺的工具——Azure AI 內容安全工具有關。該工具為企業AI 聊天機器人提供了AI 驅動的驗證，能夠在後台進行事實核查，判斷AI 的回答是否“無根基” 或“有根基”，在向用戶提供答案之前，只提供有實際數據支持的回答。
AI 幻覺問題是生成性AI 面臨的最大挑戰之一，嚴重影響了AI 聊天機器人的可信度。在這方面，谷歌和推特的AI 系統都曾產生過令人矚目的錯誤，例如建議用戶將膠水塗在披薩上或食用石頭，甚至傳播選舉虛假信息。蘋果公司首席執行官蒂姆・庫克也承認，蘋果的智能技術同樣無法避免幻覺問題。近期，OpenAI 的“Whisper” 音頻轉錄工具也被發現頻繁出現幻覺，令其在美國醫院的使用受到關注。
儘管AI 幻覺問題突出，科技巨頭們對AI 數據中心的需求依然強烈，包括谷歌、微軟和Meta 在內的公司正考慮將核能作為滿足AI 高能耗需求的潛在解決方案。
劃重點:
微軟申請了一項新專利，旨在減少AI 生成的虛假信息。
該專利的核心是為AI 模型引入響應增強系統，自動提取更多信息。
儘管AI 幻覺問題嚴重，但科技公司對AI 數據中心的需求依然強勁。
微軟這項專利申請的公開，預示著科技公司在應對AI幻覺問題上將持續投入更多努力。 未來，更可靠、更可信的AI系統有望出現，這將極大地提升AI技術的應用價值和用戶體驗。