Downcodes小編獲悉，微軟近日提交了一項專利申請，旨在解決人工智慧產生的假資訊問題。這項名為「利用外部知識和回饋與語言模型互動」的專利申請，去年遞交美國專利商標局（USPTO），並於10月31日公開。該專利提出了一種「響應增強系統」（RAS），旨在提升AI模型的回答準確性和可靠性，減少AI「幻覺」的發生。這項技術無需對現有模型進行複雜的調整，透過結合外部資訊來源和使用者回饋，有效地提高AI的回答質量，從而降低虛假資訊的產生。
近日，微軟提交了一項專利申請，旨在透過一種技術方法減少或消除人工智慧產生的虛假資訊。該專利的名稱為“利用外部知識和反饋與語言模型互動”，於去年向美國專利商標局（USPTO）遞交，並於10月31日公開。
這項提案的核心是為AI 模型提供一種「響應增強系統」（RAS），使其能夠根據用戶的查詢自動提取更多信息，並檢查其回答的「有效性」。
具體來說，響應增強系統能夠識別是否有來自「外部來源」 的資訊能夠更好地回答使用者的問題。如果AI 的回答沒有包含這些信息，則該系統會將其判定為不夠有用。此外，RAS 還可以向使用者提示其回答是否存在不足之處，使用者也可以對此進行回饋。這項方案的優點在於，不需要開發者或公司對現有模型進行細緻的調整。
目前，USPTO 網站尚未顯示該申請的專利編號，這意味著該專利仍在審查中。我們聯繫了微軟以了解更多信息，包括該專利是否與微軟先前宣布的降低AI 幻覺的工具——Azure AI 內容安全工具有關。該工具為企業AI 聊天機器人提供了AI 驅動的驗證，能夠在後台進行事實核查，判斷AI 的回答是否“無根基” 或“有根基”，在向用戶提供答案之前，只提供有實際數據支持的回答。
AI 幻覺問題是生成性AI 面臨的最大挑戰之一，嚴重影響了AI 聊天機器人的可信度。在這方面，Google和推特的AI 系統都曾產生過令人矚目的錯誤，例如建議用戶將膠水塗在披薩上或食用石頭，甚至傳播選舉假訊息。蘋果執行長提姆・庫克也承認，蘋果的智慧技術同樣無法避免幻覺問題。近期，OpenAI 的「Whisper」 音訊轉錄工具也被發現頻繁出現幻覺，令其在美國醫院的使用受到關注。
儘管AI 幻覺問題突出，科技巨頭們對AI 資料中心的需求依然強烈，包括Google、微軟和Meta 在內的公司正考慮將核能作為滿足AI 高能耗需求的潛在解決方案。
微軟此舉意在提升AI模式的可靠性，減少假訊息的傳播，這對AI技術的發展與應用具有重要意義。 未來，期待這項專利能夠順利通過審核，並最終應用於實際產品中，為使用者帶來更安全可靠的AI體驗。