Downcodes小编获悉，微软近日提交了一项专利申请，旨在解决人工智能生成的虚假信息问题。这项名为“利用外部知识和反馈与语言模型互动”的专利申请，于去年递交美国专利商标局（USPTO），并于10月31日公开。该专利提出了一种“响应增强系统”（RAS），旨在提升AI模型的回答准确性和可靠性，减少AI“幻觉”的发生。这项技术无需对现有模型进行复杂的调整，通过结合外部信息来源和用户反馈，有效地提高AI的回答质量，从而降低虚假信息的产生。
近日，微软提交了一项专利申请，旨在通过一种技术方法减少或消除人工智能生成的虚假信息。该专利的名称为 “利用外部知识和反馈与语言模型互动”，于去年向美国专利商标局（USPTO）递交，并于10月31日公开。
这一提案的核心是为 AI 模型提供一种 “响应增强系统”（RAS），使其能够根据用户的查询自动提取更多信息，并检查其回答的 “有效性”。
具体来说，响应增强系统能够识别是否有来自 “外部来源” 的信息能够更好地回答用户的问题。如果 AI 的回答没有包含这些信息，该系统会将其判定为不够有用。此外，RAS 还可以向用户提示其回答是否存在不足之处，用户也可以对此进行反馈。这一方案的优点在于，不需要开发者或公司对现有模型进行细致的调整。
目前，USPTO 网站尚未显示该申请的专利编号，这意味着该专利仍在审查之中。我们联系了微软以了解更多信息，包括该专利是否与微软此前宣布的降低 AI 幻觉的工具 ——Azure AI 内容安全工具有关。该工具为企业 AI 聊天机器人提供了 AI 驱动的验证，能够在后台进行事实核查，判断 AI 的回答是否 “无根基” 或 “有根基”，在向用户提供答案之前，只提供有实际数据支持的回答。
AI 幻觉问题是生成性 AI 面临的最大挑战之一，严重影响了 AI 聊天机器人的可信度。在这方面，谷歌和推特的 AI 系统都曾产生过令人瞩目的错误，例如建议用户将胶水涂在披萨上或食用石头，甚至传播选举虚假信息。苹果公司首席执行官蒂姆・库克也承认，苹果的智能技术同样无法避免幻觉问题。近期，OpenAI 的 “Whisper” 音频转录工具也被发现频繁出现幻觉，令其在美国医院的使用受到关注。
尽管 AI 幻觉问题突出，科技巨头们对 AI 数据中心的需求依然强烈，包括谷歌、微软和 Meta 在内的公司正考虑将核能作为满足 AI 高能耗需求的潜在解决方案。
微软此举意在提升AI模型的可靠性，减少虚假信息的传播，这对于AI技术的发展和应用具有重要意义。 未来，期待这项专利能够顺利通过审核，并最终应用于实际产品中，为用户带来更安全可靠的AI体验。