微软近日提交了一项专利申请，旨在解决人工智能生成虚假信息（AI幻觉）的问题。这项名为“利用外部知识和反馈与语言模型互动”的专利申请，旨在通过一个名为“响应增强系统”（RAS）的机制来提升AI模型的准确性和可靠性。该系统能够自动从外部来源获取更多信息，验证AI生成的答案，并向用户提示潜在的不足之处，从而有效减少AI生成的虚假信息。这项专利申请的公开，标志着微软在对抗AI幻觉问题上迈出了重要一步，也反映了业界对解决这一问题的迫切需求。
近日，微软提交了一项专利申请，旨在通过一种技术方法减少或消除人工智能生成的虚假信息。该专利的名称为 “利用外部知识和反馈与语言模型互动”，于去年向美国专利商标局（USPTO）递交，并于10月31日公开。这一提案的核心是为 AI 模型提供一种 “响应增强系统”（RAS），使其能够根据用户的查询自动提取更多信息，并检查其回答的 “有效性”。
具体来说，响应增强系统能够识别是否有来自 “外部来源” 的信息能够更好地回答用户的问题。如果 AI 的回答没有包含这些信息，该系统会将其判定为不够有用。此外，RAS 还可以向用户提示其回答是否存在不足之处，用户也可以对此进行反馈。这一方案的优点在于，不需要开发者或公司对现有模型进行细致的调整。
目前，USPTO 网站尚未显示该申请的专利编号，这意味着该专利仍在审查之中。我们联系了微软以了解更多信息，包括该专利是否与微软此前宣布的降低 AI 幻觉的工具 ——Azure AI 内容安全工具有关。该工具为企业 AI 聊天机器人提供了 AI 驱动的验证，能够在后台进行事实核查，判断 AI 的回答是否 “无根基” 或 “有根基”，在向用户提供答案之前，只提供有实际数据支持的回答。
AI 幻觉问题是生成性 AI 面临的最大挑战之一，严重影响了 AI 聊天机器人的可信度。在这方面，谷歌和推特的 AI 系统都曾产生过令人瞩目的错误，例如建议用户将胶水涂在披萨上或食用石头，甚至传播选举虚假信息。苹果公司首席执行官蒂姆・库克也承认，苹果的智能技术同样无法避免幻觉问题。近期，OpenAI 的 “Whisper” 音频转录工具也被发现频繁出现幻觉，令其在美国医院的使用受到关注。
尽管 AI 幻觉问题突出，科技巨头们对 AI 数据中心的需求依然强烈，包括谷歌、微软和 Meta 在内的公司正考虑将核能作为满足 AI 高能耗需求的潜在解决方案。
划重点:
微软申请了一项新专利，旨在减少 AI 生成的虚假信息。
该专利的核心是为 AI 模型引入响应增强系统，自动提取更多信息。
尽管 AI 幻觉问题严重，但科技公司对 AI 数据中心的需求依然强劲。
微软这项专利申请的公开，预示着科技公司在应对AI幻觉问题上将持续投入更多努力。 未来，更可靠、更可信的AI系统有望出现，这将极大地提升AI技术的应用价值和用户体验。