随着人工智能技术的快速发展，语言模型在多个领域的应用越来越广泛。然而，OpenAI 的一项最新研究揭示，这些模型在回答事实问题时的表现远未达到预期，引发了人们对 AI 知识获取能力的重新思考。
最近，一项由 OpenAI 进行的研究显示，尽管人工智能技术飞速发展，当前最先进的语言模型在回答事实问题时的成功率却远低于预期。
研究采用了 OpenAI 自家的 SimpleQA 基准测试，这个测试包含了4，326个，涵盖了科学、政治和艺术等多个领域，每个问题都有一个明确的正确答案。
经过两名独立评审员的验证，结果显示，OpenAI 最好的模型 o1-preview 的准确率仅为42.7%，而 GPT-4o 则略低，只有38.2%。至于更小的 GPT-4o-mini，准确率甚至只有8.6%。相比之下，Anthropic 的 Claude 模型表现得更差，Claude-3.5-sonnet 的正确率仅为28.9%。
这项研究的关键在于测试的设计，不仅仅是为了测试 AI 的表现，还为了让大家认识到 AI 模型在知识获取方面的局限性。研究者强调，用户在使用这些模型时，应该将其视为信息处理工具，而不是完全依赖的知识来源。为了获得更准确的回答，最好能为 AI 提供可靠的数据，而不是单纯依赖其内置的知识。
值得注意的是，AI 模型对自身能力的估计往往过于乐观。研究人员发现，当这些模型被要求对自己的回答进行信心评分时，它们通常会给出夸大的准确性评分。在重复回答相同问题的测试中，即使模型多次给出相同答案，它们的实际成功率也仍低于其自我评估的准确性。这与外界对语言模型常常产生荒谬回答却显得信心满满的批评一致。
研究者认为，当前的 AI 系统在事实准确性上存在明显的缺口，亟需改进。同时，他们也提出了一个开放性问题:AI 在回答简短事实问题的表现是否能预测其在处理更长、更复杂回答时的表现。为了支持更可靠的语言模型的开发，OpenAI 已经将 SimpleQA 基准测试的资料公开发布到 Github 上。
划重点:
OpenAI 的研究显示，最先进的语言模型在回答事实问题时的成功率低，最高仅为42.7%。
这些 AI 模型常常高估自己的能力，信心评分普遍夸大。
OpenAI 已将 SimpleQA 基准公开，以帮助研究更可靠的语言模型。
这项研究提醒我们，尽管 AI 技术取得了显著进展，但在实际应用中仍需谨慎对待其局限性，并持续推动技术改进。