在后真相时代，虚假信息对社会造成的危害日益凸显，尤其是在政治选举和重大公共议题上。生成式AI的兴起，更使得深度伪造等技术手段被滥用，加剧了这一严峻问题。Factiverse应运而生，致力于利用AI技术对抗虚假信息，为信息真实性和社会信任保驾护航。
在2024年美国总统选举后，网络上的虚假信息惊人的速度传播严重影响了美国人对候选人以及公共健康、气候变化和移民话题的看法。生成式人工智能的发展，加之其生成深度伪造内容的能力和 “幻觉” 事实的倾向，可能进一步加剧这一问题。
图源备注:图片由AI生成，图片授权服务商Midjourney
为应对这一挑战，挪威初创公司 Factiverse 应运而生。该公司参加了10月份的 TechCrunch Disrupt Battlefield200比赛，并在安全、隐私和社交网络类别中赢得了最佳演讲奖。Factiverse 开发了一款面向企业的工具，能够对文本、视频和音频内容进行实时事实检查。公司的目标是帮助企业节省研究时间，降低声誉风险和法律责任。
Factiverse 成立于2020年，目前仍处于早期阶段，已融资约145万美元。尽管如此，Factiverse 已经开始与多家媒体和金融合作伙伴合作，包括挪威最大的银行之一。Factiverse 的首席执行官兼联合创始人玛利亚・阿梅莉表示，他们甚至为美国总统辩论提供了实时事实检查服务，受到了多家媒体的使用。
阿梅莉强调，Factiverse 并不是一个大型语言模型（LLM），而是基于信息检索构建的模型。作为一名前科技记者和出版作者，阿梅莉在与联合创始人兼首席技术官维纳・塞蒂的合作中，积累了丰富的事实调查经验。他们的 AI 模型基于全球可靠来源和事实检查者的高质量数据进行训练，而非生成式 AI 所使用的 “垃圾食品数据”。
该模型利用机器学习和自然语言处理技术，能够实时识别信息中的主张并在网络上搜索，包括谷歌、必应等搜索引擎以及学术论文。阿梅莉表示，“最有趣的部分在于，我们并不是简单地展示搜索引擎中的第一条结果，而是建议最可靠的来源，确保内容的权威性。”
目前，Factiverse 声称在114种语言中，其识别事实检查 - worthy 主张的能力超越了 GPT-4、Mistral7-b 和 GPT-3。阿梅莉提到，Factiverse 的成功率约为80%，未来的目标是在全球范围内吸引更多客户并提高准确性。
阿梅莉最后表示:“我们有足够的资金成为最优秀的，但我们在美国的目标是成为发展最快的公司。” 她还提到，Factiverse 计划在2025年进行新一轮融资，期待能够吸引那些愿意投资于信任和可信度的客户和投资者。
划重点:
Factiverse 是一家挪威初创公司，专注于利用 AI 技术进行实时事实检查，旨在打击网络虚假信息。
该公司已与多家媒体和金融机构合作，并在美国总统辩论中提供了事实检查服务。
Factiverse 声称其模型在识别和验证信息方面的成功率高达80%，未来将进一步拓展市场。
Factiverse 的出现为应对信息时代虚假信息的泛滥提供了一种新的思路和技术手段，其在事实查证领域的尝试值得关注。未来，如何进一步提升准确率，并将其应用于更广泛的领域，将是Factiverse乃至整个行业面临的挑战和机遇。