在後真相時代，虛假信息對社會造成的危害日益凸顯，尤其是在政治選舉和重大公共議題上。生成式AI的興起，更使得深度偽造等技術手段被濫用，加劇了這一嚴峻問題。 Factiverse應運而生，致力於利用AI技術對抗虛假信息，為信息真實性和社會信任保駕護航。
在2024年美國總統選舉後，網絡上的虛假信息驚人的速度傳播嚴重影響了美國人對候選人以及公共健康、氣候變化和移民話題的看法。生成式人工智能的發展，加之其生成深度偽造內容的能力和“幻覺” 事實的傾向，可能進一步加劇這一問題。
圖源備註:圖片由AI生成，圖片授權服務商Midjourney
為應對這一挑戰，挪威初創公司Factiverse 應運而生。該公司參加了10月份的TechCrunch Disrupt Battlefield200比賽，並在安全、隱私和社交網絡類別中贏得了最佳演講獎。 Factiverse 開發了一款面向企業的工具，能夠對文本、視頻和音頻內容進行實時事實檢查。公司的目標是幫助企業節省研究時間，降低聲譽風險和法律責任。
Factiverse 成立於2020年，目前仍處於早期階段，已融資約145萬美元。儘管如此，Factiverse 已經開始與多家媒體和金融合作夥伴合作，包括挪威最大的銀行之一。 Factiverse 的首席執行官兼聯合創始人瑪利亞・阿梅莉表示，他們甚至為美國總統辯論提供了實時事實檢查服務，受到了多家媒體的使用。
阿梅莉強調，Factiverse 並不是一個大型語言模型（LLM），而是基於信息檢索構建的模型。作為一名前科技記者和出版作者，阿梅莉在與聯合創始人兼首席技術官維納・塞蒂的合作中，積累了豐富的事實調查經驗。他們的AI 模型基於全球可靠來源和事實檢查者的高質量數據進行訓練，而非生成式AI 所使用的“垃圾食品數據”。
該模型利用機器學習和自然語言處理技術，能夠實時識別信息中的主張並在網絡上搜索，包括谷歌、必應等搜索引擎以及學術論文。阿梅莉表示，“最有趣的部分在於，我們並不是簡單地展示搜索引擎中的第一條結果，而是建議最可靠的來源，確保內容的權威性。”
目前，Factiverse 聲稱在114種語言中，其識別事實檢查- worthy 主張的能力超越了GPT-4、Mistral7-b 和GPT-3。阿梅莉提到，Factiverse 的成功率約為80%，未來的目標是在全球範圍內吸引更多客戶並提高準確性。
阿梅莉最後表示:“我們有足夠的資金成為最優秀的，但我們在美國的目標是成為發展最快的公司。” 她還提到，Factiverse 計劃在2025年進行新一輪融資，期待能夠吸引那些願意投資於信任和可信度的客戶和投資者。
劃重點:
Factiverse 是一家挪威初創公司，專注於利用AI 技術進行實時事實檢查，旨在打擊網絡虛假信息。
該公司已與多家媒體和金融機構合作，並在美國總統辯論中提供了事實檢查服務。
Factiverse 聲稱其模型在識別和驗證信息方面的成功率高達80%，未來將進一步拓展市場。
Factiverse 的出現為應對信息時代虛假信息的氾濫提供了一種新的思路和技術手段，其在事實查證領域的嘗試值得關注。未來，如何進一步提升準確率，並將其應用於更廣泛的領域，將是Factiverse乃至整個行業面臨的挑戰和機遇。