真実後の時代において、社会への誤った情報によって引き起こされる害は、特に政治選挙と主要な公共問題に関してますます顕著になっています。生成的AIの上昇は、深い偽造などの技術的手段の乱用も引き起こし、この深刻な問題を悪化させています。 Factiverseは、AIテクノロジーを使用して誤った情報と戦い、情報と社会的信頼の信頼性を保護することを約束しました。
インターネット上の偽情報の驚異的な速度は、2024年の米国大統領選挙後の公衆衛生、気候変動、移民の候補者に対するアメリカ人の認識に深刻な影響を与えました。生成的人工知能の開発は、深く偽造されたコンテンツを生成する能力と「幻想」の事実を生成する傾向が、この問題をさらに悪化させる可能性があります。
画像ソースノート：画像はAIによって生成され、画像認定サービスプロバイダーMidjourney
この課題に対処するために、ノルウェーのスタートアップファクタイバースが生まれました。同社は、10月にTechCrunchのBattlefield200コンペティションを混乱させ、セキュリティ、プライバシー、ソーシャルネットワーキングカテゴリで最高の講演賞を受賞しました。 Factiverseは、テキスト、ビデオ、オーディオコンテンツのリアルタイムファクトチェックを可能にするエンタープライズ指向のツールを開発しました。同社の目標は、企業が研究の時間を節約し、評判のリスクと法的責任を減らすのを支援することです。
2020年に設立されたファクトルスは、まだ初期段階にあり、約145万米ドルを調達しています。それでも、ファクタイバースは、ノルウェーの最大の銀行の1つを含む、いくつかのメディアや金融パートナーと協力し始めています。ファクタイバースのCEO兼共同設立者であるマリア・アメリは、複数のメディアが使用している米国大統領の議論のためにリアルタイムのファクトチェックサービスを提供していると語った。
アメリは、ファクタイバースは大規模な言語モデル（LLM）ではなく、情報検索に基づいて構築されたモデルであると強調しました。元テクノロジーのジャーナリストであり出版社として、アメリは共同設立者兼最高技術責任者のウィーナー・セティと協力して事実を発見した豊富な経験を積んでいます。彼らのAIモデルは、生成AIが使用する「ジャンクフードデータ」ではなく、世界的に信頼できるソースとファクトチェッカーからの高品質のデータについてトレーニングされています。
このモデルは、機械学習と自然言語処理技術を使用して、GoogleやBingなどの検索エンジン、アカデミックペーパーなど、インターネットでの情報のクレームをリアルタイムで特定し、検索します。 「最も興味深いのは、検索エンジンで最初の結果を単に示しているのではなく、信頼できるコンテンツを確保するための最も信頼できるソースを提案していることです」とアメリは言いました。
現在、Factiverseは、ファクトチェックに値する主張を認識する能力が114言語でGPT-4、Mistral7-B、およびGPT-3を超えると主張しています。 Amelliは、Factiverseの成功率は約80％であり、将来の目標は、より多くの顧客を引き付け、世界中の精度を向上させることです。
アメリはようやく言った：「私たちは最高の資金を持っていますが、米国での私たちの目標は、2025年に新しいラウンドの資金調達を行う予定であり、存在することを楽しみにしています。信頼と信頼性に喜んで投資する顧客や投資家を引き付けることができます。
キーポイント：
Factiverseは、オンラインディスフォーメーションとの闘いを目的としたリアルタイムの事実チェックにAIテクノロジーを使用することに焦点を当てたノルウェーのスタートアップです。
同社はいくつかのメディアおよび金融機関と提携しており、米国大統領の議論で事実確認サービスを提供しています。
Factiverseは、そのモデルが情報の特定と検証に最大80％の成功率を持ち、将来市場をさらに拡大すると主張しています。
ファクタイバースの出現は、情報の時代における誤った情報の急増に対処するための新しいアイデアと技術的手段を提供し、事実検証の分野でのその試みは注意に値します。将来的には、精度をさらに向上させ、それをより広い範囲の分野に適用する方法は、ファクタイバースと業界全体に直面している課題と機会になります。