Dans l'ère post-vérité, le préjudice causé par de fausses informations à la société devient de plus en plus importante, en particulier sur les élections politiques et les principales questions publiques. La montée en puissance de l'IA génératrice a également provoqué l'abus de moyens techniques tels que la contrefaçon profonde, exacerbant ce problème grave. Factiverse a vu le jour, engagé à utiliser la technologie de l'IA pour lutter contre les fausses informations et protéger l'authenticité de l'information et de la confiance sociale.
La vitesse stupéfiante de la désinformation sur Internet a sérieusement affecté les perceptions des Américains sur les candidats et les sujets de la santé publique, du changement climatique et de l'immigration après l'élection présidentielle américaine de 2024. Le développement de l'intelligence artificielle générative, associée à sa capacité à générer un contenu profondément falsifié et la tendance à «l'illusion», peut encore exacerber ce problème.
Remarques de la source d'image: L'image est générée par l'IA, et le fournisseur de services autorisé l'image MidJourney
Pour relever ce défi, les startup facteurs norvégiens ont vu le jour. L'entreprise a participé au concours TechCrunch Disrupt Battlefield200 en octobre et a remporté le prix du meilleur parlant dans les catégories de sécurité, de confidentialité et de réseautage social. Factiverse a développé un outil axé sur l'entreprise qui permet des vérifications de faits en temps réel sur le contenu de texte, vidéo et audio. L'objectif de l'entreprise est d'aider les entreprises à économiser du temps de recherche et à réduire les risques de réputation et la responsabilité légale.
Fondée en 2020, Factiverse en est encore à ses débuts et a recueilli environ 1,45 million de dollars. Pourtant, Factiverse a commencé à travailler avec plusieurs médias et partenaires financiers, dont l'une des plus grandes banques norvégiennes. Maria Amelie, PDG et co-fondatrice de Factiverse, a déclaré avoir même fourni des services de vérification des faits en temps réel pour le débat présidentiel américain, qui a été utilisé par plusieurs médias.
Amelli a souligné que Factiverse n'est pas un modèle grand langage (LLM), mais un modèle construit basé sur la récupération des informations. En tant qu'ancien journaliste et éditeur technologique, Amelie a acquis une vaste expérience dans la recherche de faits en collaboration avec le co-fondateur et directeur de la technologie Wiener SETI. Leurs modèles d'IA sont formés sur des données de haute qualité provenant de sources et de vérificateurs de faits globalement fiables, plutôt que sur les «données indésirables» utilisées par l'IA générative.
Le modèle utilise l'apprentissage automatique et la technologie de traitement du langage naturel pour identifier les affirmations en temps réel et rechercher sur Internet, y compris les moteurs de recherche tels que Google et Bing, ainsi que les articles académiques. "La partie la plus intéressante est que nous ne montrons pas simplement le premier résultat dans les moteurs de recherche, mais suggérant les sources les plus fiables pour assurer le contenu faisant autorité", a déclaré Amelli.
Actuellement, Factiverse affirme que sa capacité à reconnaître les réclamations dignes de vérification des faits dépasse GPT-4, Mistral7-B et GPT-3 dans 114 langues. Amelli a mentionné que Factiverse a un taux de réussite d'environ 80%, et que l'objectif futur est d'attirer plus de clients et d'améliorer la précision dans le monde.
Amelli a finalement déclaré: "Nous avons suffisamment de fonds pour être les meilleurs, mais notre objectif aux États-Unis est d'être la société à la croissance la plus rapide." Capable d'attirer des clients et des investisseurs qui sont prêts à investir dans la confiance et la fiabilité.
Points clés:
Factiverse est une startup norvégienne axée sur l'utilisation de la technologie d'IA pour les vérifications de faits en temps réel visant à lutter contre la désinformation en ligne.
La société s'est associée à plusieurs médias et institutions financières et a fourni des services de vérification des faits dans le débat présidentiel américain.
Factiverse affirme que son modèle a un taux de réussite allant jusqu'à 80% dans l'identification et la vérification des informations, et élargira encore le marché à l'avenir.
L'émergence de Factiverse fournit une nouvelle idée et des moyens techniques pour faire face à la prolifération de fausses informations à l'ère de l'information, et ses tentatives dans le domaine de la vérification des faits sont dignes d'attention. À l'avenir, comment améliorer encore la précision et l'appliquer à un plus large éventail de domaines sera un défi et une opportunité confrontée à Factiverse et à toute l'industrie.