Ces dernières années, la technologie de l'intelligence artificielle s'est développée rapidement, mais elle a également posé de nouveaux défis : le phénomène des « hallucinations » de l'IA est devenu de plus en plus important. Les cas de systèmes d’IA produisant des informations erronées, fabriquant des données et donnant même des suggestions dangereuses sont fréquents, affectant gravement la réputation et les intérêts des entreprises. L'éditeur de Downcodes vous fera découvrir une start-up et ses produits innovants dédiés à résoudre cette problématique.
Aujourd’hui, avec le développement rapide de l’intelligence artificielle, les « hallucinations » de l’IA deviennent de plus en plus fréquentes, causant des problèmes considérables à de nombreuses entreprises. Les chatbots du service client décrivent en toute confiance des produits inexistants, l’IA financière fabrique des données de marché et les robots médicaux offrent des conseils médicaux dangereux. Ces problèmes ne sont plus de simples anecdotes, mais de graves dangers cachés qui affectent la réputation et la rentabilité de l'entreprise.
Pour relever ce défi, la startup Patronus AI, basée à San Francisco, a annoncé le lancement de la première plateforme libre-service au monde, conçue pour détecter et prévenir les pannes du système d'IA en temps réel. La plateforme agit comme un « correcteur orthographique » pour les systèmes d’IA, détectant les problèmes avant qu’ils ne surviennent.
Anand Kannappan, PDG de Patronus AI, a déclaré dans une interview que de nombreuses entreprises sont confrontées à des pannes d'IA dans les environnements de production, avec des problèmes tels que des hallucinations, des failles de sécurité et un comportement imprévisible. Selon les recherches de l'entreprise, les principaux modèles d'IA tels que GPT-4 ont 44 % de chances de dupliquer du contenu protégé par le droit d'auteur lorsque vous y êtes invité, et même les modèles avancés ont plus de 20 % de chances de générer du contenu dangereux lors des tests de sécurité de base.
Pour aider les entreprises à améliorer la sécurité de leurs systèmes d'IA, Patronus AI propose une série de fonctionnalités innovantes. Parmi elles, la fonction « évaluateur » la plus importante permet aux entreprises de rédiger des règles d'évaluation personnalisées dans un anglais simple. Cette flexibilité permet aux entreprises de tous secteurs de s'adapter à leurs besoins, depuis les sociétés de services financiers qui se concentrent sur la conformité jusqu'aux organisations de soins de santé qui se concentrent sur la confidentialité des patients et l'exactitude médicale.
Au cœur de la plateforme se trouve un modèle révolutionnaire de détection des hallucinations appelé Lynx, qui est 8,3 % plus précis que le GPT-4 pour identifier les inexactitudes médicales. De plus, la plateforme dispose de deux modes de fonctionnement : un pour le suivi en temps réel et un autre pour une analyse approfondie. En plus de la vérification traditionnelle des erreurs, la société a également développé des outils spéciaux tels que CopyrightCatcher (outil de détection des droits d'auteur) et FinanceBench (référence d'évaluation des performances financières) pour fournir aux entreprises une protection complète contre les pannes d'IA.
Pour rendre ces outils de sécurité abordables pour un plus grand nombre d'entreprises, Patronus AI adopte un modèle de tarification à l'utilisation, à partir de 10 $ pour 1 000 appels d'API. Parmi les premiers utilisateurs figurent déjà de grandes entreprises telles que HP, AngelList et Pearson, démontrant l'importance qu'elles attachent aux investissements dans la sécurité de l'IA.
Aujourd'hui, avec le développement rapide de l'IA, des outils tels que la plateforme Patronus AI peuvent non seulement aider les entreprises à réduire les risques, mais également à se conformer aux lois et réglementations à venir. À mesure que les systèmes d’IA continuent d’évoluer, la manière de capturer et de corriger avec précision ces « illusions » constituera un défi important pour les entreprises.
Entrée du produit : https://www.patronus.ai/
L'émergence de Patronus AI offre une nouvelle façon de penser pour résoudre le problème de l'illusion de l'IA. Sa plate-forme en libre-service et ses fonctions innovantes méritent l'attention. À mesure que la technologie de l’IA continue de se développer, des outils de sécurité similaires joueront un rôle de plus en plus important, aidant les entreprises à mieux utiliser la technologie de l’IA tout en contrôlant efficacement les risques.