Avec le développement rapide de la technologie de l'intelligence artificielle, le problème de "l'illusion" de l'IA devient de plus en plus importante, entraînant une grande réputation et des pertes économiques pour les entreprises. Le système d'IA a une désinformation et un comportement précaire dans les domaines du service client, des finances et des soins médicaux, ce qui affecte sérieusement sa fiabilité et sa crédibilité. Pour résoudre ce problème, de plus en plus d'entreprises commencent à prêter attention à la sécurité de l'IA et à rechercher activement des solutions efficaces.
Avec le développement rapide de l'intelligence artificielle, le phénomène de «l'illusion» de l'IA devient de plus en plus fréquent, ce qui a causé des problèmes considérables à de nombreuses entreprises. Les chatbots du service client décrivent en toute confiance les produits qui n'existent pas, les données sur le marché de l'IA financière et les robots médicaux fournissent des conseils médicaux dangereux. Ces problèmes ne sont plus des choses intéressantes, mais ce sont des dangers cachés majeurs qui affectent la réputation et les bénéfices de l'entreprise.
Pour relever ce défi, la startup Patronus AI basée à San Francisco a annoncé le lancement de la première plate-forme en libre-service au monde conçue pour détecter et empêcher les systèmes d'IA d'échouer en temps réel. Cette plate-forme est comme le "damier d'orthographe" des systèmes d'IA, qui peut être capturé avant qu'un problème ne se produise.
Anand Kannappan, PDG de Patronus AI, a déclaré dans une interview que de nombreuses entreprises sont confrontées à des défaillances de l'IA dans des environnements de production, notamment des hallucinations, des violations de sécurité et des comportements imprévisibles. Selon l'entreprise, les principaux modèles d'IA tels que GPT-4 ont 44% de chances de répéter le contenu protégé par le droit d'auteur lorsqu'ils ont été provoqués, et même les modèles avancés ont plus de 20% de chances de générer des tests de sécurité de base.
Pour aider les entreprises à améliorer la sécurité des systèmes d'IA, Patronus AI offre une gamme de fonctionnalités innovantes. Parmi eux, la fonction «évaluatrice» la plus importante permet aux entreprises d'écrire des règles d'évaluation personnalisées en anglais simple. Cette flexibilité permet aux entreprises de tous horizons de s'adapter en fonction de leurs besoins, tels que les sociétés de services financiers peuvent se concentrer sur la conformité, tandis que les établissements médicaux peuvent se concentrer sur la confidentialité des patients et la précision médicale.
Au cœur de la plate-forme se trouve un modèle de détection d'hallucination révolutionnaire appelée Lynx, qui est 8,3% plus précise que GPT-4 pour identifier les inexactitudes médicales. De plus, la plate-forme a deux modes de fonctionnement: l'un pour la surveillance en temps réel et l'autre pour une analyse approfondie. En plus de la vérification traditionnelle des erreurs, la société a également développé des outils spéciaux tels que CopyrightCatcher et FinanceBench pour offrir aux entreprises une protection complète des défaillances de l'IA.
Pour rendre ces outils de sécurité abordables pour plus d'entreprises, Patronus AI adopte un modèle de tarification payant à votre avance à partir de 10 $ pour 1 000 appels d'API. Les premiers adoptants incluent déjà les grandes entreprises telles que HP, Angellist et Pearson, montrant de l'importance pour l'investissement en sécurité de l'IA.
Aujourd'hui, avec un développement rapide de l'IA, des plateformes telles que Patronus IA peuvent non seulement aider les entreprises à réduire les risques, mais aussi aider à se conformer aux lois et réglementations à venir. Avec l'évolution continue des systèmes d'IA, comment capturer et corriger avec précision ces «illusions» seront un défi important auxquels sont confrontés les entreprises.
Portail de produit: https://www.patronus.ai/
Points clés:
Patronus AI lance la première API en libre-service au monde, visant à détecter et à prévenir les hallucinations de l'IA en temps réel.
La plate-forme permet aux entreprises de créer des règles d'évaluation personnalisées en anglais simple, fournissant des solutions flexibles.
L'adoption d'un modèle de paiement en tant que manchet permet à plus d'entreprises de se permettre des outils de sécurité de l'IA.
L'émergence de Patronus AI fournit une solution efficace pour résoudre le problème d'hallucination de l'IA. Développement de la technologie d'IA.