La startup française de l'intelligence artificielle Mistral IA a annoncé le lancement d'une nouvelle API d'audit de contenu, visant à concurrencer les géants de l'industrie tels que OpenAI et à relever les défis de la sécurité et du filtrage de l'IA de plus en plus graves. L'API est basée sur le modèle Ministral8B de Mistral. Mistral IA met l'accent sur le rôle clé de la sécurité dans les applications d'IA et a établi des relations coopératives avec Microsoft Azure, Qualcomm et SAP pour étendre activement le marché de l'IA de l'entreprise.
La startup d'intelligence artificielle française Mistral IA a récemment lancé une nouvelle API d'audit de contenu, visant à rivaliser avec OpenAI et d'autres leaders de l'industrie tout en traitant les problèmes croissants de la sécurité et du filtrage de contenu de l'IA.
Le service est basé sur le modèle Ministral8B de Mistral et est finement réglé pour détecter le contenu potentiellement nocif dans neuf catégories différentes, notamment le contenu pornographique, le discours de haine, les comportements violents, les activités dangereuses et les informations personnellement identifiables. Cette API a également la capacité d'analyser le contenu de texte et de dialogue original.
Mistral AI a souligné lors de la conférence de presse que "la sécurité joue un rôle clé dans la faculté de l'IA". Ils croient que les mesures de protection au niveau du système sont cruciales pour protéger les applications en aval.
L'API d'examen du contenu publié cette fois coïncide avec la pression croissante sur l'industrie de l'IA, et les entreprises sont obligées d'améliorer la sécurité de leur technologie. Le mois dernier, Mistral a également signé un accord avec d'autres grandes sociétés d'IA pour le sommet de la sécurité de l'IA, promettant de développer des technologies d'IA de manière responsable.
L'API nouvellement lancée est disponible sur la plate-forme de chat Le Mistral et prend en charge 11 langues, notamment l'arabe, le chinois, l'anglais, le français, l'allemand, l'italien, le japonais, le coréen, le portugais, le russe et l'espagnol. Cette capacité multilingue distingue Mistral de certains concurrents qui se concentrent principalement sur le contenu anglais.
Mistral AI a également établi des partenariats avec des sociétés de haut niveau telles que Microsoft Azure, Qualcomm et SAP, augmentant progressivement son influence sur le marché de l'IA de l'entreprise. SAP a récemment annoncé qu'elle accueillera les modèles de Mistral, y compris Mistral Big2, sur son infrastructure, pour fournir des solutions d'IA sécurisées conformes aux réglementations européennes.
La stratégie technique de Mistral montre sa maturité au-delà de l'âge. En formant son modèle d'audit pour comprendre le contexte de la conversation, plutôt que d'analyser simplement le texte orphelin, Mistral a développé un système qui capture un contenu plus subtil et nocif qui peut être manqué dans des filtres plus basiques.
Actuellement, l'API d'audit est fournie via la plate-forme cloud de Mistral et est facturée en fonction de l'utilisation. Mistral a déclaré qu'il continuerait d'améliorer la précision et d'élargir les fonctionnalités du système en fonction des commentaires des clients et de l'évolution des besoins de sécurité.
Depuis sa création, Mistral est rapidement devenu une force importante dans la promotion de la pensée de sécurité de l'IA des entreprises. Dans un domaine dominé par les géants de la technologie américaine, Mistral pourrait être son plus grand avantage en matière de confidentialité et de sécurité de sa perspective européenne.
Portail API: https://docs.mistral.ai/capabilities/guardrailing/
Points clés:
Mistral AI lance l'API d'audit de contenu multilingue qui prend en charge 11 langues et détecte plusieurs contenus nocifs.
L'API a été appliquée sur la plate-forme LE Chat de Mistral et a établi des partenariats avec plusieurs entreprises en même temps.
La technologie de Mistral est basée sur un contexte de dialogue et améliore la détection d'un contenu potentiellement nocif.
L'API d'audit de contenu multilingue de Mistral AI devrait prendre pied dans le domaine de la sécurité très compétitif de l'IA avec ses puissantes capacités et partenariats approfondis. Ses avantages techniques de se concentrer sur le contexte du dialogue fournissent également une nouvelle orientation pour l'amélioration de la technologie de revue du contenu d'IA à l'avenir. Nous nous réjouissons de Mistral IA apportant plus d'innovations dans le domaine de la sécurité de l'IA à l'avenir.