La startup de inteligencia artificial francesa Mistral AI anunció el lanzamiento de una nueva API de auditoría de contenido, con el objetivo de competir con gigantes de la industria como OpenAI y cumplir con los desafíos de seguridad de IA y filtrado de contenido cada vez más severos. La API se basa en el modelo Ministral8B de Mistral. Mistral AI enfatiza el papel clave de la seguridad en las aplicaciones de IA, y ha establecido relaciones cooperativas con Microsoft Azure, Qualcomm y SAP para expandir activamente el mercado de IA Enterprise.
La startup de inteligencia artificial francesa Mistral AI lanzó recientemente una nueva API de auditoría de contenido, con el objetivo de competir con Operai y otros líderes de la industria mientras se trata de los crecientes problemas de seguridad de IA y filtrado de contenido.
El servicio se basa en el modelo Ministral8B de Mistral y está finamente sintonizado para detectar contenido potencialmente dañino en nueve categorías diferentes, incluyendo contenido pornográfico, discurso de odio, comportamiento violento, actividades peligrosas e información de identificación personal. Esta API también tiene la capacidad de analizar el texto original y el contenido de diálogo.
Mistral AI enfatizó en la conferencia de prensa que "la seguridad juega un papel clave en hacer que la IA sea útil".
La API de revisión de contenido publicada esta vez coincide con la creciente presión sobre la industria de la IA, y las empresas se ven obligadas a mejorar la seguridad de su tecnología. El mes pasado, Mistral también firmó un acuerdo con otras compañías importantes de IA para la Cumbre de Seguridad de IA, prometiendo desarrollar tecnologías de IA de manera responsable.
La API recién lanzada está disponible en la plataforma LE Chat de Mistral y admite 11 idiomas, incluidos árabe, chino, inglés, francés, alemán, italiano, japonés, coreano, portugués, ruso y español. Esta habilidad multilingüe diferencia a Mistral de algunos competidores que se centran principalmente en el contenido inglés.
Mistral AI también ha establecido asociaciones con compañías de alto perfil como Microsoft Azure, Qualcomm y SAP, aumentando gradualmente su influencia en el mercado de IA empresarial. SAP anunció recientemente que albergará los modelos de Mistral, incluido Mistral Life2, en su infraestructura, para proporcionar soluciones de IA seguras que cumplan con las regulaciones europeas.
La estrategia técnica de Mistral muestra su madurez más allá de la edad. Al capacitar a su modelo de auditoría para comprender el contexto de la conversación, en lugar de solo analizar el texto huérfano, Mistral ha desarrollado un sistema que captura un contenido más sutil y dañino que puede perderse en filtros más básicos.
Actualmente, la API de auditoría se proporciona a través de la plataforma en la nube de Mistral y se cobra en función del uso. Mistral dijo que continuará mejorando la precisión y expandir la funcionalidad del sistema en función de los comentarios de los clientes y cambiar las necesidades de seguridad.
Desde su inicio, Mistral se ha convertido rápidamente en una fuerza importante para promover el pensamiento de seguridad de IA corporativo. En un campo dominado por los gigantes tecnológicos estadounidenses, Mistral puede ser su mayor ventaja en la privacidad y la seguridad desde su perspectiva europea.
Portal de API: https://docs.mistral.ai/capabilities/guardrailing/
Puntos clave:
Mistral AI lanza API de auditoría de contenido multilingüe que admite 11 idiomas y detecta múltiples contenido dañino.
La API se ha aplicado en la plataforma LE Chat de Mistral y ha establecido asociaciones con múltiples negocios al mismo tiempo.
La tecnología de Mistral se basa en un contexto de diálogo y mejora la detección de contenido potencialmente dañino.
Se espera que la API de auditoría de contenido multilingüe de Mistral AI se ponga un punto de apoyo en el campo de seguridad de IA altamente competitivo con sus poderosas capacidades y asociaciones extensas. Sus ventajas técnicas de centrarse en los antecedentes de diálogo también proporcionan una nueva dirección para la mejora de la tecnología de revisión de contenido de IA en el futuro. Esperamos que la IA Mistral traiga más innovaciones al campo de la seguridad de la IA en el futuro.