A startup francesa de inteligência artificial Mistral AI anunciou o lançamento de uma nova API de moderação de conteúdo, com o objetivo de competir com concorrentes como a OpenAI e enfrentar os desafios cada vez mais severos de segurança de IA e filtragem de conteúdo. A API é baseada no modelo Ministral8B da Mistral e foi otimizada para identificar nove tipos diferentes de conteúdo prejudicial, abrangendo pornografia, discurso de ódio, violência, etc., e suporta vários idiomas, o que a diferencia da concorrência. A Mistral AI enfatiza a importância da segurança e participa ativamente do AI Security Summit, prometendo desenvolver tecnologia de IA de forma responsável. O editor de Downcodes lhe dará uma explicação detalhada desta nova API do Mistral AI.
O serviço é baseado no modelo Ministral8B da Mistral, que é ajustado para detectar conteúdo potencialmente prejudicial em nove categorias diferentes, incluindo pornografia, discurso de ódio, violência, atividades perigosas e informações de identificação pessoal. A API tem a capacidade de analisar texto bruto e conteúdo de conversa.
A Mistral AI enfatizou na conferência de imprensa que “a segurança desempenha um papel fundamental para tornar a IA útil”. Eles acreditam que as medidas de proteção de segurança em nível de sistema são críticas para proteger as aplicações downstream.
O lançamento da API de moderação de conteúdo ocorre em um momento em que a indústria de IA enfrenta uma pressão crescente e as empresas são forçadas a melhorar a segurança de sua tecnologia. No mês passado, a Mistral também assinou um acordo com outras grandes empresas de IA para o AI Security Summit, comprometendo-se a desenvolver tecnologia de IA de forma responsável.
A API recém-lançada já está disponível na plataforma Le Chat da Mistral, suportando 11 idiomas, incluindo árabe, chinês, inglês, francês, alemão, italiano, japonês, coreano, português, russo e espanhol. Esta capacidade multilíngue diferencia a Mistral de alguns concorrentes que se concentram principalmente apenas no conteúdo em inglês.
A Mistral AI também estabeleceu parcerias com empresas de alto perfil como Microsoft Azure, Qualcomm e SAP, aumentando gradualmente a sua influência no mercado empresarial de IA. A SAP anunciou recentemente que irá hospedar os modelos da Mistral, incluindo o Mistral Large2, na sua infraestrutura para fornecer soluções seguras de IA que cumpram as regulamentações europeias.
A estratégia tecnológica da Mistral mostra maturidade além dos seus anos. Ao treinar seu modelo de moderação para entender o contexto das conversas, em vez de apenas analisar textos isolados, a Mistral desenvolveu um sistema capaz de capturar conteúdos nocivos mais sutis que podem passar despercebidos em filtros mais básicos.
Atualmente, a API de auditoria está disponível na plataforma em nuvem da Mistral e é cobrada com base no uso. Mistral disse que continuará a melhorar a precisão do sistema e a expandir a funcionalidade com base no feedback dos clientes e nas mudanças nas necessidades de segurança.
Desde a sua criação, a Mistral cresceu rapidamente e se tornou uma força importante na promoção do pensamento empresarial de segurança de IA. Num campo dominado pelos gigantes tecnológicos dos EUA, a perspectiva europeia de Mistral sobre privacidade e segurança pode ser a sua maior força.
Entrada da API: https://docs.mistral.ai/capabilities/guardrailing/
Em suma, a API de moderação de conteúdo da Mistral AI não apenas demonstra suas capacidades inovadoras no campo da segurança de IA, mas também fornece às empresas soluções de IA mais seguras e confiáveis. O seu suporte multilíngue e a compreensão do contexto conversacional conferem-lhe uma posição forte num mercado altamente competitivo. No futuro, o desenvolvimento da Mistral AI merece atenção contínua.