A startup de inteligência artificial francesa Mistral AI anunciou o lançamento de uma nova API de auditoria de conteúdo, com o objetivo de competir com gigantes da indústria como o OpenAI e enfrentar os desafios de segurança e filtragem de conteúdo cada vez mais graves. A API é baseada no modelo Ministral8b da Mistral. A MISTRAL AI enfatiza o papel principal da segurança nos aplicativos de IA e estabeleceu relações cooperativas com o Microsoft Azure, a Qualcomm e a SAP para expandir ativamente o mercado de IA da empresa.
A startup de inteligência artificial francesa, a IA, a IA lançou recentemente uma nova API de auditoria de conteúdo, com o objetivo de competir com o OpenAI e outros líderes da indústria enquanto lidava com os crescentes problemas de segurança e filtragem de conteúdo da IA.
O serviço é baseado no modelo Ministral8b da Mistral e é finamente ajustado para detectar conteúdo potencialmente prejudicial em nove categorias diferentes, incluindo conteúdo pornográfico, discurso de ódio, comportamento violento, atividades perigosas e informações de identificação pessoal. Esta API também tem a capacidade de analisar o texto original e o conteúdo de diálogo.
A IA Mistral enfatizou na conferência de imprensa que "a segurança desempenha um papel fundamental para tornar a IA útil".
A API de revisão de conteúdo divulgada desta vez coincide com a crescente pressão sobre a indústria de IA, e as empresas são forçadas a melhorar a segurança de sua tecnologia. No mês passado, a Mistral também assinou um acordo com outras grandes empresas de IA para a cúpula de segurança da IA, prometendo desenvolver responsabilidade de tecnologias de IA.
A API recém -lançada está disponível na plataforma de bate -papo de Mistral e suporta 11 idiomas como árabe, chinês, inglês, francês, alemão, italiano, japonês, coreano, português, russo e espanhol. Essa habilidade multilíngue diferencia o Mistral de alguns concorrentes que se concentram principalmente no conteúdo em inglês.
A IA Mistral também estabeleceu parcerias com empresas de alto nível, como Microsoft Azure, Qualcomm e SAP, aumentando gradualmente sua influência no mercado de IA da empresa. A SAP anunciou recentemente que sediará os modelos da Mistral, incluindo o Mistral Large2, em sua infraestrutura, para fornecer soluções seguras de IA que cumpram os regulamentos europeus.
A estratégia técnica de Mistral mostra sua maturidade além da idade. Ao treinar seu modelo de auditoria para entender o contexto da conversa, em vez de apenas analisar o texto órfão, a Mistral desenvolveu um sistema que captura conteúdo mais sutil e prejudicial que pode ser perdido em filtros mais básicos.
Atualmente, a API de auditoria é fornecida através da plataforma em nuvem de Mistral e é carregada com base no uso. A Mistral disse que continuará melhorando a precisão e expandindo a funcionalidade do sistema com base no feedback do cliente e nas necessidades de segurança.
Desde a sua criação, o Mistral rapidamente se tornou uma força importante na promoção do pensamento corporativo de segurança da IA. Em um campo dominado pelos gigantes da tecnologia americana, o Mistral pode ser sua maior vantagem na privacidade e segurança de sua perspectiva européia.
API Portal: https://docs.mistral.ai/capabilities/guardrailing/
Pontos -chave:
A IA Mistral lança uma API multilíngue de auditoria de conteúdo que suporta 11 idiomas e detecta múltiplos conteúdos prejudiciais.
A API foi aplicada na plataforma de chat de Mistral e estabeleceu parcerias com vários negócios ao mesmo tempo.
A tecnologia da Mistral é baseada em um contexto de diálogo e aprimora a detecção de conteúdo potencialmente prejudicial.
A API multilíngue de auditoria de conteúdo da IA da AI deve ganhar uma posição no campo de segurança da IA altamente competitivo, com seus poderosos recursos e parcerias extensas. Suas vantagens técnicas de foco no contexto de diálogo também fornecem uma nova direção para a melhoria da tecnologia de revisão de conteúdo de IA no futuro. Estamos ansiosos para a IA Mistral trazendo mais inovações ao campo da segurança da IA no futuro.