프랑스 인공 지능 스타트 업 Mistral AI는 OpenAI와 같은 업계 대기업과 경쟁하고 점점 더 심각한 AI 보안 및 컨텐츠 필터링 문제를 충족시키기 위해 새로운 컨텐츠 감사 API의 출시를 발표했습니다. API는 Mistral의 Ministral8b 모델을 기반으로합니다. 포르노 컨텐츠, 증오 연설 등의 9 가지 유해한 내용을 감지하고 중국어, 영어 등을 포함한 11 개 언어를 지원합니다. Mistral AI는 AI 응용 프로그램에서 보안의 주요 역할을 강조하고 Microsoft Azure, Qualcomm 및 SAP와 협력 관계를 구축하여 엔터프라이즈 AI 시장을 적극적으로 확장했습니다.
프랑스 인공 지능 스타트 업 Mistral AI는 최근 AI 보안 및 컨텐츠 필터링의 점점 더 많은 문제를 다루면서 OpenAI 및 기타 업계 리더와 경쟁하기 위해 새로운 컨텐츠 감사 API를 출시했습니다.
이 서비스는 Mistral의 Ministral8b 모델을 기반으로하며 포르노 컨텐츠, 증오심 표현, 폭력적인 행동, 위험한 활동 및 개인 식별 정보를 포함하여 9 가지 범주에서 잠재적으로 유해한 콘텐츠를 감지하도록 잘 조정됩니다. 이 API에는 원본 텍스트 및 대화 내용을 분석 할 수 있습니다.
Mistral AI는 기자 회견에서 "보안은 AI를 유용하게 만드는 데 중요한 역할을한다"고 강조했다.
이시기에 발표 된 Content Review API는 AI 산업에 대한 압력 증가와 일치하며 회사는 기술의 보안을 향상시켜야합니다. 지난달, 미스트랄은 AI 보안 정상 회담을 위해 다른 주요 AI 회사들과 계약을 체결하여 AI 기술을 책임감있게 개발할 것을 약속했다.
새로 출시 된 API는 Mistral의 LE Chat 플랫폼에서 제공되며 아랍어, 중국어, 영어, 프랑스어, 독일어, 이탈리아어, 일본어, 한국, 포르투갈어, 러시아어 및 스페인어를 포함한 11 개 언어를 지원합니다. 이 다국어 능력은 주로 영어 콘텐츠에 중점을 둔 일부 경쟁 업체와는 별도로 미소를 설정합니다.
Mistral AI는 또한 Microsoft Azure, Qualcomm 및 SAP와 같은 유명 회사와의 파트너십을 설립하여 Enterprise AI 시장에서의 영향력을 점차 증가 시켰습니다. SAP는 최근 유럽 규정을 준수하는 안전한 AI 솔루션을 제공하기 위해 인프라에서 Mistral Lawn2를 포함한 Mistral의 모델을 호스팅 할 것이라고 발표했습니다.
Mistral의 기술 전략은 나이를 넘어 성숙도를 보여줍니다. Mistral은 고아 텍스트를 분석하기보다는 대화의 맥락을 이해하도록 감사 모델을 교육함으로써보다 기본 필터에서 누락 될 수있는보다 미묘하고 유해한 콘텐츠를 캡처하는 시스템을 개발했습니다.
현재 감사 API는 Mistral의 클라우드 플랫폼을 통해 제공되며 사용에 따라 청구됩니다. Mistral은 고객 피드백과 변화하는 보안 요구에 따라 시스템의 정확성을 지속적으로 향상시키고 시스템의 기능을 확장 할 것이라고 말했다.
미래는 처음부터 기업 AI 보안 사고를 촉진하는 데 중요한 힘으로 빠르게 성장했습니다. American Tech Giants가 지배하는 분야에서 Mistral은 유럽의 관점에서 개인 정보 보호 및 보안에서 가장 큰 이점이 될 수 있습니다.
API 포털 : https://docs.mistral.ai/capabilities/guardrailing/
핵심 사항 :
Mistral AI는 11 언어를 지원하고 여러 해로운 컨텐츠를 감지하는 다국어 컨텐츠 감사 API를 시작합니다.
API는 Mistral의 LE 채팅 플랫폼에 적용되었으며 동시에 여러 비즈니스와 파트너십을 구축했습니다.
Mistral의 기술은 대화 맥락을 기반으로하며 잠재적으로 유해한 콘텐츠의 탐지를 향상시킵니다.
Mistral AI의 다국어 컨텐츠 감사 API는 강력한 기능과 광범위한 파트너십을 통해 경쟁이 치열한 AI 보안 분야에서 발판을 확보 할 것으로 예상됩니다. 대화 배경에 중점을 둔 기술적 이점은 향후 AI 컨텐츠 검토 기술을 개선하기위한 새로운 방향을 제공합니다. 우리는 미래에 AI 보안 분야에 더 많은 혁신을 가져 오기를 기대합니다.