프랑스 인공지능 스타트업 Mistral AI는 OpenAI와 같은 경쟁업체와 경쟁하고 점점 더 심각해지는 AI 보안 및 콘텐츠 필터링 문제를 해결하기 위해 새로운 콘텐츠 조정 API 출시를 발표했습니다. API는 Mistral의 Ministral8B 모델을 기반으로 하며 음란물, 증오심 표현, 폭력 등을 포함하는 9가지 유형의 유해 콘텐츠를 식별하도록 최적화되었으며 다국어를 지원하므로 경쟁에서 두각을 나타냅니다. 미스트랄 AI는 보안의 중요성을 강조하며 AI 보안 서밋에 적극 참여해 AI 기술을 책임감 있게 개발할 것을 약속했다. Downcodes의 편집자는 Mistral AI의 새로운 API에 대한 자세한 설명을 제공합니다.
이 서비스는 음란물, 증오심 표현, 폭력, 위험한 활동, 개인 식별 정보 등 9가지 범주에서 잠재적으로 유해한 콘텐츠를 탐지하도록 미세 조정된 Mistral의 Ministral8B 모델을 기반으로 합니다. API에는 원시 텍스트와 대화 내용을 모두 분석하는 기능이 있습니다.
Mistral AI는 기자회견에서 "AI를 유용하게 만드는 데 보안이 핵심 역할을 한다"고 강조했습니다. 그들은 시스템 수준의 보안 보호 조치가 다운스트림 애플리케이션을 보호하는 데 중요하다고 믿습니다.
콘텐츠 조정 API의 출시는 AI 산업이 점점 더 큰 압박을 받고 있고 기업이 기술 보안을 강화해야 하는 시점에 출시되었습니다. 미스트랄은 지난달에도 다른 주요 AI 기업들과 AI 보안 서밋(AI Security Summit)을 위한 협약을 체결하고 AI 기술을 책임감 있게 개발하겠다고 다짐하기도 했다.
새로 출시된 API는 이미 Mistral의 Le Chat 플랫폼에서 사용할 수 있으며 아랍어, 중국어, 영어, 프랑스어, 독일어, 이탈리아어, 일본어, 한국어, 포르투갈어, 러시아어, 스페인어를 포함한 11개 언어를 지원합니다. 이러한 다국어 기능은 주로 영어 콘텐츠에만 중점을 두는 일부 경쟁업체와 Mistral을 차별화합니다.
미스트랄 AI는 마이크로소프트 애저(Microsoft Azure), 퀄컴(Qualcomm), SAP 등 유명 기업과도 파트너십을 구축해 점차 기업 AI 시장에서 영향력을 키워가고 있다. SAP는 최근 유럽 규정을 준수하는 안전한 AI 솔루션을 제공하기 위해 Mistral Large2를 포함한 Mistral의 모델을 자사 인프라에 호스팅할 것이라고 발표했습니다.
Mistral의 기술 전략은 수년을 뛰어넘는 성숙도를 보여줍니다. Mistral은 단순히 분리된 텍스트를 분석하는 것이 아니라 대화의 맥락을 이해하도록 조정 모델을 훈련함으로써 보다 기본적인 필터에서 놓칠 수 있는 보다 미묘한 유해 콘텐츠를 포착할 수 있는 시스템을 개발했습니다.
현재 감사 API는 Mistral의 클라우드 플랫폼을 통해 제공되며 사용량에 따라 요금이 부과됩니다. Mistral은 고객 피드백과 변화하는 보안 요구 사항을 기반으로 시스템의 정확성을 지속적으로 개선하고 기능을 확장할 것이라고 말했습니다.
Mistral은 설립 이후 엔터프라이즈 AI 보안 사고를 촉진하는 중요한 세력으로 빠르게 성장했습니다. 미국 거대 기술 기업이 지배하는 분야에서 개인 정보 보호 및 보안에 대한 미스트랄의 유럽적 관점은 가장 큰 강점일 수 있습니다.
API 입구: https://docs.mistral.ai/capability/guardrailing/
전체적으로 Mistral AI의 콘텐츠 조정 API는 AI 보안 분야에서 혁신적인 기능을 보여줄 뿐만 아니라 기업에 보다 안전하고 안정적인 AI 솔루션을 제공합니다. 다국어 지원과 대화 맥락에 대한 이해 덕분에 경쟁이 치열한 시장에서 강력한 입지를 확보할 수 있습니다. 앞으로도 미스트랄 AI의 발전은 계속해서 주목받을 만하다.