法國人工智能初創公司Mistral AI 宣布推出全新內容審核API，旨在與OpenAI等行業巨頭競爭，並應對日益嚴峻的AI安全與內容過濾挑戰。該API基於Mistral的Ministral8B模型，經過精心調優，能夠檢測九類有害內容，包括色情內容、仇恨言論等，並支持11種語言，包括中文、英文等。 Mistral AI強調安全性在AI應用中的關鍵作用，並已與微軟Azure、Qualcomm和SAP等企業建立合作關係，積極拓展企業AI市場。
法國人工智能初創公司Mistral AI 近日正式推出了一款全新的內容審核API，旨在與OpenAI 及其他行業領軍者展開競爭，同時應對日益增長的AI 安全與內容過濾問題。
這項服務基於Mistral 的Ministral8B 模型，經過精細調優，能夠在九個不同類別中檢測潛在的有害內容，包括色情內容、仇恨言論、暴力行為、危險活動以及個人可識別信息等。該API 同時具備對原始文本和對話內容的分析能力。
Mistral AI 在發布會上強調，“安全性在使AI 變得有用方面扮演著關鍵角色。” 他們認為，系統級的安全防護措施對於保護下游應用至關重要。
此次發布的內容審核API 恰逢AI 行業面臨越來越大壓力之際，各公司被迫提陞技術的安全性。上個月，Mistral 還與其他主要AI 公司共同簽署了AI 安全峰會的協議，承諾將負責任地開發AI 技術。
新推出的API 已在Mistral 的Le Chat 平台上投入使用，支持包括阿拉伯語、中文、英語、法語、德語、意大利語、日語、韓語、葡萄牙語、俄語和西班牙語在內的11種語言。這種多語言能力使Mistral 在某些主要只關注英語內容的競爭對手中脫穎而出。
Mistral AI 還與微軟Azure、Qualcomm 和SAP 等高調企業建立了合作關係，逐步在企業AI 市場中增強影響力。 SAP 最近宣布將在其基礎設施上託管Mistral 的模型，包括Mistral Large2，以提供符合歐洲法規的安全AI 解決方案。
Mistral 的技術策略顯示了其超越年齡的成熟性。通過訓練其審核模型理解對話背景，而不僅僅是分析孤立文本，Mistral 開發了一個能夠捕捉更微妙的有害內容的系統，這種內容可能會在更基本的過濾器中被遺漏。
目前，審核API 已通過Mistral 的雲平台提供，按使用量收費。 Mistral 表示，將根據客戶反饋和不斷變化的安全需求持續提升系統的準確性並擴展功能。
自成立以來，Mistral 迅速成長為推動企業AI 安全思考的重要力量。在一個由美國科技巨頭主導的領域中，Mistral 以其歐洲視角在隱私和安全方面可能成為其最大優勢。
API入口:https://docs.mistral.ai/capabilities/guardrailing/
劃重點:
Mistral AI 推出的多語言內容審核API 支持11種語言，針對多種有害內容進行檢測。
該API 已在Mistral 的Le Chat 平台上應用，同時與多個企業建立了合作關係。
Mistral 的技術以對話背景為基礎，增強了對潛在有害內容的檢測能力。
Mistral AI 的多語言內容審核API憑藉其強大的功能和廣泛的合作關係，有望在競爭激烈的AI安全領域佔據一席之地。其關注對話背景的技術優勢，也為未來AI內容審核技術的提升提供了新的方向。 期待Mistral AI在未來為AI安全領域帶來更多創新。