法國人工智慧新創公司Mistral AI 宣布推出全新內容審核API，旨在與OpenAI等競爭對手抗衡，並應對日益嚴峻的AI安全和內容過濾挑戰。該API基於Mistral的Ministral8B模型，經過最佳化，能夠識別九種不同類型有害內容，涵蓋色情、仇恨言論、暴力等，並支援多種語言，這使其在競爭中脫穎而出。 Mistral AI強調安全的重要性，並積極參與AI安全高峰會，承諾負責任地開發AI技術。 Downcodes小編將為您詳細解讀Mistral AI 的這款全新API。
這項服務基於Mistral 的Ministral8B 模型，經過精細調優，能夠在九個不同類別中檢測潛在的有害內容，包括色情內容、仇恨言論、暴力行為、危險活動以及個人可識別資訊等。該API 同時具備對原始文字和對話內容的分析能力。
Mistral AI 在發表會上強調，「安全性在使AI 變得有用方面扮演著關鍵角色。」他們認為，系統層級的安全防護措施對於保護下游應用至關重要。
這次發布的內容審核API 恰逢AI 產業面臨越來越大壓力之際，各公司被迫提昇技術的安全性。上個月，Mistral 也與其他主要AI 公司共同簽署了AI 安全高峰會的協議，承諾將負責任地開發AI 技術。
新推出的API 已在Mistral 的Le Chat 平台上投入使用，支援包括阿拉伯語、中文、英語、法語、德語、義大利語、日語、韓語、葡萄牙語、俄語和西班牙語在內的11種語言。這種多語言能力使Mistral 在某些主要只專注於英語內容的競爭對手中脫穎而出。
Mistral AI 也與微軟Azure、Qualcomm 和SAP 等高調企業建立了合作關係，逐步在企業AI 市場中增強影響力。 SAP 最近宣布將在其基礎設施上託管Mistral 的模型，包括Mistral Large2，以提供符合歐洲法規的安全AI 解決方案。
Mistral 的技術策略顯示了其超越年齡的成熟性。透過訓練其審核模型來理解對話背景，而不僅僅是分析孤立文本，Mistral 開發了一個能夠捕捉更微妙的有害內容的系統，這種內容可能會在更基本的過濾器中被遺漏。
目前，審核API 已透過Mistral 的雲端平台提供，按使用量收費。 Mistral 表示，將根據客戶回饋和不斷變化的安全需求持續提升系統的準確性並擴展功能。
自成立以來，Mistral 迅速成長為推動企業AI 安全思考的重要力量。在由美國科技巨頭主導的領域中，Mistral 以其歐洲視角在隱私和安全方面可能成為其最大優勢。
API入口:https://docs.mistral.ai/capabilities/guardrailing/
總而言之，Mistral AI 的內容審核API 不僅展現了其在AI 安全領域的創新能力，也為企業提供了更安全可靠的AI 解決方案。其多語言支持和對話語境的理解，使其在競爭激烈的市場中佔據了有利地位。未來，Mistral AI 的發展值得持續關注。