フランスの人工知能スタートアップ Mistral AI は、OpenAI などの競合他社と競争し、AI セキュリティとコンテンツ フィルタリングのますます厳しくなる課題に対処することを目的とした、新しいコンテンツ モデレーション API のリリースを発表しました。この API は Mistral の Ministral8B モデルに基づいており、ポルノ、ヘイトスピーチ、暴力などを含む 9 種類の有害なコンテンツを識別するように最適化されており、複数の言語をサポートしているため、競合他社よりも優れています。ミストラル AI はセキュリティの重要性を強調し、AI セキュリティ サミットに積極的に参加し、責任を持って AI テクノロジーを開発することを約束します。 Downcodes の編集者が、この Mistral AI の新しい API について詳しく説明します。
このサービスはミストラルの Ministral8B モデルに基づいており、ポルノ、ヘイトスピーチ、暴力、危険な活動、個人情報を含む 9 つの異なるカテゴリの潜在的に有害なコンテンツを検出するように微調整されています。 API には、生のテキストと会話コンテンツの両方を分析する機能があります。
ミストラルAIは記者会見で、「AIを有用にする上でセキュリティが重要な役割を果たす」と強調し、下流のアプリケーションを保護するにはシステムレベルのセキュリティ保護対策が重要であると考えている。
コンテンツ モデレーション API のリリースは、AI 業界がますますプレッシャーに直面しており、企業がテクノロジーのセキュリティの向上を余儀なくされているときに行われました。ミストラルは先月、他の大手AI企業ともAIセキュリティサミットに向けた協定を締結し、責任を持ってAI技術を開発することを約束した。
新しく開始されたAPIはすでにミストラルのLe Chatプラットフォームで利用可能で、アラビア語、中国語、英語、フランス語、ドイツ語、イタリア語、日本語、韓国語、ポルトガル語、ロシア語、スペイン語を含む11の言語をサポートしています。この多言語機能により、ミストラルは主に英語コンテンツのみに焦点を当てている一部の競合他社とは一線を画しています。
Mistral AI は、Microsoft Azure、Qualcomm、SAP などの有名企業とのパートナーシップも確立しており、エンタープライズ AI 市場での影響力を徐々に高めています。 SAP は最近、欧州の規制に準拠した安全な AI ソリューションを提供するために、Mistral Large2 を含む Mistral のモデルを自社のインフラストラクチャ上でホストすると発表しました。
ミストラルのテクノロジー戦略は、その年を超えて成熟していることを示しています。ミストラルは、単に孤立したテキストを分析するのではなく、会話のコンテキストを理解するようにモデレーション モデルをトレーニングすることにより、より基本的なフィルターでは見逃される可能性のある、より微妙な有害なコンテンツを捕捉できるシステムを開発しました。
現在、監査 API は Mistral のクラウド プラットフォームを通じて利用でき、使用量に基づいて課金されます。ミストラルは、顧客からのフィードバックと変化するセキュリティニーズに基づいて、システムの精度を向上させ、機能を拡張し続けると述べた。
設立以来、Mistral は企業の AI セキュリティの考え方を推進する重要な勢力に急速に成長しました。米国の巨大テクノロジー企業が独占するこの分野において、プライバシーとセキュリティに対するミストラルの欧州的な視点は最大の強みかもしれない。
API 入口: https://docs.mistral.ai/capabilities/guardrailing/
全体として、Mistral AI のコンテンツ モデレーション API は、AI セキュリティの分野で革新的な機能を実証するだけでなく、より安全で信頼性の高い AI ソリューションを企業に提供します。多言語サポートと会話のコンテキストの理解により、競争の激しい市場で強力な地位を確立しています。今後もミストラルAIの発展に注目が集まる。