Французский стартап в области искусственного интеллекта Mistral AI объявил о запуске нового API модерации контента, целью которого является конкуренция с такими конкурентами, как OpenAI, и решение все более серьезных проблем безопасности ИИ и фильтрации контента. API основан на модели Mistral Ministral8B и оптимизирован для выявления девяти различных типов вредоносного контента, в том числе порнографии, разжигания ненависти, насилия и т. д., а также поддерживает несколько языков, что выделяет его среди конкурентов. Mistral AI подчеркивает важность безопасности и активно участвует в AI Security Summit, обещая ответственно развивать технологии искусственного интеллекта. Редактор Downcodes даст вам подробное объяснение этого нового API Mistral AI.
Служба основана на модели Mistral Ministral8B, которая настроена для обнаружения потенциально вредного контента в девяти различных категориях, включая порнографию, разжигание ненависти, насилие, опасные действия и личную информацию. API имеет возможность анализировать как необработанный текст, так и содержимое разговора.
На пресс-конференции компания Mistral AI подчеркнула, что «безопасность играет ключевую роль в обеспечении полезности ИИ». Они считают, что меры защиты на уровне системы имеют решающее значение для защиты последующих приложений.
Выпуск API модерации контента происходит в то время, когда индустрия искусственного интеллекта сталкивается с растущим давлением, и компании вынуждены повышать безопасность своих технологий. В прошлом месяце Mistral также подписала соглашение с другими крупными компаниями, занимающимися искусственным интеллектом, о проведении AI Security Summit, взяв на себя обязательство ответственно разрабатывать технологии искусственного интеллекта.
Недавно запущенный API уже доступен на платформе Le Chat компании Mistral и поддерживает 11 языков, включая арабский, китайский, английский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский. Эта многоязычная возможность отличает Mistral от некоторых конкурентов, которые в основном ориентированы только на англоязычный контент.
Mistral AI также установила партнерские отношения с такими известными компаниями, как Microsoft Azure, Qualcomm и SAP, постепенно увеличивая свое влияние на рынке корпоративного ИИ. SAP недавно объявила, что разместит модели Mistral, включая Mistral Large2, в своей инфраструктуре, чтобы предоставлять безопасные решения искусственного интеллекта, соответствующие европейским нормам.
Технологическая стратегия Mistral демонстрирует не по годам зрелость. Обучив свою модель модерации понимать контекст разговоров, а не просто анализировать изолированный текст, Mistral разработала систему, способную улавливать более тонкий вредоносный контент, который может быть пропущен более простыми фильтрами.
В настоящее время API аудита доступен через облачную платформу Mistral, и плата за него взимается в зависимости от использования. Mistral заявила, что продолжит повышать точность системы и расширять функциональность на основе отзывов клиентов и меняющихся потребностей в безопасности.
С момента своего создания компания Mistral быстро превратилась в важную силу, продвигающую концепцию безопасности корпоративного ИИ. В сфере, где доминируют американские технологические гиганты, европейский взгляд Mistral на конфиденциальность и безопасность может быть ее самой сильной стороной.
Вход через API: https://docs.mistral.ai/capabilities/guardrailing/
В целом, API модерации контента Mistral AI не только демонстрирует свои инновационные возможности в области безопасности ИИ, но и предоставляет предприятиям более безопасные и надежные решения ИИ. Многоязычная поддержка и понимание контекста разговора дают ему сильные позиции на высококонкурентном рынке. В будущем развитие Mistral AI заслуживает постоянного внимания.