Французский стартап искусственного интеллекта Misstral AI объявил о запуске нового API аудита контента, стремясь конкурировать с отраслевыми гигантами, такими как OpenAI, и удовлетворить все более серьезные проблемы безопасности ИИ и фильтрации контента. API основан на модели MISTRAL Ministral8B. Mistral AI подчеркивает ключевую роль безопасности в приложениях искусственного интеллекта и установил кооперативные отношения с Microsoft Azure, Qualcomm и SAP, чтобы активно расширить рынок ИИ предприятия.
Французский стартап искусственного интеллекта Misstral AI недавно запустил новый API аудита контента, направленный на то, чтобы конкурировать с OpenAI и другими лидерами отрасли, одновременно занимаясь растущими проблемами безопасности ИИ и фильтрации контента.
Служба основана на модели Ministral8B от Мистрала и точно настроена на обнаружение потенциально вредного содержания в девяти различных категориях, включая порнографический контент, ненавистнический речь, насильственное поведение, опасную деятельность и личную информацию. Этот API также имеет возможность анализировать исходный текст и контент диалога.
Миштраль Ай подчеркнул на пресс-конференции, что «безопасность играет ключевую роль в создании полезным для ИИ».
API обзора контента, выпущенный на этот раз, совпадает с растущим давлением на индустрию искусственного интеллекта, и компании вынуждены улучшить безопасность своей технологии. В прошлом месяце Мистраль также подписал соглашение с другими крупными компаниями искусственного интеллекта на саммит по безопасности искусственного интеллекта, обещающую ответственно разработать технологии искусственного интеллекта.
Недавно запущенный API доступен на платформе LE Chat в Миштрале и поддерживает 11 языков, включая арабский, китайский, английский, французский, немецкий, итальянский, японский, корейский, португальский, русский и испанский. Эта многоязычная способность отличает Мистраль от некоторых конкурентов, которые сосредоточены в первую очередь на содержании английского языка.
Misstral AI также установил партнерские отношения с известными компаниями, такими как Microsoft Azure, Qualcomm и SAP, постепенно увеличивая свое влияние на рынке ИИ предприятия. Недавно SAP объявила, что в своей инфраструктуре будет размещать модели Мистрала, в том числе Мистрал Laign2, чтобы предоставить безопасные решения искусственного интеллекта, которые соответствуют европейским нормам.
Техническая стратегия Мистрала показывает свою зрелость до возраста. Обучая свою модель аудита, чтобы понять контекст разговора, а не просто анализировать текст сирот, Мистраль разработала систему, которая фиксирует более тонкий и вредный контент, который можно пропустить в более основных фильтрах.
В настоящее время аудиторский API предоставляется через облачную платформу Мистрала и взимается на основе использования. Мистраль сказал, что будет продолжать повысить точность и расширять функциональность системы на основе отзывов клиентов и изменения потребностей в безопасности.
С момента своего основания Мистраль быстро превратился в важную силу в продвижении корпоративного мышления безопасности искусственного интеллекта. В области, где доминируют американские технологические гиганты, Мистраль может стать его самым большим преимуществом в области конфиденциальности и безопасности с ее европейской точки зрения.
Портал API: https://docs.mistral.ai/capabilities/guardrailing/
Ключевые моменты:
Misstral AI запускает API аудита многоязычного контента, который поддерживает 11 языков и обнаруживает несколько вредных контента.
API был применен на платформе LE Chat в Миштрале и одновременно установил партнерские отношения с несколькими предприятиями.
Технология Мистрала основана на контексте диалога и улучшает обнаружение потенциально вредного контента.
Ожидается, что многоязычный аудит контента Mistral AI закрепится в области безопасности искусственного интеллекта с его мощными возможностями и обширными партнерскими отношениями. Его технические преимущества сосредоточения внимания на фоне диалога также обеспечивают новое направление для улучшения технологии обзора контента искусственного интеллекта в будущем. Мы с нетерпением ждем, чтобы Mistral AI привнесет больше инноваций в сферу безопасности искусственного интеллекта в будущем.