Недавно Microsoft подала иск против организации, которую обвинили в использовании специализированных инструментов для обхода мер защиты облачного продукта Microsoft Azure OpenAI, а также в незаконном доступе и использовании программного обеспечения и серверов Microsoft для создания «оскорбительного» и «вредного незаконного контента». Группа предположительно использовала украденные учетные данные клиентов и специальное программное обеспечение «de3u» для реализации схемы «взлом как услуга», которая позволяла пользователям использовать DALL-E для создания изображений без написания кода и попыток обойти механизмы фильтрации контента Microsoft. Microsoft добилась судебного запрета и возмещения убытков, а также приняла контрмеры для усиления безопасности своего сервиса Azure OpenAI и арестовала веб-сайты, связанные с действиями ответчиков по сбору доказательств.
Иск Microsoft против группы подчеркивает важность безопасности ИИ и продолжающиеся попытки злоумышленников обойти меры безопасности. Этот инцидент напоминает нам, что даже передовые системы искусственного интеллекта требуют надежных механизмов безопасности для предотвращения злоупотреблений. Активные юридические действия и технические меры Microsoft демонстрируют решимость поддерживать безопасность платформы и защищать интересы клиентов, что заслуживает внимания.