Недавно Microsoft подала иск в Вирджинии, США, против группы хакеров, взломавших платформу Azure OpenAI. Этот инцидент подчеркивает все более серьезные проблемы в области безопасности искусственного интеллекта. Хакеры используют незаконно полученные учетные данные клиентов для обхода защиты безопасности, не только вмешиваются в функции платформы, но и перепродают их, предоставляют рекомендации и подстрекают других к использованию ИИ для создания вредоносного контента. Этот шаг не только нарушил условия обслуживания Microsoft, но и несколько законов США.
Недавно Microsoft подала иск против группы хакеров в Окружной суд США Восточного округа штата Вирджиния, обвинив их в незаконном проникновении на платформу Azure OpenAI и использовании сервиса для создания большого количества вредоносного контента. Этот инцидент заставил людей обратить больше внимания на безопасность и риски в сфере искусственного интеллекта.
Согласно иску Microsoft, хакеры прибыли из-за границы, успешно обошли средства защиты и проникли в системы Azure OpenAI, перехватив учетные данные клиентов на общедоступных веб-сайтах. Получив доступ к клиентам, хакеры не только вмешались в функциональность платформы, но и перепродали ее другим злоумышленникам, предоставив подробные инструкции о том, как использовать эти инструменты ИИ для создания нелегального контента. Хотя Microsoft не раскрыла конкретный характер контента, созданного этими хакерами, она заявила, что этот контент серьезно нарушает политику и условия обслуживания компании.
В ответ на это нарушение безопасности Microsoft приняла ряд новых мер безопасности, направленных на усиление защитных возможностей платформы Azure OpenAI и предотвращение повторения подобных инцидентов. В то же время Microsoft также просила суд в иске арестовать веб-сайты, связанные с хакерскими операциями, чтобы собрать доказательства, выследить виновных и демонтировать инфраструктуру, поддерживающую незаконную деятельность.
Microsoft отметила, что действия этих хакеров нарушили ряд законов США, в том числе Закон о компьютерном мошенничестве и злоупотреблениях, Закон об авторском праве в цифровую эпоху и федеральный Закон о рэкете. Microsoft надеется привлечь этих преступников к ответственности законными средствами.
Этот шаг Microsoft показывает, что крупные технологические компании активно реагируют на риски безопасности ИИ и ищут законные средства для борьбы со злонамеренным поведением. Укрепление безопасности ИИ требует совместных усилий предприятий, правительств и отдельных лиц, чтобы обеспечить здоровое развитие этой технологии и избежать злоупотреблений.