Recentemente, a Microsoft abriu um processo na Virgínia, EUA, contra um grupo de hackers que invadiu a plataforma Azure OpenAI. Este incidente destaca os desafios cada vez mais severos no campo da segurança da inteligência artificial. Os hackers usam credenciais de clientes obtidas ilegalmente para contornar a proteção de segurança, não apenas adulterar funções da plataforma, mas também revendê-las, fornecer orientação e instigar outros a usar IA para gerar conteúdo prejudicial. Esta medida não só violou os termos de serviço da Microsoft, mas também violou várias leis dos EUA.
Recentemente, a Microsoft entrou com uma ação contra um grupo de hackers no Tribunal Distrital dos EUA para o Distrito Leste da Virgínia, acusando-os de invadir ilegalmente a plataforma Azure OpenAI e de usar o serviço para gerar uma grande quantidade de conteúdo prejudicial. Este incidente fez com que as pessoas prestassem mais atenção à segurança e aos riscos no campo da inteligência artificial.
De acordo com o processo da Microsoft, os hackers vieram do exterior e contornaram com sucesso as proteções de segurança e entraram nos sistemas do Azure OpenAI, obtendo credenciais de clientes em sites públicos. Depois de obter acesso aos clientes, os hackers não apenas adulteraram a funcionalidade da plataforma, mas também a revenderam para outros usuários mal-intencionados, fornecendo instruções detalhadas sobre como usar essas ferramentas de IA para gerar conteúdo ilegal. Embora a Microsoft não tenha divulgado a natureza específica do conteúdo gerado por esses hackers, afirmou que o conteúdo violava gravemente as políticas e os termos de serviço da empresa.
Em resposta a esta violação de segurança, a Microsoft adotou uma série de novas medidas de segurança destinadas a fortalecer as capacidades de defesa da plataforma Azure OpenAI e evitar que incidentes semelhantes voltem a acontecer. Ao mesmo tempo, a Microsoft também pediu ao tribunal no processo que apreendesse sites relacionados a operações de hackers, a fim de coletar evidências, rastrear os responsáveis e desmantelar a infraestrutura que suporta atividades ilegais.
A Microsoft apontou que as ações desses hackers violaram várias leis dos EUA, incluindo a Lei de Fraude e Abuso de Computadores, a Lei de Direitos Autorais do Milênio Digital e a Lei Federal de Extorsão. A Microsoft espera responsabilizar esses criminosos por meios legais.
A ação da Microsoft mostra que as grandes empresas de tecnologia estão respondendo ativamente aos riscos de segurança da IA e buscando meios legais para combater comportamentos maliciosos. O reforço da segurança da IA exige esforços conjuntos por parte de empresas, governos e indivíduos para garantir o desenvolvimento saudável desta tecnologia e evitar abusos.