O último relatório da Gartner afirma que a IA se tornou o maior risco de cibersegurança que as empresas enfrentam durante três trimestres consecutivos, e 80% dos executivos inquiridos estão profundamente preocupados com isso. O editor do Downcodes interpretará o conteúdo do relatório para você, analisará como a IA é usada em ataques cibernéticos e como as empresas devem responder a esse desafio cada vez mais severo. Este artigo se aprofundará na aplicação da IA na criação de malware, na produção de e-mails de phishing e em ataques distribuídos de negação de serviço, além de analisar as descobertas mais recentes de empresas de segurança e instituições de pesquisa.
De acordo com o último relatório divulgado pela Gartner, a aplicação de inteligência artificial (IA) em ataques cibernéticos tornou-se o maior risco enfrentado pelas empresas durante três trimestres consecutivos.
A empresa de consultoria entrevistou 286 executivos seniores de risco e auditoria entre julho e setembro e descobriu que 80% dos entrevistados expressaram profunda preocupação com ataques maliciosos aprimorados por IA. Esta tendência não é surpreendente, uma vez que há evidências de que os ataques cibernéticos que utilizam IA estão a aumentar.
Nota sobre a fonte da imagem: a imagem é gerada pela IA e pelo provedor de serviços de autorização de imagem Midjourney
Outros riscos emergentes listados no relatório incluem a desinformação assistida pela IA, o aumento da polarização política e a atribuição incompatível de talentos organizacionais. Os invasores estão usando IA para escrever malware, criar e-mails de phishing e muito mais. Tomando a HP como exemplo, os pesquisadores interceptaram uma campanha de e-mail espalhando malware em junho e suspeitaram que o script foi escrito com a ajuda de IA generativa. O roteiro é claramente estruturado e cada comando é comentado, o que não é comum na escrita humana.
De acordo com dados da empresa de segurança Vipre, no segundo trimestre de 2023, o número de ataques de fraude por email empresarial aumentou 20% em comparação com o mesmo período do ano passado, dos quais quase 50% foram gerados por IA. CEOs, pessoal de RH e TI tornaram-se alvos principais. Usman Choudhary, diretor de produtos e tecnologia da Vipre, disse que os criminosos estão usando algoritmos sofisticados de IA para criar e-mails de phishing convincentes que imitam o tom e o estilo de comunicações legítimas.
Além disso, de acordo com um relatório da Imperva Threat Research, os sites de varejo sofreram uma média de 569.884 ataques conduzidos por IA por dia, de abril a setembro. Os pesquisadores apontaram que ferramentas como ChatGPT, Claude e Gemini, bem como bots especializados em rastrear dados de sites para treinar grandes modelos de linguagem, estão sendo usados para realizar atividades como ataques distribuídos de negação de serviço e abuso de lógica de negócios.
Um número crescente de hackers éticos também admite usar IA generativa, com a proporção subindo de 64% para 77% no ano passado. A IA pode ajudar em ataques multicanais, ataques de injeção de falhas e ataques automatizados que atacam vários dispositivos simultaneamente, disseram os pesquisadores. Da mesma forma, se os “mocinhos” acharem a IA útil, os “bandidos” também aproveitarão a tecnologia.
A ascensão da IA não é surpreendente, uma vez que reduziu o limiar do crime cibernético, permitindo que criminosos com menos competências técnicas utilizem a IA para gerar falsificações profundas, digitalizar entradas de rede, realizar reconhecimento e muito mais. Pesquisadores do Instituto Federal Suíço de Tecnologia desenvolveram recentemente um modelo que pode resolver 100% o problema do Google reCAPTCHA v2. Analistas da empresa de segurança Radware previram no início do ano que o surgimento de modelos privados de GPT seriam usados para fins maliciosos e que o número de vulnerabilidades de dia zero e golpes deepfake aumentaria.
O Gartner também observou que, pela primeira vez, questões críticas dos fornecedores de TI estão na lista de atenção dos executivos. Zachary Ginsburg, diretor sênior de práticas de risco e auditoria do Gartner, disse que os clientes que dependem fortemente de um único fornecedor podem enfrentar riscos mais elevados. Tal como o incidente dStrike em julho, que paralisou 8,5 milhões de dispositivos Windows em todo o mundo, teve um enorme impacto nos serviços de emergência, aeroportos e agências de aplicação da lei.
Em suma, o efeito de espada de dois gumes da tecnologia de IA reflecte-se mais vividamente no campo da segurança de rede. As empresas precisam de tomar medidas defensivas de forma proativa, como o reforço da formação em segurança, a implementação da autenticação multifatorial e a adoção de tecnologia avançada de deteção de ameaças, para lidar eficazmente com os ataques cibernéticos impulsionados pela IA. No futuro, é crucial continuar a prestar atenção às tendências de desenvolvimento da segurança da IA e explorar ativamente estratégias de resposta.