Os deepfakes, como inteligência artificial adversária em rápido desenvolvimento, representam uma ameaça cada vez mais séria à economia e à segurança globais. Prevê-se que os danos económicos por ela causados aumentem significativamente, sendo a indústria bancária e de serviços financeiros um alvo importante. Este artigo analisará a tendência de rápido desenvolvimento da tecnologia deepfake, os riscos e desafios que ela traz para empresas e indivíduos, e explorará os dilemas que as empresas enfrentam ao lidar com esta ameaça emergente.
Sendo uma das formas de inteligência artificial adversária de crescimento mais rápido, espera-se que as perdas relacionadas com deepfakes aumentem de 12,3 mil milhões de dólares em 2023 para 40 mil milhões de dólares em 2027, uma taxa composta de crescimento anual de surpreendentes 32%. A Deloitte espera que os deepfakes aumentem nos próximos anos, sendo os serviços bancários e financeiros um alvo importante.
Deepfakes estão na vanguarda dos ataques adversários de IA, crescendo 3.000% somente no último ano. Espera-se que os deepfakes aumentem de 50% a 60% até 2024, com 140.000-150.000 desses incidentes esperados globalmente este ano.
A última geração de aplicativos, ferramentas e plataformas generativas de IA oferece aos invasores tudo o que precisam para criar vídeos deepfake, vozes personificadas e documentos fraudulentos de maneira rápida e econômica. O Relatório de Inteligência e Segurança de Fala de 2024 da Pindrops estima que a fraude deepfake direcionada a contact centers custa cerca de US$ 5 bilhões anualmente. O relatório deles destaca a séria ameaça que os deepfakes representam para os serviços bancários e financeiros
A Bloomberg relatou no ano passado que “toda uma indústria artesanal surgiu na dark web vendendo golpistas com preços de US$ 20 a milhares de dólares”. Mais recentemente, um infográfico baseado no Relatório de Fraude de Identidade de 2023 da Sumsub fornece uma perspectiva global sobre o rápido crescimento da fraude de IA. .
Um terço das empresas não tem estratégia para lidar com o risco de ataques adversários de IA, que provavelmente começarão com deepfakes dos seus principais executivos. Uma nova pesquisa da Ivanti descobriu que 30% das empresas não têm nenhum plano para identificar e se defender contra ataques adversários de IA.
O Relatório sobre o estado da segurança cibernética de 2024 da Ivanti descobriu que 74% das empresas pesquisadas viram evidências de ameaças de IA. Uma esmagadora maioria (89%) acredita que a ameaça da IA está apenas começando. Da maioria dos CISOs, CIOs e líderes de TI entrevistados pela Ivanti, 60% estavam preocupados com o fato de suas organizações não estarem preparadas para se defenderem contra ameaças e ataques de IA. O uso de deepfakes como parte de uma estratégia orquestrada que inclui phishing, explorações de software, ransomware e vulnerabilidades relacionadas a APIs está se tornando cada vez mais comum. Isto é consistente com as ameaças que os profissionais de segurança esperam que se tornem mais perigosas devido à nova geração de inteligência artificial.
Confrontadas com o rápido desenvolvimento da tecnologia de falsificação profunda e os enormes riscos que ela acarreta, as empresas precisam de tomar activamente contramedidas, reforçar a protecção da segurança e melhorar a consciência dos riscos dos funcionários, a fim de reduzir eficazmente as perdas e garantir a sua própria segurança. O avanço da tecnologia também precisa ser desenvolvido simultaneamente com o aprimoramento das medidas de segurança para evitar o abuso da tecnologia.