Nos últimos anos, a tecnologia de IA generativa desenvolveu-se rapidamente, trazendo muitas conveniências à vida das pessoas, mas também trouxe novos riscos de segurança. Recentemente, pesquisadores da IBM revelaram um novo método de fraude que utiliza ferramentas generativas de IA para sequestrar chamadas de voz, o que atraiu atenção generalizada. Este novo tipo de fraude utiliza ferramentas de IA de baixo custo para imitar as vozes de outras pessoas com uma fidelidade extremamente elevada, defraudando facilmente as vítimas da sua confiança e cometendo fraudes. Esta medida representa uma séria ameaça para as instituições financeiras e outras organizações que dependem da verificação de identidade por telefone e requer muita atenção.
Recentemente, pesquisadores da IBM descobriram uma maneira relativamente simples de usar ferramentas generativas de IA para sequestrar chamadas de voz, representando uma nova ameaça. Aproveitando ferramentas de IA de baixo custo, os golpistas agora podem facilmente personificar a voz de outra pessoa e sequestrar conversas em andamento para roubar fundos e outras informações confidenciais. Como resultado, as organizações que utilizam chamadas telefónicas para verificar a identidade, como as instituições financeiras, estão preocupadas. O relatório aconselha qualquer pessoa que receba uma chamada suspeita a parafraseá-la com suas próprias palavras e repetir o que foi dito para verificar a veracidade.
Enfrentando os novos desafios trazidos pela tecnologia de IA, precisamos estar mais vigilantes e reforçar as precauções de segurança. O público deve aumentar a sua sensibilização para a segurança, ser cauteloso relativamente a quaisquer chamadas suspeitas e aprender ativamente como identificar e prevenir estes novos tipos de fraudes. Ao mesmo tempo, as instituições relevantes também devem explorar e adoptar activamente tecnologias de segurança mais avançadas para lidar com os riscos de segurança trazidos pela tecnologia de IA e garantir a segurança das informações dos utilizadores. Só desta forma poderemos utilizar melhor a tecnologia de IA e, ao mesmo tempo, evitar eficazmente os seus riscos potenciais.