Ces dernières années, la technologie de l'IA générative s'est développée rapidement, apportant de nombreuses commodités à la vie des gens, mais elle a également engendré de nouveaux risques en matière de sécurité. Récemment, des chercheurs d'IBM ont révélé une nouvelle méthode de fraude qui utilise des outils d'IA générative pour détourner les appels vocaux, qui a attiré une large attention. Ce nouveau type de fraude utilise des outils d'IA peu coûteux pour imiter la voix d'autres personnes avec une extrêmement haute fidélité, trompant ainsi facilement la confiance des victimes et commettant une fraude. Cette décision constitue une menace sérieuse pour les institutions financières et autres organisations qui s'appuient sur la vérification téléphonique de l'identité et nécessite une attention particulière.
Récemment, des chercheurs d'IBM ont découvert un moyen relativement simple d'utiliser des outils d'IA générative pour détourner les appels vocaux, posant ainsi une nouvelle menace. Grâce à des outils d'IA peu coûteux, les fraudeurs peuvent désormais facilement usurper l'identité de la voix d'une autre personne et détourner les conversations en cours pour voler des fonds et d'autres informations sensibles. En conséquence, les organisations qui utilisent les appels téléphoniques pour vérifier leur identité, comme les institutions financières, sont préoccupées. Le rapport conseille à toute personne recevant un appel suspect de le paraphraser dans ses propres mots et de répéter ce qui a été dit pour en vérifier l'exactitude.
Face aux nouveaux défis posés par la technologie de l’IA, nous devons être plus vigilants et renforcer les mesures de sécurité. Le public devrait être davantage sensibilisé à la sécurité, se méfier de tout appel suspect et apprendre activement à identifier et prévenir ces nouveaux types d'escroqueries. Dans le même temps, les institutions concernées devraient également explorer et adopter activement des technologies de sécurité plus avancées pour faire face aux risques de sécurité posés par la technologie de l’IA et garantir la sécurité des informations des utilisateurs. Ce n’est qu’ainsi que nous pourrons mieux utiliser la technologie de l’IA tout en évitant efficacement ses risques potentiels.