En los últimos años, la tecnología de IA generativa se ha desarrollado rápidamente, aportando muchas comodidades a la vida de las personas, pero también ha traído nuevos riesgos de seguridad. Recientemente, los investigadores de IBM revelaron un nuevo método de fraude que utiliza herramientas de inteligencia artificial generativa para secuestrar llamadas de voz, lo que ha atraído una atención generalizada. Este nuevo tipo de fraude utiliza herramientas de inteligencia artificial de bajo costo para imitar las voces de otras personas con una fidelidad extremadamente alta, defraudando así fácilmente a las víctimas en su confianza y cometiendo fraude. Esta medida representa una seria amenaza para las instituciones financieras y otras organizaciones que dependen de la verificación telefónica de identidad y requiere seria atención.
Recientemente, los investigadores de IBM descubrieron una forma relativamente sencilla de utilizar herramientas de inteligencia artificial generativa para secuestrar llamadas de voz, lo que representa una nueva amenaza. Aprovechando herramientas de inteligencia artificial de bajo costo, los estafadores ahora pueden suplantar fácilmente la voz de otra persona y secuestrar conversaciones en curso para robar fondos y otra información confidencial. Como resultado, las organizaciones que utilizan llamadas telefónicas para verificar la identidad, como las instituciones financieras, están preocupadas. El informe aconseja a cualquiera que reciba una llamada sospechosa que la parafrasee con sus propias palabras y repita lo dicho para verificar la exactitud.
Ante los nuevos desafíos que plantea la tecnología de inteligencia artificial, debemos estar más atentos y fortalecer las precauciones de seguridad. El público debe aumentar su conciencia sobre la seguridad, ser cauteloso ante cualquier llamada sospechosa y aprender activamente cómo identificar y prevenir estos nuevos tipos de estafas. Al mismo tiempo, las instituciones pertinentes también deberían explorar y adoptar activamente tecnologías de seguridad más avanzadas para hacer frente a los riesgos de seguridad que plantea la tecnología de inteligencia artificial y garantizar la seguridad de la información de los usuarios. Sólo así podremos hacer un mejor uso de la tecnología de IA y al mismo tiempo evitar de manera efectiva sus riesgos potenciales.