В последние годы технология генеративного искусственного интеллекта быстро развивалась, привнося множество удобств в жизнь людей, но она также принесла и новые риски для безопасности. Недавно исследователи IBM раскрыли новый метод мошенничества, использующий инструменты генеративного искусственного интеллекта для перехвата голосовых вызовов, который привлек широкое внимание. Этот новый тип мошенничества использует недорогие инструменты искусственного интеллекта для имитации голосов других людей с чрезвычайно высокой точностью, тем самым легко лишая жертв их доверия и совершая мошенничество. Этот шаг представляет серьезную угрозу для финансовых учреждений и других организаций, которые полагаются на проверку личности по телефону, и требует серьезного внимания.
Недавно исследователи IBM обнаружили относительно простой способ использования инструментов генеративного искусственного интеллекта для перехвата голосовых вызовов, что представляет собой новую угрозу. Используя недорогие инструменты искусственного интеллекта, мошенники теперь могут легко подражать голосу другого человека и перехватывать текущие разговоры, чтобы украсть средства и другую конфиденциальную информацию. В результате обеспокоены организации, которые используют телефонные звонки для проверки личности, например финансовые учреждения. В отчете всем, кто получает подозрительный звонок, рекомендуется перефразировать его своими словами и повторить сказанное для проверки точности.
Столкнувшись с новыми проблемами, вызванными технологиями искусственного интеллекта, нам необходимо быть более бдительными и усилить меры безопасности. Общественность должна повышать свою осведомленность о безопасности, проявлять осторожность в отношении любых подозрительных звонков и активно учиться выявлять и предотвращать эти новые виды мошенничества. В то же время соответствующие учреждения должны также активно изучать и внедрять более передовые технологии безопасности, чтобы справиться с рисками безопасности, создаваемыми технологией искусственного интеллекта, и обеспечить безопасность пользовательской информации. Только таким образом мы сможем лучше использовать технологию искусственного интеллекта, эффективно избегая при этом потенциальных рисков.