近年來，生成式AI技術快速發展，為人們的生活帶來了許多便利，但也帶來了新的安全隱憂。近日，IBM的研究人員揭示了一種利用生成式AI工具劫持語音通話的新型詐騙手段，引發廣泛關注。這種新型詐騙利用低成本的AI工具，能夠以極高的逼真度模仿他人的聲音，從而輕易地騙取受害者的信任，實施詐騙行為。此舉對依賴電話驗證身分的金融機構和其他組織構成了嚴重威脅，需要高度重視。
近期，IBM研究人員發現了相對簡單的方法，可以利用生成式AI工具劫持語音通話，構成新的威脅。利用低成本的AI工具，騙子們現在可以輕鬆地冒充他人的聲音，劫持正在進行的對話，以竊取資金和其他敏感資訊。因此，金融機構等使用電話驗證身分的組織感到擔憂。報道建議任何接到可疑電話的人重新用自己的話轉述並重複對方說過的內容，以驗證準確性。
面對AI技術帶來的新挑戰，我們需要提升警惕，加強安全防範措施。 公眾應提高安全意識，謹慎對待任何可疑電話，並積極學習如何識別和防範此類新型詐騙。同時，相關機構也應積極探索並採用更先進的安全技術，以因應AI技術帶來的安全風險，並保障使用者資訊安全。 只有這樣，才能更好地利用AI技術的同時，有效地規避其潛在風險。