谷歌近日发布安全警告，指出多个国家支持的APT组织正在利用其人工智能助手Gemini增强网络攻击能力。这些组织并非直接用Gemini发动攻击，而是利用其高效的辅助功能，例如漏洞研究、目标侦察和工具开发，从而缩短攻击准备时间并提高攻击效率。 这凸显了生成式AI技术在网络安全领域带来的双刃剑效应，既能提高生产力，也能被恶意利用。
谷歌威胁情报小组（GTIG）发现，来自20多个国家的APT组织都在积极尝试Gemini，其中伊朗和中国的黑客活动最为显着。他们利用Gemini协助开发工具和脚本、研究公开漏洞、翻译技术文档、侦察目标组织以及寻找躲避检测的方法。伊朗黑客利用Gemini进行国防组织和国际专家的侦察，研究已知漏洞，开发网络钓鱼活动；中国黑客则主要针对美国军事和政府机构，进行漏洞研究和脚本编写。朝鲜的APT组织也积极利用Gemini，涵盖攻击生命周期的多个阶段，甚至利用其帮助北朝鲜的IT工人计划伪造身份获取西方公司工作。俄罗斯黑客对Gemini的使用相对较少，主要集中在脚本辅助和翻译上，这可能与其对本土AI模型的偏好或安全考虑有关。尽管黑客尝试利用公开越狱来对付Gemini，但这些尝试都未能成功。 这也反映了当前生成式人工智能工具滥用现象的严峻性，以及AI市场扩张带来的新安全挑战。
例如，伊朗的黑客利用Gemini 进行多种活动，包括对国防组织和国际专家的侦察、研究已知漏洞、开发网络钓鱼活动及为影响行动创建内容。此外，他们还借助Gemini 进行军事技术的翻译和解释，涉及无人机和导弹防御系统等领域。
与此同时，中国支持的黑客主要聚焦于对美国军事和政府机构的侦察，利用Gemini 进行漏洞研究、脚本编写以及提升权限的活动。他们还探讨如何通过密码哈希访问Microsoft Exchange，甚至逆向工程一些安全工具。
朝鲜的APT 组织也积极利用Gemini，涵盖攻击生命周期的多个阶段，研究免费托管服务、进行目标侦察及开发恶意软件。他们还利用Gemini 帮助北朝鲜的IT 工人计划，草拟求职申请以虚假身份获取西方公司的工作。
相比之下，俄罗斯黑客对Gemini 的使用较少，主要集中在脚本辅助和翻译上。他们的活动显示出对在本土开发的人工智能模型的偏好，或是出于操作安全的考虑，避免使用西方的工具。
值得一提的是，尽管黑客们尝试利用公开越狱来对付Gemini，但这些尝试并未成功。这也反映出当前市场上对于生成式人工智能工具的滥用现象。随着AI 市场逐渐扩张，缺乏保护措施的模型也随之增多，给网络安全带来新的挑战。
谷歌的警告提醒我们，人工智能技术在带来便利的同时，也为网络安全带来了新的风险。 需要加强对人工智能模型的保护措施，并制定相应的安全策略，以应对日益复杂的网络威胁。