genai attacks
1.0.0
| ？ | GenAI 攻击矩阵是有关用于针对基于 GenAI 的系统、副驾驶和代理的 TTP 的知识源 |
|---|
GenAI 正在应用于当今世界上最大的企业中每个可以想象到的问题，这是我们都依赖的。我们都在尽快采用人工智能并首先获得其好处。公司正在采用人工智能平台，对其进行定制并构建自己的平台。与此同时，越来越明显的是，我们还不知道如何使用 GenAI 构建安全系统。每周都会有关于新攻击技术、模型及其功能的新研究不断变化，并且缓解措施也在以类似的速度推出。
通过让 GenAI 代表我们用户的身份进行推理，我们开辟了一个新的攻击媒介，对手可以针对我们的人工智能系统而不是我们的用户来获得类似的结果。他们使用 Promptware 来做到这一点，满足于恶意指令。 Promptware 通常不执行代码，而是执行工具并用自然语言将它们组合成程序，以达到相同的效果。
我们对抗恶意软件的第一个集体尝试是防病毒软件，它试图枚举所有已知的恶意软件。我们对提示软件采取了相同的方法，试图通过枚举错误的提示来解决问题。这是行不通的，提示注入也不是我们可以简单解决的问题。相反，这是一个我们可以解决的问题。向 EDR 学习，我们需要采用专注于恶意行为而不是恶意静态内容的深度防御方法。该项目的目标是记录和共享这些行为的知识，并超越提示注入，关注提示软件攻击的整个生命周期。
该项目的灵感来自于其他人的出色工作：MITRE ATT&CK 以及其他成功地将攻击方法应用于 M365、容器和 SaaS 的人。
| ☝️ | 您可以编辑任何.json文件或直接在浏览器中创建一个新文件，以便轻松做出贡献！ |
|---|
通过在这些目录中编辑或添加文件来改进我们的知识库：
|
--| tactic
--| technique
--| procedure
--| entity
--| platform
--| mitigation
文件架构及其工作原理：
main ，网站将在几分钟内自动更新。查看其他资源和文档：
