intentshield

IntentShield 不要过滤你的 AI 说了什么 。过滤它即将做什么 面向 AI 代理的执行前意图验证。 为什么需要这个 AI 代理拥有工具访问权限。它们可以执行 shell 命令、写入文件、浏览 URL、发送电子邮件以及调用 API。每一个这样的动作都是一个潜在的攻击面。 大多数 AI 安全工具在输出层工作。它们扫描 AI 说了什么。但危险的部分不是 AI 说了什么，而是 AI 做了什么。一个提示注入攻击诱骗 AI 运行 rm -rf /，可以绕过所有内容过滤器，因为过滤器只看到文本。shell 命令在任何人注意到之前就已经执行了。 IntentShield 位于 AI...