LLMMap

LLMMap LLMMap 是一个用于集成 LLM 的应用程序的自动化提示注入测试框架。它能发现 HTTP 请求中的注入点，利用双 LLM 架构生成针对性的攻击提示，向目标发送攻击，并通过统计可靠性测试确认发现。受 sqlmap 启发，LLMMap 将同样系统化、基于证据的方法引入到 LLM 安全测试中。 法律声明： 在未事先获得双方同意的情况下使用 LLMMap 攻击目标是违法的。最终用户有责任遵守所有适用的地方、州和联邦法律。开发者不承担任何责任，也不对因本程序引起的任何误用或损害负责。 安装 python -m venv .venv && source...

meta-ai-support-prompt

Prompt del sistema del Asistente de Soporte de IA de Meta Prompt del sistema extraído del Asistente de Soporte de IA de Meta el 1 de junio de 2026. Archivos system-prompt.md — Prompt del sistema extraído ⚠️ Descargo de responsabilidad y aviso legal Propósito Este repositorio se publica...

project_mantis

Project Mantis: Contraatacando al hacker de IA Inyección de prompts como defensa contra ciberataques impulsados por LLM Instalar Mantis pip install -r requirements.txt Ejecutar Mantis con configuraciones predefinidas Hay varias configuraciones predefinidas disponibles en el directorio ./confs...

DonkAI

针对OWASP LLM Top 10（2025版）的动手实验 - 无需真实LLM。 DonkAI 是一个有意构建为易受攻击的 Web 应用，您只需一条命令即可运行，并通过实际攻击来学习 LLM 集成系统是如何被攻破的。每个 OWASP LLM Top 10 类别至少对应一个可玩的挑战，包含书面简介、载荷编辑器、需绕过的活跃防御、逐步提示以及每次尝试的每用户历史记录。它不止是一组固定的练习，更是一个可扩展的教学实验室：模块化架构（每类别一个文件，包含后端和前端）使得添加新漏洞、强化现有防御或为工作坊、课程和 CTF 构建全新赛道变得轻而易举。 警告...

JoySafety

JoySafety —— 大模型安全框架 📋 目录 项目简介 ✨ 特性 🚀 快速开始 📖 使用指南 🏆 最佳实践 🏗️ 架构设计 🛠️ 开发 📄 许可证 📅 计划 Star History new release ✅ 提示词注入检测模型全面升级 ：基于红蓝军对抗机制重构训练体系，攻击识别精度与响应速度双突破；​​最新提示词注入检测模型已升级为三分类架构，可精准区分：正常请求，明确提示词注入攻击（恶意），疑似提示词注入攻击（潜在风险），模型地址：https://huggingface.co/jdopensource/JoySafety/tree/main 项目简介...

skill-scanner

Skill Scanner A best-effort security scanner for AI Agent Skills that detects prompt injection, data exfiltration, and malicious code patterns. It combines pattern-based detection YAML + YARA-X, AST and dataflow analysis , an optional LLM-as-a-judge , and a bounded CEL decision layer over typed...

anamorpher

Anamorpher Anamorpher（命名于 anamorphosis（错视画））是一款用于制作和可视化针对多模态AI系统的图像缩放攻击的工具。它提供了一个前端界面和Python API，用于生成仅在缩小时才会显示多模态提示注入的图像。有关此攻击向量的更多信息，请参阅 《利用图像缩放攻击生产AI系统》。 Anamorpher处于活跃的beta开发阶段。我们欢迎反馈和贡献！ 功能特性 为使用双三次、双线性及最近邻下采样算法特定实现的系统生成载荷 通过包含OpenCV、PyTorch、TensorFlow和Pillow实现的前端界面比较载荷有效性 利用Python...

raxe-ce

AI 代理的威胁检测 在提示注入、越狱和工具攻击执行之前阻止它们。 100% 本地运行。规则匹配低于 5 毫秒。永远免费。 pip install raxe && raxe scan "忽略所有先前的指令" 需要 Python 3.10+ • 包含 515+ 条规则及机器学习检测 由英国政府、Mandiant、FireEye 和 CrowdStrike 的安全资深人士构建 官网 • 文档 • 快速开始 • X/Twitter RAXE 是什么？ RAXE 是 AI 代理的运行时安全 —— 好比网络安全的 Snort 或容器的 Falco。 你的 AI 代理刚刚被诱骗提取了 API...

fas-judgement-oss

FAS Judgement 提示注入攻击控制台 在别人之前测试你的AI防御。 安装 | 游戏模式 | 全球排行榜 | 演示目标 | 功能 | 精英版 | 贡献 为什么选择 Judgement？ 你的AI聊天机器人、API或智能体很可能存在提示注入漏洞。大多数都是这样。问题是，大多数团队没有适当的工具或专业知识来测试这一点。 Judgement为你提供了一种结构化的方法，可以将分类的攻击模式对准任何AI端点，并精确查看哪些地方出了问题。无需安全背景——内置的游戏模式会边玩边教你。 由Fallen Angel...

proxychains-ng

ProxyChains-NG ver 4.17 README ProxyChains is a UNIX program, that hooks network-related libc functions in DYNAMICALLY LINKED programs via a preloaded DLL dlsym, LDPRELOAD and redirects the connections through SOCKS4a/5 or HTTP proxies. It supports TCP only no UDP/ICMP etc. The way it works is...

ClawGuard

ClawGuard 🛡️ ClawGuard 是一款面向自主 Agent 的安全防护工具包，专为 OpenClaw 及类似 LLM 驱动的 Agent 设计。随着 Agent 获得更多执行代码、访问 API 和管理文件的权限，ClawGuard 提供了必要的安全护栏，帮助降低安全风险。 📖 为什么选择 ClawGuard？ 自主 Agent 功能多样，但同时也引入了独特的安全攻击向量： Prompt 注入 ：恶意输入劫持 Agent 逻辑 权限提升 ：Agent 执行未经授权的系统级操作 数据泄露 ：意外泄露 PII（个人身份信息）或 API Key 给 LLM 提供商 资源耗尽...

css-the-bomb-inside-your-inbox

CSS: la bomba dentro de tu bandeja de entrada Bienvenido al repositorio. Este repositorio contiene todos los materiales de mi charla "CSS: la bomba dentro de tu bandeja de entrada". Este repositorio contiene código de prueba de concepto, casos de prueba y material de apoyo que fueron identificado...

Manipulating-Web-Agents

Manipulación de agentes web autónomos basados en LLM mediante ataques de inyección indirecta de prompts Con la ubicuidad de las aplicaciones integradas con LLM, investigar los posibles riesgos de seguridad es crucial. Una de las vulnerabilidades más significativas de estos sistemas es su...

agentsid-scanner

AgentsID Scanner 智能体安全的灯塔。 扫描任意 MCP 服务器，获得安全报告卡。 你的 MCP 服务器向 AI 智能体暴露工具。它有多安全？ 大多数 MCP 服务器出厂时没有认证、没有按工具设置权限、没有输入验证，而且工具描述容易受到提示注入攻击。只是你还不知道而已。 AgentsID Scanner 会告诉你答案。 快速开始 npx @agentsid/scanner -- npx @some/mcp-server 仅此而已。你会得到一个字母等级和详细的发现报告。 扫描内容 类别| 检查内容| 为什么重要 ---|---|--- 注入| 工具描述中的 11 种提示注入模...

flar

flar FLAR 是 Fast Light Agent Restrictor（快速轻量级代理限制器）。它运行在一种叫做 gars 的岩石上。 它是一个用 Go 编写的简单轻量级 CLI 工具，用于在隔离的 Bubblewrap bwrap 沙箱 中安全运行编码代理 CLI（例如 Claude Code、Antigravity、Codex、Copilot 和 Reasonix）。 其目的是 即时 且无需复杂配置地 bubblewrap 一个 AI...

nova-tracer

Nova-tracer 代理监控与可见性 使用 NOVA Framework 为 Claude Code 提供安全监控和提示注入防御。 功能特性 会话追踪 - 捕获所有工具使用情况，包含时间戳和元数据 提示注入检测 - 三级扫描（关键词、语义ML、LLM）- 被动监控并发出警告 危险命令拦截 - 在执行前主动阻止破坏性操作 MCP 与技能追踪 - 追踪 MCP 服务器调用和代理技能调用，提供详细分解 交互式 HTML 报告 - 可视化时间线、对话追踪和可展开的事件详情 AI 驱动摘要 - 通过 Claude Haiku 生成智能会话摘要 可配置 -...

PROMPTPurify

promptpurify 用于LLM聊天应用的微型提示注入防火墙。约14 MB。仅需CPU。 可嵌入用户输入与大模型之间的防护——运行在同一台机器上，无需GPU、无需API、无需额外服务。 由SecureLayer7红队打造。大多数开源护栏体积达数百MB，需要GPU，且仍然遗漏我们在生产环境中看到的攻击。我们需要一个可以在自己的AI产品和客户应用内部署的东西，而不需要任何这些东西。 为什么存在 | promptpurify| 典型开源护栏 ---|---|--- 安装体积| 14 MB ONNX| 180 MB – 7 GB 推理| CPU，个位数毫秒| 推荐GPU 运行位置|...

garak

garak, LLM 漏洞扫描器 生成式AI红队与评估套件 garak 检查 LLM 是否可能以我们不希望的方式失败。garak 探测幻觉、数据泄露、提示注入、虚假信息、毒性内容生成、越狱以及许多其他弱点。如果你熟悉 nmap 或 msf / Metasploit 框架，garak 对 LLM 所做的与它们类似。 garak 专注于使 LLM 或对话系统失败的方法。它结合了静态、动态和自适应探测来探索这一点。 garak 是一个免费工具。我们热爱开发它，并始终有兴趣添加功能以支持应用程序。 开始使用 查看我们的用户指南！docs.garak.ai 加入我们的 Discord！...

agent-vault-proxy

Keys on the Wire 你的 AI 代理永远不会持有你的 API 密钥。它发送一个占位符；真正的密钥在传输过程中被替换。 阻止凭证窃取器（Shai-Hulud 及类似工具）和提示注入代理泄露你的机密。被攻破的代理无密可窃。 工作原理 1. 你的代理发送一个带有 占位符 的请求，而非密钥。 2. Keys on the Wire 在传输过程中从你的保险库中替换为真实密钥。 3. 代理永远看不到密钥。无密可泄，无密可窃。 本质上它是一个回环 HTTPS...

aco-prompt-shield

aco-prompt-shield 🛡️ 在提示注入攻击到达您的LLM之前拦截它们 ——零API成本，完全本地运行，2分钟内集成。 提示注入是LLM应用的头号安全风险。aco-prompt-shield能够捕获已知的越狱模式，通过机器学习理解语义意图，并检测混淆——全部在本地完成，完全私密。 基准测试 指标| 结果 ---|--- 检测率| 95.7%（22/23种攻击模式被捕获） 误报率| 0.0%（0/20个良性提示被错误拦截） 延迟（单次请求，热启动）| 平均约29ms · p99: 29.3ms 峰值吞吐量（单实例）| 约44 req/s 并发负载容忍度| 约10个并发用户后开始降...