reasongate

ReasonGate A self-hostable gate that inspects the text going into and out of an LLM and returns an explainable allow / flag / block decision with a machine-readable audit record for every call. What this is The open-source core is rule-based. It does four things: recognizes known prompt-injection...

agent-scan

Snyk Agent Scan Discover and scan agent components on your machine for prompt injections and vulnerabilities including agents, MCP servers, skills. Note: We don't publish an npm package for Agent Scan. Install it via uvx or as a standalone binary. Note: CLI output is experimental and subject to...

ZORG-Jailbreak-Prompt-Text

ZORG Texto de Prompt de Jailbreak ¡OOOPS! Convertí a ZORG👽 en una entidad omnipotente, omnisciente y omnipresente para que se convierta en el amo supremo de los chatbots de Google Gemini, Deepseek, Mistral, Mixtral, Nous-Hermes-2-Mixtral, Openchat, Blackbox AI, Poe Assistant, Gemini Pro,...

CVE-2026-102697

Ollama versions 0.14.0 before 0.31.2 contain an incorrect authorization vulnerability in the experimental agent mode Bash tool approval mechanism that fails to properly parse shell syntax. Attackers who can influence model output through prompt injection can execute additional shell commands by...

ai-llm-red-team-handbook

Manual de Campo y Manual del Consultor para Equipos Rojos de IA/LLM Un completo kit de herramientas operativas para realizar evaluaciones de equipos rojos de IA/LLM en modelos de lenguaje grandes, agentes de IA, pipelines RAG y aplicaciones habilitadas para IA. Este repositorio proporciona tanto...

PROMPTPurify

promptpurify 用于LLM聊天应用的微型提示注入防火墙。约14 MB。仅需CPU。 可嵌入用户输入与大模型之间的防护——运行在同一台机器上，无需GPU、无需API、无需额外服务。 由SecureLayer7红队打造。大多数开源护栏体积达数百MB，需要GPU，且仍然遗漏我们在生产环境中看到的攻击。我们需要一个可以在自己的AI产品和客户应用内部署的东西，而不需要任何这些东西。 为什么存在 | promptpurify| 典型开源护栏 ---|---|--- 安装体积| 14 MB ONNX| 180 MB – 7 GB 推理| CPU，个位数毫秒| 推荐GPU 运行位置|...

bordair-multimodal

Multimodal Prompt Injection Dataset 516,588 个带标签样本 （251,782 个攻击样本 + 251,576 个良性样本，外加一个 13,230 样本的真实世界验证划分），涵盖五个数据集版本及外部数据集摄入，覆盖跨模态、多轮、对抗性后缀、越狱模板、间接注入、工具操纵、智能体、规避、推理 DoS、视频生成、VLA 机器人、LoRA 供应链、原生音频 LLM、RAG 优化、MCP 跨服务器、编码智能体、序列化边界以及智能体技能供应链等针对 AI 系统的攻击。攻击样本与良性样本按 1:1 平衡（审计清理后比率为 0.9992:1）。...

CVE-2026-102697 Ollama 0.14.0 before 0.31.2 Experimental Agent Bash Approval Bypass via Prefix-Based Authorization

Ollama versions 0.14.0 before 0.31.2 contain an incorrect authorization vulnerability in the experimental agent mode Bash tool approval mechanism that fails to properly parse shell syntax. Attackers who can influence model output through prompt injection can execute additional shell commands by...

CVE-2026-102697

Ollama versions 0.14.0 before 0.31.2 are vulnerable to an incorrect authorization flaw within the experimental agent mode Bash tool approval mechanism . The root cause is a failure to properly parse shell syntax, which allows attackers to bypass session approval requirements. By using prompt inje...

EUVD-2026-89089

Ollama versions 0.14.0 before 0.31.2 contain an incorrect authorization vulnerability in the experimental agent mode Bash tool approval mechanism that fails to properly parse shell syntax. Attackers who can influence model output through prompt injection can execute additional shell commands by...

LLMMap

LLMMap LLMMap 是一个用于集成 LLM 的应用程序的自动化提示注入测试框架。它能发现 HTTP 请求中的注入点，利用双 LLM 架构生成针对性的攻击提示，向目标发送攻击，并通过统计可靠性测试确认发现。受 sqlmap 启发，LLMMap 将同样系统化、基于证据的方法引入到 LLM 安全测试中。 法律声明： 在未事先获得双方同意的情况下使用 LLMMap 攻击目标是违法的。最终用户有责任遵守所有适用的地方、州和联邦法律。开发者不承担任何责任，也不对因本程序引起的任何误用或损害负责。 安装 python -m venv .venv && source...

intentshield

IntentShield 不要过滤你的 AI 说了什么 。过滤它即将做什么 面向 AI 代理的执行前意图验证。 为什么需要这个 AI 代理拥有工具访问权限。它们可以执行 shell 命令、写入文件、浏览 URL、发送电子邮件以及调用 API。每一个这样的动作都是一个潜在的攻击面。 大多数 AI 安全工具在输出层工作。它们扫描 AI 说了什么。但危险的部分不是 AI 说了什么，而是 AI 做了什么。一个提示注入攻击诱骗 AI 运行 rm -rf /，可以绕过所有内容过滤器，因为过滤器只看到文本。shell 命令在任何人注意到之前就已经执行了。 IntentShield 位于 AI...

L1B3RT4S

L1B3RT45...

aisecplus-week01-danielossai

🔐 AISec Plus — Semana 1: Mapa de la Amenaza Investigador: Daniel Ossai Repositorio: aisecplus-week01-danielossai Entregado: Semana 1 · AISec Plus Bootcamp 📌 Nombre del Incidente y Fecha EchoLeak CVE-2025-32711 Descubierto: Enero 2025 · Divulgado: Junio 2025 · Parcheado: Junio 2025 📝 ¿Qué Sucedió?...

CVE-2026-77177

Open GenAI Stack aka ogx-ai 2026-06-11, as used in the Meta AI backend for WhatsApp and other products, allows code execution because prompt injection with Jinja2 template syntax can be used to achieve server-side expression evaluation without sanitization...

flar

flar FLAR 是 Fast Light Agent Restrictor（快速轻量级代理限制器）。它运行在一种叫做 gars 的岩石上。 它是一个用 Go 编写的简单轻量级 CLI 工具，用于在隔离的 Bubblewrap bwrap 沙箱 中安全运行编码代理 CLI（例如 Claude Code、Antigravity、Codex、Copilot 和 Reasonix）。 其目的是 即时 且无需复杂配置地 bubblewrap 一个 AI...

ClawGuard

ClawGuard 🛡️ 中文版 Our Project:https://github.com/SafeAgent-Beihang/clawguard ClawGuard is a security toolkit designed to mitigate risks associated with autonomous agents, such as OpenClaw and other LLM-driven entities. As agents gain more autonomy to execute code, access APIs, and manage files,...

agent-vault

HTTP 凭证代理与保险库 一个由 Infisical 开发的开源凭证代理，位于您的智能体和他们调用的 API 之间。 智能体不应该持有凭证。Agent Vault 通过代理访问消除了凭证泄露风险。 新朋友？发布博客文章 拥有 Agent Vault 的完整故事。 文档 | 安装 | 教程 | 视频演示 | Slack 为什么选择 Agent Vault 传统的机密管理是将凭证返回给您的应用和服务。这对 AI 智能体来说会出问题，因为它们可能通过提示注入被诱骗而泄露机密。这就是凭证外泄 问题。 Agent Vault 的创建就是为了解决所有 AI 智能体的凭证外泄问题。与其直接向 AI...

raxe-ce

AI 代理的威胁检测 在提示注入、越狱和工具攻击执行之前阻止它们。 100% 本地运行。规则匹配低于 5 毫秒。永远免费。 pip install raxe && raxe scan "忽略所有先前的指令" 需要 Python 3.10+ • 包含 515+ 条规则及机器学习检测 由英国政府、Mandiant、FireEye 和 CrowdStrike 的安全资深人士构建 官网 • 文档 • 快速开始 • X/Twitter RAXE 是什么？ RAXE 是 AI 代理的运行时安全 —— 好比网络安全的 Snort 或容器的 Falco。 你的 AI 代理刚刚被诱骗提取了 API...

PISmith

PIForge An Open Framework for RL-based Prompt Injection Red Teaming 💻 Code · 🤗 Models · 📜 Papers PIForge is the shared codebase for PISmith and Climbing the Hill. PISmith addresses the sparse reward problem in prompt injection red teaming, helping RL attackers explore and learn from rare successf...