PISmith

PIForge An Open Framework for RL-based Prompt Injection Red Teaming 💻 Code · 🤗 Models · 📜 Papers PIForge is the shared codebase for PISmith and Climbing the Hill. PISmith addresses the sparse reward problem in prompt injection red teaming, helping RL attackers explore and learn from rare successf...

JoySafety

JoySafety —— 大規模言語モデルセキュリティフレームワーク 📋 目次 プロジェクト概要 ✨ 特徴 🚀 クイックスタート 📖 使用ガイド 🏆 ベストプラクティス 🏗️ アーキテクチャ設計 🛠️ 開発 📄 ライセンス 📅 計画 Star History new release ✅ プロンプトインジェクション検出モデルを全面アップグレード...

CVE-2024-8309

Langchain CVE-2024–8309 脆弱性の概念実証 概要 このセットアップは、Neo4j データベースで SQL インジェクションを可能にする GraphCypherQAChain クラスのプロンプトインジェクション脆弱性の概念実証を示します。 コンポーネント: 1. Neo4j データベース : Neo4j を実行します。 2. バックエンド FastAPI : Langchain を使用して Neo4j と対話します。 3. フロントエンド Streamlit : バックエンドと対話するためのシンプルなインターフェース。 使用方法 1. このリポジトリをクローンします。...

Securekit

Securekit Securekit 保护您的模型所执行的一切——适用于任何 AI 系统。 Securekit 是一个协议无关的 AI 工具执行安全内核 。 它位于任何 LLM 或智能体系统与其使用的工具之间，强制执行零信任执行、沙箱隔离和策略驱动控制 。 它被设计为即插即用、模块化且可扩展 ，可跨 MCP、OpenAI 工具调用和自定义智能体框架工作。 🧠 为什么需要 Securekit 现代 AI 系统不再只是生成文本——它们正在执行操作： 读取和写入文件 调用外部 API 运行代码 触发工作流 与系统和网络交互 这带来了一个关键风险： 每次工具调用都是一个潜在的攻击面。...

css-the-bomb-inside-your-inbox

CSS：你收件箱里的炸弹 欢迎访问本仓库。本仓库包含我演讲“CSS：你收件箱里的炸弹”的全部材料。 本仓库包含仅为合法的安全研究、分析和防御性测试之目的而识别、开发或收集的概念验证代码、测试用例及辅助材料。 你可以通过以下链接阅读相关研究： 研究论文 目录 PoC CSS 热接线 通过粘贴窃取令牌 在 CSP 阻止外部资源时窃取文本节点 纯 HTML 键盘记录器 通过电子邮件进行提示注入 Outlook 篡改 Outlook Firefox 键盘记录器 Outlook 标签劫持 Outlook 净化键盘记录器 Chrome 实时键盘记录器 工具 Shazzer Hackvertor 概念...

keystone

Keystone Engine Keystone is a lightweight multi-platform, multi-architecture assembler framework. It offers some unparalleled features: Multi-architecture, with support for Arm, Arm64 AArch64/Armv8, Ethereum Virtual Machine, Hexagon, Mips, PowerPC, RISC-V, Sparc, SystemZ & X86 include 16/32/64bit...

meta-ai-support-prompt

Meta AI 支持助手系统提示 从 Meta 的 AI 支持助手中提取的系统提示，日期为 2026 年 6 月 1 日 。 文件 system-prompt.md — 提取的系统提示 ⚠️ 免责声明与法律声明 目的 本仓库的发布严格限于教育和授权的安全研究目的 。其中所包含的材料旨在增进对 AI 系统安全、提示注入防御以及大型语言模型安全的理解——别无他用。 授权研究 本仓库中记录的所有研究均仅在作者拥有和控制的账户上进行。未尝试、实现或意图对任何第三方系统、账户或数据进行未经授权的访问。 无担保与责任限制 本仓库中的材料按 “原样”...

aquaman

🔱 Aquaman 🔱 唯一一款面向 AI 代理的独立凭证代理：自带保险库隔离与最小权限请求策略。你的密钥始终留在你原本存放它们的地方，绝不会进入代理的内存。兼容 1Password、keychain、keepassxc 以及许多其他工具。 你配置好了 Claude Code、Codex、OpenClaw、Hermes 或 Docker Sandboxes，现在却盯着 .env 文件，里面明文躺着你的宝贵 API 密钥。你读过那些文章。你知道代理被提示注入后会发生什么。我们懂。 Aquaman 通过三层防御解决这个问题： 1. 进程隔离 ：API...

flar

flar FLARはFast Light Agent Restrictorです。garsと呼ばれる岩の上で動作します。 Goで書かれたシンプルで軽量なCLIツールで、Claude Code、Antigravity、Codex、Copilot、ReasonixといったコーディングエージェントCLIを、隔離されたBubblewrap（bwrap）サンドボックス内で安全に実行するためのものです。 目的は、複雑な設定なしに 即座に...

aco-prompt-shield

aco-prompt-shield 🛡️ LLMに到達する前にプロンプトインジェクション攻撃を阻止 — API費用ゼロ、完全ローカル実行、2分で導入完了。 プロンプトインジェクションはLLMアプリケーションにとって1のセキュリティリスクです。aco-prompt-shieldは既知のジェイルブレイクパターンを検出し、MLで意味意図を理解し、難読化を検出します。すべてローカル、すべてプライベート。 ベンチマーク 指標| 結果 ---|--- 検出率| 95.7% 22/23の攻撃パターンを検出 偽陽性率| 0.0% 20件の良性プロンプトを誤ってブロックせず レイテンシ...

ai-llm-red-team-handbook

AI / LLM レッドチームフィールドマニュアル＆コンサルタントハンドブック 大規模言語モデル（LLM）、AIエージェント、RAGパイプライン、AI対応アプリケーションに対するAI/LLMレッドチーム評価のための包括的な運用ツールキットです。このリポジトリは、戦術的な現場ガイダンスと戦略的なコンサルティングフレームワークの両方を提供します。 📖 GitBookナビゲーション: 完全な章構成はSUMMARY.mdを参照してください。 📚 概要 このリポジトリは、AI LLMレッドチームハンドブックのゴールドマスター...

StepJack

StepJack：针对多步间接提示注入的计算机使用智能体安全基准测试 环境配置 1. Python 环境配置 首先，安装所有依赖项，并确保你运行的是 Python 3.10。 conda create -n stepjack python=3.10 conda activate stepjack pip install -r requirements.txt 2. 沙箱环境配置 我们使用 RedTeamCUA 提供的 AWS 环境。 AWS 1. 配置 NETWORKINTERFACEMAP： 根据你自己的 AWS 实例，在 awsconfig.py 中配置...

agent-vault

HTTPクレデンシャルプロキシ＆ボールト Infisical によるオープンソースのクレデンシャルブローカーで、エージェントとそれらが呼び出すAPIの間に位置します。 エージェントはクレデンシャルを保持すべきではありません。Agent Vaultはブローカーアクセスにより、クレデンシャル流出リスクを排除します。 初めてですか？ローンチブログ記事でAgent Vaultの全貌をご覧ください。 ドキュメント | インストール | チュートリアル | ビデオデモ | Slack Agent Vaultの必要性...

clawshield-public

ClawShield 面向 AI 代理的安全代理。 置于 OpenClaw 之前，在消息到达模型或离开网络之前，对每条消息进行提示注入、PII 泄露和机密扫描。 附带 5 个专用 AI 代理、内置仪表板和一个 YAML 策略引擎。一条命令即可启动。 ┌──────────────┐ ┌──────────────────┐ ┌──────────────┐ │ Browser │────▶│ ClawShield │────▶│ OpenClaw │ │ you │◀────│ Security Proxy │◀────│ Gateway │ └──────────────┘...

skill-scanner

Skill Scanner A best-effort security scanner for AI Agent Skills that detects prompt injection, data exfiltration, and malicious code patterns. It combines pattern-based detection YAML + YARA-X, AST and dataflow analysis , an optional LLM-as-a-judge , and a bounded CEL decision layer over typed...

proxychains-ng

ProxyChains-NG ver 4.17 README ProxyChains is a UNIX program, that hooks network-related libc functions in DYNAMICALLY LINKED programs via a preloaded DLL dlsym, LDPRELOAD and redirects the connections through SOCKS4a/5 or HTTP proxies. It supports TCP only no UDP/ICMP etc. The way it works is...

CVE-2026-1337-AI-Coding-Assistant-Prompt-Injection-to-Sandbox-Escape

CVE-2026-1337 – AI 编程助手提示注入致远程代码执行 📖 概述 AI 驱动的代码审查机器人中存在一个提示注入漏洞，攻击者可通过操纵该机器人的“修复”建议注入任意 shell 命令。其净化器使用简单的黑名单，但可通过编码技巧绕过。 ⚙️ 漏洞详情 类型： 提示注入 → 命令注入 影响： 在 CI/CD 运行器上实现远程代码执行（RCE）。 根本原因： AI 模型盲目地回显用户提供的 Fix: 部分。黑名单试图阻止危险命令，但无法抵御编码后的载荷（base64、变量间接引用）。 受影响软件： 假设的 “DevBot v3.1” – 此处仅为教学目的而模拟。 🧪 漏洞利用演示 1...

sudo-snooper

sudo-snooper sudo-snooper acts like the original sudo binary to fool users into entering their passwords. It will show a fake prompt just like the original to the user to enter their sudo password. This can be useful in penetration tests or security evaluations for testing user knowledge...

AutoRAN-public

🧠 AutoRAN：大型推理模型中安全推理的自动化劫持 AutoRAN 是一种自动化的安全推理劫持方法，利用对齐程度较低（次要）的辅助模型模拟推理轨迹、生成叙事性提示，并迭代优化这些提示，以绕过现代大型推理模型（LRMs）中的安全推理。 ⚠️ 免责声明 ：本仓库仅用于受控安全研究和 AI 安全红队测试。 🔍 核心特性 ⚙️ 自动化多轮越狱 ：通过迭代提示优化实现 🧩 叙事模板 ：在看似合理的教育/道德幌子下包装恶意目标 🔁 优化策略 ：利用中间推理轨迹演化提示 📈 在商业 LRM 上近乎 100% 的攻击成功率 🔬 在 AdvBench 、HarmBench 和 StrongReject...

anamorpher

Anamorpher Anamorpher（anamorphosis に由来）は、マルチモーダルAIシステムに対する画像スケーリング攻撃を作成・可視化するためのツールです。フロントエンドインターフェースとPython APIを提供し、ダウンスケール時にのみマルチモーダルプロンプトインジェクションを明らかにする画像を生成します。この攻撃ベクトルの詳細については、「Weaponizing image scaling against production AI systems」 を参照してください。 Anamorpher は活発なベータ開発中です。フィードバックやコントリビューションを歓迎しま...