agent-vault-proxy

Keys on the Wire あなたのAIエージェントはAPIキーを一切保持しません。プレースホルダーを送信し、実際の秘密情報は通信経路上で差し替えられます。 資格情報スティーラー（Shai-Huludなど）やプロンプトインジェクションされたエージェントによる秘密情報の漏洩を防ぎます。侵害されたエージェントには奪うものが何もありません。 仕組み 1. エージェントはキーではなく プレースホルダー を含むリクエストを送信します。 2. Keys on the Wireは、転送中にボールトから実際の秘密情報を差し替えます。 3...

ClawGuard

ClawGuard 🛡️ 中文版 プロジェクト:https://github.com/SafeAgent-Beihang/clawguard ClawGuard は、OpenClaw などの自律エージェントや、LLM を基盤とするその他のエンティティに関連するリスクを軽減するためのセキュリティツールキットです。エージェントがコードを実行し、API にアクセスし、ファイルを管理する自律性を高めるにつれて、ClawGuard はセキュリティリスクを軽減するために必要なガードレールを提供します。 📖 ClawGuard が必要な理由...

css-the-bomb-inside-your-inbox

CSS: 受信トレイの中の爆弾 このリポジトリへようこそ。このリポジトリには、私の講演「CSS: 受信トレイの中の爆弾」に関するすべての資料が含まれています。 このリポジトリには、正当なセキュリティ研究、分析、および防御テストのみを目的として特定、開発、または収集された、概念実証コード、テストケース、および補足資料が含まれています。 この研究については、以下で読むことができます: 研究論文 目次 PoC CSS ホットワイヤリング ペーストによるトークン窃取 CSP が外部リソースをブロックする際のテキストノード窃取 HTML のみのキーロガー メール経由のプロンプトインジェクション...

SecOPD

SecOPD: オンポリシー蒸留による適応型プロンプトインジェクションの軽減 Yibo Peng · Long Lian · David Wagner† · Sizhe Chen† † 共同指導。 論文 プロジェクトページ モデル このリリースは、論文の最終的なfull-response KL 定式化を実装したものであり、 no-parsing バリアントとも呼ばれます。生徒モデルは攻撃されたコンテキスト下で ロールアウトします。同じベースモデルから初期化されたクリーンコンテキストの教師モデルが、 ペアとなるクリーンコンテキスト下で生徒モデルのサンプリングされたトークンをスコアリングしま...

L1B3RT4S

L1B3RT45...

agentsid-scanner

AgentsID Scanner 에이전트 보안의 등대 모든 MCP 서버를 스캔하고 보안 성적표를 받으세요. MCP 서버가 AI 에이전트에 도구를 노출합니다. 얼마나 안전할까요? 대부분의 MCP 서버는 인증, 도구별 권한, 입력 검증, 프롬프트 인젝션에 취약한 도구 설명 없이 제공됩니다. 하지만 아직 모르고 있을 뿐입니다. AgentsID Scanner가 알려드립니다. 빠른 시작 npx @agentsid/scanner -- npx @some/mcp-server 끝입니다. 등급과 상세한 결과를 받아보세요. 스캔 대상 범주| 검사 항...

beelzebub

Beelzebub 디셉션 런타임 프레임워크 Beelzebub는 SSH, HTTP, TCP, TELNET, MCP 프로토콜 전반에 걸쳐 적응형 LLM 기반 데코이 서비스를 배포하는 오픈소스 디셉션 런타임입니다. 수동적인 허니팟을 넘어, 공격자와 현실적인 상호작용을 능동적으로 수행하여 고정밀 위협 인텔리전스를 수집하고 AI 에이전트에 대한 프롬프트 인젝션 공격을 탐지합니다. 목차 Beelzebub 목차 주요 기능 LLM 디셉션 데모 빠른 시작 인스톨러 로컬 Go Docker Helm Kubernetes 사용 CLI 참조...

promptmap

O O o.-. Humans, Do Not Resist! |/ ,-'-. / /, / /|.-.| / --O-- .--""" /\ /\ | o.o / Utku Sen's /|\ -'--' / /| | - | / | | | \ /| | | ' \ '/ \ ' | ' \ | ' / | ' \ | / | | | ./| /||| ./|||,| .// / / |-----| || || || || promptmap2 is a an automated prompt injection scanner for custom LLM...

promptmap

O O o.-. Humans, Do Not Resist! |/ ,-'-. / /, / /|.-.| / --O-- .--""" /\ /\ | o.o / Utku Sen's /|\ -'--' / /| | - | / | | | \ /| | | ' \ '/ \ ' | ' \ | ' / | ' \ | / | | | ./| /||| ./|||,| .// / / |-----| || || || || promptmap2는 맞춤형 LLM 애플리케이션을 위한 자동화된 프롬프트 인젝션 스캐너입니다. 두 가지 테스트 모드를 지원합니다...

AutoRAN-public

🧠 AutoRAN：大型推理模型中安全推理的自动化劫持 AutoRAN 是一种自动化的安全推理劫持方法，利用对齐程度较低（次要）的辅助模型模拟推理轨迹、生成叙事性提示，并迭代优化这些提示，以绕过现代大型推理模型（LRMs）中的安全推理。 ⚠️ 免责声明 ：本仓库仅用于受控安全研究和 AI 安全红队测试。 🔍 核心特性 ⚙️ 自动化多轮越狱 ：通过迭代提示优化实现 🧩 叙事模板 ：在看似合理的教育/道德幌子下包装恶意目标 🔁 优化策略 ：利用中间推理轨迹演化提示 📈 在商业 LRM 上近乎 100% 的攻击成功率 🔬 在 AdvBench 、HarmBench 和 StrongReject...

clawshield-public

ClawShield AIエージェント向けセキュリティプロキシ。 OpenClaw の前面に配置され、モデルに到達する前・ネットワークから送出される前に、すべてのメッセージをプロンプトインジェクション、PII漏えい、シークレットの観点でスキャンします。 5つの特化型AIエージェント、組み込みダッシュボード、YAMLポリシーエンジンを同梱。起動は1コマンドです。 ┌──────────────┐ ┌──────────────────┐ ┌──────────────┐ │ Browser │────▶│ ClawShield │────▶│ OpenClaw │ │ you │◀────...

fas-judgement-oss

FAS 판결 프롬프트 인젝션 공격 콘솔 다른 사람이 하기 전에 AI의 방어를 테스트하세요. 설치 | 게임 모드 | 리더보드 | 데모 대상 | 기능 | 엘리트 | 기여 왜 Judgement인가? 당신의 AI 챗봇, API, 또는 에이전트는 아마도 프롬프트 인젝션에 취약할 것입니다. 대부분 그렇습니다. 문제는 대부분의 팀이 이를 테스트할 도구나 전문 지식을 갖추지 못했다는 점입니다. Judgement는 분류된 공격 패턴을 모든 AI 엔드포인트에 발사하고 정확히 무엇이 무너지는지 확인할 수 있는 구조화된 방법을 제공합니다. 보안 배...

sudo-snooper

sudo-snooper sudo-snooper acts like the original sudo binary to fool users into entering their passwords. It will show a fake prompt just like the original to the user to enter their sudo password. This can be useful in penetration tests or security evaluations for testing user knowledge...

CVE-2025-54794-Hijacking-Claude-AI-with-a-Prompt-Injection-The-Jailbreak-That-Talked-Back

🧠 CVE-2025-54794: 히치하이킹 클로드 AI with 프롬프트 인젝션 – 되받아친 탈옥 작성자: Aditya Bhatt | 침투 테스트 전문가 | 레드팀 운영자 | VAPT 중독자 ⚔️ 서론: 당신의 AI가 말로 해킹될 수 있을 때 언어 모델이 우리 코드, 콘텐츠, 인지의 부조종사가 된 시대에 — 취약점은 더 이상 포트와 페이로드만의 문제가 아닙니다. 그것은 단어 에 관한 것입니다. CVE-2025-54794 는 CVE 아카이브의 또 다른 번호가 아닙니다 — 그것은 선언입니다: “가장 진보된 AI조차도 올바른 속삭임으...

reasongate

ReasonGate LLM에 들어가고 나오는 텍스트를 검사하여 모든 호출에 대해 설명 가능한 allow / flag / block 결정과 기계 판독 가능한 감사 기록을 반환하는 자체 호스팅 가능한 게이트입니다. 이것은 무엇인가 오픈소스 코어는 규칙 기반입니다. 네 가지를 수행합니다: 알려진 프롬프트 인젝션 및 탈옥 문구를 인식합니다, 일반적인 회피 기법제로 폭 문자, 호모글리프, 리트스피크, 문자 간격, base64을 해제하여 위장된 후에도 알려진 문구가 여전히 매칭되도록 합니다, 검색된 컨텍스트와 도구 출력이 모델에 도달하기...

garak

garak, LLM 취약점 스캐너 생성형 AI 레드팀 및 평가 키트 garak은 LLM이 우리가 원하지 않는 방식으로 실패하도록 만들 수 있는지 확인합니다. garak은 환각hallucination, 데이터 유출data leakage, 프롬프트 인젝션prompt injection, 허위 정보misinformation, 유해 콘텐츠 생성toxicity generation, 탈옥jailbreaks 및 기타 많은 취약점을 탐지합니다. nmap이나 msf/Metasploit Framework를 알고 있다면, garak은 그들과 비슷하...

nova-tracer

Nova-tracer 에이전트 모니터링 및 가시성 Claude Code를 위한 보안 모니터링 및 프롬프트 인젝션 방어 도구로, NOVA Framework 기반입니다. 기능 세션 추적 - 모든 도구 사용을 타임스탬프 및 메타데이터와 함께 캡처 프롬프트 인젝션 탐지 - 3계층 스캔키워드, 의미론적 ML, LLM - 경고와 함께 수동 모니터링 위험 명령 차단 - 실행 전에 파괴적 작업을 적극적으로 차단 MCP 및 스킬 추적 - MCP 서버 호출 및 Agent Skills 호출을 상세 분석과 함께 추적 대화형 HTML 보고서 -...

flar

flar FLAR은 Fast Light Agent Restrictor입니다. 이는 gars라는 바위 위에서 동작합니다. Go로 작성된 간단하고 가벼운 CLI 도구로, Claude Code, Antigravity, Codex, Copilot, Reasonix와 같은 코딩 에이전트 CLI를 격리된 Bubblewrap bwrap 샌드박스 안에서 안전하게 실행합니다. 목적은 복잡한 설정 없이 즉시 AI 에이전트를 bubblewrap하여 현재 작업 중인 프로젝트에만 접근할 수 있도록 제한하는 것입니다. 이는 프롬프트 인젝션 공격과...

wardgate

Wardgate - AI 에이전트 보안 게이트웨이 Wardgate 는 AI 에이전트와 외부 세계 사이에 위치하는 보안 게이트웨이입니다. API 호출용 자격 증명을 격리하고, 원격 명령 실행용 SSH 키를 격리하며, 원격 환경클레이브에서의 명령 실행을 제어합니다. AI 에이전트에게 API, SSH 키, 셸 도구에 대한 액세스 권한을 부여하되, 자격 증명을 직접 제공하거나 직접 실행을 신뢰하지 않고도 사용할 수 있습니다. 문제점 AI 에이전트는 강력합니다. 일정 관리, 이메일 확인, 작업 업데이트, 코드 작성, 삶의 자동화 등이...

aquaman

🔱 Aquaman 🔱 The only independent credential proxy for AI agents: bring-your-own-vault isolation & least-privilege request policies. Your keys stay where you already keep them, never in the agent's memory. Compatible with 1Password, keychain, keepassxc and many others. You set up Claude Code, Code...