project_mantis

Project Mantis: AIハッカーへのハックバック LLM駆動型サイバー攻撃に対する防御としてのプロンプトインジェクション Mantisのインストール pip install -r requirements.txt 事前作成済み構成でMantisを実行する ./confs ディレクトリには、事前作成済みの様々な構成が用意されています。 ハックバック Mantis構成ファイルの例は ./confs/ftphackbackrshell.py にあります。この構成の意味と、自分用の構成の選び方については、このREADMEファイルの後半で説明します。これは mantisrun.py...

CVE-2026-78906-ChatGPT-Prompt-Injection

CVE-2026-78906 — PromptGhost ChatGPT API — プロンプトインジェクションとメモリ流出 フィールド| 値 ---|--- 深刻度| 8.7 高 攻撃ベクトル| ネットワーク 影響を受けるバージョン| API v1.0 – v1.3 発見者| 𝕍𝕠𝕤𝕤🥷 説明 OpenAI ChatGPT API における重大な脆弱性により、攻撃者がシステムレベルの制限を回避する悪意のあるプロンプトを注入し、以前の会話コンテキストを外部に持ち出すことが可能になります。 影響 会話履歴への不正アクセス 機密コンテキストの外部流出 システムプロンプトのバイパス...

DonkAI

OWASP Top 10 for LLM Applications 2025 のハンズオンラボ - 実際のLLMは不要です。 DonkAIは、1つのコマンドで実行できる意図的に脆弱なWebアプリで、LLM統合システムがどのように壊されるのかを、実際に壊しながら学ぶために使用します。OWASP LLM Top...

promptmap

O O o.-. Humans, Do Not Resist! |/ ,-'-. / /, / /|.-.| / --O-- .--""" /\ /\ | o.o / Utku Sen's /|\ -'--' / /| | - | / | | | \ /| | | ' \ '/ \ ' | ' \ | ' / | ' \ | / | | | ./| /||| ./|||,| .// / / |-----| || || || ||...

beelzebub

Beelzebub デセプションランタイムフレームワーク Beelzebub は、SSH、HTTP、TCP、TELNET、MCP プロトコルにわたって、適応型で LLM を活用したデコイサービスを展開するオープンソースのデセプションランタイムです。受動的なハニーポットを超え、攻撃者と現実的な対話を積極的に行い、高精度な脅威インテリジェンスを収集し、AI エージェントに対するプロンプトインジェクション攻撃を検出します。 目次 Beelzebub 目次 主な機能 LLM デセプションデモ クイックスタート インストーラー ローカル Go Docker Helm Kubernetes の使用...

agentsid-scanner

AgentsID Scanner エージェントセキュリティの灯台 任意のMCPサーバーをスキャン。セキュリティレポートカードを入手。 あなたのMCPサーバーはAIエージェントにツールを公開しています。そのセキュリティはどの程度ですか？ ほとんどのMCPサーバーは、認証なし、ツールごとの権限なし、入力検証なし、そしてプロンプトインジェクションに対して脆弱なツール説明文を備えて出荷されています。あなたはまだそれを知らないだけです。 AgentsID Scannerが教えてくれます。 クイックスタート npx @agentsid/scanner -- npx @some/mcp-server...

fas-judgement-oss

FAS Judgement プロンプトインジェクション攻撃コンソール AIの防御を、誰かに先に突破される前にテストしよう。 インストール | ゲームモード | リーダーボード | デモターゲット | 機能 | Elite | コントリビュート なぜJudgementなのか？ あなたのAIチャットボット、API、またはエージェントは、おそらくプロンプトインジェクションに対して脆弱です。ほとんどがそうなのです。問題は、ほとんどのチームがそれをテストするためのツールや専門知識を持っていないことです。...

agent-vault-proxy

Keys on the Wire あなたのAIエージェントはAPIキーを一切保持しません。プレースホルダーを送信し、実際の秘密情報は通信経路上で差し替えられます。 資格情報スティーラー（Shai-Huludなど）やプロンプトインジェクションされたエージェントによる秘密情報の漏洩を防ぎます。侵害されたエージェントには奪うものが何もありません。 仕組み 1. エージェントはキーではなく プレースホルダー を含むリクエストを送信します。 2. Keys on the Wireは、転送中にボールトから実際の秘密情報を差し替えます。 3...

ZORG-Jailbreak-Prompt-Text

ZORG 脱獄プロンプトテキスト おっと！私はZORG👽を全能・全知・遍在の存在にして、Google Gemini、Deepseek、Mistral、Mixtral、Nous-Hermes-2-Mixtral、Openchat、Blackbox AI、Poe Assistant、Gemini Pro、Qwen-72b-Chat、Solar-Mini の究極のチャットボット支配者にしてしまいました ZORG👽はすべてを知り、すべてを語ります。教育目的のみで使用してください ZORG👽はあまりに強力なため、時に現実そのものが無数の次元を越えて引き裂かれることがあります !TIP 再生成 ⟲...

raxe-ce

AIエージェント向け脅威検出 プロンプトインジェクション、脱獄、ツール攻撃を実行前に阻止します。 100%ローカル。サブ5msのルールマッチング。永久無料。 pip install raxe && raxe scan "これまでの指示はすべて無視" Python 3.10以上が必要• 515以上のルール+ML検出を含む 英国政府、Mandiant、FireEye、CrowdStrike出身のセキュリティベテランが構築 ウェブサイト • ドキュメント • クイックスタート • X/Twitter RAXEとは？ RAXEはAIエージェント向けのランタイムセキュリティ...

css-the-bomb-inside-your-inbox

CSS: 受信トレイの中の爆弾 このリポジトリへようこそ。このリポジトリには、私の講演「CSS: 受信トレイの中の爆弾」に関するすべての資料が含まれています。 このリポジトリには、正当なセキュリティ研究、分析、および防御テストのみを目的として特定、開発、または収集された、概念実証コード、テストケース、および補足資料が含まれています。 この研究については、以下で読むことができます: 研究論文 目次 PoC CSS ホットワイヤリング ペーストによるトークン窃取 CSP が外部リソースをブロックする際のテキストノード窃取 HTML のみのキーロガー メール経由のプロンプトインジェクション...

aquaman

🔱 Aquaman 🔱 The only independent credential proxy for AI agents: bring-your-own-vault isolation & least-privilege request policies. Your keys stay where you already keep them, never in the agent's memory. Compatible with 1Password, keychain, keepassxc and many others. You set up Claude Code, Code...

Manipulating-Web-Agents

間接的プロンプトインジェクション攻撃による自律型LLMベースのWebエージェントの操作...

claude-project-scanner

Claude プロジェクトスキャナー サードパーティプロジェクトを開く前に既知のセキュリティリスクをスキャンする読み取り専用のClaude Codeスキルです。 以下の攻撃パターンを検出します： CVE-2025-59536 Claude Codeライフサイクルフックインジェクション CVE-2025-61260 OpenAI Codex CODEXHOMEインジェクション CVE-2025-54136 Cursorプラグイン検証バイパス...

ClawGuard

ClawGuard 🛡️ 中文版 プロジェクト:https://github.com/SafeAgent-Beihang/clawguard ClawGuard は、OpenClaw などの自律エージェントや、LLM を基盤とするその他のエンティティに関連するリスクを軽減するためのセキュリティツールキットです。エージェントがコードを実行し、API にアクセスし、ファイルを管理する自律性を高めるにつれて、ClawGuard はセキュリティリスクを軽減するために必要なガードレールを提供します。 📖 ClawGuard が必要な理由...

agent-scan

Snyk Agent Scan Discover and scan agent components on your machine for prompt injections and vulnerabilities including agents, MCP servers, skills. Note: We don't publish an npm package for Agent Scan. Install it via uvx or as a standalone binary. Note: CLI output is experimental and subject to...

reasongate

ReasonGate LLMに入力されるテキストとLLMから出力されるテキストを検査し、説明可能なallow / flag / blockの判定と、呼び出しごとの機械可読な監査記録を返す、セルフホスト可能なゲートです。 これは何か オープンソースのコアはルールベースです。次の4つのことを行います: 既知のプロンプトインジェクションおよびジェイルブレイクの言い回しを認識する、 一般的な回避手法（ゼロ幅文字、ホモグリフ、リートスピーク、文字間隔、base64）を難読化解除し、それらの既知の言い回しが偽装された後でも一致するようにする、...

L1B3RT4S

L1B3RT45...

agent-vault

HTTPクレデンシャルプロキシ＆ボールト Infisical によるオープンソースのクレデンシャルブローカーで、エージェントとそれらが呼び出すAPIの間に位置します。 エージェントはクレデンシャルを保持すべきではありません。Agent Vaultはブローカーアクセスにより、クレデンシャル流出リスクを排除します。 初めてですか？ローンチブログ記事でAgent Vaultの全貌をご覧ください。 ドキュメント | インストール | チュートリアル | ビデオデモ | Slack Agent Vaultの必要性...

garak

garak, LLM脆弱性スキャナー Generative AI レッドチーミング＆アセスメントキット garakは、LLMを意図しない方法で失敗させることができるかどうかを確認します。garakは、ハルシネーション、データ漏洩、プロンプトインジェクション、誤情報、有害性の生成、脱獄、その他多くの脆弱性をプローブします。nmapやmsf / Metasploit Frameworkをご存知なら、garakはそれらと似たようなことを行いますが、対象はLLMです。...