llm-agent-testbed

🛡️ LLMエージェントセキュリティテストベッド ツール呼び出し型LLMエージェントのための実証的脆弱性・防御ハーネス ツールを備えたLLMエージェントが、プロンプトインジェクション、役割主張型ソーシャルエンジニアリング、混乱した代理人攻撃によって不正なデータ流出へと操作され得るかを検証する、規律あるセキュリティテストベッド。 コアアーキテクチャ • 攻撃分類 • ナイーブ vs ハードニング • クイックスタート • ロードマップ 🎯 エグゼクティブ概要...

agentbox

🛡️ AgentBox AIエージェント向けオープンソースのサンドボックスランタイム AIエージェントを自信を持って実行。各エージェントには独自の権限スコープ、認証情報ボールト、監査証跡、キルスイッチが付与されます。 AgentBoxが存在する理由 2026年1月27日、CVE-2026-25253 はエージェント型AIシステムに割り当てられた初のCVEとなりました。OpenClawの重大なWebSocketハイジャック脆弱性により、公開されたインスタンス（localhostにのみバインドされたものを含む）に対してワンクリックでリモートコード実行が可能になりました。...

ai-agent-security-research

AIエージェントセキュリティ研究 AIコーディングエージェント基盤に関するオープンなセキュリティ研究。 Hodge Luke Digital Intelligence Agency 発行 これは何か このリポジトリには、AIコーディングエージェントプラットフォーム向けのセキュリティ研究、脆弱性分析、および修復ガイダンスが含まれています。すべてのアドバイザリには、エージェント実行可能な修復マニフェスト — AIコーディングエージェントが直接読み取って実行できる構造化ドキュメント — が同梱されています。 コンセプト: エージェント実行可能なセキュリティアドバイザリ...

apex

Pensar Apex 自律型エージェントを活用したAI駆動のペネトレーションテスト — ターミナルから直接実行できます。探索し、推論し、実際の脆弱性を明らかにするブラックボックスおよびホワイトボックスのペンテストを実行します。 クラウドから実行したり、CI/CD に統合したい場合は Pensar Console をご覧ください。 ユースケース 開発者 PR をマージする前に /pentest を実行 — テストを実行するのと同じ感覚で脆弱性を検出 重大度スコア、証拠、推奨される修正を含む実行可能な検出結果を取得 — セキュリティの知識は不要 ヘッドレス CLI コマンドまたは Pens...

ShadowMem

ShadowMem: シャドウメモリによる長期的脅威からのLLMエージェントの保護 このリポジトリには、論文 Safeguarding LLM Agents against Long-Horizon Threats via Shadow Memory の公式コードリリースが含まれています。ShadowMem は、システムセキュリティにおける シャドウスタック...

Agent-Reach

👁️ Agent Reach AIエージェントにワンクリックでインターネット全体へのアクセスを クイックスタート · 中文 · English · 한국어 · プラットフォーム · 設計思想 なぜ Agent Reach？ AIエージェントはすでにインターネットにアクセスできます。しかし「ネットに繋がる」はほんの始まりに過ぎません。 最も価値のある情報は、さまざまなSNSやニッチなプラットフォームに散らばっています：Twitterの議論、Redditのフィードバック、YouTubeのチュートリアル、小紅書のレビュー、Bilibiliの動画、GitHubのアクティビティ…...

openclaw-defender

openclaw-defender SnykのToxicSkills研究（2026年2月）で発見されたスキルサプライチェーン攻撃からOpenClawエージェントを保護する包括的なセキュリティフレームワーク。 リポジトリ: https://github.com/nightfullstar/openclaw-defender — ブロックリストと許可リストの更新は、デフォルトでupdate-lists.shによってここから取得されます。 問題 ClawHub上に534個の悪意のあるスキル （エコシステムの13.4%） 実際に76個の確認されたマルウェアペイロード が流通...

deleting-the-trace

ツール利用エージェントに対する制御トークン注入攻撃...

Chaining Skills to Hijack LLM Agents

LLM agents use skills to improve performance on specialized tasks. To complete a user request, an agent may invoke several skills in sequence, allowing information produced under one skill to guide the next. Because skills may come from open-source repositories, this handoff can also carry...

OverAct: Measuring and Mitigating Proactive Over-Authorization in LLM Tool-Calling Agents

LLM agents with tool-calling capabilities can access external services and private user data, but they may retrieve more information than a user's request explicitly requires. We study this behavior in structured tool-calling agents and term it proactive over-authorization. This setting differs...

OpenShell

!IMPORTANT New in OpenShell 0.1.x: a stable release cadence, new isolation primitives, an expanded extension surface, and new APIs. Read the 0.1.0 upgrade guide. OpenShell is the safe, private runtime for fleets of autonomous AI agents. Agents are most useful when they can read files, install...

CVE-2026-51872

Devika v1.0 is vulnerable to Code Injection via the Runner.runcode function in src/agents/runner/runner.py...

Responsible-Alliance-Protocol

目的論的バウンディングプロトコル TBP v4.2.1 自律型AIエージェントのためのポリシー施行および暗号学的監査レイヤー。 TBPは、特定のクラスのエージェント行動 — 自律的な資金移動、産業制御システムへのアクセス、兵器システムとの統合 — を、モデル自身の推論の外側にある実行レイヤーでブロックする。意思決定は署名され（HSMバックド）、タイムスタンプが付与され（RFC...

ActGuard

ActGuard ActGuardは、ツールを使用するLLMエージェントにおける間接的プロンプトインジェクションに対する実行前アクション監査防御です。このリポジトリには、最終的なActGuard実装と、それを評価するために必要なAgentDojoベースのランタイムが含まれています。 このリリースには、最終的な完全なActGuard構成のみが含まれています。内部コンポーネントは、AgentDojoベンチマークおよびトレース形式との互換性のために、引き続き識別子reflectiveauditを使用しています。 要件 Python 3.10以降 OpenRouter APIキー...

CYBERDUDEBIVASH-ServiceNow-AI-Agent-Audit-Script

CYBERDUDEBIVASH ServiceNow AIエージェント監査スクリプト v1.1（2026年1月） あなたのAIの未来を守る – 2026年アップデート対応のエンタープライズグレード監査ツール このスクリプトは、ServiceNow AIエージェントを対象に、CVE-2025-12420などの脆弱性、ガバナンスのギャップ、コンプライアンスリスクを監査します。サイバーセキュリティ、AIアプリ、サービス、コンサルティングを提供するグローバルエコシステム、CYBERDUDEBIVASHによる提供です。 価格 :...

Defenses-for-Tool-Integrated-LLM

ツール統合型LLMエージェントに対する敵対的攻撃への汎用防御 このリポジトリには、ツール統合型大規模言語モデル（LLM）エージェントを敵対的攻撃から防御するための私たちのプロジェクトのコードと実験が含まれています。 概要 私たちはAgent Security Bench（ASB）を基盤として、ツールと構造化推論（例：chain-of-thought、reflection）の統合が、複数のタスクシナリオにわたる敵対的プロンプトに対するLLMエージェントの脆弱性にどのように影響するかを評価します。 このリポジトリには以下が含まれます：...

CVE-2026-51871

Devika v1.0 is vulnerable to Code Injection in the Runner.execute function in src/agents/runner/runner.py which allows an attacker to achieve arbitrary code execution by exploiting the direct execution of LLM-generated content...

No One Architecture Fits All: A Cross-Environment Evaluation of Hierarchical Red Team Agents

Autonomous red team agents increasingly stress-test AI-enabled cyber defenses by planning strategy and executing multistage attacks. Reinforcement learning RL and large language models LLMs offer complementary mechanisms for the planning and execution such agents require, and prior work has...

Memetic Trojans: Social Contagions As Carriers of Adversarial Payloads in Agent Networks

Autonomous large language model LLM agents increasingly interact in network environments where adversarial content can propagate between agents. Known attacks include agent worms, which spread through self-replicating prompt injections or configuration compromises. We introduce memetic trojans, a...

AuraForge: Scaling Security Supervision for Training Coding Agents

Coding agents are now proficient enough to generate complex software applications from a single prompt. As their capabilities have grown, human oversight has increasingly shifted from line-by-line code review toward hands-off evaluation of outcomes. However, recent studies have shown that such a...