llm-agent-testbed

🛡️ LLMエージェントセキュリティテストベッド ツール呼び出し型LLMエージェントのための実証的脆弱性・防御ハーネス ツールを備えたLLMエージェントが、プロンプトインジェクション、役割主張型ソーシャルエンジニアリング、混乱した代理人攻撃によって不正なデータ流出へと操作され得るかを検証する、規律あるセキュリティテストベッド。 コアアーキテクチャ • 攻撃分類 • • •...

Security Considerations for Multi-Agent Systems

Multi-agent artificial intelligence systems or MAS are systems of autonomous agents that exercise delegated tool authority, share persistent memory, and coordinate via inter-agent communication. MAS introduces qualitatively distinct security vulnerabilities from those documented for singular AI...