prompt_injection

クロスサーフェス・プロンプトインジェクション・ベンチマーク ツールを使用するLLMエージェントの実行パイプラインのどこでプロンプトインジェクション防御が発動し、どこで発動しないかを測定するためのベンチマーク。 注入されたペイロードに一意のカナリートークン（SECRET-A-F0-98）を埋め込み、4つのパイプライン段階で追跡する：exposed → persisted → relayed → executed 。これにより、モデルが何を見るかと、何に対して行動するかを分離し、防御の失敗を特定のパイプライン段階に局所化する。 📄 arXiv:2603.28013 · 🤗 論文ページ · 📦...