AgentWatcher

AgentWatcher AgentWatcher は、LLMエージェントにおける間接的なプロンプトインジェクションに対する検出ベースの防御手法です。まず、信頼できないコンテキストに対して因果的コンテキスト属性推定（causal context attribution）を実行し、最も影響力の高いコンテキストを特定します。次に、モニタLLM を適用して、明示的でカスタマイズ可能なルール に基づいてそれらのコンテキストを分類します。完全なブラックボックス検出器と比較して、このパイプラインは解釈が容易です。属性推定によりモデルが どこに...