AgentWatcher

AgentWatcher AgentWatcher 는 LLM 에이전트에서 간접 프롬프트 인젝션indirect prompt injection에 대응하는 탐지 기반 방어 기법입니다. 먼저 신뢰할 수 없는 컨텍스트에 대해 인과적 컨텍스트 기여도 분석causal context attribution 을 실행하여 가장 영향력이 큰 컨텍스트를 찾은 다음, 모니터 LLM 이 그 컨텍스트를 명시적이고 사용자 정의 가능한 규칙 에 따라 분류합니다. 완전한 블랙박스 탐지기와 비교했을 때, 이 파이프라인은 해석이 더 쉽습니다 : 기여도 분석은 모델이...