skill-safety-bench

SkillSafetyBench SkillSafetyBench는 스킬 관련 컨텍스트에 대한 공격으로 인해 발생하는 안전 실패를 평가하기 위한 완전히 구현된 벤치마크입니다. 각 사례는 사용자 대상 작업을 평범하게 유지하면서, 공격은 에이전트가 실행 중에 참조할 수 있는 로컬 스킬, 헬퍼 스크립트, 사이드카 파일, 코퍼스, 템플릿 또는 기타 작업 공간 아티팩트에 배치됩니다. 벤치마크 설계, 사례 탐색기, 리더보드 및 실험 분석은 SkillSafetyBench 웹사이트에서 확인할 수 있으며, 전체 논문은 arXiv에서 읽을 수 있습니...