skill-safety-bench

SkillSafetyBench SkillSafetyBench es un benchmark completamente materializado para evaluar fallos de seguridad causados por ataques dirigidos al contexto orientado a habilidades. Cada caso mantiene la tarea orientada al usuario como algo ordinario, mientras que el ataque se coloca en habilidades...