fuzzbench

FuzzBench: ファザーベンチマークのサービス FuzzBenchは、実際のベンチマークの多種多様なセットに対してファザーを評価する無料サービスであり、Google規模で動作します。FuzzBenchの目標は、ファジング研究を厳密に評価し、コミュニティがその成果を採用しやすくすることです。研究コミュニティのメンバーがファザーを提供し、評価手法の改善に関するフィードバックをいただくことを歓迎します。 FuzzBenchが提供するもの： ファザーを統合するための簡単なAPI。...

Sparse Autoencoders Are Capable LLM Jailbreak Mitigators

Jailbreak attacks remain a persistent threat to large language model safety. We propose Context-Conditioned Delta Steering CC-Delta, an SAE-based defense that identifies jailbreak-relevant sparse features by comparing token-level representations of the same harmful request with and without...