safety-awareness

クロスモーダル安全性ドリフトのための転移安全性認識 マルチモーダル大規模言語モデルにおけるクロスモーダル安全性ドリフトのための転移安全性認識 （EMNLP 2026 Findings）の公式実装です。 このリポジトリには、Qwen3-VLの安全性認識方向パイプラインが含まれています。有害および無害なマルチモーダル事例から拒否関連の活性化方向を抽出し、良性タスクのドリフトを制限しながら拒否行動を改善する方向を選択し、必要に応じて方向固有の安全性認識ベクトルを訓練します。 このコードは現在、Hugging Face...