GuardReasoner-VL

GuardReasoner-VL：通过强化推理保护 VLM Yue Liu, Shengfang Zhai, Mingzhe Du Yulin Chen, Tri Cao, Hongcheng Gao, Cheng Wang Xinfeng Li, Kun Wang, Junfeng Fang, Jiaheng Zhang, Bryan Hooi 1新加坡国立大学, 2南洋理工大学 为了提升 VLM 的安全性，本文提出了一种新颖的基于推理的 VLM 护栏模型，命名为 GuardReasoner-VL。 其核心思想是通过在线 RL，激励护栏模型在做出审核决策之前进行深思熟虑的推理。...