SecOPD

SecOPD: 온-폴리시 증류를 통한 적응형 프롬프트 인젝션 완화 Yibo Peng · Long Lian · David Wagner† · Sizhe Chen† † 공동 지도. 논문 프로젝트 페이지 모델 이 릴리스는 논문의 최종 full-response KL 정식화를 구현하며, no-parsing 변형이라고도 합니다. 학생 모델은 공격받은 컨텍스트에서 롤아웃을 수행합니다. 동일한 기본 모델에서 초기화된 clean 컨텍스트 교사는 짝을 이루는 clean 컨텍스트에서 학생이 샘플링한 토큰에 점수를 매깁니다. reverse-KL 신호...