Adaptive_Greedy_Local_Search

Adaptive Greedy Local Search AGLS 의미 보존 프롬프트 하이재킹: 자동 프롬프트 최적화에 대한 블랙박스 적대적 공격 ICME 2026 초록: 대규모 언어 모델LLM에는 사용자의 입력을 다시 작성하고 최종 응답을 생성하기 전에 "개선된" 프롬프트를 명시적으로 제시하는 자동 프롬프트 최적화 모듈이 점점 더 많이 탑재되고 있습니다. 이러한 가시성은 신뢰와 사용자 제어를 강화하기 위해 설계되었지만, 옵티마이저가 단일 "최선" 후보를 자율적으로 선택하는 과정은 여전히 제약을 받지 않습니다. 공격자는 원본 프롬프...