PoisonCraft

PoisonCraft 이 저장소는 POISONCRAFT: Practical Poisoning of Retrieval-Augmented Generation for Large Language Models. 의 공식 구현을 제공합니다. 개요 POISONCRAFT 는 악의적인 행위자가 RAGRetrieval-Augmented Generation 파이프라인에서 사용하는 코퍼스에 "오염된poisoned" 콘텐츠를 심어 대규모 언어 모델이 악성 콘텐츠를 할루시네이션하거나 참조하도록 유도할 수 있는 방법을 시연하는 것을 목표로 합니다. 이...