PoisonCraft

PoisonCraft 本仓库提供了 POISONCRAFT：针对大语言模型的检索增强生成的实用投毒 的官方实现。 概述 POISONCRAFT 旨在演示恶意行为者如何将“中毒”内容植入检索增强生成（RAG）流水线所使用的语料库中，从而误导大语言模型产生幻觉或引用恶意内容。本代码库提供以下脚本： 准备和预处理标准数据集（例如 Natural Questions、MS MARCO、HotpotQA）。 将对抗性后缀（即“毒素”）注入类查询文本，以降低或操纵检索结果。 在不同检索器（例如 Contriever、SimCSE 和 BGE）下评估投毒效果，并衡量可迁移性。 快速使用 环境配置...