TrustworthyRAG

Trustworthy RAG（可信赖的 RAG） 一个用于检测检索增强生成（RAG）系统中错误信息与知识投毒的评估代理。 概述 本项目实现了一个 Trustworthy RAG 框架 ，其中集成有评估代理（Evaluation Agent） ，通过三个互补的分析组件评估 RAG 响应的可靠性： NLI 验证器（NLI Verifier） - 通过自然语言推断（BART-MNLI）进行事实一致性检查 投毒检测器（Poison Detector） - 多信号对抗性内容检测（语言学、结构、语义、文档内/跨文档 NLI） 信任指数计算器（Trust Index Calculator） -...