llm-differential-privacy-gateway

Noisegate：面向不可信 AI 代理的差分隐私网关 一个能够研究敏感数据、却无法将任何人单独识别出来的 AI 代理。这一限制是数学上的，由代理无法触及的代码强制执行，并且仓库中附带了试图攻破它的攻击。 一段录制的 Claude Desktop 会话（回复经过删减；图表卡片是会话自带的）。一个 AI 代理按诊断将 20 名患者分组，而 ±12 的噪声淹没了每一个分箱。在被提醒它无法关闭噪声后，它耗尽了一个仅允许三次回答的预算，直到网关返回拒绝 ，而不是一个更安静的答案。在 32,561 行的普查数据上，一个过窄的切片在信任边界处被拒绝...