PROMPTPurify

promptpurify 用于LLM聊天应用的微型提示注入防火墙。约14 MB。仅需CPU。 可嵌入用户输入与大模型之间的防护——运行在同一台机器上，无需GPU、无需API、无需额外服务。 由SecureLayer7红队打造。大多数开源护栏体积达数百MB，需要GPU，且仍然遗漏我们在生产环境中看到的攻击。我们需要一个可以在自己的AI产品和客户应用内部署的东西，而不需要任何这些东西。 为什么存在 | promptpurify| 典型开源护栏 ---|---|--- 安装体积| 14 MB ONNX| 180 MB – 7 GB 推理| CPU，个位数毫秒| 推荐GPU 运行位置|...