PurpleLlama

🤗 Hugging Face 上的模型 | 博客 | 网站 | CyberSec Eval 论文 | Llama Guard 论文 Purple Llama Purple Llama 是一个总括性项目，随着时间推移，将汇集各种工具和评估（evals），帮助社区负责任地使用开放生成式 AI 模型进行开发。初始版本将包含面向网络安全及输入/输出安全防护的工具和评估，但我们计划在不久的将来贡献更多。 为什么是紫色？ 借用网络安全领域的一个概念，我们认为要真正缓解生成式 AI 带来的挑战，需要同时采取攻击（红队）和防御（蓝队）两种姿态。紫队（Purple...