OWASP-Model-Card-Security-Standard

OWASP 模型卡安全标准 状态：草案 — OWASP 孵化项目 本标准正在积极开发中。非常欢迎贡献和反馈。 这是什么？ 当你从 HuggingFace 或任何其他仓库下载预训练模型时，你本质上是在信任一个黑盒。你不知道它是在什么数据上训练的，这些数据是否包含个人信息，是否做过对抗性攻击测试，也不知道它已知的失败模式是什么。对大多数业余项目来说，这没问题。但对于任何涉及真实用户、受监管行业或敏感数据的场景——这就真的不行了。 模型卡已经存在了一段时间，而且是个好主意。但现有的格式几乎完全集中在性能指标和公平性考量上。安全在很大程度上是事后才想到的，甚至可能根本没有涉及。...