autoguardrails

autoguardrails 由 Santander AI Lab 开源。 一个 LLM / AI 安全 护栏研究 库 / 评估框架 （autoresearch 风格）：它在单一可变 policy.md 表面上进行搜索，以在固定评估套件上最小化攻击成功率（ASR），并设有良性通过下限。 是 Santander AI Open Source 的一部分 — Banco Santander 的开源 AI 项目（santander.com）。 autoguardrails 是一个受 Karpathy 的 autoresearch 启发的小型对齐研究脚手架。 与在 train.py...