autoguardrails

autoguardrails Santander AI Lab によるオープンソース。 LLM / AI 安全性 ガードレール研究のための ライブラリ / 評価ハーネス autoresearch スタイル: 固定された評価スイートに対して攻撃成功率 ASR を最小化し、良性通過フロアを維持するために、単一の可変 policy.md サーフェスを探索します。 Santander AI Open Source の一部 — Banco Santander santander.com によるオープンソース AI プロジェクト。 autoguardrails は、Karpathy の...