autoguardrails

autoguardrails Santander AI Lab의 오픈 소스입니다. LLM/AI 안전 가드레일 연구 라이브러리/평가 하네스autoresearch 스타일입니다: 단일 변경 가능한 policy.md 표면을 검색하여 고정된 평가 스위트에 대한 공격 성공률ASR을 최소화하고, 무해 통과 기준benign-pass floor이 있습니다. Santander AI Open Source의 일부 — Banco Santander의 오픈 소스 AI 프로젝트 santander.com입니다. autoguardrails는 Karpathy의...