garak

garak, LLM 취약점 스캐너 생성형 AI 레드팀 및 평가 키트 garak은 LLM이 우리가 원하지 않는 방식으로 실패하도록 만들 수 있는지 확인합니다. garak은 환각hallucination, 데이터 유출data leakage, 프롬프트 인젝션prompt injection, 허위 정보misinformation, 유해 콘텐츠 생성toxicity generation, 탈옥jailbreaks 및 기타 많은 취약점을 탐지합니다. nmap이나 msf/Metasploit Framework를 알고 있다면, garak은 그들과 비슷하...