inspect_petri

Inspect Petri Inspect Petri에 오신 것을 환영합니다. Inspect Petri는 언어 모델의 잠재적 정렬 문제, 보상 해킹 및 기타 우려되는 행동을 감지하기 위해 자동 모니터링 및 상호 작용을 가능하게 하는 감사 에이전트입니다. Petri는 구체적인 정렬 가설을 종단 간 신속하게 테스트할 수 있도록 도와줍니다. 다음 기능을 제공합니다: 실제적인 감사 시나리오 생성 사용자 시드 지침 기반 다중 턴 감사 조율 감사 모델과 대상 모델 사용 도구 및 롤백 시뮬레이션 동작 테스트용 판사 모델로 대화 기록 점수화 일...