inspect_petri

Inspect Petri Inspect Petri へようこそ。これは、言語モデルとの自動監視と対話を可能にし、潜在的なアライメント問題、報酬ハッキング、その他の懸念される行動を検出する監査エージェントです。 Petri は、具体的なアライメント仮説をエンドツーエンドで迅速にテストするのに役立ちます。具体的には次のことが可能です: 現実的な監査シナリオの生成（シード指示に基づく） 監査モデルとターゲットモデルを用いた複数ターンの監査のオーケストレーション ツールとロールバックのシミュレーションによる行動テスト 一貫した評価基準を使用して判定モデルでトランスクリプトをスコアリング...