inspect_petri

Inspect Petri 欢迎使用 Inspect Petri，一个审计代理，能够实现语言模型的自动监控与交互，以检测潜在的对齐问题、奖励破解及其他令人担忧的行为。 Petri 帮助你快速端到端地测试具体的对齐假设。它能够： 生成逼真的审计场景（通过你的种子指令） 使用审计模型和目标模型编排多轮审计 模拟工具和回滚以测试行为 使用一致评分标准的评判模型对对话记录进行打分 了解更多关于 Petri 的使用方法，请访问 https://meridianlabs-ai.github.io/inspectpetri。 !NOTE 这是 Petri 3.0 版本。虽然大多数 CLI 命令与...