2025 年 10 月，我们发布了 Petri，这是一个开源的对齐测试工具箱，可应用于任何大型语言模型。Petri 是我们 Anthropic Fellows 项目的一部分，可用于快速、轻松地测试 AI 模型是否存在令人担忧的倾向，例如欺骗、逢迎以及配合有害请求。它是我们开发开放且对整个 AI 开发社区有用的对齐工具这一努力的一部分。
自 Claude Sonnet 4.5 以来，Petri 一直是我们对每个 Claude 模型进行对齐评估的一部分。它会比较新模型在一系列与对齐相关的场景中的行为，这些场景由一个单独的“审计员”模型模拟。随后，另一个“裁判”模型会对生成的对话记录中的未对齐行为进行评分。
我们很高兴看到 Petri 被外部组织采用：例如，英国 AI 安全研究所（AISI）将其作为评估模型破坏 AI 研究倾向的重要组成部分。
我们现在正在将 Petri 更新到第三个版本。以下是一些最重要的变化：
- 适应性。Petri 3.0 进行了重大的架构调整，使用户能够将其适配到更多用途，尤其是通过把审计员模型和目标模型拆分为可分别调整的独立组件；
- 真实性。 尽管对齐研究人员会尽力让测试看起来真实，但模型往往仍能从设置中的各种人为痕迹推断出自己其实正在接受测试。而如果模型意识到自己正在被评估，研究人员就无法再观察到模型一般情况下的行为。我们为 Petri 增加了一个名为“Dish”的扩展组件，使测试设置更加真实，例如使用模型真实的系统提示词，以及真实模型部署中会使用的“脚手架”（围绕模型运行、帮助其实现目标的软件）来运行测试；
- 深度。我们现在已将 Petri 与另一个开源对齐工具 Bloom 集成。与 Petri 更广泛覆盖的方式相比，Bloom 可以对特定选定行为进行更深入的评估。
我们也为 Petri 找到了新的归属。我们已将其开发工作移交给 AI 评估非营利组织 Meridian Labs。这一举措类似于我们此前将模型上下文协议（MCP）捐赠给 Linux 基金会，将有助于确保 Petri 独立于任何 AI 实验室，从而让其结果被行业内外视为中立且可信。
加入 Meridian Labs 后，Petri 将与 Inspect 和 Scout 等其他工具一道，构建一个面向实验室、独立研究人员和政府开放的技术栈。在当下，可靠测试 AI 模型行为的重要性比以往任何时候都更高。
你可以在 Meridian Labs 博客上阅读更多关于 Petri 3.0 的内容。
Petri 的安装和使用说明可在 Petri 网站上找到。