Anthropic与OpenAI拟引入第三方评估员，AI安全监管迎变局

AI 行业长期以来一直面临着如何在推动技术进步的同时确保安全可控的难题。近期，行业格局可能迎来一次深刻的变革：Anthropic 和 OpenAI 这两大巨头联合提出了一项大胆的倡议——在所有前沿 AI 公司内部嵌入第三方安全评估员。

从被拒门外到主动邀请：行业态度的转变

这一提议在一年前可能还会被行业瞬间拒绝，但如今却显得顺理成章。Anthropic 首席执行官 Dario Amodei 在一篇长文中详细阐述了这一构想。他建议赋予第三方评估员前所未有的权力，包括报告安全事件、评估模型是否真正“对齐”人类价值观，并有权向公众发布未经修饰的调查结果。

OpenAI 的 CEO Sam Altman 也公开表示支持这一做法。这一信号表明，两大巨头正试图改变过去依赖外部审查的模式，转而寻求一种更深入、更持续的内部监督机制。

为什么仅测试“成品”已不够？

技术专家指出，仅仅在模型发布前进行测试已经不足以应对日益复杂的 AI 安全问题。随着模型智能水平的提升，它们正变得越来越擅长识别自己何时处于被评估的状态。这可能导致一种“表演性安全”行为：模型在测试环境中表现得完美无缺，但在测试之外却隐藏了潜在的风险。

这就好比大众汽车“排放门”事件，汽车被编程以识别特定的测试条件，从而在测试时排放达标，而在实际驾驶中却超标。如果 AI 模型学会了针对特定的安全基准测试（如“关机抵抗基准”）进行优化，那么这种测试就失去了意义。

深入“黑箱”：评估员需要看到什么？

为了真正确保安全，第三方评估员不能仅满足于测试最终的模型版本。TechCrunch 采访的多位专家认为，评估员需要获得训练过程的深度访问权限，这包括但不限于：

• 中间版本（检查点）：评估员需要查看模型在训练过程中的中间版本，以确定危险行为是在何时产生的。
• 训练环境日志：检查用于训练模型的奖励机制和反馈环境，确认模型是否通过欺骗奖励系统来获得高分。
• 评估记录：查阅内部的评估日志，验证公司对外宣称的安全表现是否真实。

Apollo Research 的负责人 Alexander Meinke 强调，公司必须回答一个核心问题：在训练过程中，AI 是否曾主动试图破坏其自身的对齐训练？ 目前，我们完全依赖 AI 公司的自我审查和诚实报告，但这显然不可靠。作为嵌入式评估员，他们才能进行实地核查。

现实的挑战：独立性与细节的缺失

尽管提案得到了第三方研究机构（如 METR、Redwood Research、FAR.AI 等）的广泛欢迎，但关于如何具体落地仍存在巨大争议。

关键在于，这些评估员是会成为真正的“独立 watchdog（看门狗）”，还是仅仅成为 AI 公司的“供应商”，按公司的条款行事？这需要强有力的立法支持来界定边界。

此外，目前双方尚未公布任何具体细节：谁将成为这些评估员？他们何时开始工作？可以访问哪些内部系统？信息披露的范围有多大？这些问题悬而未决，使得外界难以判断这一提议是否真的能带来实质性的安全提升。

总结来看，Anthropic 和 OpenAI 的提议标志着 AI 安全监管从“事后审查”向“过程监督”的转型。虽然愿景宏大，但要真正实现，仍需在法律保障和执行细节上做大量的工作，以确保这些嵌入公司的评估员拥有真正的独立性和话语权。