前OpenAI安全主管离职：直言公司“言行不一”

IT之家 10 月 8 日消息，OpenAI 安全系统团队前负责人戴维·罗宾逊近日离职，并罕见地公开炮轰老东家。他直言，OpenAI 在 AI 安全问题上存在明显的“言行不一”，这一指控迅速引发了业界的广泛关注。

言行不一：一边警告风险，一边全速推进

据《商业内幕》报道，罗宾逊在离职后表示，最让他感到矛盾的是，OpenAI 一边不断向公众和内部发出警告，称新模型能力增强可能带来巨大风险，另一边却在公开场合呼吁放慢 AI 开发速度的同时，内部却仍在全速推进模型的训练和部署。

“真正让我感到矛盾的是，我们不断发布这些警告，最后却还是在训练和部署那些被我们自己警告存在危险的模型。”

这种“说一套做一套”的行为模式，直接导致了罗宾逊的离开。他认为，这种做法不仅违背了安全原则，也暴露了公司在执行层面的巨大割裂。

行业共识与执行落差的缩影

罗宾逊的质疑并非空穴来风，这实际上是当前 AI 行业内部矛盾的一个缩影。

1. 公开信呼吁监管：今年 7 月，数百名 OpenAI 员工曾签署公开信，强烈要求政府出台监管措施，为 AI 开发降速。
2. 高管表态赞同：此前，Anthropic CEO 阿莫迪已呼吁 AI 公司自行协调，共同放慢开发速度。OpenAI CEO 奥尔特曼也在 9 月表示赞同，称“我们需要控制前沿 AI 的发展节奏”。

然而，尽管高层达成了“需要控制节奏”的共识，但现实情况却是办公室里“一片高速运转”。罗宾逊形容这种状态时说：“感觉几乎就像芭蕾，或者某种舞蹈，各个部门的工作全都同时汇聚在一起。整个过程充满肾上腺素。”

技术深度解析：递归自我改进的风险

罗宾逊的担忧源于对 AI 技术本质的深刻理解。他提到的“危险模型”主要涉及 AI 领域的一个核心概念——递归自我改进。

• 什么是递归自我改进？：这是一种让 AI 系统利用自身的代码和数据来优化自身算法，从而不断提升智能水平的技术路径。
• 潜在危害：当 AI 不断提升自身能力时，人类对其行为模式的理解可能会滞后。OpenAI 首席科学家雅库布·帕乔茨基在今年 9 月的博客中就警告：“眼下需要极度谨慎。”

罗宾逊离职的深层原因，或许在于他无法接受在明知 AI 自我改进可能带来不可控风险的情况下，依然要参与构建这些系统。对于普通用户和行业观察者而言，这提醒我们：AI 的发展速度不应仅仅由商业利益驱动，安全护栏的建立必须先于能力的爆发。

结语：信任危机与人才流失

戴维·罗宾逊的离职再次敲响了警钟。当一个安全负责人都感到“充满肾上腺素”的焦虑时，说明现有的安全机制可能已经无法适应公司激进的发展策略。

OpenAI 的案例表明，在追求技术突破的同时，如何确保对齐——即让 AI 的目标与人类的价值观保持一致——是悬在所有 AI 公司头顶的达摩克利斯之剑。如果“言行不一”成为常态，不仅会伤害员工的信任，更可能将整个行业推向监管的深渊。

Tags: #OpenAI #AI安全 #递归自我改进 #人工智能 #科技新闻