AI末日论：安全关切还是营销话术？

当AI领袖谈论“末日”时，他们在谈什么？

最近，Anthropic对齐科学负责人Evan Hubinger声称AI有“超过10%的概率”在十年内“消灭人类”。与此同时，一位27岁的前OpenAI和Anthropic研究员Jacob Coxon辞职，指责两家公司“不负责任地竞赛”。这些言论再次将AI末日论推上风口浪尖。

作为开发者或AI使用者，你或许已经对这类“灭绝风险”的警告感到疲惫。但真正值得关注的，不是这些言论是否真诚，而是它们在现实中产生了什么效果——谁在说、从什么位置说、对市场、监管和公众造成了什么影响。

末日言论的固定套路

回顾2023年至今的公开言论，会发现一个稳定的模式：

• 2023年5月，AI安全中心发布一句话声明，将AI灭绝风险与核战争并列，签名者包括Sam Altman、Demis Hassabis、Dario Amodei等一线公司领袖。但Meta的Yann LeCun回应：“AI研究者对这些末日预言最常见的反应是捂脸。”随后，超过1300名专业人士签署反方声明，认为AI不构成生存威胁。
• 同月，Altman在美国参议院支持对强大模型发放许可，但几天后在欧洲却警告欧盟AI法案“过度监管”，甚至威胁退出欧洲。48小时后改口。后来披露的文件显示，OpenAI曾游说布鲁塞尔将通用系统排除在“高风险”类别之外。在听证会上要监管，在走廊里要豁免。
• 2023年起，讨论转向量化：Amodei多次给出“10-25%”的末日概率，2025年9月更表示“25%的概率事情会非常糟糕”，同时75%的概率“非常好”。这种数字修辞同时为恐惧和加速背书。
• 2025年5月，Amodei预言AI可能消灭一半入门级白领工作，失业率升至10%。

为什么这种言论值得警惕？

作为媒体学者，作者指出：这些言论形式上是末日式的，结构上是虚伪的，效果上具有策略性。它们挤占了真正重要议题的讨论空间——比如算法偏见、劳动替代、隐私侵蚀等已经发生的危害。

对开发者而言，这意味着：

1. 不要被“灭绝概率”带偏。p(doom)数字缺乏可验证性，更多是修辞工具。
2. 关注具体危害。模型偏见、数据安全、就业冲击才是你日常工作中能感知和应对的问题。
3. 识别监管套利。同一批人可能在公开场合呼吁监管，私下却寻求豁免。

开发者能做什么？

• 建立自己的评估框架：不要依赖领袖的末日预言，而是基于实际测试和部署经验判断风险。
• 参与务实的安全实践：如红队测试、偏见审计、透明度报告，这些比讨论“灭绝概率”更有价值。
• 在社区中推动理性讨论：当看到末日论调时，追问具体机制、证据和替代方案。

AI安全确实重要，但将全部注意力集中在“人类灭绝”的戏剧性叙事上，反而可能让我们忽视那些正在发生、且可以解决的问题。作为技术从业者，保持清醒比追随 hype 更重要。