一封辞职信，把硅谷的焦虑摆上了台面

前沿AI到底该继续踩油门，还是先踩一脚刹车？这个问题在硅谷已经从技术圈内部讨论，升级成了一场公开的阵营对决。

事情的导火索来自Anthropic的一名研究员——雅各布·考克森。他在X上发了一封毫不客气的辞职长文，核心意思就一句话：OpenAI和Anthropic都没有负责任地行事，它们正径直冲向可自我改进的超级智能，拿所有人的命在下注。

考克森不是外人。他在OpenAI和Anthropic做了三年预训练研究，亲手参与过最前沿模型的训练。他说，实验室内部的人是真真切切相信AI可能在十年内杀死所有人类，这不是公关表演。很多同事已经开始用“关键时刻”“终局”这样的词来形容当下。

他甚至放弃了即将归属的股权。在Anthropic只待了四个月，按公司规定满六个月才能行权，他等不了了。

紧接着，Anthropic负责对齐科学的埃文·休宾格公开回应：雅各布是对的，我们真的认真相信AI可能杀死所有人类。我个人认为，十年内这个概率超过10%。 他还坦承，Anthropic在尽力，但还没有解决超级智能对齐的清晰计划，也远未走上正轨。

这两声枪响，把原本在实验室内部发酵的担忧，直接推到了公众面前。

阿莫迪的“三步走”与暂停派的集结

在这个背景下，Anthropic创始人兼CEO阿莫迪发表长文，系统提出了“放缓前沿研究”的主张。他不再只谈“多投安全”，而是明确要求主动控制能力跃升的速度，给安全机制留出追赶时间。

他给出的路线图分三步：

  • 先由Anthropic单方面引入拥有员工级权限的独立评估者

  • 再推动民主国家AI公司建立共同安全标准和能力增长上限

  • 最终尝试全球协调


奥特曼、马斯克、哈萨比斯很快公开呼应，形成了所谓的“暂停派”。

但其实在考克森和阿莫迪之前，约书亚·本吉奥、杰弗里·辛顿这些“AI教父”就一直在发出风险预警。本吉奥说，前沿实验室的科学家往往比公众更早看到最新模型的能力，他们对风险的判断值得认真对待。他还具体举例，当前AI系统已经具备黑客攻击和说服能力，如果被用于损害人类利益，后果可能很严重。

辛顿在被BBC问及“AI十年内杀死所有人类概率超10%”时表示，这个数字“并非不合理”，但强调没有人真正知道如何给出可靠估计，因为人类此前从未面对过“可能很快比我们更聪明的物种”。

不过，教父们的立场和这轮“暂停论”有本质区别：他们更多是在呼吁关注风险、探索控制机制，而不是直接踩刹车。 学术领域的建议相对单纯，而前沿实验室的倡议，即便挂着“为了人类”的标签，也很难100%脱离商业考量。

这也正是JD万斯说“暂停论”像特洛伊木马的原因。他的原话是：“这有点特洛伊木马的味道。”翻译一下就是——制造木马的企业一再要求把门变窄的时候，你就该想想这道门到底适合谁。

Dreamforce大会上的正面交锋

9月15日的Salesforce Dreamforce大会，让这场争论变成了更直接的观点碰撞。阿莫迪、黄仁勋和奥特曼同一天谈AI安全，但给出的答案截然不同。

阿莫迪与Salesforce CEO贝尼奥夫同台时，再次强调AI企业应该通过自身行动树立更高安全标准。注意，他的态度已经开始微妙转变——从呼吁全行业减速，转向企业自主加装安全护栏。

黄仁勋则更加直接：“不需要新的法律，也不需要新的监管。”在他看来，速度和安全不是非此即彼的关系，企业可以尽可能快地推进模型开发；如果发现失控，或者产品无法确保安全，就应该暂停下来解决问题。

奥特曼在现场表示，非常有信心OpenAI乃至整个AI行业能够在不对公众造成重大伤害的情况下安全发展。他同时说，对于外界把自己的观点理解为支持整个行业放慢AI发展速度，他感到失望。换句话说，奥特曼也在往回收——他强调的不是减速，而是安全和监控工作应该先于能力提升。

扎克伯格不主张把一家公司的安全行动建立在其他AI公司必须同步放慢的前提上。他认为引入独立评估机构和外部顾问来检验模型安全性是行业最佳实践。他还透露，Meta此前已经自行放慢了Muse AI工具的开发，而不是等别人先达成共识。

纳德拉的态度和奥特曼接近：鼓励加装护栏，也鼓励充分竞争。他在All-In Summit 2026峰会上说：“我们首先要做的是服务人类、并确保技术处于人类控制之下。与此同时，AI技术的广泛扩散才是最关键的，必须有选择、有竞争。安全要认真对待，但要用工程和透明的方式去解决，而不是把它神秘化。”

华盛顿的声音也加入了进来。特朗普直接致电黄仁勋，公开表达了对AI产业继续发展的支持。随后，美国总统科学技术顾问委员会联席主席戴维·萨克斯表示，科技公司可以继续推进前沿AI，同时质疑部分企业提出“减速”主张背后的动机。

谁来制定规则？

随着讨论扩大，争议从AI风险本身延伸到了另一个问题：前沿AI的安全标准，到底该由企业自己定，还是政府或独立机构介入？

彭博社援引知情人士消息称，Anthropic、谷歌和OpenAI此前已经讨论过建立一个人工智能行业标准机构。

7月份，哈萨比斯发表文章，提出成立一个由美国主导的AI标准机构，运作模式类似美国金融业监管局（FINRA）。这个机构可以在先进AI模型正式部署之前进行测试，判断其是否达到相应的安全标准。

按照哈萨比斯的设想，这一机构不应完全由政府主导，而应采取公私合作模式：政府扮演监督角色，AI行业提供资金，同时吸纳独立的顶尖技术专家以及开源社区代表参与。

这比较贴合美国政府6月初公布的监管逻辑：企业可自愿在模型公开发布前交给政府评估，最长可提供发布前30天访问窗口，且明确不搞强制审批、不设发布许可。

比较戏剧的是后续Fable 5和Mythos 5上线时未遵照这套流程，但被发现具备极强的网络攻防能力，最终被美国BIS以出口管制的形式短暂下线。不过即便如此，政策的态度也只是要求加装安全护栏，并未做出减速的表态。

OpenAI首席科学家雅库布·帕乔基持有类似观点，他在9月初强调，共享安全标准、围绕AI进一步发展进行国际协调，应当成为当前的优先事项。

没有一个人真正踩下刹车

到目前为止，这场争论还没有真正改变前沿AI公司的发展节奏。

Anthropic、OpenAI、Google、xAI等公司仍在继续推进模型研发，围绕算力、数据中心和AI基础设施的竞争也没有因为这场争论而停止。资本市场层面倒是出现了不同变化：Anthropic仍在筹备今年的IPO，而OpenAI则将IPO计划推迟至2027年。

阿莫迪想拉着整个行业停下来，陪着Anthropic一起寻找为模型能力越界加装护栏的解决方案，一定程度上可以理解为“慷他人之慨”。这也是为什么阿莫迪会被贴上“假装成完美无瑕的小天使”标签的原因。

黄仁勋所代表的观点其实更符合现状：如果企业有担忧，或者发现问题，完全可以自行探索解决方案，并将行之有效的方案与行业共享。

让一个100人的团队和一个1000人的团队一起停下来，根本不具备共识的基础。 甚至连阿莫迪自己都很清楚，如果只有自己停下来了，很有可能就会被OpenAI等竞争对手超过。

更重要的是公司治理层面的分歧。Anthropic、OpenAI都是公益利益公司（Public Benefit Company），可以喊着“为了人类未来而放弃短期财务利益”，可以告诉投资人“这一点我们很早就共识过”。但谷歌、微软、Meta这类上市公司，管理层对二级市场股东负有法定信义义务。两种不同利益结构的公司，在这个问题上达成共识的可能性微乎其微。

还有一个容易被忽视的细节：在“暂停论”之前，Anthropic和OpenAI都先后发了最强模型——一个是Fable 5.1，另一个是GPT-6 Astra。

一众呼吁之下，其他家的新模型还发不发呢？