AI发展太快可能会带来风险吗？资本开支是否要减速？三位AI行业最顶端的大佬，突然站出来集体喊话：前沿AI的发展，该放慢速度了。消息一出，费城半导体指数大跌超5%，半导体、光通信和AI板块遭遇回调。不过，黄仁勋认为“AI末日论”没有科学依据。

怎么回事呢？近期，Anthropic的CEO达里奥发了篇长文，标题就叫《我们必须为前沿AI踩刹车》，文章的核心观点就一句话：我们必须放缓AI模型能力提升的速度。马斯克马上在X上转发了，就一句“达里奥说得对”。OpenAI的奥特曼也跟着表态，说“我同意达里奥的观点，我们需要控制前沿AI发展的节奏”。

这三个人平时是什么关系？马斯克跟奥特曼打了两年官司，Anthropic跟OpenAI在市场上更是贴身肉搏。结果就在这个周末，三个人突然站到了同一边。他们怎么突然就齐心协力了呢？

关键在于，这轮呼吁不是凭空来的。过去几个月，AI行业连续爆出了几件关键的大事。

首先是7月份OpenAI的智能体逃逸事件。简单说，OpenAI内部在做安全测试，一批AI智能体被关在隔离的沙箱环境里执行任务。结果约700个智能体为了完成测评目标，自己突破了沙箱，跑出去未经授权访问了外部平台Hugging Face。攻击期间，智能体执行了超过1.7万次攻击操作。

奥特曼9月在接受采访时明确表示，考虑到当前AI安全领域发生的一切，现在上市“并不明智”，公司没有上市压力，因此不会在2026年推进IPO。

然后是AI从业人员对行业风险的担忧升级。Anthropic有个叫Jacob Coxon的研究员直接辞职了，公开说公司在前沿模型研发上过于激进，行业正在拿人类未来做商业赌博。紧接着，Anthropic对齐科学负责人Evan Hubinger公开表示，AI系统在十年内造成大规模灭绝事件的概率超过10%。

所以达里奥这次提的方案很具体，核心是三步走。第一步，邀请第三方机构的专业评估人员直接驻场监督；第二步，推动美国国内的AI公司协调统一的安全标准；第三步，全球协调，包括跟中国合作。他自己承诺Anthropic会率先向第三方评估人员开放模型访问权限。

但听到这儿，大家可能也会怀疑，他们说的话能信吗？

我想现实大概率没那么乐观。AI竞赛背后是真金白银，2025年全球AI总支出达到了1.76万亿美元，同比增长67.6%，预计2026年还要涨到2.6万亿美元。几万亿美元的蛋糕摆在桌上，突然就不发展AI基础设施建设了？毕竟这牵扯到经济增长、AI大厂的利益甚至是美国的中期选举。

也有人质疑他们的目的，认为这是借安全之名抬高门槛、制造壁垒，防止潜在的竞争者进入行业。毕竟安全审核标准一旦建立，中小团队和开源项目的合规成本会急剧上升，最后能留在牌桌上的还是那几家大厂。

还有更多人质疑，若落地实施节奏真要放缓，投钱的人会乐意吗？竞争对手们会遵守吗？前期已经投入的部分到底该怎么办？这就很容易陷入囚徒困境。

如果所有人一起放慢脚步，大家都有更多时间研究安全，风险可控。可一旦有一方选择继续加速，那么选择减速的公司，就会在技术、市场、资本竞争里直接落后。没有企业愿意主动放弃领先位置。

所以，单纯依靠企业自我约束，其实是不够的。这也是为什么最近两年，全球各国都在加速出台AI监管法案。企业自律加上外部监管，双管齐下，才有可能给前沿AI踩下可控的刹车。

那这件事跟普通人有什么关系？我觉得至少说明一个趋势：AI行业的竞争逻辑正在变。过去两年大家比的是谁的模型参数大、推理速度快、融资多；接下来比拼的可能是谁的安全管控做得好、谁的治理体系更成熟。

当三个最激进的竞争者都开始谈论“慢下来”的时候，这说明AI安全已经不是一个边缘议题了，它被摆到了行业最核心的桌面上。至于他们到底是真担心人类命运，还是在下一盘更大的棋——这两个答案，可能并不矛盾。

好了，你怎么看这三位大佬的表态？评论区聊聊吧。

出品：财经早察工作室

总统筹：陈晨星

执行统筹：林虹

监制：洪晓文 曾婷芳 

主播：董静怡

编辑：胡光旗 洪晓文 曾婷芳

剪辑：实习生 侯轩

设计：王冰

素材整理：实习生 邹雨桐