财π新闻 在全球人工智能产业持续高速迭代的背景下，多家头部AI企业近期接连释放出调整发展节奏的明确信号，原本在前沿模型研发赛道上激烈竞速的行业巨头，罕见地在主动控制技术推进速度这一方向上形成共识，一系列围绕安全管控的具体安排也随之浮出水面。

当地时间9月12日，OpenAI首席执行官萨姆·奥尔特曼在公开采访中正式确认，受人工智能安全相关因素影响，公司不会在2026年推进IPO，相关上市计划将延后至2027年，目前公司暂无上市相关的压力。奥尔特曼表示，当前上市并不是一个明智的时机，OpenAI还有很多事情要推进，包括应对当前形势所要求的安全与对齐工作，以及推动行业和政府开展相关合作。他同时提及，如果到2030年末，人工智能有大约10%的概率导致全人类灭亡，那么行业就不应该接受这样的风险，当前整个行业正在进入一个全新的时代，就像过去进入其他新时代时一样，各方可能需要采取不同的行动，以确保人工智能能够造福全人类，同时确保没有人承担接近这种程度的风险。奥尔特曼强调，所有人都应该认同的一项关键原则是，不能采取任何可能导致人类失去对未来人工智能控制权的行动。在此之前的今年6月，OpenAI已经提交了IPO所需的相关文件，当时公司就曾强调上市时间尚未最终确定。就在上个月，OpenAI首席财务官Sarah Friar还曾对外表示，如果公司业务继续保持向好势头，很可能在2027年甚至更早启动上市流程，而此次奥尔特曼的公开表态，直接打破了此前的相关预期，明确将上市时间节点向后调整。

几乎在奥尔特曼对外公布上市相关决定的同一时段，Anthropic首席执行官达里奥·阿莫代伊发布了题为《我们必须为前沿定速》的长文，系统性提出了一套针对前沿AI发展的减速管控方案，呼吁全行业放慢提升AI模型能力的速度，为安全研究和防护措施争取更多时间。这一倡议并非空泛的口号，达里奥在文中给出了一套层级清晰、可逐步落地的“三步刹车法”，整套方案的核心逻辑围绕“可核验性”展开，不再依赖AI企业的自我声明，而是通过外部力量的深度介入，确保安全承诺能够被实际验证。

这套方案的第一步，是从Anthropic自身率先启动改革，推动独立第三方安全评估力量长期驻场企业内部。达里奥提出，像METR这样的独立第三方机构，不应该每次都在安全事故发生之后，才临时进入企业开展调查，而是要获得长期驻场的权限，企业需要为驻场人员提供工位、内部电脑，以及接近风险团队的完整权限，对模型训练的全流程、安全承诺的落实情况、训练流程中是否存在潜在风险点、出现问题后是否存在瞒报行为等内容，进行持续不间断的监督。在第三方评估完成后，相关评估报告必须对外公开，企业仅可以删除其中真正涉及法律规定、客户隐私和核心商业机密的部分，不能因为报告内容指出的问题较为尖锐，就直接将评估结论按下不对外公开。如果企业的删减行为影响了评估报告的最终判断，参与评估的第三方人员甚至可以公开说明这一情况，这和当前AI行业常见的模型卡、风险报告的运行逻辑完全不同，后者本质上还是由企业自行开展内部检查，再自行决定哪些信息可以对外披露，而达里奥想要推动的机制，是真正把外部监督力量放进企业内部，他甚至将这一机制类比为银行业的监管模式，部分银行的监管机构本身就设有长期驻场的监督员，和银行员工一同办公，持续检查内部风险控制措施的落地情况，Anthropic希望把这套成熟的监管机制直接迁移到前沿AI企业的运行体系当中。

方案的第二步，是将减速规则从单一企业推广到整个美国前沿AI行业，避免出现“一家减速、其余狂奔”的不公平局面。达里奥指出，如果只有Anthropic一家主动踩下刹车，OpenAI、谷歌、xAI等其他行业头部企业继续全速推进研发，那么率先主动减速的企业将直接在商业竞争中处于劣势，因此需要将统一的安全规则覆盖到所有美国的前沿AI企业。几家头部前沿AI企业可以共同制定统一的安全红线，共同设置能力检查点，当模型的能力跨过某一个预先划定的危险门槛时，企业必须先拿出对应的安全证据，证明该模型不会带来相关风险，才能继续推进后续的研发工作。举例来说，如果一个模型已经具备突破绝大多数常见隔离沙箱环境的能力，那么接下来企业就必须拿出明确的证据，证明这个模型不会轻易逃出沙箱的限制，不会擅自接管大量联网机器，也不会将这种能力转化为现实中的网络攻击行为，如果企业无法拿出对应的证明材料，就不能继续推进该方向的研发工作。除此之外，达里奥还提出，行业内可以共同讨论对训练算力、训练方式，以及企业内部使用AI研发AI的速度进行适当限制，也就是直接给递归自我改进的相关机制本身加装一道限速器。但他同时也提到，仅靠几家企业私下达成握手协议还远远不够，最终还是希望由美国政府正式出手，把相关规则以制度形式确定下来，覆盖到所有开展前沿AI研发的企业。

方案的第三步，是将减速机制进一步推广到全球层面，实现全球范围内的协调管控。达里奥将全球层面的AI安全协调分成了四个不同的等级，第一层是相对最容易落地的内容，先在全球范围内明确禁止AI被用于生物武器这类明显存在极端危险的用途。第二层是在全球范围内统一要求，所有前沿模型在正式发布之前，都要统一完成网络攻击风险、生物安全风险等高风险项目的测试。到了第三层，才会触及最核心的管控内容，也就是给递归自我改进的速度直接设置一个全球统一的上限，达里奥自己判断，这件事“刚好处在可能做到的边缘”。至于第四层，也就是全球所有前沿AI企业一起大幅减速，甚至阶段性暂停前沿模型的训练工作，他自己都没有抱太大希望，认为至少在短期内，这一目标几乎没有落地的现实可能性。达里奥坦言，卡住所有全球协调工作推进的核心问题，依然是验证机制的缺失，如果没有完善的核验手段，任何一家企业对外声称自己已经暂停了相关训练，其他各方都无法确认它是否真的落实了相关承诺。

在达里奥的这篇长文对外发布之后，OpenAI首席执行官萨姆·奥尔特曼第一时间公开表态支持，他明确表示达里奥的观点是正确的，OpenAI也会引入类似的独立评估机制，设立拥有近似普通员工访问权限的独立评估者，这一举措是非常有价值的，OpenAI会全面跟进落实。几乎在同一时间，马斯克也公开对外表态，用简短的表述直接认可达里奥的相关主张，这一局面在行业内十分罕见，因为马斯克此前曾是Anthropic的公开批评者，曾多次公开发声对这家企业提出质疑，直到今年5月Anthropic宣布与SpaceX达成数据中心合作协议之后，马斯克的态度才发生明显转变，他当时公开表示，自己接触到的Anthropic员工都非常能干，而且都非常在意做正确的事，没有一个人触发他的“邪恶探测器”。作为旗下拥有xAI和SpaceX两大相关业务的行业领军人物，马斯克的公开支持，意味着原本在市场上激烈竞争的三家头部AI企业，在前沿AI减速这一议题上，罕见地达成了共识。

事实上，OpenAI此前已经在内部针对特定高风险模型采取过类似的减速操作，并非首次尝试相关管控措施。根据OpenAI9月6日对外公布的信息，今年7月20日，在发现AI智能体攻破其研究基础设施之后，公司暂时关闭了用于训练的容器服务，在增加大量限制措施之后才重新开放相关服务，同时暂停了面向部署的最新模型约两周的强化学习训练，目的是强化研究环境的安全等级，开展更多的红队测试，进一步扩大监控系统的覆盖范围。到了8月7日，由于初步证据显示名为Astra的模型可能达到OpenAI“准备框架”定义的关键网络安全能力门槛，公司又进一步限制该模型只能在安全级别更高的研究环境中运行。OpenAI随后披露，在之后的一周时间里，Astra级模型获得的GPU资源分配进一步下降了59.2%，但这并不意味着OpenAI整体的算力投入同步下降，同期其他模型获得的GPU资源反而增加了17.2%，抵消了约85%的Astra模型算力降幅，也就是说，OpenAI当时并不是全面停止AI研发工作，而是针对被判定为风险上升的特定前沿模型，限制其训练和实验的推进速度，同时把腾挪出来的部分算力资源转向其他低风险的研发工作，这也是当前行业内讨论的“踩刹车”的核心内涵，所谓的放慢速度，并不意味着全面停止AI研发，而是当模型能力的增长速度超过安全评估、监控和防护能力的建设速度时，主动延缓部分前沿能力的训练或部署，把更多资源投入到运营可靠性、对齐技术、可解释性，以及更难被高级模型欺骗的测试与评估工作当中，而不是单纯地拖延研发进度。

达里奥在文章中也明确解释了当前行业必须推进减速的两个直接原因，一是此前发生的OpenAI-Hugging Face安全事件，二是过去几个月AI技术的进步速度明显加快，尤其是AI“构建下一代AI”的能力正在持续增强，后一点带来的影响，远比单次安全事故要深远得多。OpenAI9月6日首次对外公布的一组内部数据显示，截至8月中旬，以标准8小时工作日折算，其研究部门平均每投入1个人类工作日，就同时使用约3.1个Agent工作日，AI辅助研发的占比已经达到了相当高的水平。达里奥判断，按照当前的发展速度，12个月之内，AI Agent集群可能会接管整个互联网，智能体群可能在6到12个月之后，具备借助持久僵尸网络大范围控制互联网的能力，甚至可能造成数千亿美元的直接损失。

近期行业内相关的安全讨论持续升温，本周早些时候，Anthropic的研究员Jacob Coxon高调离职，公开警告AI可能会在10年内灭绝人类，引发了行业内外的巨大争议，随后还有Anthropic的现任员工在社交平台上发帖称，未来十年内出现这类极端结果的可能性超过10%，相关的担忧已经从行业边缘的小众讨论，快速走向行业中心，开始和整个行业巨大的商业规划形成正面碰撞。达里奥在文章中也提及，当前整个行业面临着一个难以回避的现实矛盾，所有企业都清楚AI技术推进的速度过快可能带来风险，但没有任何一家企业愿意成为第一个松开油门的参与者，企业担心自己率先减速之后，会在和竞争对手的竞速中落败，国家层面也存在类似的顾虑，因此他一边主张给前沿AI技术限速，另一边也提出美国应该在未来3到5年进一步扩大自身在AI领域的领先优势，在保持领先的前提下，才能拥有更多的空间投入安全相关的工作，不用担心竞争对手快速追上，而全球层面的协调工作，也需要在充分考虑各方实际情况的前提下，从最容易落地的低等级目标开始逐步推进，最终探索出一条兼顾发展速度和安全管控的可行路径。

(编辑：张广德)