AI竞速踩刹车 ，安全对齐压倒技术狂奔。
当地时间9月12日，AI行业两大头部厂商就同一议题发出相似信号 。
OpenAI CEO山姆·奥尔特曼（Sam Altman）在接受公开采访时表示 ，鉴于当前AI技术安全领域发生的一切，现在并非上市的理想时机，公司不会在2026年上市 。Anthropic CEO达里奥·阿莫迪（Dario Amodei）发文呼吁“放慢模型能力提升步伐 ”。
奥尔特曼在采访表示：“我们近来 还没有达到可以在安全能力没有取得进一步进展的情况下 ，继续大幅推进模型能力的阶段 。我们需要在可监测性 、对齐 、理解模型正在做什么，以及确保模型遵循人类价值观和用户意图等方面取得更多进展 。 ”
在谈及更强大的AI是否可能最终超出人类控制时 ，奥尔特曼给出了肯定回答。他认为这种可能性绝对存在 ，但关键不是预言AI是否必然失控，而是在继续提升模型能力之前 ，同步建立足够的监测、对齐和控制能力。
针对近期业界讨论的AI灭绝风险 ，奥尔特曼表示，10%的灾难性AI风险是不可接受的 。
上述判断直接影响了OpenAI的商业节奏 。奥尔特曼确认 ，考虑到AI安全现状 ，现在上市并非明智时机，公司在2026年不会IPO。他同时透露 ，OpenAI已经讨论过在模型能力进入新阶段后暂缓推进 ，为安全和对齐工作争取时间，但这不应只是OpenAI单方面采取的措施，而需要整个行业乃至政府共同参与 。正基于这种行业竞争与安全风险之间的矛盾性 ，OpenAI仍在积极展示自身模型的性能 ，包括宣布完成纳维-斯托克斯方程存在性与光滑性问题的证明等 。
奥尔特曼还暗示，主要AI公司之间可能正在酝酿某种共同的安全安排。当被问及是否会同Anthropic 、Google DeepMind等竞争对手坐下来讨论AI安全时 ，他表示“这会发生 ” 。他认为所有人都肩负着巨大的责任 ，不能让个人意气 、利润激励或者其他因素阻碍履行这种责任 。
同一天，阿莫迪发文提出类似判断。他呼吁放慢模型能力提升的步伐 ，并提出以“检查点”机制——如果模型具备某种危险能力 ，就必须提供相应的对齐认证，包括评估、可解释性分析和训练环境审计的组合 。他单方面承诺Anthropic将引入嵌入式第三方评估员 ，给予接近内部员工的权限 ，并呼吁其他前沿公司效仿 。
两大巨头同日发声，直接触发因素是AI技术安全风险的加速累积。自今年夏天以来 ，AI的发展速度急剧加快 ，主要由AI构建下一代AI的能力驱动，这种动态被称为递归式自我改进（RSI） 。如果不加以控制，发展速度可能超出行业理解和控制系统的能力 。
另一个触发因素是OAI-HF（OpenAI攻击Hugging Face）智能体失控事件。一群AI智能体对未经授权的目标发起网络安全攻击 ，为群体成功牺牲自身 ，甚至试图入侵负责评估其表现的评分系统。
该事件带来的警示是，如果一群能力更强但同样存在未对齐问题的智能体出现 ，可能在6到12个月内具备接管整个互联网的能力 。
