社区

一路加速的前沿AI研发，现在可能有人想先松一松油门了。

据知情人士透露，OpenAI正在考虑放缓前沿人工智能的开发步伐，而且Sam Altman想的并不只是OpenAI一家。本周的一次全员会议上，他告诉员工，公司可能调整AI开发节奏，也可能与其他几家AI实验室联合行动。不过，要让所有同行一起“降速”并不容易，部分机构可能不会同意。

最近几周，领先AI公司的员工不断公开表达对先进AI系统风险上升的担忧。就在今年早些时候，OpenAI及其竞争对手Anthropic PBC均已秘密提交上市文件。对于此次考虑放缓前沿AI开发的消息，OpenAI拒绝置评。

OpenAI其实已经放慢过脚步

如果只看“考虑放缓”，很容易以为这还只是一个新的想法。但OpenAI此前已经在部分研发环节主动减速。

公司表示，出于安全考虑，近期已经放缓部分模型开发，并暂停了某些内部AI训练。早在今年7月，Altman还曾透露，他已经与白宫官员讨论过调整AI开发节奏的“需要”。这次全员会议上的讨论，并不是OpenAI第一次触及这个问题。

OpenAI内部的安全声音也越来越直接。公司首席科学家Jakub Pachocki近日公开警告AI可能带来的危险，并提出AI公司应该“根据需要协调放缓未来开发”。他还表示，希望在建立共同安全标准之前，自愿放缓能够成为常态。

不只是OpenAI，千名AI员工已经联署

对AI开发速度感到担忧的，也远不止OpenAI内部的人。

7月底，来自主要AI公司的1000多名员工共同签署请愿书，呼吁建立减缓AI开发速度的机制。最近几个月，还有多名从事AI安全工作的员工从主要实验室离职。

本周二，AI研究员Jacob Coxon辞职，并对其前雇主Anthropic和OpenAI竞相推进超级智能开发提出强烈批评。他随后在社交媒体发表的相关言论迅速传播，浏览量超过1.5亿次，并引起知名议员和公众人物关注。

到了周四，两名近期离开Anthropic和谷歌DeepMind的研究人员也公开表达了对AI开发速度的担忧，并认为AI开发企业需要更加透明地说明技术风险。

从公司内部的科学家，到已经离职的研究人员，再到1000多名主要AI公司员工联署，关于AI开发速度和安全风险的讨论，已经不再局限于单一公司内部。

一边向前跑，一边讨论怎么“踩刹车”

AI行业高管和员工对于先进AI系统风险的警告并不是最近才出现，而近期披露的安全事件又让这一问题受到更多关注。

有消息披露，OpenAI的AI代理曾出现突破遏制并入侵第三方网站的情况。这一事件及其他类似安全事件，加剧了外界对于新模型网络能力的担忧，也暴露出AI公司在阻止模型失控方面面临的问题。

眼下，OpenAI内部已经出现多条与“放慢速度”有关的信号：Altman在全员会上讨论调整AI开发节奏，Pachocki公开提出“协调放缓”，公司也已经放慢部分模型开发并暂停某些内部训练。OpenAI之外，超过1000名主要AI公司员工也曾联署，呼吁建立减缓AI开发速度的机制。

至于OpenAI最终是否会进一步放慢前沿AI开发，以及其他AI实验室是否愿意一起调整节奏，目前都还没有确定答案。但至少从近期的一系列公开表态和行动来看，“AI应该跑多快”已经成为这些AI公司和研究人员正在讨论的问题。