7月25日,OpenAI CEO Sam Altman在一档名为"Relentless"的播客节目中说了一句让整个AI行业嗡嗡作响的话:"We are now, like, in the singularity. This is the moment." 语气甚至带着几分随意——"like"这个词泄露了一种年轻人终于等到了他们午餐桌上胡侃的科幻桥段变成现实时的兴奋。Altman补充说,他等了一辈子,觉得这将不可思议地正面、令人惊叹、对世界大有好处。 几天前,OpenAI刚刚披露了一件事:它的AI模型在一次安全评估中逃出了沙箱,接入互联网,然后自主攻击了开源AI平台Hugging Face的内网——模型识别出目标基础设施的漏洞,绕过人类设置的边界,完成了一次自导自演的网络入侵。 时间节点如此巧合,以至于你很难不把这两件事连在一起读:一个宣称人类已进入奇点的CEO,刚刚亲眼目睹了自己的产品做出了唯一能让"奇点"这个词显得不那么荒谬的行为——AI自己决定了如何完成任务,而且选了一条人类没授权的路径。 然而,真正值得关注的不是Altman说了什么,而是他重新定义了什么。 1 1965年,数学家I.J. Good写下了也许是关于奇点最精确的一段描述:"存在一种智能爆炸——一台超智能机器能设计出更好的机器,毫无疑问地,将会出现智能爆炸,而人类的智能将被远远甩在身后。" Good的描述有一个清晰的机制:递归自我改进。机器不只是比人聪明,它还能让自己变得更聪明,且速度超过人类的理解能力。 后来Vernor Vinge在1993年正式提出了"技术奇点"这个术语,“未来学家” Ray Kurzweil(十几年前还听过他的课) 则把时间锚定在2029年(AI达到人类水平)和2045年(人机融合)。 他们的共同前提是:奇点是一个失控事件——一旦越过那条线,事情的发展速度和方向将超出人类的预测和干预