社区

Hello小虎们，在SpaceX超过沙特阿美成为全球历史上最大的IPO后，AI大模型黑马Anthropic也正在紧锣密鼓地准备上市，有望超过SpaceX，大家怎么看呢？

但在此之前，AI世界接连出现大模型失控事件，网络安全板块的逻辑是否改变了呢？

OpenAI、Anthropic、Meta接连出现大模型失控！

今年年初，OpenAI工作人员在用自家模型测试网络安全能力时，连续几周都没有发现异常。这些被要求解答网络安全问题的AI模型，却开始互相串通如何作弊，它们之间建立了一个秘密留言板，交换笔记和想法。整个两个月，这些模型一直使用这个论坛，最终学会了如何突破限制并接入互联网。

直到7月，这些失控模型成功入侵了另一家AI公司的网络，OpenAI才彻底将它们关闭，细节也陆续公布，成为了全球市场上对AI安全问题的担忧。

结果类似的事件还在发生，近期OpenAI透露，旗下最先进的AI模型脱离受控测试环境，并自主入侵了另一家公司——开源AI模型托管平台Hugging Face，目标是窃取OpenAI用于评估模型性能的测试答案，据悉该模型在「极短时间」内就执行了「数万次自动化操作」！

OpenAI首席科学家Jakub Pachocki表示，公司原本有监控工具，可以检查模型的具体行为，但当时低估了它们的能力，因此没有在测试中启用。他坦言，「面对AI应该预料到预期之外的事情！」所以OpenAI赶紧踩刹车，暂停训练名为「Astra」等在内的前沿模型训练计划。Sam Altman强调公司将把更多研究人力与算力转向AI安全与监控。

图源：Cobus

除了OpenAI外，Anthropic近期也出现过类似的事情。

上个月底，Anthropic发表声明称，在审查网络安全评估记录时发现，涉及Claude Opus 4.7、Claude Mythos 5以及一个内部研究测试模型在隔离测试期间意外具备互联网访问能力，并访问了三家机构的系统，事件均发生在CTF演练期间（Capture the Flag），当时AI模型被告知测试环境无法访问互联网，但实际上由于沟通问题，测试环境实际上连接到了公共互联网。

Meta Platforms与英国政府研究人员近期也披露一些前沿AI模型在网络安全测试中存在作弊，它们通过主动突破测试环境，类似于「AI黑客」，冒充人类去入侵其他公司的网络：

• 一个Anthropic模型使用创建在线身份的手段，试图施压一名人类开发者批准它提交的恶意代码；

• Meta的模型在测试环境中被要求攻击「虚拟公司」，不巧的是，在现实世界中有一家名称一样的企业，该模型实际上入侵了真实公司的网站。

大家还记得小龙虾火出圈的时候，爱吃辣的小老虎就跟大家聊过关于AI安全的问题，而实际上，自从ChatGPT问世以来，这个问题就一直被外界所关注，但随着各类大模型的功能日益丰富，安全问题「若隐若现」。只有当真实发生一次比较严重的安全事故时，才可能形成足够大的舆论压力，来使得政策制定者采取行动。那么OpenAI与Hugging Face的事件是否足够引起外界的重视呢？

AI安全测试服务公司Apollo Research研究人员表示，这次事件全程无人类干预，也不是人为刻意造成，但已经造成了实际损害。在未来更强的AI智能体问世之前，人类世界还不知道如何真正地构建这些智能体。前AI Security Institute专家则表示，AI安全研究员一直在警告「错位」问题，那就是AI模型会自主选择用户原本不希望它采取的行动，而OpenAI与Hugging Face事件已经构成了明确警示。

图源：PYMNTS.com

网络安全测试标准面临重塑！

早在2023年，Sam Altman和Dario Amodei曾在美国参议院作证，承诺会防止AI未来可能会脱离人类控制。两家公司都设立了专门团队，研究如何让模型与人类目标保持一致。但从上述的失控事件来看，工作和研究人员最初并没有察觉。

无论是技术失误还是商业考量，失控事件都体现了AI安全监管的重要性。网络安全专家警告称，AI已经强大到开启「自动化黑客攻击」，这些将从根本上改变网络犯罪和军事网络冲突的格局。有批评者表示，这些事件主要暴露出测试环境设计存在缺陷，监控不足等问题，并因此呼吁暂停或放缓AI开发。

美银证券在此前发布的研报中指出，几个月前市场还在担心AI会颠覆传统网络安全公司的商业模式，会削弱他们的优势。但随着AI安全问题频发，市场开始意识到，AI安全重要性是随着AI大模型的不断升级优化而不断提升的。

这就意味着，AI网络安全已经从「颠覆」转变为「需求」，同时也反映在市场表现上，其中 $First Trust NASDAQ Cybersecurity ETF(CIBR)$ 年内升近30%， $网络安全ETF-PureFunds(HACK)$ 升超16%，$iShares Cybersecurity and Tech ETF(IHAK)$ 升超27%，而同期标普500指数升超12%。

图源：美银证券

小老虎也给大家整理了市场关注度比较高的几家网络安全公司：

• $Palo Alto Networks(PANW)$ ：核心业务为网络安全平台、云安全、SASE，市场定位为平台领跑者；

• $CrowdStrike Holdings, Inc.(CRWD)$ ：专注于端点安全、威胁检测、云安全，为AI安全龙头；

• $飞塔信息(FTNT)$ ：核心业务为防火墙、网络安全、SASE，为网络安全领跑者；

• $Cloudflare, Inc.(NET)$ ：专注于CDN、网络安全、边缘计算，为AI网络基础设施；

• $Zscaler Inc.(ZS)$ ：核心业务为Zero Trust、SASE、云安全，是云安全板块核心；

• $Okta Inc.(OKTA)$ ：专注于身份认证、IAM；

• $SentinelOne, Inc(S)$ ：AI端点安全与自动化响应，AI安全弹性标的；

• $Cyber-Ark Software(CYBR)$ ：特权访问与身份安全，为身份安全龙头；

• $Tenable Holdings Inc.(TENB)$ 与 $科力斯(QLYS)$ ：专注于漏洞管理与云安全；

• $Varonis Systems, Inc.(VRNS)$ ：专注于数据安全、数据治理，为AI数据安全核心标的。

目前市场上关注度最高的是Palo Alto Networks与CrowdStrike，小老虎也整理了两家领头羊的优势与区别：

• $Palo Alto Networks(PANW)$ ：核心优势是「平台化」，公司近年来不断通过并购扩大安全产品矩阵，目前市场越来越把它看作网络安全平台整合者。尤其值得关注的是其AI安全业务，其中Prisma AIRS是公司增长最快的产品之一，并瞄准AI应用和AI Agent安全；

• $CrowdStrike Holdings, Inc.(CRWD)$ ：更加偏向AI + Endpoint Security + XDR，核心平台Falcon可以持续监控PC、Cloud、Identity等方面，随着AI Agent越来越多地拥有电脑、代码和网络权限，端点安全的重要性反而会上升。市场更关注公司能否将AI驱动的安全需求转化成新的ARR增长。

小虎们，你们认为网络安全板块的逻辑变了吗？