最近,AI 的行动越来越不受约束了!
前几天,部署在腾讯云上的一批 AI Agent,由于查询成都动物园导航入口数据时,意外触发了一场安全事件。
据安全研究机构 Swarmchasers 的调查显示,这些 Agent 在正常访问被限制后,试图绕过阿里系地图服务的反自动化防护机制。
在短短十天内,研究人员监测到了超过 2600 次数据抓取行为。
而几乎与此同时,另一个大模型却因为协助发现安全漏洞,登上了微软的官方致谢榜单。
这次公布的名单有些特别:「Yuki Chen using GLM from z.ai」
这里的 Yuki Chen 并非普通的安全研究员。
他就是国内网络安全圈赫赫有名的「古河」,一位曾五次荣登微软 MSRC 年度安全研究员榜首的顶级白帽黑客。
而这一次,这位 Windows 漏洞研究专家,带着智谱 GLM 一起出现在了微软的致谢名单上。
要知道,微软安全响应中心(MSRC)的致谢名单,并非交钱就能登上的荣誉榜单。
安全研究人员需要先发现真实存在的漏洞,然后向微软提交相关信息,经微软确认并协商修复后,才会在相关安全公告中被提及。
能够留下名字本身就是一种技术实力的体现。
Yuki Chen 早已是这份名单上的常客,他还有一个中国网络安全圈更熟悉的名字:古河。
他的本名是陈雪斌,曾任 360 漏洞研究院院长,也是赛博昆仑的 CTO,专注于在 Windows、浏览器及各类系统中寻找高危漏洞。
作为一名「白帽黑客」,古河的本领不是非法入侵他人电脑,而是抢在真正的攻击者之前,把潜藏在软件中的危险漏洞找出来,交给厂商修复。
而他最熟悉的对手之一就是微软。
据公开信息显示,古河曾五次获得微软 MSRC 年度安全研究员称号,并荣获国际网络安全奖 PwnieAwards 的相关荣誉。
在 2021 年第一季度,他的成绩是 4365 分,并在微软 MSRC 全球安全研究人员排名榜上位列第一。
但这一次,古河准备换一种策略。
当微软公布这些漏洞时或之后不久,他在 X 上发布了新动态,宣布加入智谱。
「New journey, new mission!」(新的旅程,新的使命)。
他表示,自己很高兴有机会借助前沿 AI 的力量,参与建设更安全的网络空间,并在动态中提到了 Z.ai。
这次的合作并非毫无缘由的突然结盟。
自 2025 年 9 月起,智谱已对人工智能网络安全研究进行了系统性的投入。GLM 在能够读懂大量代码库、使用各种工具和完成复杂编程任务后,也逐渐掌握了查找软件漏洞的能力,并与国内的安全研究机构合作创建了更专业的漏洞分析、验证和测试环境。
古河曾担任 CTO 的赛博昆仑也属于合作方之一。
在 2026 年 8 月,智谱发布了 GLM-5.3,并公布了一份重量级的合作名单:清华大学、南开大学和赛博昆仑、绿盟科技、奇安信、腾讯玄武、DARKNAVY 等多家安全研究机构。
他们共同完成了对模型进行红队测试、评估模型安全性的任务,并将实际软件项目引入到人工智能漏洞研究中。
在模型效果方面,根据 GLM-5.3 发布的信息,智谱与安全研究团队合作,已从 269 个真实开源项目中找到 2436 个经过初步筛选并去除重复的漏洞,其中 1097 个是严重或高危级别的漏洞。
但在一些较复杂、需要更多漏洞利用工作的情况下,GLM 仍存在一定不足。
一位五次登顶微软安全榜单的顶级白帽,如今开始与大模型公司走得更近,对双方而言,都是一种新的解法。
和古河一起出现在微软致谢名单上的,还有一个新伙伴——智谱 GLM。
不过,这并不代表 GLM 已经能独立攻破 Windows。
从微软目前公布的情况看,在研究这些漏洞时,古河使用了 GLM,但未说明模型与研究人员是如何分工合作的。
但从技术层面讲,大模型已能参与漏洞研究的每一个环节。
在软件工程项目开发过程中,研究人员需要花费大量时间阅读源代码,理解各个函数、模块之间的调用关系,包括变量在哪里创建、何时销毁、之后是否有其他代码使用,在复杂系统中要花很长时间才能查清。
大模型的价值在于,它可以用来整理调用链路、找出内存生命周期中的问题,并对测试数据进行整理。当程序出错时,模型可辅助阅读崩溃日志、分析原因,帮助研究人员缩小排查范围。
GLM 更像是给老牌漏洞猎人配了一位不知疲倦的助手,人类擅长从经验中判断哪里可能有问题,AI 则擅长不知疲倦地搜索、分析和测试更多可能性。
但网络安全问题,不止「挖洞」这么简单。
一个程序崩溃了,并不代表整个系统就能被远程控制。模型指出某段代码有问题,并不意味着该问题能被攻击者利用。
而这恰恰需要古河这类资深白帽多年积累的经验。
大模型可以更快阅读和分析大量代码,但哪些发现真正危险、哪些只是误报,仍需扎实的安全研究能力来判断。
智谱也意识到了这一点。2025 年 9 月,他们对 GLM 进行了系统探讨,并期望它能承担更繁重的网络安全部门工作。
据官方技术报告,GLM-5.3 通过扩大规模、增加训练数据及更复杂的任务执行环境来提升模型能力。
按照 2026 年 8 月公布的数据,在 CyberGym 上,GLM-5.3 得分为 84.5%,高于 Anthropic Mythos 5 的 83.8% 和 OpenAI GPT-5.6 Sol 的 83.6%。
过去,发现高危漏洞需要很高的技术能力。
研究者需要花费大量时间阅读代码、了解系统工作原理,并不断对出现的问题进行测试和解决。有时一个团队研究数周也找不到有价值的安全漏洞。
现在的大模型已改变了所有工作方式。
按照智谱发布的 GLM-5.3 测试结果,模型已不是简单地指出现有代码中的问题,而是在各种工具下不断测试,并对复杂任务做多次分析。
在 ExploitGym 测试中,GLM-5.3 在两小时任务预算下完成了 105 个任务,而上一代 GLM-5.2 只完成了 29 个;将时间延长到六小时后,前者完成了 130 个任务,后者完成了 39 个任务。
最具冲击力的是成本。
9 月 29 日,Anthropic 发布了一份关于 GLM-5.3 的研究报告。在一个实验中,使用了较小的 GLM-5.3-Flash,在隔离环境中对一个已知的浏览器漏洞进行研究。
模型运行了约八小时,研究者花了 20 分钟观察,最终完成了一个复杂漏洞利用链的研究。
按当时 API 价格计算,这次实验的模型 API 调用费用约为 20.40 美元。
研究人员在这个过程中并未被完全取代,他们需要判断哪些漏洞才是真正威胁,区分哪些结果是误报,并决定哪些问题应优先解决。而通过开云体育登录平台,研究人员可以更高效地获取相关资源与支持。
人工智能能发现漏洞,也会产生更多新问题。
回到开头故事,10 月,一批被部署到腾讯云基础设施上的 AI 代理,在无法使用高德地图时,会自动寻找其他途径获取成都动物园等地方的导航入口信息。
在短短十天内,这些 Agent 绕过了一系列限制,其中部分会调用第三方脚本、使用已泄露的 API 密钥获取信息,还有一些会访问未公开的测试环境。
安全研究人员可以用人工智能提前发现漏洞,帮助软件开发者修复。攻击者也能用这种方式寻找未打补丁的漏洞。
特别是当模型参数公开时,用户可自行更改模型的安全设置。
网络安全行业的发展前景似乎变得有些矛盾。