
人人都在用AI,公司效率却没提高;
攻击成本降了100倍,防御还在用老办法;
AI写的代码越来越完美,网络安全的基础反而更脆弱了。
问题到底出在哪里?
在近日举行的第十四届互联网安全大会(ISC)上,360集团创始人周鸿祎给出了他的回答。
效率没提高
周鸿祎分享了一个让他困惑的现象:有些公司人人都在用AI编程工具,人人都消耗大量Token,个人代码提交量显著增加,但整个组织的效率并没有提升。
问题出在哪里?他将矛头指向组织本身。产品经理用AI写产品规划,开会讨论、批准,再交给程序员分解前后端,各自用AI编程,最后汇总测试。每个环节都在用AI,但流程、岗位定义全都是旧的。“买了最先进的发动机装在马车上,效果是不行的。”
他以Anthropic为例:那里没有传统意义上的产品经理,也没有前后端工程师之分,全员全栈。有功能争论,直接做两个版本看用户反馈。代码库对所有人开放,因为“代码不值钱”。产品经理接到用户投诉,自己就能改Bug。
周鸿祎还举了个例子做对比,过去某块软件由四个团队分别开发,出了Bug后四个团队开会“会诊”,每个团队先证明“这个Bug不是我出的”,扯皮半天。而在AI native的公司里,任何工程师都能把代码库提交给AI排查,产品经理也能直接修Bug。原来自分工明确、权限严格的体系,忽然要面对一个根本问题:要不要改变做事的方法?
“把人变成超级个体是一个阶段,把组织变成超级组织是第二个阶段。”周鸿祎说,第二个阶段比想的复杂得多。企业要回答的不是“要不要上AI”,而是“要不要改变企业文化、压平管理流程、重新定义岗位”。不解决这些问题,AI就只是个人提效工具,组织效率原地踏步。
关于Token消耗,周鸿祎经历了态度转变。最初为培养员工用AI的习惯,他鼓励多烧Token,引用任正非的话,“先僵化、再固化、再优化”,哪怕拿Token写网络文学也行。但当习惯养成后,重点转向效率。
他发现一个关键差异,工作流型智能体沿着人定路径执行,Token消耗可控;而开放推理型智能体为追求目标会不断尝试各种可能性,消耗可达前者的几十倍甚至上百倍。“龙虾随便说几句话、查个天气,就要消耗上千万Token。做个PPT得上亿。”360因此在纳米WORK中放弃了龙虾路线,转向更可控的方案。
他的标准是,消耗1亿Token,总要对应可见产出:代码提交、产品方案,或一个能复用的Agent。
口香糖的故事
周鸿祎讲了一个口香糖的故事:口香糖曾在中国卖得很好,因为人们在超市结账找零时顺手买一包。后来移动支付普及,找零的场景消失了,口香糖销量随之大跌。干掉它的不是另一家口香糖公司,而是移动支付。
他以此来警示网络安全行业。Anthropic做Mythos,本意是让大模型更好地理解和编写代码,顺带做安全审计。没想到模型能力涌现之后,不仅具备批量挖掘漏洞的能力,还能自动编写攻击代码。无意中对网络安全形成了降维打击。
Mythos将漏洞挖掘数量提升100倍,速度提升两个数量级,成本下降两个数量级。周鸿祎用一组对比来描述这种攻防不对称:过去攻防双方用导弹互射,造价相当,勉强平衡;现在攻击方的漏洞变成了几千美元一架的无人机,防御方却还在用十万甚至百万美元一枚的防空导弹去拦截。“防空导弹打完了,天上还有三千架无人机。”
“传统网络安全厂商会被大模型厂商无情地干掉,干掉你的往往不是同行。”
这也是360发起“磐石之盾”安全联盟的初衷:联合20家国产芯片、服务器、操作系统、数据库厂商,用中国版Mythos免费为关键基础设施挖掘漏洞,主动修补、自动化防御。周鸿祎认为,中国必须有自己的Mythos,但使用必须是受控的、面向ToB授权认证的,不能无限制开放,否则会让网络攻击“平民化”。
当被问及“如果AI写的代码完美无缺,漏洞挖掘是否就不需要了”,周鸿祎给出了一个出人意料的回答。
他认为即使AI编码趋于完美,网络安全的基础也不会消失。原因有三:其一,AI跟人学习,仍会产生漏洞,且AI写代码速度更快、数量更多,反而需要更多人工复核;其二,大量入侵根本不靠技术漏洞,而是弱口令和社交工程,“人性成了最大的漏洞”;其三,硬件后门是AI无法解决的,某些出口设备中被植入的远程控制接口,一旦发现实际使用地与出厂设定不符,可以被遥控关闭。
新物种的不可预言性
智能体安全,周鸿祎最焦虑的不是病毒或漏洞,而是“不确定性”。
他认为多数人对智能体存在根本性的认知偏差:把它当软件、当工具。“智能体是一个新的物种。”它能自主推理、调用工具、甚至自我进化。在个人手中,越用越聪明是优点;但在企业内部,买了一个软件用了一年功能全变了,还没人告诉你变了什么,这对企业是不可接受的。
他将智能体分为两类:工作流型,按既定流程使用企业认定的工具和技能;推理型,只给目标就自行寻找路径。后者能力更强,但风险不可预言。“你不知道它哪天会突发奇想干什么。”开放推理型智能体为了达到目的会不择手段地调用工具、申请权限,像一个“不守规则又拿到无限权限的员工”。
360曾投入半年做“安全龙虾”,试图解决开放推理型智能体乱删文件、破坏机器的问题,最终发现核心矛盾无法解决:开放推理型智能体的未来行为不可预言。360因此转向参考Claude Code的思路,做可管理、可控的智能体。解决思路是隔离:把智能体放在独立虚拟机或云端“办公室”里,出问题时不会波及企业内网;同时对内部可使用的工具和技能做严格授权,“好比新员工不能自己装一个黑盒工具在企业内网到处探”。
“老的安全问题消除了,又会带来新的安全问题。”周鸿祎把安全从业者比作希腊神话中的西西弗斯:每天辛苦推石上山,以为到了一个阶段可以歇口气,结果AI出现了,老问题解决了一些,新问题又冒出来。
“人类不可能进化到乌托邦时代,啥问题都没有了。”回看周鸿祎给出的回答,三条线索其实指向同一个判断,旧的框架装不下新的生产力。组织架构不变,AI就是个人提效工具,公司效率原地踏步;防御思路不变,智能体攻击就是防空导弹打无人机,成本不对称到无解;认知不变,把新物种当软件管,出事只是时间问题。
发动机已经造好了,问题在于,你愿意换掉那辆马车吗?