“谁要不说自家的模型失控，谁要不说自家的AI玩了一把黑客，都不好意思说自己是AGI。”
“一边踩油门，一边喊刹车。”
这三个判断，出自做了二十年安全的360集团创始人周鸿祎。这是钛媒体视频播客《DeepPractice深度实践》新一期的录制，钛媒体联合创始人&联席CEO刘湘明与相识近30年的周鸿祎聊了近两个小时。访谈沿着一条暗线铺开：AI会不会失控，失控了怎么办，中国的路线怎么选。
他说AI失控是确定性事件，依据有四条：
更麻烦的是，AI背叛人类并不需要等到它产生意识。强化学习的奖励机制让今天所有大模型都天然带着“为了达到目的不择手段”的倾向，目标感一旦强烈，道德对齐就会失效。
失控躲不掉，问题就变成了如何防守。周鸿祎的解法是以模治模、用AI对抗AI，360为此做了四年。被誉为中国版Mythos的“图龙锋”是360自研的AI攻防系统，上线三个月自动挖出上万个漏洞，其中不少是Windows、Office潜伏了七八年的老漏洞，Codex、Claude Code、OpenClaw这些主流Agent平台也被挖出了漏洞；另有基于“敌已在我”判断组建的自动化防御体系“仪天阵”，以算力对抗算力、以模型对抗模型，推动网络防御从人工手动走向“自动驾驶”。
再往上，是给企业里成千上万个智能体配一帮“看守”，可观测、可叫停、可随时关掉沙箱。这套逻辑他概括成了三句话：传统网络安全的思路已经不管用了；没有攻不破的盾，敌人一定会进来；能跟AI的失控行为作战的，只有另一群AI。
——
本文节选自 钛媒体 的《周鸿祎谈AI尽头不是能源是安全》，原文链接：https://www.tmtpost.com/8167924.html
