北邮李小勇：智能体安全，从规则匹配转向算法博弈

C114讯 7月23日消息（南山）今年以来，随着OpenClaw（“龙虾”）爆红，形成了“全民养虾”的风潮，智能体应用出现爆发式发展，智能体时代正式来临。

智能体大规模部署，引发了业界对其安全性的疑虑。在昨日举办的2026年算网融合产业发展大会上，北京邮电大学网络空间安全学院执行院长李小勇发表主题演讲表示，相比传统网络安全的“规则对抗和确定性防御”特征，智能体安全呈现“算法对抗和不确定性博弈”特征。

传统网络依赖预设规则和固定边界防护，攻击路径和防御手段可以预判，对抗结果具有一定的确定性，本质上是“堵漏洞”。而智能体层面，攻防双方均以算法为核心，防御方需“以模制模”等智能方式主动研判，核心是“控风险”。模型的黑箱特性导致行为不可预测，需应对模型失控等内生性不确定风险。

李小勇介绍，全生命周期的智能体安全防御，包括了业务层防护、智能层防护、数据层防护、软件层防护。例如在智能层，需有效防御用户输入和智能体参考内容中的直接与间接注入攻击，以及检测输入及参考的图像、视频、音频中的对抗扰动，规避识别错误等。

“在AI时代，网络安全范式发生了根本性的变化，对抗逻辑发生了变化。举一个简单的例子，据说全世界有2000个左右的顶级黑客，那么这2000个左右的顶级黑客可能就推动了全世界网络安全产业的发展。现在有了AI之后，普通人可以用大模型去做所有跟攻防相关的事情，人人都有可能成为顶级黑客，大家想想这种攻防的难度跟范围会更大。”李小勇感叹。

目前，北京邮电大学聚焦国家AI安全重大需求，打造了“评测-防护-靶场”三位一体智能体安全能力，包括积累了超过150个攻防对抗算法，以及百万级的行业的高质量数据集，2万多个相关的组件漏洞。“智能体安全门槛比传统网络安全要高一些。一个是要定准方向，再就是要大量人力。我们近百个研究生，这三四年大量的时间去积累算法。”李小勇表示，算法对抗是智能体安全的核心。北京邮电大学同时和部委、行业企业以及安全企业进行了深入合作和应用示范。

主题：智能体安全