“数字员工”越界风险凸显AI智能体催生网安新需求
“数字员工”越界风险凸显 AI智能体催生网安新需求
2026年10月12日 17:58
随着AI技术从大模型向智能体演进，企业应用AI的方式正在发生变化。从过去的内容问答，到如今能够自主工作的“数字员工”，AI正逐步进入企业业务流程和核心生产系统。然而，随着智能体获得更多权限，其潜在安全风险也从模型生成内容本身，延伸至业务操作等多个环节。
在此背景下，10月12日， 绿盟科技 围绕 AI智能体 规模化应用带来的安全挑战推出天元智衡AI红队智能体、清风卫AI-DR智能体安全产品及解决方案，分别面向 AI应用 上线前的安全评估与部署后的运行防护。
在 绿盟科技 看来，伴随AI从传统问答工具，向目标驱动、自主执行的智能体转型，企业AI治理的重心正由过去的“管住模型说什么”，逐渐转向“约束智能体做什么”。这意味着，AI安全不再局限于内容合规与模型输出控制，而是开始深入企业业务流程和IT系统。
值得关注的是，这一变化也在推动 网络安全 行业形成新的产品和服务需求。随着企业加快部署AI办公助手、智能客服等工具，传统的安全防护方式，正在面临新的挑战。如何识别智能体异常行为并实现责任追溯，正成为企业 AI应用 从试点走向规模化部署过程中需要解决的问题。
从内容安全转向行为安全
过去，大模型安全主要关注生成内容是否合规、是否存在敏感信息泄露，以及模型是否容易受到恶意提示词攻击等问题。然而，随着 AI智能体 具备任务规划、工具调用和外部系统交互能力，安全风险也开始从模型输出层面向实际操作层面扩展。
与传统大模型应用不同， AI智能体 能够根据用户设定的目标，自主选择执行路径，并完成调用等一系列操作。但在提高工作效率的同时，这种自主性也使得AI可能在缺乏人工干预的情况下，执行超出预期的任务。
据公开报道，今年4月，美国 汽车 租赁 软件企业PocketOS就曾发生一起AI智能体误操作事件。由于其使用的AI编程智能体在处理测试环境中的问题时，调用了权限范围过大的接口凭证，进而删除了生产数据库及相关存储备份，操作过程仅耗时约9秒。此后，企业不得不投入大量时间开展数据恢复工作。
这一事件暴露出，在获得系统访问权限后，智能体执行了未经授权的高风险操作。对于正在将AI引入财务管理、 软件开发 、客户服务等核心业务环节的企业而言，类似风险可能直接影响业务本身。
对其影响， 绿盟科技 能力中心产品经理郭光正向《中国经营报》记者表示，结合真实环境的实测结果，当前类Claw智能体主要存在三类风险，包括跨形态共有安全风险、Skills安全风险以及沙箱逃逸风险。
此外，指令与数据难以严格区分、优化目标错位、概率性幻觉和上下文遗忘等大模型架构本身存在的问题，也可能在智能体执行任务的过程中进一步放大。这些风险难以单纯依靠模型算法升级彻底解决。
从产业应用来看，智能体的安全问题还具有一定的复杂性。传统软件系统通常遵循预先设计的业务流程，安全管理人员可以针对关键节点设置权限校验、操作审批和审计机制。而AI智能体的执行路径具有动态性，相同任务可能因环境、上下文和模型决策的不同，产生不同的操作过程。
这意味着，企业不仅需要判断AI生成的结果是否正确，还需要关注其执行任务的过程是否符合安全要求。
与此同时，针对智能体部署使用的规范体系也在逐步完善。今年7月，全国 网络安全 标准化技术委员会秘书处发布《 网络安全 标准实践指南——智能体部署使用安全指引》，围绕智能体评估、准备、部署、使用及停用等阶段提出安全实践指引，为企业安全部署使用智能体提供参考。
正是为了满足这一需求，绿盟科技此次推出天元智衡AI红队智能体。据介绍，该产品采用自然语言驱动方式，结合自研Harness编排技术，构建“攻击方法库×风险插件库”矩阵，覆盖安全测评、风险挖掘及Skill白盒审计等环节，并通过量化攻击成功率，形成“测评—整改—复测”的风险治理闭环。
AI安全需求向核心业务延伸
随着智能体逐渐由辅助工具演变为能够参与业务执行的“数字员工”，网络安全产品的防护对象和应用场景也随之发生变化。
在传统网络安全体系中，企业主要围绕人员、终端、服务器、网络和应用系统建立防护机制。但在智能体应用场景下，AI可能代表员工访问业务系统、读取企业文件、调用外部接口甚至执行数据修改操作。这使得，企业需要进一步明确智能体能够访问哪些资源、执行哪些操作，以及出现异常行为后如何及时阻断和追溯。
对此，绿盟科技AI安全产品总监李斌向记者指出，要让AI更安全地赋能企业业务，需要实现智能体行为的全链路审计，即从接收任务到完成操作，对其执行过程进行记录和审计，以便在发生安全事件后识别相关智能体、授权主体及具体操作行为。
围绕这一需求，绿盟科技此次发布的清风卫AI-DR智能体安全产品及解决方案，主要从行为审计、 数据安全 和访问权限管理三个方面构建防护能力。
据介绍，该产品能够对智能体执行任务的全过程进行记录和实时审计，对办公助理类智能体读取和外发的文件开展安全检测，并对敏感数据实施拦截或脱敏处理。同时，通过AI安全网关与MCP安全网关，统一管理企业大模型调用入口及智能体访问内部系统的权限，并对模型调用量和相关成本进行监测控制。
相较于传统以网络边界和终端设备为主要防护对象的安全产品，上述方案将安全管理进一步延伸至智能体身份、行为轨迹、工具调用及数据流转等环节，反映出企业AI安全产品正从单点风险防护向全流程治理演进。
对于网络安全厂商而言，这种变化也意味着新的业务拓展空间。一方面，企业部署AI智能体将带来新的安全需求，包括智能体资产识别、访问权限控制、工具调用安全、敏感数据防泄漏及行为监测等；另一方面，相关能力也需要与现有身份管理、 数据安全 、云安全及安全运营平台相结合。
这意味着，未来AI安全市场的竞争，可能不仅取决于厂商对大模型攻击风险的检测能力，还取决于其能否将安全防护嵌入企业真实业务环境，并在尽量不影响智能体执行效率的情况下，实现动态权限管理和风险控制。
不过，与传统网络安全产品相比，智能体安全仍面临新的商业化挑战。不同企业采用的大模型平台、智能体框架和工具接口存在差异，安全产品需要适配不同技术架构；智能体操作具有动态性，也对风险识别的准确性、实时性和误报控制提出更高要求。
与此同时，企业对于AI安全投入的意愿，还将受到智能体实际部署规模、业务重要性及安全合规要求等因素影响。因此，相关市场需求能否持续释放，仍有赖于企业级智能体应用的进一步普及。
可以预见，随着企业级 AI应用 从辅助决策走向自主执行，围绕智能体行为控制、数据保护和持续安全运营的技术体系，有望成为网络安全行业新的业务增长方向。对于绿盟科技等传统网络安全厂商而言，如何将既有安全技术能力转化为适应AI智能体运行特征的产品和服务，也将成为其拓展AI安全市场的重要课题。
（文章来源：中国经营报）