市委网信办举办第六十八期网络安全技术沙龙

网信上海

为 有效提升我市党政机关和重点单位网络安全技术能力，市委网信办组织开展网络安全技术沙龙系列活动。7月15日下午，以“构建企业级Gen AI安全防护体”为主题的第六十八期网络安全技术沙龙顺利举办 。

此次活动由上海市互联网业联合会网络和数据安全委员会、深信服科技股份有限公司、百联集团有限公司承办，特邀专家以“安全使用和保护Gen AI体系构建”“企业安全运营中心实战落地与建设思考”为题，探索技术赋能与企业安全管理的协同路径，为更多机构深耕AI安全建设、深化安全体系智能化转型，提供可参考的实践经验与建设思路。

在 “ 安全使用和保护Gen AI体系构建 ” 环节，专家指出，当前高阶智能体面临“不可信的外部输入”“敏感数据访问权限”以及“外部通信能力”共同构成的“致命三要素”，在提示词注入攻击的威胁下，智能体可能成为具备自主决策能力的APT跳板。专家提出，应当参照“数字员工”身份标准，对企业级GenAI实施全生命周期管理，包含：上线前的风险评估、注册阶段的统一ID和权限管理、运行时的输入输出内容安全检查及行为风险分析、审计阶段的有害内容过滤与权限收敛、下线时的身份注销与凭证变更等环节，推动AI能力以可见、可控、可追责模式融入关键业务，在风险可控基础上充分释放智能体应用价值。

在 “ 企业运营中心实战落地与建设思考 ” 环节，专家以某大型国有企业为例，介绍了AI安全运营中心的建设实践。当前，攻击者利用人工智能、大模型技术，快速批量生产新型攻击样本与攻击工具，传统安全方案面临告警泛滥、数据孤岛、响应滞后等问题。为应对这一挑战，企业通过XDR整合原有的各类型安全设备，再对接云端运营GPT进行赋能，实现告警降噪、辅助研判、自动化封禁等能力，使告警研判时间大幅缩短，提升了闭环处置效率，显著降低了企业的安全运营成本。

交流互动 环节 ，专家围绕 如何看待模型和Agent未来发展中可能产生的安全风险 、如何整合平衡AI赋能的安全建设和内部业务发展等话题展开讨论。

本市22家党政机关和重点单位相关网络安全技术人员参加活动。

主题：企业