上海市信息安全测评认证中心发布全国首个生成式人工智能安全测试公共服务平台

在市委网信办、市经信委的指导下，由上海市信息安全测评认证中心建设的全国首个生成式人工智能安全测试公共服务平台——“智测能手”，于9月14日在国家网络安全宣传周上海地区活动开幕式上正式发布。平台以公共服务产品的全新思路，为国内人工智能治理实践提供了上海方案 。

高效开展合规评估

　　平台大模型安全测评模块针对涉及生成违法违规内容、歧视偏见、事实性错误等风险开展自动化评测，输出测评结论与优化建议，对模型违规输出的判定准确率不低于95%。

实现AI内容可信溯源

　　平台AIGC标识验证模块严格依据《人工智能生成合成内容标识办法》及GB45438—2025相关标准，对文本、图像、音频、视频四类模态内容开展显式、隐式标识合规校验，支持单条及批量检测，检测结束可下载标识测评报告。

甄别深度伪造信息

　　平台AIGC内容检测模块严格遵循《互联网信息服务深度合成管理规定》，融合多类算法模型，实现对文本、语音、图像、视频多模态AI生成内容的检测，识别换脸、人声合成、姿态操控等深度伪造行为。

筑牢代码安全屏障

　　平台智能代码审计模块结合安全大模型构建多Agent协同代码审计架构：顶层审计代理统一编排，多并行子代理分域扫描，校验代理复核去误报，输出含触发路径、可控性分析及PoC的结构化漏洞报告。该模块不仅支持20余种主流开发语言，兼容OWASP Top10标准，沙箱校验进一步降低误报，还支持智能体中MCP协议、SKILLS等代码安全审计。

以公共服务赋能产业创新

以高水平安全护航高质量发展

平台的目标，是构建国内领先的普惠化生成式人工智能安全测试服务平台，推动安全治理从分散式、人工化向集约化、智能化、标准化转变，打造涵盖大模型安全测评、AIGC标识验证、AIGC内容检测、智能代码审计的“一站式”服务体系。

普惠，是平台最鲜明的底色。平台将面向全市乃至全国的人工智能企业提供普惠化服务，重点支持中小微企业的安全合规需求。面向未来，平台将持续迭代测试能力，联动科研机构与产业企业，打通技术、标准与实践的壁垒，输出可复制、可推广的安全治理经验，为全国生成式人工智能安全治理提供可借鉴的实践样本。

以公共服务赋能产业创新，以高水平安全护航高质量发展。——这是上海的回答，也是人工智能安全公共服务迈向普惠化时代的新起点。

主题：平台