《工业和信息化领域人工智能安全评测框架》正式发布，工业AI应用建立标准化安全标尺
随着大模型、工业智能体加速渗透制造业，AI深度介入生产制造、设备调度、质量检测等核心环节，工业场景的安全风险也随之凸显。不同于消费端AI，工业环境下算法幻觉、数据泄露、模型漂移一旦发生，可能直接造成产线扰动、生产事故以及核心工艺数据外泄，过去行业缺少统一、可落地的安全评测依据，企业安全建设大多处于自行摸索状态。
在2026人工智能产业大会上，《工业和信息化领域人工智能安全评测框架》正式对外发布，框架从通用安全、应用安全、业务安全三个维度搭建完整评测体系，为工信领域AI产品落地提供标准化安全标尺，标志国内工业AI从技术优先，正式迈入发展与安全并重的新阶段。
三维度搭建评测体系，补齐工业AI安全评价空白
本次发布的评测框架跳出通用大模型安全的评价逻辑，充分贴合工业、电信领域真实业务环境，划分为通用安全、应用安全、业务安全三大层级，形成分层递进的立体化评测范式。通用安全面向底层基础，覆盖训练与生产数据安全、模型自身安全、算力基础设施安全，解决数据集污染、模型投毒、算力环境漏洞等基础风险。应用安全重点针对当下快速兴起的工业智能体、具身智能，对权限管控、工具调用、记忆存储、自主行为约束设置明确评测条目，防范AI越权操作工业设备带来的风险。业务安全则下沉到具体行业场景，工业端贯穿研发设计、中试验证、生产制造、运营管理全流程，电信端覆盖网络运维、智能调度等关键环节，把安全要求嵌入业务全生命周期。
在此之前，国内已有不少人工智能安全相关规范，但大多偏向通用互联网场景，工业生产具备强实时、高可靠、高后果的特殊属性，通用标准难以直接照搬套用。很多制造企业引入AI系统时，只能参考零散的行业建议，安全检查项目不统一，风险识别深浅完全取决于厂商能力，容易出现防护盲点。该框架把抽象的安全治理要求转化为可执行、可测评的具体指标，明确评测内容、评测方法与实施要求，企业可以对照框架开展自查，第三方机构也拥有统一的测评参照，解决工业AI“怎么评、评什么”的现实难题。同时框架兼顾创新与管控，不设置过高准入门槛，支持企业分阶段完成安全能力建设，避免标准过度约束新技术落地。
落地仍存现实挑战，产业需完成技术与制度协同迭代
评测框架的出台，完成制度层面的顶层指引，但想要真正落地到千万工厂，依旧要面对工业场景碎片化、技术防护能力参差不齐等现实难题。国内制造业体量庞大，不同规模企业数字化基础差距显著，大型工业集团具备条件搭建完整AI安全体系，而大量中小制造企业，本身数字化预算有限，缺少专业AI安全团队，如何低成本对标框架完成安全整改，是接下来产业要面对的实际问题。如果照搬大型企业的防护方案，会大幅抬高中小企业引入工业AI的成本，框架后续还需要配套轻量化实施指引，适配不同体量主体的实际能力。
另外，工业AI技术本身处在快速迭代周期，智能体、多Agent协作、具身智能等新形态持续涌现，新型安全风险也在不断衍生，静态的文本框架无法覆盖全部未来风险，需要建立动态更新机制，跟随技术发展持续迭代评测条目。安全评测不等于安全结果，框架给出的是检测标尺，风险处置、持续监测、模型版本管理同样不可或缺。工业AI模型会随着生产工况变化发生模型漂移，一次评测通过，不代表长期安全，企业需要建立贯穿AI系统全生命周期的风险管理流程，把安全评测嵌入选型、上线、运维、版本更新各个环节。从产业链视角，AI模型厂商、工业软件企业、制造工厂需要责任共担，模型研发侧做好内生安全设计，工厂侧做好运行阶段风险监控，多方协同才能将评测框架的价值真正释放。
结语
《工业和信息化领域人工智能安全评测框架》的发布，填补了工信赛道AI安全标准化评测的重要空白，为工业AI高质量发展划清安全基线。工业智能化转型不能只追求算法效果与降本收益，安全可控是技术落地的前置条件。当然一份框架文件只是起点，从纸面指标走向工厂产线，还要跨越企业能力差异、场景碎片化、技术快速迭代多重考验。短期来看，它将引导头部企业率先完成安全测评试点，形成一批可复制实践案例；长远角度，随着配套工具、实施指引不断完善，安全评测将成为工业AI系统常态化环节，在守住生产安全与数据安全底线的前提下，推动人工智能更加稳健地赋能新型工业化。