《人工智能生成合成内容标识办法》正式发布，将对行业带来哪些影响？|界面新闻·科技
通过标识解决一些特定场景的“透明义务”问题，提高违规和责任成本。
佘晓晨 · 来源：界面新闻
图片来源：图虫创意
界面新闻记者 | 佘晓晨
界面新闻编辑 | 文姝琪
在人工智能治理的进程中，又一个具有代表性的办法正式发布。
近日，国家互联网信息办公室、工业和信息化部、公安部、国家广播电视总局联合发布《人工智能生成合成内容标识办法》（以下简称“《标识办法》”），自2025年9月1日起施行。国家互联网信息办公室有关负责人表示，《标识办法》旨在促进人工智能健康发展，规范人工智能生成合成内容标识，保护公民、法人和其他组织合法权益，维护社会公共利益。
《标识办法》明确，人工智能生成合成内容标识主要包括显式标识和隐式标识两种形式，显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可以被用户明显感知到的标识；隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。
自人工智能技术加速发展以来，关于AI治理的议题就反复被行业人士讨论。其中，关于AI生成内容的风险尤其被外界和产业重视，包括 虚假信息、信息茧房、数据安全和隐私保护等等——这些问题往往和AI用户直接息息相关。
去年9月，国家互联网信息办公室起草了《人工智能生成合成内容标识办法（征求意见稿）》，向社会公开征求意见。如今 《标识办法》 正式发布，对于内容提供方、内容平台和个人用户来说都有不小的影响。
中国科学院科技战略咨询研究院 研究员 肖尤丹认为， 《标识办法》的 发布实际上并不是AI内容 治理的终极手段，而是过程中一次“小步快走”的治理实践，是更符合当下中国人工智能发展阶段的治理方法。
平衡“安全”与“发展”的关键一 招
2022年12月，国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》。这被外界视为人工智能治理的一次重要节点。
对于 标识制度，肖尤丹认为，这是国家对生成式人工智能内容侧治理的新一步，但并不是一个孤立的办法，应当把它放到生成式人工智能内容治理 的总体框架里 ，与算法备案管理、生成式人工智能服务管理、深度合成管理相互协调、共同发挥作用的角度 去理解。
在此基础上分析《标识办法》的实施，对于行业来说可能更有参考价值。
从具体的操作来看，《标识办法》提出，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识：包括在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识等等。
也就是说，《标识办法》解决的是关键性的“有或无”的问题，而不是治理的终极手段。
正因为此， 肖尤丹认为，《标识办法》是目前我国人工智能 生成内容治理和秩序管理 发展过程中的关键一 招 ， 也 和目前 AIGC技术 发展 和社会化应用 阶段相匹配 。
“这是一种敏捷治理、小步快走的逻辑，而不是一招制敌 、一劳永逸 的逻辑。”肖尤丹说。原因在于，当下人工智能的技术安全手段、外部监管以及技术发展之间存在巨大落差， 强制 标识制度可能是现阶段 社会共识最高、技术和治理成本 最可行的 方案 ，能在安全治理和产业发展之间形成 较好的 平衡 ，为当前快速增长的AIGC产业提供足够的合规发展空间 。
从整个内容行业的角度而言，《标识办法》的推出也有利于市场的 公平 竞争和 有效 管理。 肖尤丹总结称，“标识”至少 实现了 了四个“区分开”：首先是区分AIGC和其他内容，这有利于 保护传统内容产业，降低一定程度的技术直接冲击 ；第二是区分场景合规，即深度合成场景的合规要求高于其他生产场景；第三和第四则是区分AIGC 的不同 来源和AIGC 生成、使用和传播 主体 的不同责任 ，例如内容来自于DeepSeek或是Kimi。
那么，既然《标识办法》对服务提供者提出了诸多要求，具体实现的难度如何？
相比技术上的难度，AI公司可能更需要适应新规范下的运营流程。 肖尤丹分析称，社会对该办法出台的预期比较稳定，办法也预留了半年左右的准备时间，因此，对 大多数AIGC服务提供者来说，履行办法中的“标识 义务” 并没有太大的技术难度 和合规成本。 尤其是现在 国内 主流的AI服务提供商，实际上已经 在采取类似的标识方式 。 不过， 对于那些 提供接口服务或 间接向公 众提供AI服务的公司来说，或许 会 需要 一个技术调整与合规的过程。
提高 违规和责任 成本
值得一提的的是，就标识义务来看，《标识办法》主要约束的是人工智能生成服务提供者，涉及用户的只有两条。因而 从 个人用户的角度来看 ，《标识办法》的实施实际上不会产生太多内容消费体验或使用合规上的影响。
肖尤丹称，这是因为，现阶段标识规则首先需要解决的是关键主体、关键场景、关键活动和关键风险筑牢底线的问题。 例如，对于部分使用人工智能生成内容辅助创作的个 人，因为其不是人工智能生成服务提供者，按照《标识办法》，就并不存在进行标识的义务，但是有保留AIGC上已有标识的责任，不得恶意删除、篡改、伪造、隐匿标识。同时，《标识办法》也专门为用户提供了向生成服务者申请提供没有添加显式标识AIGC的合规机制。
可以肯定的是，对于那些批量 化搬运 AI 生成内容 、进行病毒式传播 的“营销号”们 而言，未来将面临 更高的合规难度 。
这也是《标识办法》对于内容行业发展的最大意义之一：通过标识解决一些特定场景的“透明义务”问题，提高 违规和责任 成本。
肖尤丹举例称，在没有标识的情况下，可能会存在一种情况——将公司“A”的人工智能生产内容套用到“B”的结果上，对用户形成误导，甚至用不合规的内容进行“栽赃”。同样，《标识办法》提出，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动，包括应当核验文件元数据中是否含有隐式标识、采取适当方式在发布内容周边添加显著的提示标识等等。
在这样的要求下，标识的存在也会对大规模 搬运 人工智能 直接 生成内容的行为进行拦截， 让内容平台有了 更明确的合规要求和管理 程序， 有利于降低总体的 审核 运营 成本。
当下，我国的人工智能立法已经有了不少探索和成果，目前已经发布的包括《互联网信息服务深度合成管理规定》、《生成式人工智能服务管理暂行办法》等等。但至今仍未形成专门的法律法规。
肖尤丹认为，《标识办法》 为优化AIGC内容秩序、防范技术大规模应用等下提供了基础性规范工具，构建了以生成源头强制标识为基础的内容秩序监管框架，不仅可以规范生成服务提供者的源头生成行为，也 提高了 使用和传播生成内容的透明度，这必然会大幅增加利用 AIGC进行违法犯罪活动的 成本， 也为进一步遏制AIGC灰黑产业链和新型违法 预留了 制度 接口。
不过，肖尤丹也向界面新闻表示， 与当前AIGC监管中存在的各类风险和合规空白区相比，《标识办法》也并不完美 。但从 当下现实 的视角来看，《标识办法》的实施可以 在相当一段时期内 消除 AIGC服务和内容生产合规风险 不稳定的预期，便于 相关 产业轻装上阵， 抓住 AI 带来的新机遇，加快 扩大 技术应用规模和助力产业发展 空间。
主题：人工智能|《标识办法》|国家互联网信息办公室