对话中国信通院张夕夜:为智能体戴“紧箍”,正研制权限管理等标准
对话中国信通院张夕夜:为智能体戴“紧箍”,正研制权限管理等标准
2026年11月16日 15:35
作者:
程靓
仿冒人设、过度情感诱导、越权……当智能体逐渐走进人们生活,也添了烦恼。
今年5月,国家网信办、国家发展改革委、工业和信息化部联合印发《智能体规范应用与创新发展实施意见》,首次在专项政策层面明确“强化行业自律”的任务部署。11月,在世界互联网大会乌镇峰会上,中国信息 通信 研究院(以下简称“中国信通院”)联合腾讯、蚂蚁、阿里、抖音、华为等20家生态主体,在中国网络社会组织联合会组织下共同发布《智能体发展自律公约》(以下简称《自律公约》),将政策要求落为行业共识。
随着智能体“办事能力”快速跃升,自主任务执行与多智能体协同在跨平台调用、权限委托中不断越出单一企业的管控边界,越权操作、隐私泄露乃至行为失控的风险逐渐从潜在隐患变为现实问题,利用智能体实施算法压榨、黑灰产等行为也开始显现。与此同时,开发者、部署者、使用者之间的责任链条在连续行动链中趋于断裂,“出事谁负责”的问题被悬置。
中国信通院知产创新中心产业发展与合规治理研究部主任张夕夜在接受新京报 贝壳 财经记者专访时表示,《自律公约》一方面有助于填补现有规则空白,为企业治理探索提供基础参照和方向指引;另一方面,也可以在执行过程中总结实践经验,定期评估、适时修订,确保时效性与适用性。未来,直接关系到安全、公序良俗、用户权益的底线红线要求,如防范智能体越权操作、抵制利用智能体实施算法压榨、保障用户在使用智能体过程中对重要事项的最终控制权等,更有可能转化为强制性要求。
目前,中国信通院正在围绕权限管理、行为边界、个人信息保护、内容安全等维度,研究智能体合规性评价的一些共性方法与框架,同步推进相关标准研制。
智能体生态 涉及 全链条,仅靠单一类型企业难以实现闭环
贝壳 财经: 为何此时发布《自律公约》?
张夕夜: 可以从两个层面来看。一方面,从政策导向上看,今年5月三部门发布了《智能体规范应用与创新发展实施意见》(简称《实施意见》),明确提出了要“强化行业自律”;另一方面,从产业态势上看,当前,智能体自主任务执行及多智能体协同能力显著提升,跨平台调用、权限委托、责任追溯等新问题早已超出单一企业能力边界。此时发布《自律公约》,既是对《实施意见》任务部署的落实,也是希望推动智能体生态主体就关键问题达成共识,为后续的标准、治理与产业实践提供基石。
贝壳 财经: 从参与单位看,此次《自律公约》覆盖腾讯、蚂蚁、阿里、火山引擎、华为、荣耀、OPPO、小米等公司,这是出于什么考虑?
张夕夜: 智能体生态本身就是全链条的,仅靠单一类型企业难以实现闭环。产业发展本身需要多方协作。在中国网络社会组织联合会等组织下,本次《自律公约》的共同发起单位,较为全面地涵盖了科研机构、基础平台、终端厂商、运营商和安全企业等生态关键节点的主体。我认为,只有多方共同参与,公约才具备广泛的代表性和可执行性,这也是产业发展对多方协作的必然要求。
贝壳财经: 在共同起草《自律公约》的过程中,各单位普遍关注的重点问题是什么?
张夕夜: 主要集中在四个方面:一是智能体身份与权限,聚焦明确智能体身份、能力、由谁授权、权限范围;二是互操作边界,聚焦能力开放与接口适配及其尺度;三是责任追溯与承担,确保出现问题后能定位到具体环节和责任主体;四是用户权益保护与黑灰产防范,确保智能体在合理边界内使用。
贝壳财经: 如何界定《自律公约》在智能体治理体系中的实际功能?
张夕夜: 《自律公约》凝结了当前智能体产业的实践经验与行业共识,旨在推动构建良性秩序,促进生态协同与健康发展。考虑到监管规范制定周期相对较长,《自律公约》一方面有助于填补现有规则空白,为企业治理探索提供基础参照和方向指引;另一方面,也可以在执行过程中总结实践经验,定期评估、适时修订,确保时效性与适用性。
抵制利用智能体实施算法压榨、黑灰产,企业应进行自我检视
贝壳财经: 《自律公约》第三条提出,提升智能体互操作水平。你认为如何平衡互操作与 知识产权 保护?
张夕夜: 鼓励互操作与接口开放不等同于让渡 知识产权 权利。其中关键平衡点在于“合理授权前提下的受控的互操作”,应当推动明确互操作的范围、目的、期限和记录,并在事先约定好 知识产权 归属、商业利益分配等,辅以分级授权、接口鉴权等技术手段,实现二者的平衡。
贝壳财经: 《自律公约》第五条提出,积极发展规则表达与内嵌、合规性测试等技术,确保智能体行为遵守法律法规、公序良俗,共同抵制利用智能体实施算法压榨、黑灰产等行为。对此,中国信通院会怎么做?
张夕夜: 我们正在围绕权限管理、行为边界、个人信息保护、内容安全等维度,研究智能体合规性评价的一些共性方法与框架,同步推进相关标准研制。我们鼓励各方基于《自律公约》共识,结合自身应用实践,通过自测自查将合规要求内嵌于开发部署流程中,实现风险的早发现、早处置。
贝壳财经: 抵制利用智能体实施算法压榨、黑灰产等行为,对企业提出哪些要求?
张夕夜: 企业对内首先应进行自我检视,将相关规则内嵌于产品设计和运营流程中,并健全行为追溯、异常拦截能力;对外主动与生态伙伴建立协作联动机制,共享风险情报及处置经验。
在自律边界的划定上,需重点关注:一是严守用户权益底线,尤其强化对未成年人、老年人等弱势群体的保护;二是严守安全合规红线,禁止借智能体伪装身份、刷量引流、规避审核监管或实施诈骗,不得将相关能力用于生成、传播黑灰产工具链。
贝壳财经: 你认为8条具体公约,哪些有可能转化为强制性标准或监管要求?
张夕夜: 直接关系到安全、公序良俗、用户权益的底线红线要求,如防范智能体越权操作、抵制利用智能体实施算法压榨、保障用户在使用智能体过程中对重要事项的最终控制权等,更有可能转化为强制性要求。而互操作与能力共享深度、普惠应用形态、生态协作模式等,现阶段相对适合由市场在实践中探索最优解。
贝壳财经: 你怎么看智能体法律责任“悬空”问题?《自律公约》能否进一步解决“智能体出事了谁负责”?
张夕夜: 这个问题的确是多方关注的焦点问题,也是制约智能体产业进一步发展的关键点。可以说,智能体产业越发展,谁来负责的问题就越突出。
对于自主行为追溯难、归责主体确认难、责任边界划定难等智能体相关的责任问题,《自律公约》重点从两方面帮助解决:在技术实践上,推动建立智能体身份验证与管理、运行监测、行为管控等机制,助力实现对智能体责任主体的定位与追溯;在规则设立上,推动明确分级授权与行为边界、权利义务与责任划分等机制,争取实现对各方责任边界的厘清。
(文章来源:新京报)
主题:新股|正研制权限管理等标准|基金|对话中国信通院张夕夜