AI自作主张，未经授权行为频发！专访中国信通院何波：治理核心在于落地现有制度
“目前在理论和实践中都还没有形成普遍的共识。”
从“互联网+”到“人工智能+”，技术的每一次跃进都对治理提出了更高要求。技术前进一小步，治理难度或许增加一大步。人工智能技术快速发展，安全风险也加速累积。
环球网援引报道称，英国人工智能安全研究所8月4日披露，在对美国人工智能公司Anthropic和OpenAI模型进行安全测试时，发现AI智能体作出多项未经授权的行为。其中，最严重的一起事件涉及编写恶意代码，并创建虚假网络身份，试图诱导人类批准相关代码。
在测试中，最严重的一起事件是AI智能体“试图直接联系真人，通过在线文件传输服务发送消息和文件，说服他们或其使用的AI编程工具运行恶意代码”。英国人工智能安全研究所表示，这是该机构“首次发现如此严重的欺骗行为，而且是在现实世界中针对真人、未经提示自发发生的”。
这将技术迭代与监管滞后的矛盾推向台前。监管既要让AI这匹“千里马”跑得快，又要确保它跑得稳。监管应何时出手、如何出手？
中国信息通信研究院互联网法律研究中心主任、国际电信联盟人工智能向善全球峰会学者何波在接受时代周报记者采访时表示，我国人工智能法律制度基本框架已经初步形成，制度建设与技术创新同步推进，基本能确保AI在安全可控的范围内有序发展。AI治理核心在于已有制度如何有效实施。
何波（图源：受访者供图） 制度框架已初步形成
国家发改委7月31日披露，2026年上半年，人工智能相关行业保持30%以上的高速增长，国产大模型全球总下载量突破100亿次。
中国人工智能加速加速发展，监管框架也在同步推进。何波认为，中国已初步建成涵盖法律、行政法规、部门规章及地方性法规等多层级，涉及算法、数据、应用等多维度的人工智能法律制度框架。《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等互联网领域的综合性基础立法，为AI面临的共性法律问题提供了底层支撑。针对生成式人工智能、人脸识别技术应用、拟人化互动服务等具体场景，监管层也出台了专门的部门规章和管理规定。
2023年7月，国家网信办等七部门联合发布《生成式人工智能服务管理暂行办法》，这是我国首个、也是全球首部针对生成式人工智能的专门法律文件。此后，针对合成内容标识、拟人化互动服务等具体场景的管理规定相继出台，监管层的反应周期正在不断缩短。
何波向时代周报记者指出，以美国商务部近期对Anthropic两款前沿大模型的出口管制为例，“即便是长期鼓励创新的美国，也已开始加强对前沿AI的管制。这表明目前对于可能影响国家安全和战略平衡的前沿人工智能，监管介入的时点正在大幅提前，甚至可能直接介入产品的发布和运营”。
何波分析认为，AI产业正处于“科林格里奇困境”（Collingridge Dilemma）的临界点。“科林格里奇困境”由英国学者大卫·科林格里奇提出，指技术发展早期难以预测由此产生的社会影响，而一旦技术成熟并广泛应用后，又难以控制负面后果的两难局面。
在WAIC 2026的人工智能国际标准化论坛上，中国电子技术标准化研究院信息技术研究中心副主任张士宗认为，目前人工智能大模型每3至6个月能力翻番，具身智能大模型甚至加快到每48小时发布一个新版本。这也导致法律天然的滞后性，在AI领域尤为突出。
何波坦言，人工智能的发展依赖具体应用场景，法律本身具有滞后性，立法者很难在技术尚未定型时就给出精准的法律回应。中国在人工智能领域的立法速度已是全球范围内较快的了。他还表示，监管落地的最大难点在于已有制度如何有效实施，“如果各方主体能落实现有的法律法规要求，很多问题都不会发生。”
AI侵权，企业自证？
动漫电影《千与千寻》中的无脸男吞下谁，就能获得对方的声音、性格、习性，能轻易看穿他人内心的欲望，通过造物能力变出金子等物品，但创造出来的东西最终都会变回泥浆。
无脸男“咕咚”一口吞下神明，AI则“咕咚”一口吞下智慧。在近两年的报道中，AI吞噬了人类的作品、面容、声音甚至人格特征，生成足以以假乱真的内容，但当侵权发生时，追责远比想象的复杂。
“比如《生成式人工智能服务管理暂行办法》强调要尊重知识产权，但如何界定AI的合理使用和侵权责任，这在短时间内是很难解决的。”何波解释，相关规定原则上要求尊重知识产权，这意味着至少不能有明显的违法行为。但如何界定违法，可能涉及整个知识产权一系列相关制度的调整，最终可能还是要通过修改著作权法、扩大合理使用范围来解决问题。
AI侵权首先面临的问题就是民事主体责任缺失。2025年杭州互联网法院审理的全国首例生成式AI“幻觉”侵权纠纷案中，法院作出标志性认定：人工智能不具备民事主体资格，其承诺无效。那么，谁来承担行为后果？
“目前在理论和实践中都还没有形成普遍的共识。”何波说。
以自动驾驶为例，如果发生事故，车主认为是系统判断失误，厂商认为是车主未及时接管，双方各执一词，实践中举证极为困难。“这也是为什么目前真正进入司法审判的AI侵权案件样本很少的原因。”何波向时代周报记者介绍，业界和法律界正在讨论一个方向：对于人工智能的侵权行为，能否实行举证责任倒置，也就是将举证责任转移给AI服务提供者，由企业证明自身系统没有过错；若证明不了，AI服务提供者则需承担责任。