21专访丨清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜:AI治理是全球公共产品
21专访丨清华大学苏世民书院院长、人工智能国际治理研究院院长薛澜:AI治理是全球公共产品
2026年11月21日 07:0
11月19日,亚太经合组织(APEC)第三十三次领导人非正式会议在深圳顺利闭幕。 人工智能 是此次会议的重要议题之一。
当前,AI作为引领本轮科技革命和产业变革的战略性技术,已经具备改变人类生产生活方式乃至深刻影响世界的巨大潜力。构建包容、普惠的全球AI治理体系不仅事关全球公平问题,更会对全球发展、全球安全产生重要影响。
在此次APEC会议成功举办之际,我们与清华大学苏世民书院院长、 人工智能 国际治理研究院院长薛澜展开对话。薛澜教授是国内权威的创新治理领域专家,他给出了自己对AI领域“加速主义VS悲观主义”争论的“解法”,分析了AI治理国际协调的痛点和对策,并特别探讨了APEC和粤港澳大湾区对于AI治理的独特价值。
薛澜认为,APEC机制的“小规模、多元化”特点,更有利于达成AI治理共识,推动AI包容普惠发展;粤港澳大湾区发达的产业应用场景、丰富的治理制度框架,有利于加速构建适配AI健康发展的“社会—技术系统”。
薛澜。资料图
AI治理的目的不仅是应对风险
《21世纪》:最近,美国三大科技公司 Anthropic 、OpenAI与 SpaceX 的首席执行官罕见联手,集体呼吁放缓AI开发步伐。你如何看待这一现象?
薛澜:这些AI巨头联合呼吁放缓AI开发步伐,说明AI发展到了一个新的阶段,即AI失控的风险正在增加。
AI的安全风险可以分为三类:AI技术本身可能产生技术幻觉、算法歧视甚至技术失控等内生风险;AI技术的大规模普及可能产生误用、滥用、恶用等应用风险;AI技术变革的颠覆性影响可能引发劳动力结构调整、社会不平等加剧等经济社会风险。其中,人类社会面临的最大潜在风险就是技术失灵引发的失控情况,亦即当AI的自主性过强时,人类丧失对它的控制权。
因此,这些AI巨头联合呼吁放缓AI开发步伐的行为值得欢迎,而且他们应该毫不犹豫地采取措施。在2024年 人工智能 首尔峰会上,16家全球领先的科技公司作出“前沿AI安全承诺”,表示将努力确保其最先进的AI模型的安全性,并实施负责任的治理。他们应该履行当时的承诺。
当AI技术发展到某一个阶段,是否应该有“暂停”的选项?这是一个根本性治理问题。在生命科学领域,伦理底线的设立已较为成熟。例如,人类胚胎编辑、克隆等研究方向已在国际上形成广泛共识,不少国家设立了明确禁区。AI是否也应设定类似的“伦理红线”?近年来,该问题的紧迫性与争议性显著上升,凸显出科技界内部对于“不可控风险”的现实焦虑。
《21世纪》:有观点认为不需要暂缓,一旦AI触碰“伦理红线”,可以“拉闸断电”,或者像治理核技术那样设置一个“关闭按钮”,这样可行吗?
薛澜:不少人曾提议用监管核技术的方式来监管AI技术。虽然这在机制上可能实现,但在技术上存在很大差异。比如,核技术的提炼过程需要大规模设备,容易被监管方发现;而AI系统则不同,它类似一个实验室,监督AI系统是否合规存在较大难度。
二者的治理逻辑也有显著差异。核技术的起点是制造原子弹用于战争,从风险到危害的路径清晰,需要各国参与防控;而AI技术的起点本质上是在经济生活中应用,并推动创新福祉的扩散,其风险是在应用过程中伴生的,具有较大不确定性。因此,各国政府在进行AI风险治理时,很难将大模型“一禁了之”。用对旧技术的治理来解决新技术的问题,本身可能存在很大的风险。
《21世纪》:AI不能一禁了之,那么AI治理到底应该怎么办?
薛澜:AI技术发展呈现指数型演进,而治理体系的演进则普遍存在滞后与碎片化现象,导致出现典型的技术发展与技术治理之间的步调不一致。监管政策的制定、立法程序、标准建设等过程均具有特定的周期性与协商性等特征,很难与技术迭代的速度实现同步对接。
在此背景下,“边创新边治理”的“敏捷治理”是现实可行的治理方式。敏捷治理强调政策工具的快速反应和适应性演化,推动AI技术发展的利益相关方形成持续性的共同学习和探索机制,根据前沿AI发展及其带来的收益、风险及时调整治理对象和内容,采用分级分类、监管沙盒等方式,通过治理结构、治理策略、治理工具的灵活创新克服AI治理的难点。
敏捷治理还要求技术风险监管部门改革传统的风险监管思路,把监管者与被监管者之间的“猫鼠”关系改变为深度交流与相互依赖的互动关系;对产业发展过程中的风险进行及时评估;发现问题苗头后及时采取引导性、指向性而非惩罚式、选择式的监管策略。
AI治理的目的不仅是应对风险,更重要的是塑造AI的“社会—技术系统”,推动相应制度架构协同演化,最终形成一个兼具创新性、安全性与公平性的社会应用生态。
图片来源:新华社
需要改变当前的AI叙事
《21世纪》:你最近撰文指出,全球AI治理正在经历历史性跨越,从“共识形成”进入“制度建构”阶段。但与“形成共识”相比,“制度建构”更难,制度必须落实到约束力上。你认为“制度建构”的重点和难点是什么?
薛澜:当前较为严峻的全球治理挑战,主要是地缘政治冲突对AI合作形成的障碍。原本可以在技术、伦理、标准等层面展开广泛合作的AI治理议题,越来越多地被纳入战略博弈的框架之中。
破解这个难题,需要改变当前的AI叙事。这个叙事是指:通用人工智能(AGI)的研发是少数国家主导、大型科技企业牵头的“竞赛型项目”。在这个叙事里,美国的科技公司即便看到了AI失控的风险,并且呼吁科技界暂停AI研发,它们自己却不愿意暂停,担心会被其他的科技公司追上。这样的叙事非常危险,会让全球协同开发与风险共担的路径很难实现。
这个叙事也是错误的。首先,中美两国科技公司并没有竞争谁先达到AGI。AGI只是一些科技公司提出的概念,还有很多科技公司并不认为存在AGI这么一个特定节点,它们认为AI发展是一个不断改进、不断实现新目标的过程。其次,中美两国AI发展的路径不同,美国崇尚“ 大数据 —大算力—大模型”的规模定律(Scaling Law),认为拥有更多数据、更多算力资源的公司能够训练出参数量更大、性能更为优越的模型;中国则更强调发展模型的同时不断提升它的应用表现。所以,两国科技公司不存在“你死我活”的竞争。正确的叙事应该是,不管哪个国家的科技公司,即将触碰AI安全红线的时候都必须暂停,并采取治理措施,没有哪家公司拥有不停下的特权。
《21世纪》:近年来,国际社会针对AI治理动作频频,也取得了一定成果,但治理的进步与技术的发展之间仍存在不够匹配的情况,这是为什么?
薛澜:AI治理是涉及法律法规、行业标准、国际协调的复杂系统,需要不同国家、国际组织、相关企业的共同参与。全球治理中存在所谓的机制复合体(regime complex)问题:在复杂的全球性问题上,一系列不同的治理机制都有一定的发言权,但这些机制之间并无上下从属关系,它们可能相互重叠、相互冲突,甚至是完全矛盾的。这同样适用于AI治理。
目前,以联合国为代表的国际组织、以中美为代表的AI大国、以 微软 和谷歌等为代表的跨国企业等各类国际行为体都在深度参与AI治理。这些参与主体在治理理念、关注议题、治理偏好、治理能力上存在差异,导致AI国际治理呈现嵌套、重叠、平行的碎片化局面,在合理性、公平性、有效性等方面存在一系列治理赤字。在此背景下,如何协调这些相互重叠、不同层次、不同诉求的参与主体,建立受到广泛认可的AI全球治理机制复合体,是AI治理的重要挑战。
《21世纪》:近日,中国率先批准《关于成立世界人工智能合作组织的协定》,体现了推进合作组织筹建进程的真诚意愿和坚定承诺。你认为这给全球AI治理合作带来了怎样的启示?
薛澜:AI治理是全球公共产品,具有极强的外部性,一个国家不安全,所有的国家都不安全,攸关全人类命运,是世界各国亟须共同应对的重要挑战。积极参与AI全球治理是中国引导AI健康有序发展的基础和前提,率先批准《关于成立世界人工智能合作组织的协定》,体现出中国在联合国框架内加强AI治理协作和标准塑造的决心,世界人工智能合作组织下一步开展的具体工作非常值得期待。
一个非常好的AI治理试验平台
《21世纪》:你曾指出全球南方国家在AI治理中结构性缺位,不仅存在算力和数据的差距,还在语言和文化上“被定义”。亚太区域是全球南方国家分布最密集的地区之一,如何借助APEC平台做出一些改变?
薛澜:联合国有193个会员国,让这么多国家在治理问题上达成共识,其实非常困难。APEC目前共有21个成员经济体,相比于联合国数量有限,更有利于达成共识。APEC成员同时具有多样性,在AI发展程度方面,APEC成员中既有中美这样的AI发展大国,也有一些AI发展紧随其后的经济体,更有AI发展比较慢的经济体;在 AI应用 场景方面,APEC成员经济体语言、文化多元,给AI技术提供了很好的应用场景。
这种小规模、多元化的特征,使得APEC成为一个非常好的AI治理试验平台。最近在深圳举行的亚太经合组织(APEC)第三十三次领导人非正式会议提供了非常好的机遇,让大家可以共同探讨怎样有效防范AI安全风险,推动AI包容普惠发展。
《21世纪》:粤港澳大湾区的AI产业密度高,能否成为亚太地区AI治理规则互鉴的窗口?
薛澜:大模型发展到目前,仍然只是“上半场”。目前一个不争的事实是:AI技术能力快速提升,却还不足以很快转化为经济与社会价值的增长。目前为止,除了软件、编程等领域,AI在其他很多领域虽然有应用,经济价值却还没有完全体现出来。
为什么技术到位了,应用还有待落地?历史上有个特别经典的案例—— 汽车 。1885年,奔驰造出第一台内燃机 汽车 原型。但当时整个社会体系远远没有跟上, 汽车 是奢侈品,并不是真正的交通工具。后来,福特Model T把汽车的成本从大约850美元降到300美元,买车的人才多起来。但买车只是开始,车要跑得远,需要更好的道路;跑远了,要解决加油问题,加油站建设就跟上了;上路不能都是“马路杀手”,交通规则和驾照体系跟了上来;出了事故,保险体系也跟了上来。这一整套软硬件设施是逐渐演变出来的。
把镜头拉回AI,我们已经有了“发动机”——大模型能力已经相当强,但对应的“道路系统、交通规则、驾驶员”,也就是应用落地所需的社会系统,还没有建立起来。这就引出我一直强调的“社会—技术系统”(STS)视角:技术对社会的影响,必须和一个更广泛的社会制度体系结合在一起。技术不是单向驱动社会发展的,而是与社会互动、共同演化的过程。粤港澳大湾区既有内地基础设施完善、产业应用场景丰富的优势,又有港澳制度多元的特点,解决AI治理问题的工具更加多元,这有利于加速构建“社会—技术系统”,更好推动AI技术的应用。
(文章来源:21世纪经济报道)