只有公众“盲人摸象”式介入，才能形成AI治理闭环
《AI伦理十日谈》，杜严勇、李侠、刘兵著，山东科学技术出版社2026年6月出版，定价：69元 ■李侠
2025年12月初，清华大学教授刘兵来电话，说想找我和同济大学教授杜严勇合写一本对话体的小书，内容是关于人工智能（AI）伦理与社会影响方面的话题，目标群体是大众读者，作为通俗读物，和学术文本区别开来。
对话体是一种非常有弹性的写作文体，我以前没有尝试过，对此充满好奇并欣然答应。随后，根据拟定好的写作提纲，3位对谈人、山东科学技术出版社责任编辑陈昕以及几位博士生，在初冬的上海闵行区一家宾馆里进行了多轮对谈与讨论。终于，在2026年春节前，这本《AI伦理十日谈》尘埃落定。
公众开始具有治理力量
AI代表了当今时代的最前沿科技产品，它蕴含的巨大现实潜力与潜在功能将直接影响社会生活的方方面面。因此，在AI发展初期开展伦理治理是保障科技向善的必要措施。
然而，由于AI向各领域扩散与渗透的能力是难以完全预料的，这就意味着无论我们多么小心谨慎，AI在发展过程中都不可避免地会带来意料之外的后果。因此，未雨绸缪地规划AI的发展并将其风险最小化，事关人类整体的福祉。
然而，科学史上的无数案例证明，人类的伦理规制总是呈现出滞后的特征，这是人类有限理性与认知局限性决定的。抛开这种先天短板不谈，已有的成熟伦理规则在规范科技发展时，常会出现规范失灵的现象，原因在于伦理规范运行的链条上长期存在一个缺口，即公众的参与。这导致伦理规范的功能无法真正落地，是伦理规范在实践层面失灵的真实原因。就如同交通信号灯之所以能有效调控交通运行秩序，是因为无数遵守此规范的公众在践行这套规范。
伦理治理要想成功，同样需要公众的深度介入。以往的伦理治理失灵原因是仅从伦理链条的上游推动伦理规范运行，而在链条下游的功能则被有意或无意忽视。这与人们长期形成的错误认知有关，人们通常认为伦理规范的实现主要依托于伦理链条的上游发挥作用，即政策制定者、生产厂商与设计者担起责任。
在人们的心目中，那些居于上位的伦理主体才是实现伦理治理的决定性力量，这是垂直型社会的典型认知。我们从来不否认这些上位者在伦理治理中的作用，但是在权力日益分散与信息流通如此快速便捷的今天，整个社会开始从垂直型社会向扁平型社会过渡。这就导致位于伦理链条下游的公众，如消费者、旁观者开始具有决定性的治理力量。今日网络上一些来自民间的影响力早已超过传统社会里的管理者与专家，更有无数社会热点事件不是靠专家学者，而是靠无数公众舆论的力挺最终得到妥善解决，这就是规范下沉带来变化的最好说明。
AI伦理的治理同样需要遵循这个规律。公众的介入给伦理治理带来三个深刻变化：首先，公众的介入使伦理治理链条形成闭环，弥补了长期存在的伦理主体缺口；其次，公众的介入有助于完成认识论领域的试错，从而加速人类对新事物本质的了解；最后，公众的介入能够形成一种可持续的良性伦理治理生态环境。
公众无法“袖手旁观”的10个场景
目前学术界流行的分布式伦理治理，也体现了这种伦理规范下沉与伦理分工的发展趋势。所谓的分布式伦理治理就是基于分工原则，把伦理治理责任细分到每个环节，从而让更多的伦理治理主体参与伦理治理的实践。笔者认为，这也是近十年来在伦理治理领域最具现实操作性的伦理治理理念。
如何让那些长期被遮蔽的潜在伦理主体，如消费者与旁观者参与伦理治理的实践？这需要把消费者与旁观者拉入科技产品的伦理监督框架内，使之成为他们的一种分内责任，这样伦理治理下沉才能真正落地。
基于这种考虑，这本《AI伦理十日谈》里选择的10个主题尽量与每个人息息相关，使人们无法事不关己高高挂起，不论喜欢与否，都无法切割也无法回避AI带来的变革。由于被绑定的命运，人们不得不对AI引发的后果进行道德判断，这是保卫未来的责任所在。
比如，关于无人驾驶的伦理问题，这是发生在我们日常生活中的事情，没有人可以绕过去。即便你不买自动驾驶汽车，也免不了遇到无人驾驶带来的交通事故问题，对此你还能袖手旁观吗？
再比如，我们的社会已经进入深度老龄化。据民政部最新数据，截至2025年末，全国60周岁及以上老年人口32338万人，占总人口的23.0%；全国65周岁及以上老年人口22365万人，占总人口的15.9%。面对这种人口快速老龄化的紧迫局面，传统的养老模式显然已经无力维持如此庞大的老人照护问题，在AI加持下，养老机器人的上场是大势所趋。那么养老机器人会给我们的社会带来哪些问题呢？这个现实至少会让3.2亿老年人参与思考，连带他们的亲人也会加入进来。即便他们出于私利的考虑也会倒逼养老机器人厂商与设计者完善相关的伦理设计，这就在无形中扩大了伦理治理的队伍规模。
又比如情侣机器人，这也是一个有着广泛市场需求的领域，资本与AI会深度介入这个“蓝海”领域。而那些无数匿名消费者的积极介入，一方面直接保证了产品质量的提升；另一方面，消费者与旁观者也会思考它给传统家庭模式与生活方式带来的变化。
由于AI凭借算法、算力以及大数据建立了大力出奇迹的独特运行模式，在AI时代隐私问题就成为全民性问题。其带来的高度透明化是否意味着我们已经进入“后隐私时代”，它会给我们的生活与存在方式带来哪些影响？还比如AI对教育、医疗、战争等的影响，这些话题离我们的生活并不遥远，没有人可以完全避开，这就意味着公众主体介入伦理治理链条是有现实基础的。
通过对10个AI嵌入生活场景的分析，伦理治理下沉的路径已经清晰展示出来，伦理治理主体链条上缺少的公众环节得以补上，从而形成完美的伦理治理闭环结构。本书采用对话模式，以生活场景切入AI的灰暗地带，最终得以展现分布式伦理治理闭环结构的运作机制。
从“盲人摸象”到成为认知
AI的发展速度太快，它的本质及潜在不确定性也是难以完全揭示与预料的。传统的个别精英知识显然已经无法满足当下的需要，而群体知识则是去蔽与消解不确定性的最佳策略，因为公众的深度参与发挥了认识论领域的宝贵试错功能。
对于AI本质的认识而言，公众参与就是升级版的“盲人摸象”。我历来认为这并非贬义词，而是人类在认识新事物时的必经之路。正是由于一个个具有不同知识与经验的人的不同认知与偏好，才能为我们全面理解新事物提供丰富的细节材料，继而才能有人在这个基础上形成对事物的大综合与整体性认知。在这种新的整体认知的基础上，人类重复“盲人摸象”的认知进程，经过无数次迭代，最终我们对事物的本质认知就在这个看似粗砺的过程中实现了质的飞跃。
由于人类认知的有限性与局限性，对于作为一种革命性新生事物的AI而言，它的无限潜能与后果的认知都不可能由一个天才式的人物独自完成，它需要无数人从无数个侧面揭示其内在的局部本质，整合这些片面的认知，最后完成对AI的整体性认知。这里的无数人就是那些散布于社会各个角落的公众，没有他们的深度介入，对于AI本质的认识进程将被严重遏制。抛砖引玉，这也是我们为什么做这个专题的初衷之一。
由于AI对未来社会的冲击是全方位的，甚至是第四次产业革命的引擎，因此，每个人都要问一下自己真的准备好了吗？从这个意义上说，积极参与AI治理就是保卫社会也是保卫我们自己。
为了让AI行稳致远而不出现失控，唤醒公众参与AI的伦理治理，不仅仅为了弥补缺口，更是为了营造一种使科技向善具有可持续性的伦理治理生态环境，而非一时热闹。就如同不闯红灯、不随地吐痰，不是靠监督实现的，而是通过规范下沉内化为公众的一种认知，由此通过正反馈机制使文明的生态环境得以持续加强，这是低成本的。同理，公众的积极介入正是形成良好伦理治理生态环境的基础性工作，文化生态环境的建设历来是缓慢的，一旦形成，所有人在面对AI产品时都会下意识地问一声：它符合伦理吗？
（作者系上海交通大学科学史与科学文化研究院教授）