科学网—只有公众的深度介入科技伦理才能形成治理闭环
精选
已有 105 次阅读
2026-9-9 16:51
| 系统分类: 观点评述
只有公众的深度介入科技伦理才能形成治理闭环
李侠
（上海交通大学科学史与科学文化研究院）
2025年12月初的时候，刘兵教授来电话，说想找我和杜严勇教授一起合写一本对话体的小书，内容是关于人工智能伦理与社会影响方面的话题，目标群体是面对大众读者的通俗读物，以此和学术文本区别开来，并告知已经和山东科学技术出版社联系好了。对话体是一种非常有弹性的写作文体，我以前没有经历过，对此充满好奇并欣然答应，然后根据拟定好的写作提纲，三位对谈人、责任编辑陈昕老师以及在场的几位博士生，在初冬的闵行的宾馆里的无数次对谈与讨论中，这本 《AI伦理十日谈》在2026年春节前终于尘埃落定，那些曾经的香烟、茶水与咖啡的味道仍然萦绕在我们每次谈话的记忆中。
人工智能代表了当今时代的最前沿科技产品，它蕴含的巨大现实可能与潜在功能将直接影响社会生活的方方面面，因此，在人工智能发展初期对其进行伦理治理是保证科技向善的必要措施。然而，由于人工智能向各领域的扩散与渗透的能力是无法事先完全预料到的，这就意味着无论我们多么小心谨慎人工智能在其发展过程中都不可避免地会带来意料之外的后果，因此未雨绸缪地规划人工智能的发展并将其风险最小化事关人类整体的福祉，然而科学史上的无数案例证明，人类的伦理规制总是呈现出滞后的特征，这是人类有限理性与认知局限性决定的，抛开这种先天短板不谈，已有的成熟伦理规则在规范科技发展的时候经常会出现规范失灵的现象，究其原因在于在伦理规范运行的链条上长期存在一个缺口，即公众的参与，导致伦理规范的功能无法真正落地，这才是伦理规范在实践层面失灵的真实原因。就如同交通信号灯之所以能有效调控交通运行秩序，就在于无数接受此规范的公众在实践中践行这套规范才导致的结果。
伦理治理的成功同样需要公众的深度介入。以往的伦理治理失灵在于仅从伦理链条的上游推动伦理规范运行，而在伦理链条下游的功能则存在被有意或无意忽视的现象。这与人们长期形成的错误认知有关，人们通常认为伦理规范的实现主要依托于伦理链条的上游发挥作用，即政策制定者、生产厂商与设计者担起责任，在人们的心目中，那些位于上位的伦理主体才是实现伦理治理的决定性力量（垂直型社会的典型认知），我们从来不否认这些上位者在伦理治理中的作用，但是在权力日益分散与信息流通如此快速便捷的今天，整个社会开始从垂直型社会向扁平型社会过渡，这就导致位于伦理链条下游的公众（消费者、旁观者）开始具有决定性的治理力量，试想今日网络上的一些来自民间的力量所具有的影响力早已超过传统社会里的管理者与专家所具有的影响力，更有无数社会上的热点事件不是靠专家学者而是靠无数公众舆论的力挺而最终得到妥善解决的，这就是规范下沉带来变化的最好说明。AI伦理的治理同样需要遵循这个规律。公众的介入给伦理治理带来三个深刻变化： 首先，公众的介入使伦理治理链条形成闭环，弥补了长期存在的伦理主体缺口；其次，公众的介入有助于完成认识论领域的试错，从而加速人类对新事物本质的了解；第三，公众的介入能够形成一种可持续的良性伦理治理生态环境。
目前学术界流行的分布式伦理治理也体现了这种伦理规范下沉与伦理分工的发展趋势。所谓的分布式伦理治理就是基于分工原则，把伦理治理责任细分到每个环节，从而让更多的伦理治理主体参与到伦理治理的实践中来，笔者认为这也是近十年来在伦理治理领域最具现实操作性的伦理治理理念。如何让那些长期被遮蔽的潜在伦理主体（消费者与旁观者）参与到伦理治理的实践中来，就需要把消费者与旁观者拉入到科技产品的伦理监督框架内，使之成为他们的一种份内责任，这样伦理治理下沉才能真正落地。基于这种考虑，这本《AI伦理十日谈》里选择的十个主题尽量与每个人的日常生活息息相关，使他们无法事不关己高高挂起，不论喜欢与否，AI带来的变革他们都无法切割也无法回避，由于被绑定的命运他们不得不对AI引发的后果进行道德判断，这是他们必须保卫自己未来的责任所在。
如关于无人驾驶的伦理问题，这就是发生在我们身边的日常事务，没有人可以绕过去，即便你不买自动驾驶汽车，也免不了遇到无人驾驶带来的交通事故问题，对此你还能袖手旁观吗？再比如，我们的社会已经进入到深度老龄化社会，据民政部最新数据，截至2025年末，全国60周岁及以上老年人口32338万人，占总人口的23.0%；全国65周岁及以上老年人口22365万人，占总人口的15.9%。面对这种人口快速老龄化的紧迫局面，传统的养老模式显然已经无力维持如此庞大的老人照护问题，在AI加持下养老机器人的上场是大势所趋，那么养老机器人会给我们的社会带来哪些问题呢？这个现实至少会让3.2亿老年人参与到对这个问题的思考中来，连带他们的亲人也会加入进来，即便他们出于私利的考虑也会倒逼养老机器人厂商与设计者完善相关的伦理设计，这就相当于无形中增加了伦理治理的队伍规模。再比如情侣机器人，这也是有着广泛市场需求的一个领域，资本与人工智能会深度介入这个“蓝海”领域，那些无数的匿名消费者的积极介入，一方面直接保证了产品质量的提升，另一方面，消费者与旁观者甚至会思考它对传统家庭模式与生活方式带来的变化。由于AI凭借其算法、算力以及大数据的大力出奇迹的独特运行模式，在人工智能时代隐私问题就成为全民性问题，AI时代所带来的高度透明化社会是否意味着我们已经进入了后隐私时代，它会给我们的生活与存在方式带来哪些影响？再比如AI对教育、医疗、战争等的影响，这些话题离我们的生活并不遥远，没有人可以完全避开，这就意味着公众主体介入伦理治理链条是有着现实基础的。通过对十个AI嵌入生活场景的分析，伦理治理下沉的路径已经清晰展示出来，伦理治理主体链条上缺少的那个公众环节得以补上，从而形成完美的伦理治理闭环结构。本书采用对话模式，以生活场景切入AI的灰暗地带，最终得以展现分布式伦理治理闭环结构的运作机制。
AI的发展速度太快，它的本质以及其所具有的潜在不确定性也是难以完全揭示与预料的，传统的个别精英知识显然已经无法满足对于当下的需要，而群体知识则是去蔽与消解不确定性的最佳策略，因为公众的深度参与完成了认识论领域的宝贵试错功能。对于人工智能本质的认识而言，公众参与就是升级版的“盲人摸象”，我历来认为盲人摸象不是贬义词，而是人类在认识新事物时的必经之路，正是由于一个个具有不同知识与经验的人的不同认知与偏好，才能为我们全面理解新事物提供丰富的细节材料，然后才可能有人在这个基础上形成对事物的大综合与整体性认知，在这种新的整体认知的基础上，人类再重复盲人摸象的认知进路，经过无数次迭代，最终我们对事物的本质认知就是在这个看似粗粗的过程中实现了质的飞跃。由于人类认知的有限性与局限性，对于作为一种革命性新生事物的人工智能而言，它的无限潜能与后果都不可能由一个天才式的人物独自完成，它需要无数人从无数个侧面揭示其内在的局部本质，整合这些片面的认知，最后完成对人工智能的整体性认知。这里的无数人就是那些散布于社会各个角落的公众，没有他们的深度介入，我们对于人工智能本质的认识的进程将会被严重遏制，抛砖引玉，这也就是我们为什么做这个专题的初衷之一。
由于AI对未来社会的冲击是全方位的，甚至是第四次产业革命的引擎，因此，我们每个人都要问一下自己我们真的准备好了吗？从这个意义上说，积极参与AI治理就是保卫社会也是保卫我们自己。为了让AI行稳致远而不出现失控，唤醒公众参与AI的伦理治理，不仅仅为了弥补缺口，更是为了营造一种使科技向善具有可持性的 伦理治理生态环境 ，而非一时热闹。就如同不闯红灯，不随地吐痰，不是靠监督实现的，而是通过规范下沉内化为公众的一种认知，由此文明的生态环境通过正反馈机制得以持续加强，而且是低成本的。同理，公众的积极介入正是形成良好伦理治理生态环境的基础性工作，文化生态环境的建设历来是缓慢的，一旦形成，到那时所有的人在面对AI产品时都会下意识地问一声：它符合伦理吗？
【博主跋】这篇小文章发在《中国科学报》2026-09-04的A4版，发表时名字改为《 只有公众“盲人摸象”式介入，才能形成AI治理闭环 》与编辑李老师合作愉快，另外，刚刚得知文中所评的小书《AI伦理十日谈》刚刚入选2026年8月中国好书推荐书目。这篇文章算是对这本书中内容的进一步拓展，是为记！
说明：文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢！
2026年9月9日临屏涂鸦
转载本文请联系原作者获取授权，同时请注明本文来自李侠科学网博客。 链接地址： https://blog.sciencenet.cn/blog-829-1551764.html
上一篇： 祝贺丁海亮博士后出站 欢迎参加科学网十佳博文评选活动！ 主办单位： 
支持单位： 