AI与伦理
AI与伦理
人工智能（AI）的飞速迭代，正深刻重塑医疗行业的发展形态。
2025年8月，国务院印发《关于深入实施“人工智能+”行动的意见》，提出有序推动AI在辅助诊疗、健康管理等场景的应用。2025年11月，国家卫生健康委等5部门联合发布《关于促进和规范“人工智能+医疗卫生”应用发展的实施意见》。
我国AI医疗正进入政策驱动的快速发展期。然而，技术狂飙突进的背后，数据安全、算法公平、权责界定、人文缺失等伦理难题相伴而生。
为推动我国医学伦理治理体系现代化建设，近日，中华医学会医学伦理学分会2026年学术年会（第二十五届学术年会）在安徽省合肥市召开。会议邀请科技伦理、医学伦理等领域专家、学者，围绕相关主题，分享国际、国内最新研究成果和前沿动态。
“伦理学不应被视为技术发展的‘刹车器’，而应是‘导航器’。”在接受本报采访时，广州医科大学人文社会科学研究所所长刘俊荣指出，只有将伦理真正融入技术研发和迭代的过程中，才能更好地服务于“健康中国”建设和临床高质量发展。
当前AI医疗风险呈怎样的分布态势？从技术内部着手防范AI风险是否可行？为探寻答案，本报采访多位专家，整理成文，以飨读者。
北京大学博雅特聘教授、北京大学医学史研究中心主任张大庆：
AI医疗的风险治理
张大庆
当下，人工智能（AI）医疗应用已经深入临床的方方面面。公众在积极拥抱AI技术带来的便利与创新的同时，对其潜在的伦理风险、数据安全隐患以及监管体系的完善性诉求也在增长，形成了一种“乐中存忧”的社会心态。
从我国的情况来看，数据显示，中国职场对AI的利用率位居全球前列；但公众对于数据保护的信任度却呈现下降趋势，揭示了技术快速落地与社会信任建设之间的现实矛盾。
这种“技术乐观主义与监管诉求呈正相关”的趋势，说明在广泛使用过程中，大家发现了更多问题，从而提高了治理需求。这恰好印证了贝克（Ulrich Beck）的“风险社会”理论：高新技术的社会效益与负面效应同步呈指数级增长，两者是无法割裂的共生关系。我们不可能只要收益而完全规避风险，必须建立起与之相适应的风险文化。
研究显示，全球公众对于AI的态度呈现出明显的地域文化差异。新兴经济体普遍持乐观态度，期待技术赋能带来的红利；而发达经济体则更多表现出审慎观望态度。这种差异并非仅由技术接触度决定，而是与各国的监管历史、媒体叙事等密切相关。
AI医疗风险也并非均匀分布，而是与既有的社会不平等高度重叠。如果缺乏包容性思维，AI不仅无法缩小健康差距，反而可能通过技术壁垒固化、放大结构性不平等。例如，年轻、高学历、城市群体对AI风险的敏感度和监管诉求更高；而老年群体及数字弱势群体，既难以享受AI医疗的技术红利，又缺乏风险辨识能力，甚至在治理规则制定和监督问责环节中被结构性地排除在外。
风险问题与信任问题是密切关联的。信任度越高，主观风险感知就越低。医务人员对AI建立信任涉及四个维度：第一，技术认知，即技术性能指标是否真正超越人类专家并符合临床思维；第二，人际交互效用，即AI能否无缝嵌入临床工作流并为医生减负；第三，法律与伦理责任，即当AI辅助诊断出现偏差时，关于责任由谁承担是否有明确的界定；第四，机构治理，即医院是否建立了针对AI应用的容错机制和风险分担机制。
相关调查显示，目前中国医务人员对医疗AI的应用呈现出“高认知、高期待、低应用”的特点。这说明问题不在于认知，而在于技术成熟度、临床工作流程的整合以及风险控制等尚未真正落地。
AI作为医患之间的中介，可以通过影响医患沟通、知识信息储备和环境条件三个要素，深度重塑患者对医生的信任，但也可能引发隐私安全、关怀缺失、制度不透明等风险。
总体而言，AI医疗的风险可归纳为三类：一是技术性风险；二是社会分配性风险；三是道德与制度风险。这三类风险相互交织、缠绕，因此在设计和应对时必须进行整合性考虑，而非单一处理。
AI医疗的风险治理本质上是一个社会问题，它关乎我们每一个人，并决定了未来希望建构一个具有何种人文温度与科技理性的健康照护社会。
广州医科大学人文社会科学研究所所长刘俊荣：
伦理学是技术发展的“导航器”
刘俊荣
当前，虽然国家已经明确“伦理先行”，但在实践中，如何更好地推动其发展落地仍是难题。在科研启动前的伦理审查过程中，必须确保审查人员懂得伦理审查的基本理论及相关的专业知识，具有伦理审查的胜任力，这是对伦理审查委员会委员素质的基本要求。
当前各机构伦理审查委员会的审查能力和水平参差不齐，委员不仅需要具备伦理意识，还要具备专业素养。面对脑机接口、干细胞等生物医学新技术，并非每个岗位的人员都熟悉所有领域。因此，委员会的人员结构中必须包含相关专家；若没有相应人员，至少要聘请独立顾问，以确保审查的科学性和伦理性。
“伦理先行”不能仅靠审查这一个环节，最终的落地要靠研究者去执行。在实际操作中，研究者应严格按照伦理审查的要求、方案以及知情同意书去执行，而不能只是形式上规范。此外，研发人员应力争做到“价值对齐”，即技术研发的目标和目的必须与人类的价值目标和目的保持一致。如果技术目的仅是为了追求效益，而未将患者权益放在第一位，就会出现问题。因此，研发人员、临床研究人员和伦理委员会需要共同发力。
伦理审查“互认”的核心目的是在确保审查质量的前提下，提高审查效率。但“互认”不等于“不审查”。伦理审查与血液化验等标准化检查不同，它涉及方案能否在具体环境中落地。不同医院（即使同为三级医院）的技术水平和风险把控能力参差不齐，同一个方案在头部医院能把控好风险并切实维护好患者权益，换一家医院未必能保护好受试者权益。
我们希望在主审医院审查之后，其他医院不要再进行重复的会议审查，可以先进行简易审查。例如，由两名委员通过在线或函审的形式，重点把握方案和知情同意书中的伦理问题。对于常规风险不大的多中心观察性研究可以尝试直接认可，但对于风险较大的侵入性生物医学新技术，参与研究机构至少要进行简易审查。目前各地推进互认非常踊跃，但首先要明确这些原则问题。
在AI临床应用中，规避隐私风险需要建立完善的机制。伦理审查应关注信息收集是否为研究所必需，遵循“最小化原则”。在技术上，要区分“去标识化”与“匿名化”：常规去标识化后的部分数据仍可能通过大数据关联复原身份，而真正的“匿名化”是指不可复原。除特殊研究外，一般研究应采取匿名化措施。这既需要制度安排，也需要技术手段，更需要医护及研究人员在数据使用中落实保护责任。
伦理学不应被视为技术发展的“刹车器”，而应是“导航器”。它需要与生物学、临床医学等多学科深度融合，不能凌驾于具体科学之上。只有将伦理真正融入技术研发和迭代的过程中，才能更好地服务于健康中国建设和临床高质量发展。
湖南师范大学人工智能伦理研究中心主任李伦：
用伦理工程学方法防范AI风险
李伦
过去我们谈及数字风险，多认为问题来自人为操作或制度漏洞；而当下人工智能（AI）技术的发展呈现出一种新的风险特征，即“技源性”。这意味着风险源于技术本身的内在属性，而非人类主观上的不当设计或使用。
例如，“算法黑箱”源于技术的内在缺陷或不成熟，属于“技源性”风险；而“算法黑幕”则是人根据特定目的进行的不当设计，比如“大数据杀熟”，技术本身不存在缺陷。
面对技术内生风险，我提出“伦理工程学”治理方案—— 一种“以内嵌伦理框架的技术方法防范技术伦理风险”的方案。我在2017年提出“给AI一颗良芯”的口号，追求的便是从技术内生属性出发进行治理。2024年，我进一步明确提出“伦理工程学”这条“技术-伦理”互嵌式治理路径。
伦理工程学不是纯粹的工程学，也不是纯粹的伦理学，而是“技术-伦理”互嵌式的方法。它旨在破解伦理学与工程学长期二元割裂的困境：伦理学倾向于宏观原则建构，缺乏实现路径，工程学则关注技术能力迭代，导致“技术先行，伦理善后”。而伦理工程学强调“伦理先行”，事先既要有伦理框架，又要有技术落地路径。
伦理工程学的实施分为两步。第一步是伦理框架的设计。根据技术系统的“技术-伦理”目标（如自动驾驶与手术机器人的目标不同）提出适宜的框架。这需要伦理学家主导，并与技术专家等展开合作。第二步是伦理框架的工程化嵌入。通过技术方法将伦理框架嵌入技术系统，使技术系统成为道德行动者，使其行为后果具有道德意义，或成为道德调节者，规范人的行为。
伦理工程学的思想源远流长，可追溯至中国传统儒家的“藏礼于器”。器物是礼制的物化形态，例如宫殿、龙袍龙椅的设计都贯彻三纲五常。这些器物设计完成后，反过来又规范人的行为，使人遵守礼制。这其实是典型的伦理工程学方法。
AI与伦理工程学具有极强的亲和性：首先，AI风险多源于技术内生属性；其次，AI具有“自为性”，规则预设性强，通过代码和算法设计很容易将伦理框架嵌入。此外，AI算法迭代周期短，为纠正和预防伦理风险提供了及时性方案。目前，我国及欧盟都高度重视以伦理工程学方法防范AI风险。
Anthropic公司在2023年引入了“宪法AI（Constitutional AI）”方案，并在2026年1月将其升级为“Claude宪法”。“宪法AI”的过程分为两步：一是伦理框架的设计，即制定一套“宪法”——16条自然语言规则（如“不鼓励非法活动”“尊重平等”）；二是伦理框架的工程化嵌入，通过监督学习（SL）和基于AI反馈的强化学习（RLAIF），让AI根据“宪法”自我演化。
Claude宪法的升级主要表现在伦理框架的设计，新宪法包含具有优先级的四大原则、核心德性要求（如诚实、保护自主、透明等）以及硬性约束红线（如绝不能生成儿童性虐待材料等）。Claude宪法的升级体现了从“机械执行”到“理解意图”、从“规则导向”到“推理导向”的转变。它不仅要求AI背诵规则，更强调通过详细的道理说明培养AI的价值观和独立判断能力，使其在面对新案例时具有泛化处理能力。不过，当前核心的难题在于“可验证性”的提高。Anthropic公司坦言目前的训练方法难以保证模型百分百遵循宪法，需要配合其他措施共同防范AI风险。
伦理工程学的落地具有多样性，这主要体现在伦理框架设计和伦理框架工程化方案的多样性。前者与技术系统的“技术-伦理”目标的多样性相关，也与技术系统所处文化背景的多样性相关；后者与技术的发展水平以及技术路径的选择相关。这种多样性表明伦理工程学的落地具有复杂性，需要技术界和伦理学界等多学科多领域的深度合作。
中南大学湘雅医院党委书记张欣：
AI赋能医疗决策必须坚持“以人为本”