科学网—No.13.从数据到算法：智慧医疗的偏见让谁受伤？
精选
已有 319 次阅读
2026-10-12 17:46
| 系统分类: 生活其它
No.13.从数据到算法：智慧医疗的偏见让谁受伤？
孙丹阳
“AI医生”与“误诊”相联系总能调动公众的敏感神经，成为自媒体争抢的流量话题，如“AI误诊险丧命”、“全国首例‘AI医疗误诊诉讼案’”等博取眼球的虚假内容，早已被官方辟谣 [1] 。基于目前我国尚不允许AI进行独立诊疗，AI也不能作为诊疗责任认定的主体，这都在制度层面规避了智慧医疗的极端风险。然而，随着辅助诊疗的可及性越来越高，智慧医疗的可靠性也得到更多的讨论与研究。值得追问的是，智能技术由数据与算法介导的风险，是否会向智慧医疗领域扩散，而谁更易因此而受伤呢？
数据偏差或成风险源头
研究指出，数据来源与收集环节的偏见，以及算法设计与决策中的偏见，确实可能对边缘群体造成不公平的健康结果。 [2] 值得注意的是，这种偏见并非偶发的技术故障，而是结构性不平等在数字系统中的延续，它系统性地伤害那些在数据中本就被忽视的人，如种族偏见中的弱势族裔，疾病谱系中的非常见病患者，以及因症状信息复杂而难以转化为标准数据的疾病群体。
智能系统已广泛应用于医疗资源分配、健康管理等医疗场景，如使用疾病严重程度评分作为标准的重症监护资源分配，由于数据采集中的偏差，会加剧种族差异。 [3] 类似的问题也出现在更广泛的人群健康管理领域，一个影响超过1亿美国人的风险预测算法，使用“医疗费用”而非“健康需求”作为预测目标。由于黑人患者的人均医疗支出系统性偏低，算法据此将他们判定为“比实际更健康”，导致真正需要护理的黑人患者被系统性排除在外。 [2] 我们都知道，越常见的疾病，由于患病率较高，所产生的医疗数据也就更多，可用于训练智能系统的数据也就越丰富，而非常见病则与之相反，以罕见病为例，在已知的6500多种罕见病中，仅有不到15%在ICD-11中有精确编码。 [4] 这意味着超过85%的罕见病患者即使被确诊，也无法被结构化记录，在AI训练数据中几乎“不存在”。而另一类群体面临的问题则相反——他们在数据中存在，但最重要的信息在数据化过程中被丢失了。心理问题已成为一个日益重要的公共卫生议题，由于患病群体广，病程迁延，巨大的就诊需求催生智能心理疗愈的开发与推广，然而心理疾病诊断高度依赖患者主诉、临床访谈和行为评估，这些信息在转化为标准化数据时，会丢失大量关键信息。美国心理学会（APA）因此建议，必须为青少年及其他弱势群体建立特定保障措施，因为报告显示这些工具已对这些人群造成‘重大伤害’。 [5]
数据问题被算法加剧
尽管医疗算法旨在优化医疗过程中的特定环节，但它们可能会引入或延续数据偏见，从而导致不平等的治疗以及造成或加剧不平等的健康结果。基于标准化电子病例进行训练的模型，电子病例本身的记录就对患者信息进行了压缩，如在种族层面上，对弱势族裔采用更为负面的描述，会导致算法的资源分配偏差。加之算法开发流程中会对采集的数据进行数据清洗，这一环节通常依据预设规则剔除异常数据，这些被剔除的“异常值”与“不完整记录”恰恰可能对应着病情复杂、社会资源匮乏、医疗可及性差的高风险患者。这种技术层面的清洗处理，在短期内提升了模型的指标表现，却在长期应用中加剧了医疗服务的不平等。算法逻辑往往采用线性分类逻辑或单一决策路径，这种结构性简化在技术上降低了建模的复杂度，使得模型更加简洁高效，然而这一方式也决定了其用于处理多病因、共病情况或非典型症状时，极易忽视临床实践中患者的个体差异以及疾病的高度复杂性，导致在无形中放大了对边缘群体的系统性忽略。
从数据采集中的标准化电子病例导致的信息压缩，到清洗环节“异常值”剔除加剧的对高风险患者的忽视，再到“费用”替代“需求”的标签选择，偏见并非在算法运行的那一刻才产生，而是在设计者做出每一个看似技术性选择的那一刻，就已经被写入了智慧医疗系统。
如何让受伤转为受益？
由此我们会发现，虽然制度层面已经规避了AI独立诊疗的极端风险，但在辅助诊疗过程中，智能系统依然难以破除技术偏见的影响，极易导致对边缘群体产生误诊和漏诊。那些深受疾病困扰的边缘群体，可能无法从智慧医疗中实现公平，而陷入一种被技术扩大的不公之中。
要解决这一难题，我们可能必须要回到偏见进入系统的那个最初环节——数据本身，这意味着不仅要增加边缘群体在训练数据中的代表性，更要追问：谁在决定哪些数据被采集、哪些标签被使用、哪些“异常值”被剔除？这些看似技术性的选择，亟需被纳入伦理与监管框架。正如研究者所主张的：公平性不应被视为模型部署后的校正环节，而应嵌入从数据采集到临床决策的全流程。 [6] 唯有这样，精准、高效、公平的智慧医疗体系才有可能建成，患者才能公平地享有智能技术带来的福祉。
（作者：孙丹阳 西安电子科技大学副教授；审核：李侠 上海交通大学科学史与科学文化研究院教授）
图片来源：科普中国素材库
参考文献：
[1]央视新闻.“AI医生”误诊险些要人命？真相来了[EB/OL].(2025-4-12) [2026-9-10]
[2]Obermeyer Z, Powers B, Vogeli C,et al. Dissecting racial bias in an algorithm used to manage the health of populations.Science 2019; 366: 447–53.
[3]The impact of health care algorithms on racial and ethnic disparities: a systematic review.Annals Internal Medicine. 2024(177): 484-496.
[4]Caterina Lucano, David Lagorce, Annie Olry, et al.The Orphanet Nomenclature and Classification of rare diseases: a standard terminology for improved patient recognition and data interoperability.JMIR Medical Informatics. 2026(14):e84553
[5]APA. Artificial intelligence, wellness apps alone cannot solve mental health crisis.APA News.(2025-11-13)[2026-9-10]
[6]Siri L van der Meijden, Yuqing Wang, Madelena Y Ng,et al.Navigating fairness in artificial intelligence-based prediction models: theoretical constructs and practical applications[J]. The Lancet Digital Health, 2026:101035.
【博主跋】 这篇小文章发在《科普中国》2026-10-1，是本系列的第十三篇文章，与邹老师合作愉快，是为记！
2026-10-12于办公室临屏涂鸦
转载本文请联系原作者获取授权，同时请注明本文来自李侠科学网博客。 链接地址： https://blog.sciencenet.cn/blog-829-1556286.html
上一篇： No.12.学术不端行为认定中的伦理“模糊地带”是怎样形成的？ 欢迎参加科学网十佳博文评选活动！ 主办单位： 
支持单位： 