科学网—No.19.人工智能作为科学研究的最强工具，伦理底线何在？
已有 154 次阅读
2026-10-19 04:48
| 系统分类: 观点评述
No.19.人工智能作为科学研究的最强工具，伦理底线何在？
谷昭逸
人工智能的发展狂飙突进，已渗透到人类生活与生产的方方面面。科学研究曾经作为人类智力与理性的最高殿堂，如今科学共同体与人工智能体的合作成果已相当丰富，人工智能作为现代科学研究中的最强工具正帮助科学共同体迅速开拓学科边界，这个进程有边界吗？
摘星揽月：人工智能能做到什么？
回顾近年的重大科学成果，不难发现人工智能正与顶尖科学家携手九天揽月，开创新的科学研究范式。
AlphaFold 作为 DeepMind 公司开发的深度学习系统，能根据蛋白质的氨基酸序列，直接预测出蛋白质的三维立体结构。 AlphaFold 崭露头角是在 2018 年的第 13 届蛋白质结构预测技术关键评估竞赛中，其预测精度远超其余参赛模型。随着技术的迭代与发展，第二代 AlphaFold2 的预测精度已经与实验水平相当了，大致实现了人工智能技术可以直接通过氨基酸序列精准模拟出对应的蛋白质结构，颠覆了结构生物学使用冷冻电镜、核磁共振与 X 射线衍射去“看”的传统研究范式。第三代的 AlphaFold3 则实现了预测出所有生物分子结构和相互作用，几乎是以一己之力推动了结构生物学的飞跃。 2024 年的诺贝尔化学奖授予了三位科学家，其中，一半授予美国华盛顿大学的大卫·贝克 (David Baker) ，以表彰其在计算蛋白质设计方面的贡献；另一半共同授予了 DeepMind 公司的丹米斯·哈萨比斯（ Demis Hassabis ）和约翰·乔普（ John M. Jumper ），以表彰其在蛋白质结构预测方面的贡献。在科学社会学的观点中，作为顶级科学奖励系统的诺贝尔奖在选择颁奖对象时往往有较强的滞后性，但 2024 年的诺贝尔奖授予了 2018 年横空出世的 AlphaFold ，其极强的象征意义不言而喻，更是宣告人工智能已经深深嵌入前沿科学研究活动中了。
如果说预测蛋白质结构是人工智能在微观科学领域的代表之作，那么探索星空与气象预测则能代表人工智能在宏观科学领域中的应用。
有“中国天眼”之称的500米口径球面射电望远镜（ Five-hundred-meter Aperture Spherical radio Telescope ， FAST ）在人工智能技术的加持下取得全球瞩目的成绩，是传统大科学装置与人工智能协作的典范。作为全球灵敏度最高的射电望远镜，截至2026年7月， FAST 已成功发现近1300颗脉冲星，这一数量超过同期国际上其他望远镜发现脉冲星数量的总和。这份成绩单背后，国家天文台、腾讯公司和复旦大学共同开展的“探星计划”功不可没。“探星计划”是基于腾讯优图实验室的计算机视觉技术和腾讯云的计算能力，用“云+AI”帮助中国天眼FAST处理每天接收到的庞大数据，通过视觉AI分析寻找脉冲星线索，辅助快速射电暴和近密双星系统中脉冲星搜索 [1] 。有了“探星计划”的助力，大幅提升了 FAST 的数据处理效率，原本耗时一年的数据处理工作，借助 AI 技术仅需3天即可完成。脉冲星作为“宇宙中的灯塔”会以极稳定的周期向地球发出脉冲式电磁信号，观察脉冲星的数量越多就越 有助于了解星体塌缩时的场景，更能部分揭示宇宙诞生和演变的奥秘。
华为云盘古气象大模型同样也是人工智能融入宏观领域科学研究的代表。华为云盘古气象大模型是首个精度超过传统数值预报方法的 AI 模型，速度相比传统数值预报提速10000倍以上，也是全球首个登上《 Nature 》的气象AI大模型，开创了用AI取代传统数值模式的新思路 [2] 。传统数值预报（ Numerical Weather Prediciton ）是基于流体力学和热力学方程，求解描述大气演化的偏微分方程组，这种计算模式对于算力和时间的需求无疑是巨大的。华为云盘古大气象模型的核心是使用三维深度神经网络 （ 3D Earth-Specific Transformer ， 3DEST) ， 创造性地提出了适应地球坐标系统的三维神经网络来处理复杂的不均匀3D气象数据，将高度信息整合到新维度，使模型系统可以在三个维度中理解天气模式 整体建模；同时盘古气象大模型 使用43年（1979—2021年）的全球实况气象数据进行训练，覆盖垂直高度上13个不同气压层，每层包含温度、湿度、位势、经度、纬度五种气象要素，以及地球表面的海平面气压、风速等四种气象要素 【3】 ，通过海量历史数据学习大气演变规律进一步提升模型精度 【4】 。目前华为云盘古气象模型在气象预测领域中已经成为了行业标杆。
脚踏实地：人工智能参与科学研究的底线何在？
人工智能作为现代社会的最强力工具，帮助科学家们破解了一个又一个费力耗时的难题。在人工智能看似无所不能的表象下，科学共同体使用人工智能的底线何在？
科技伦理的最终目标是实现科技向善的底线。人工智能仅具备工具属性，而无主体性，因此人工智能参与的任何科学研究，都不会因为有了“非生命体”的介入获得违背科技伦理的额外豁免权。具体来说，人工智能参与的科学研究活动必须要遵循科技伦理的底层规范。中办、国办印发的《关于加强科技伦理治理的意见》和联合国教科文组织发布的《人工智能伦理问题建议书》都强调了以人为根本的科技伦理基石，强调科学研究要增进人类福祉；尊重生命权利；坚持公平公正；合理控制风险和保持公开透明等原则性规范 [5] 。
然而在实践过程中，公开透明、公平公正的红线往往最易被碰触。身处数字时代，几乎所有信息都能被转化为数据集，供特定用途的模型训练。但这些数据集的获取与使用都高度集中在少数掌握技术和平台的大型企业，背靠庞大的商业规模与社会影响力，这些企业往往就忽略了公开透明和公平公正的伦理底线。 DeepMind 公司曾经为了开发能够快速检测急性肾衰竭的软件，违规使用了 160 万份医疗记录，引发了患者们的严重不满并将 DeepMind 告上法庭。 DeepMind 公司出于及早预警、挽救生命的出发点是好的，但未经同意和告知就滥用医疗记录依旧属于对患者隐私权的侵犯。这种对于数据集的不合规使用也正是大型机构训练人工智能过程中触碰公开透明底线的常见情形。如果说 DeepMind 公司犯的是目的崇高而手段失范的轻罪，那么还有一些大模型训练的出发点都值得商榷。斯坦福大学曾尝试凭借深度神经网络，仅从人脸照片就足以判断个人的性取向且准确率逼近九成。这项技术直接将性取向这一高度私密属性交由人工智能技术公开和审判，完全背离了公平公正、尊重生命权利的伦理基础，这一识别技术立马就被叫停了。类似的案例不在少数，因此人工智能介入科学研究的底线之一便是遵守 最基本的科技伦理规范 。
人工智能不是免死金牌。作为工具的人工智能自然不具备承担任何责任的主体资格，其使用者才是最终负责人。目前全世界范围主流的顶尖期刊都拒绝将 AI 列为作者，文章的署名权不单单是荣誉，更是责任归属的直观体现。虽然科学共同体可以在科学研究的过程无限度使用人工智能，但对于公开发表的成果必须由作者亲自把关、复核与负责，万不能将实验数据造假、参考文献伪造等问题，一股脑推卸给无主体性的人工智能。由此，人工智能参与科学研究的另一条底线便是 诚实使用人工智能 ，如实标注人工智能使用痕迹。人工智能并非洪水猛兽进而禁止使用，重点是在于诚实使用和披露以及使用者对于生成内容的全权负责。
时代的洪流滚滚而过，人工智能作为工具已深度嵌入当代的科学研究，极大地提升了科研的效率与质量，显著加快了科学研究的进程，然而遵守人工智能参与科学研究的底线同样重要。只有明确了“有所为”的天花板和“有所不为”的地板时，人工智能这一标志人类进步的强大工具才能真正促使科技向善并最大限度上增进社会福祉。
参考文献
[1] 探星计划_百度百科
https://baike.baidu.com/item/%E6%8E%A2%E6%98%9F%E8%AE%A1%E5%88%92/57957610
[2] 华为云盘古气象大模型研究成果在《Nature》正刊发表 - 华为
https://www.huawei.com/cn/news/2023/7/pangu-ai-model-nature-publish
[3] 盘古（华为云推出的数据驱动人工智能气象预报模型）_百度百科
https://baike.baidu.com/item/%E7%9B%98%E5%8F%A4/68858659
[4] Bi, K., Xie, L., Zhang, H. et al. Accurate medium-range global weather forecasting with 3D neural networks. Nature 619, 533–538 (2023). https://doi.org/10.1038/s41586-023-06185-3
[5] 中共中央办公厅 国务院办公厅印发《关于加强科技伦理治理的意见》_中央文件_中国政府网
https://www.gov.cn/zhengce/2022-03/20/content_5680105.htm
作者：谷昭逸 上海交通大学科学史与科学文化研究院在读博士生；
审核：李侠 上海交通大学科学史与科学文化研究院教授
文中图片来自网络，没有任何商业目的，仅供欣赏，特此致谢！
【博主跋】这篇小文章发在《科普中国》2026-10-14，是本系列的第十九篇文章，与邹老师合作愉快，是为记！
2026-10-19凌晨于南方临屏涂鸦
转载本文请联系原作者获取授权，同时请注明本文来自李侠科学网博客。 链接地址： https://blog.sciencenet.cn/blog-829-1557192.html
上一篇： No.18.免费AI问诊随处可见：便捷背后，普通人该如何理性使用？ 欢迎参加科学网十佳博文评选活动！ 主办单位： 
支持单位： 