科学网—Nature发文：为什么不能让AI撰写科学综述？
精选
已有 367 次阅读
2026-6-5 10:17
| 系统分类: 科研笔记
过去两年，ChatGPT、DeepSeek、 Claude 等生成式AI工具迅速进入科研圈。越来越多研究人员开始使用AI检索文献、总结论文、撰写综述，甚至有人认为：“未来的Review文章，或许可以完全交给AI完成。”
然而，最近发表于《 Nature 》的 一篇评论文章 ，却给这种乐观预期泼了一盆冷水。
文章作者现任全球最具影响力的循证医学组织之一——Cochrane Collaboration主编。而Cochrane发布的系统综述（Systematic Review），长期被认为是医学证据综合领域的“金标准”。
也就是说，这并不是一篇“AI怀疑论者”撰写的反对AI的文章，恰恰相反，这是一个长期尝试将AI引入科研流程的机构，在实践之后给出的真实结论。
一、 AI最大的短板，是判断力
很多人认为，综述写作的核心工作就是：搜文献、看文献、整理文献、总结文献。既然AI能够完成这些工作，那么写Review似乎只是时间问题。
但作者指出：真正高质量的系统综述，从来不仅是简单的信息汇总。
研究人员需要回答的问题包括：
哪些研究应该被纳入分析？
哪些研究质量不足？
不同研究结果为何存在差异？
哪些证据更可信？
这些结果对临床实践意味着什么？
这些问题并没有标准答案。它们依赖于研究者长期积累的学科知识、临床经验、方法学训练以及学术判断力。
而这恰恰是当前AI最欠缺的能力。
二、 AI幻觉，仍然是学术界最大的担忧之一
近年来，“AI幻觉（Hallucination）”已经成为学术出版领域反复讨论的话题。
所谓AI幻觉，是指模型生成：
不存在的文献
不存在的数据
不存在的结论
错误的引用关系
此前已有研究发现：大型语言模型生成的参考文献中，存在相当比例的虚构引用。
AI幻觉已经引起学术出版界警惕。今年5月，预印本平台 arXiv 公开表示， 对于包含AI编造文献等明显未经核查内容的稿件， 作者将面临1年禁投处罚 。
鉴于系统综述常常被用于临床指南制定、公共卫生决策与医疗政策制定。一旦错误信息进入证据体系，其影响范围可能远超单篇论文。
三、 Cochrane亲测：AI并没有想象中高效
作为全球最著名的系统综述机构之一，Cochrane其实一直在尝试利用AI提高工作效率。例如：文献筛选、数据提取以及信息整理，这些工作本来非常耗时，理论上非常适合自动化。
然而，作者坦言现实效果并不理想。
目前很多AI工具：
需要较长训练周期；
使用者需要专门学习；
模型运行逻辑难以解释；
输出结果仍需人工核查。
更令人意外的是：在不少项目中，使用AI后的整体耗时甚至超过了完全人工完成。
这与外界宣传的“几分钟完成系统综述”显然存在巨大差距。
四、 更值得警惕的是“黑箱”问题
文章还提到一个出版界越来越关注的问题：目前大量科研AI工具模型通常非开源，内部决策逻辑并不完全透明。
研究人员较难判断：模型究竟依据什么标准筛选文献。
对于药物评价、医疗器械评价等高风险领域来说，这种不透明性意味着：研究人员无法确认系统是否存在潜在偏倚。
AI真正适合做什么？
有趣的是，作者并不反对AI。她认为：AI最大的价值并不是替代研究人员，而是帮助研究人员完成重复性工作，例如：
✓ 管理海量文献
✓ 建立结构化数据库
✓ 自动跟踪撤稿论文
✓ 识别潜在学术不端
✓ 辅助数据整理
这些工作原本需要大量人工投入，而AI在处理大规模信息时具有天然优势。
事实上，在文献阅读、信息整理和知识管理等环节，AI已经能够显著提高科研效率。例如， LetPub 推出的多款 AI科研辅助工具 ，可帮助作者快速完成文献理解、信息提取与研究整理等工作：
文章结构化总结工具
文章关键信息提取工具
文章比对工具
参考文献挖掘工具
……
不过，正如《Nature》文章所强调的那样：AI擅长处理信息，而高水平科研真正稀缺的，仍然是研究者对问题的理解、对证据的判断以及对学术价值的把握。
因此，AI更适合作为科研助手，而科研工作与SCI论文撰写的最终决策者和负责人仍然是科研学者本人。
国际期刊和出版社推荐LetPub编辑服务
SCI论文全流程投稿协助套餐服务 ｜ SCI论文润色 ｜ SCI论文翻译 ｜ SCI 论文修改 ｜ SCI论文润色公司 ｜ SCI投稿套餐服务 ｜ SCI论文发表支持 ｜ 高影响期刊投稿套餐服务 ｜ SCI论文查重 ｜ 联系我们
转载本文请联系原作者获取授权，同时请注明本文来自LetPub编辑科学网博客。 链接地址： https://blog.sciencenet.cn/blog-1232242-1538004.html
上一篇： CCS Chemistry的奶油糖果配色 欢迎参加科学网十佳博文评选活动！ 主办单位： 
支持单位： 