科学网—SCI作者要注意了！期刊正在检测AI幻觉引用
精选
已有 235 次阅读
2026-4-13 10:58
| 系统分类: 观点评述
近日，有科研学者分享了一次令人震惊的投稿经历。
会议主席认为该投稿论文包含大量由 LLM 生成的内容，并试图影响评审流程。最终处理结果十分严厉：论文未送外审被直接 desk reject，所有作者被实施5年禁投。为何幻觉引用（hallucinated citations），惩罚如此严重？
一、 幻觉引用，与一般AI造假有什么不同？ 在讨论AI论文问题时，人们往往首先想到AI代写论文或AI生成实验数据。但“幻觉引用”是一种 更加隐蔽、也更容易被忽视 的问题。 Science报道了一起典型案例 ——美国 Rutgers University 的博士生 Meredith Cimmino在写博士论文时，为了确认文献是否最新，尝试让 ChatGPT帮她查找相关研究。
AI很快给出了一份文献列表，并附带论文摘要。这些论文：
标题非常合理
摘要支持她的研究结论
看起来完全就是真实论文
最初她非常兴奋，因为这些研究似乎进一步强化了她的论文结论。但当她逐条检索这些文献时，却发现——这些论文全部不存在。这类问题被称为：“hallucinating with confidence”（自信地幻觉）。也就是说， AI不仅会生成错误内容，还会用非常肯定的语气给出强化论文结论的答案。 也正因为如此， 作者如果没有逐条核查文献的每一项，就很可能在不知情的情况下把它们写进论文 。
二、 更值得警惕的是：AI可能把你写入 幻觉引用的作者 AI幻觉引用带来的风险，并不仅仅是引用错误。在一些案例中， 研究者自己的姓名甚至会被编造成虚假论文的作者 。例如， Nature报道的一起案例 中：法国图卢兹大学计算机科学家 Guillaume Cabanac 发现，一篇论文引用了自己的研究。但当他查看引用时却发现：论文标题与他的一篇预印本类似，但期刊被写成 Nature ，而且DOI无法检索至原始预印本。
因此Cabanac最终确认：这条引用指向的论文并不存在。他怀疑，这是一条由AI生成的“幻觉引用”。
三、 Nature调查：AI假引用可能已混入十万篇论文 AI引用问题并非个例。过去一年，多项研究开始系统调查这一现象。2025年发表在医学2区SCI期刊 JMIR Mental Health 的一项论文，研究人员让GPT-4o生成文献综述，研究者分析生成的176条参考文献后发现：
约20%引用完全不存在
剩余引用中45%存在错误（例如DOI或期刊信息错误）
Nature新闻团队联合AI公司Grounded AI分析了学术数据库中的论文，样本来自五大出版商（Elsevier、Springer Nature、Wiley、Sage、Taylor & Francis）的4000余篇论文。
Grounded AI 的工具会在数据库中寻找与参考文献完全匹配的记录，或最接近的匹配结果。随后，它会标记存在严重问题的引用（例如标题或DOI不匹配、作者信息缺失、期刊名称错误），以及一些较轻微的问题。
如果某条引用指向的论文按理应该能够轻易检索到（例如该期刊已被学术数据库收录），但却无法找到对应论文，则会被视为特别可疑的问题引用。
在使用该工具分析论文后，Grounded AI根据存在严重问题的参考文献数量以及这些问题由AI生成的可能性，为每篇论文赋予一个风险评分。
随后，Nature对最可疑的100篇论文进行了人工核查。结果确认，其中65篇至少包含一条无效引用，即指向一篇似乎并不存在的出版物。在被指出最可疑的100篇论文中，人工审核至少65篇至少包含一条不存在的引用。如果这一比例推广到整个学术出版体系： 2025年全球约700万篇学术论文，可能有超过11万篇论文包含无效引用 。
四、 期刊已经开始检测“AI幻觉引用” 随着AI写作工具普及，一些出版商和学术会议已经开始部署引用检测系统。例如，英国公司 Grounded AI 开发的工具 Veracity 可以将论文参考文献与学术数据库和网络文献进行比对， 自动标记不存在的论文、错误DOI、错误期刊信息或引用已撤稿论文 。
一些学术会议也开始使用类似工具。总部位于纽约的 GPTZero 正在与International Conference on Learning Representations（ICLR） 合作开发一套用于投稿筛查的引用检测工具。在ICLR 2026 投稿审查过程中，该工具共检查了 70多万条参考文献，并标记出约9000条需要人工进一步核查的可疑引用。
与此同时，一些出版商也在开发新的AI文献工具。例如Elsevier 推出的 LeapSpace可以扫描1800万篇论文全文并生成引用来源说明（“Trust Card”），试图提高AI生成文献分析的可靠性。
这些变化意味着：AI生成的幻觉引用，越来越难在投稿中“蒙混过关”。
想要提高SCI论文发表成功率吗？ 您可以选择 LetPub 的 全流程投稿协助套餐服务 ，从语言润色、中译英翻译、行文逻辑结构优化、专家预审、材料准备到投稿系统指导，一站式支持您顺利投出高质量稿件！
国际期刊和出版社推荐LetPub编辑服务
SCI论文润色 │ SCI论文翻译 │ SCI论文润色哪家好 │ SCI论文润色价格 | SCI 论文修改 | SCI论文润色公司 │ SCI论文查重 │ 联系我们
转载本文请联系原作者获取授权，同时请注明本文来自LetPub编辑科学网博客。 链接地址： https://blog.sciencenet.cn/blog-1232242-1530127.html
上一篇： 恭喜！1区Top、IF 9.3 的生物学期刊JIPB已经顺利发表！