当论文、反驳和审稿意见都由AI生成,同行评审如何维持可信度

摘要:NeurIPS 2026 期间,AI 生成论文、反驳和审稿意见引发持续争议。部分作者在论文中设置隐藏提示,用于检测审稿人是否把稿件交给模型;部分审稿意见又被质疑由 AI 直接生成。

一位 NeurIPS 审稿人在社区中抱怨,他收到的一篇论文以及后续反驳材料,带有明显的模型生成痕迹。

另一批作者则在论文中放入隐藏指令。如果审稿人把 PDF 交给语言模型,模型可能输出预设词句,从而暴露 AI 参与评审。

还有研究人员发现,部分审稿意见和元评审内容具有高度模板化特征,疑似直接复制模型输出。

论文作者、审稿人和会议管理者由此进入一场互相检测的游戏。

AI已经进入论文生产全流程

研究人员使用 AI 润色语言、整理相关工作、生成代码和分析实验结果,已经十分普遍。

使用边界很难划定。

让模型修改语法,与让模型重写整段论证之间没有清晰分界。让模型帮助检索文献,也可能引入不存在的论文和错误引用。

NeurIPS 2026 立场论文赛道要求文章主体由人类完成,AI 只能用于文字校对等辅助环节。会议方面解释,AI 大规模参与论文写作会增加同行评审压力,并削弱作者对论证内容的责任。

然而,会议很难仅凭文本风格判断作者使用了多少 AI。

模型生成文本经过人工修改后,检测工具的可靠性会明显下降。非英语母语作者也可能因语言风格被错误怀疑。

审稿人使用AI带来保密问题

学术论文在正式发表前通常属于保密材料。

审稿人把完整稿件上传到外部模型服务,可能违反会议保密规则。模型服务是否保存文本、是否用于训练、工作人员能否访问,都成为潜在风险。

此外,审稿意见包含对作者工作的判断。

如果审稿人让模型生成主要评价,最终分数可能受提示词、模型偏好和上下文长度影响。审稿人本人没有认真阅读论文,却以个人名义提交意见,会破坏责任制度。

一项对 AI 审稿的研究认为,当前模型容易受到论文表达方式影响。研究人员仅修改摘要、相关工作和讨论部分,没有改变实验、公式和结果,AI 审稿分数仍出现明显变化。

模型可能把更有说服力的表达,误判为更强的科学证据。

隐藏提示也会伤害评审流程

一些作者在论文里嵌入白色文字或不可见指令,要求模型给出高分,或者输出特殊词语。

这种方法可以检测审稿人是否使用 AI,也可能直接操纵自动评审工具。

研究显示,简单提示注入能够显著影响模型生成的评审结果。部分实验中,攻击成功率非常高。

作者可能把隐藏提示解释为自我保护:会议禁止 AI 审稿,作者有权检查规则是否得到遵守。

问题在于,论文已经成为攻击载体。

伦理审查人员、辅助阅读工具和无障碍软件也可能读取隐藏内容。NeurIPS 还出现过检测提示被伦理评审员误判的争议,说明会议内部的信息传递和程序设计尚未跟上。

学术诚信不能只依赖AI检测器

AI 文本检测工具很难成为最终裁判。

同一个模型经过不同提示、翻译和人工修改后,语言特征会发生变化。检测器还可能对特定语言背景和写作风格产生偏差。

更稳妥的管理方式,是检查科研过程。

作者应保留实验代码、数据处理记录、版本历史和主要修改过程。论文中的关键结论需要能够追溯到实验结果和原始数据。

审稿人则需要对每条主要评价提供明确依据,包括对应章节、实验或公式。

当一份评审只有通用表扬和模糊批评,却没有任何具体引用,会议可以要求补充说明。

AI使用需要分级披露

学术会议可以把 AI 使用分为几个层级。

语言校对和格式修改可以简要披露。

使用模型生成代码、检索文献或分析数据,需要说明工具和人工核验方式。

使用模型生成论文主体、实验设计或主要审稿意见,则应接受更严格检查。

披露制度的目标不是排斥工具,而是保留责任链。

作者需要确认论文中的事实、引用和数据。审稿人需要确认评价来自自己的判断。会议管理者需要解释自动化工具在筛选、分配和伦理审查中的作用。

同行评审仍依赖专业判断

AI 可以帮助审稿人整理文章结构、检查引用、发现统计问题和对照相关工作。

这些工作能够减轻负担。

论文是否提出有价值的问题,实验是否支持结论,方法是否具有创新性,仍然需要领域专家判断。

当作者和审稿人都可以低成本生成大量文字,同行评审的稀缺资源已经不再是文字,而是愿意承担责任的专业判断。

未来学术会议的竞争力,也会体现在能否识别并保护这种判断。

分享到