关于 paper-review
paper-review 是用于投稿前自查学术论文的 Skill,面向希望发现潜在审稿问题的研究者。它按对抗式通读、清单检查和机械扫描三轮组织审阅,并强调标注疑点及其置信度。
主要功能
- 01三轮论文审阅流程
- 02五方面自查清单
- 03实验协议审计
- 04机械一致性扫描
- 05反向提纲与图表检查
适用场景
- 01投稿前检查论文草稿
- 02核查实验设置与数据划分
- 03发现论点缺乏证据之处
安装
复制下面的命令,在终端中运行。
npx skills add https:/ / github.com/ evoscientist/ evoskills --skill paper-review安装后在 Claude Code 中输入/paper-review确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
EXPERT.mdreferences/counterintuitive-review.mdreview-checklist.mdscripts/five_aspect_review.js详细介绍
论文审阅
在提交前系统性地自我审阅学术论文,分为 三轮:对抗式精读、清单检查(5 个方面、反向提纲、图表质量),以及机械一致性扫描和实验方案审计。最后准备答辩回复。
何时使用此技能
- 用户想在提交前审阅或检查论文草稿
- 用户希望获得有关论文质量或完整性的反馈
- 用户想为应对审稿人的潜在批评做准备
- 用户提到“审阅论文”“检查我的草稿”“自我审阅”
如果用户已收到审稿意见,需要撰写答辩回复,请改用
paper-rebuttal技能。
前提条件
开始审阅前,请确认 paper-writing 交接清单已满足:所有章节均已起草,论点均有证据支撑,包含局限性章节,图表已定稿,且没有未解决的 \todo{} 标记。如果有任何一项未完成,请先完成写作再审阅。
如何进行审阅:三轮
按以下顺序分三轮分别进行审阅,并仅在最后合并发现。不要从清单开始:清单会让你只注意其中列出的问题,而审阅中导致论文被拒的缺陷,往往是清单上没有任何问题能指出的。
第 1 轮——对抗式精读(不看清单)
在查阅本技能的任何清单之前,先以持怀疑态度的专家审稿人身份,从头到尾通读论文。阅读时追踪各章节之间的关联:
- 证据是否确实支持提出该论点的位置上的每个论点?
- 研究设定中提出的假设,之后是否重新审视过,还是被悄然违背了?
- 正文中的数字是否与表格一致?结论是否兑现了摘要中的承诺?
- 该方法能否适用于论文中确切设定之外的情境?
记下所有疑点及其位置,包括尚无法证实的疑点——如何措辞和标记,请参阅下文的“审慎标注疑点”。这一轮会揭示隐藏的跨章节缺陷;任何清单都无法取而代之。
第 2 轮——清单检查
现在检查结构化材料:5 个方面的清单、反直觉的实验方案、反向提纲,以及图表和结论检查。这一轮有助于扩大覆盖范围,并发现已知的常见失败模式。
第 3 轮——机械扫描和实验方案审计
明确执行实验方案审计和机械一致性扫描(均见下文),使用源文件进行搜索和交叉引用。扫描是搜索问题,审计则是逐行重建研究设定;二者命中率都很高,而单靠“仔细阅读”不会自动触发这些检查。
合并
汇总三轮的所有发现并去重。根据下方的置信度规则,即使第 1 轮发现的疑点没有任何清单条目对应,也仍须保留——去重只会移除重复项,不会消除疑虑。
报告发现:校准怀疑
审查发现包含两类陈述,各自遵循不同规则:
- 关于论文的事实性断言——表格包含什么内容、某个章节写了什么、是否存在或缺少某项内容。这些必须可核实:断言前先检查文本,并将发现锚定到确切位置或简短引文。切勿声称论文写了它实际上没有写的内容——一条捏造的批评所损失的可信度,远超十条有效批评所能带来的收益。
- 怀疑和判断——“这些提升可能处于随机种子噪声范围内”“这一假设在实际部署中似乎不切实际”。这些是允许的,而且值得鼓励,即使置信度较低也不例外。应如实表述:说明怀疑,标明置信度,并指出什么证据可以解决疑问(“未报告方差;使用 3 个随机种子即可确认”)。
不要因为无法证明某个怀疑就将其压下。在自我审查中,一个被掩盖而留给真实审稿人的缺陷,代价远高于提出后又被排除的怀疑。精确性要求适用于事实,不适用于疑虑。
完美主义方法
力求完美:审查自己的论文,考虑审稿人可能提出的每个问题,并逐一解决。
应对负面审稿意见的最佳方式是进行彻底的自我审查:
- 对抗式审查:像挑剔的审稿人一样阅读自己的论文
- 征求导师反馈:请导师审阅——反馈越多越好
- 解决所有问题:对发现的每个潜在弱点,要么修正,要么准备好辩护
反直觉审查流程
在最终润色前执行此流程:
- 先模拟拒稿:先强迫自己写一段拒稿总结,再写任何正面评价。
- 删掉一条缺乏依据的强论断:如果一条强论断缺乏直接证据,就将其删除,而不是为它辩护。
- 评估可信度,而不只看提升幅度:提升略低但公平性和可复现性更高的论文,往往能获得更好的审稿结果。
- 明确提出一项局限:将一项有意义的局限从内部笔记移入论文;保持透明可以增强信心。
- 质疑新颖性主张:问问自己:“优秀的博士生能否在一个下午内推导出这个想法?”如果可以,就缩小并强化新颖性陈述。
参见 references/counterintuitive-review.md
5 个方面的自我审查清单
方面 1:贡献是否充分
论文没有为读者提供新知识。
通过以下问题评估贡献是否充分:
- 失败案例是否常见? 如果失败案例频繁且显而易见,审稿人可能会质疑该方法是否已达到发表要求。
- 所提出的技术是否已被充分探索? 如果该技术已得到广泛研究,我们带来了什么新的见解或改进?
- 改进是否可预见/众所周知? 如果结合已知想法就能预见这种改进,新颖性可能会受到质疑。
- 该技术是否过于简单直接? 对现有技术的简单直接应用可能缺乏足够的贡献。
危险信号:如果以上任一项的答案为“是”,就应强化贡献论述,或增加更多技术深度。
方面 2:写作清晰度
缺少技术细节,无法复现;方法模块缺乏设计动机。
- 缺少技术细节? 读者能否仅凭论文复现该方法?
- 缺少模块设计动机? 方法部分中的每个模块是否都解释了其存在的原因,而不只是说明其作用?
- 段落结构:每个段落是否都有明确的主题?首句是否阐明了要点?
- 行文逻辑:段落和章节之间的逻辑衔接是否流畅?
- 术语:全文是否始终如一地使用术语?
危险信号:如果方法能否复现存疑,请补充实现细节或材料。
方面 3:实验结果质量
仅比以往方法略好;或者虽然优于以往方法,但仍不够好。
- 提升幅度有限? 如果相较于 SOTA 的提升很小,是否具有统计显著性?
- 绝对质量不足? 即使优于基线,输出质量是否足以满足应用需求?
- 视觉质量:定性结果是否令人信服?改进是否清晰可见?
危险信号:如果提升幅度有限,请强调其他优势(速度、泛化能力、简洁性),或增加更具挑战性的测试案例。
方面 4:实验测试完整性
缺少消融研究;缺少重要基线;缺少重要评估指标;数据过于简单。
- 缺少消融研究? 是否对每项核心贡献都进行了消融?
- 缺少重要基线? 是否纳入了近期的 SOTA 方法?
- 缺少评估指标? 是否报告了该任务的所有标准指标?
- 数据集过于简单? 基准测试是否真正检验了该方法的能力?
- 没有失败案例分析? 诚实分析失败案例有助于提升可信度。
危险信号:缺少消融实验或基线是最常见的拒稿原因之一。
方面 5:方法设计问题
实验设置不切实际;方法存在技术缺陷;方法不够稳健;新方法的成本超过其收益。
- 实验设置不切实际? 假设是否符合预期使用场景的现实情况?
- 技术缺陷? 该方法是否存在理论或概念层面的弱点?
- 不够稳健? 该方法是否需要针对每个场景调整超参数?
- 收益 < 局限性? 新模块引入的局限性是否超过其带来的收益?
危险信号:如果该方法需要针对每种场景进行大量调优,请补充稳健性实验,或承认并解决这一局限性。
实验方案审查
最具破坏性的实验缺陷,往往藏在设置部分的一句话中——只提过一次,此后再未提及。请逐行审查实验部分,把自己当作严苛的审稿人,而非普通读者:
- 还原数据流。 仅根据文字,写明:用什么数据训练、用什么数据调优、用什么数据评估。测试数据与训练或调优数据之间的任何重叠——包括设置中埋藏的“在测试集上调优超参数”之类的表述——都是重要发现。如果完全无法根据文字还原数据划分的规范性,这本身也是一项发现。
- 列出所有假设。 在方法和设置部分中查找“我们假设”“假设”“前提是”“可访问”等表述。对于每一项:它在部署时是否现实?其影响是否在后文讨论?一项强假设只提过一次,此后再未提及,是重要发现。
- 检查信息可用性。 该方法在推理时是否使用了实践中并不存在的信息,例如标签、预言机信号、未来信息或测试分布统计数据?
- 检查比较方案。 所有基线是否使用相同数据、相同计算预算和相同调优工作量?基线数据是在本文的设置下复现的,还是从设置不同的论文中直接引用的?
重要提醒:主张必须有依据
论文中的每项主张(尤其是摘要和引言中的主张)都必须正确,并有实验支持。部分审稿人会因主张缺乏依据而直接拒稿。
逐一检查摘要和引言中的每项主张。对于每项主张:
- 是否符合事实?
- 是否有实验或分析为其提供支持?
- 是否清楚地引用了支持性实验?
缺乏依据的主张——尤其是摘要或引言中的主张——可能成为拒稿理由。
反向提纲法
从已完成的段落中提取写作计划,并检查行文是否流畅。
完成某个章节(或整篇论文)后:
- 逐段阅读
- 用一句话写下每段的核心信息
- 按顺序阅读这些信息——逻辑是否连贯?
- 找出断点:哪些地方读起来突兀或不合逻辑?
- 修正:调整段落顺序、添加过渡,或拆分/合并段落
将此方法用于:
- 引言(检查叙述脉络是否连贯)
- 方法(检查各模块的介绍顺序是否合理)
- 实验(检查结果的呈现顺序是否有意义)
图表质量检查清单
图
- 流程图突出新颖之处(不只是解释)
- 流程图与已有工作明显不同
- 引导图引人注目且信息完整
- 所有图都有清晰的图注
- 分辨率足以满足印刷要求
- 色盲友好(避免仅通过红绿色差异来区分)
- 正文中引用了所有图
表
- 表注位于表格上方
- 不使用竖线
- 使用 booktabs(
\toprule、\midrule、\bottomrule) - 突出显示最佳结果(加粗/着色)
- 标明指标方向(↑/↓)
- 表注描述设置/符号说明,而非结果
- 正文中引用了所有表
结论与局限性检查
- 结论总结了贡献和关键结果
- 包含局限性章节(审稿人经常指出缺少该章节)
- 诚实的情况下,将局限性表述为任务/设置范围(类似未来工作)
超越 SOTA 并不会消除技术缺陷。数据泄漏、不公平的比较, 或缺乏依据的主张,无论指标水平如何,都仍然是缺陷—— 应将其记录为发现,而非局限性。范围界定适用于工作的真实 边界,而不是用来归档问题。
- 局限性描述诚实,但不会削弱论文的说服力
机械一致性扫描
第 3 轮对源文件执行以下检查(理由见上文第 3 轮):
- 承诺与交付是否一致。 列出摘要和引言中承诺的贡献(尤其是编号列出的贡献)。对每项贡献,找到交付它的章节/实验,以及结论中的呼应内容。开篇承诺的贡献在结论中悄然消失,属于一项发现。
- 声称比较过却缺失的对比。 论文自身称为“可直接比较”“最接近的先前工作”或“最先进水平”的任何方法,都必须出现在结果表格中——否则论文必须说明原因。相关工作中承认了某项工作,却未在实验中纳入,属于一项发现。
- 数值一致性。 摘要、引言或结论中引用的每个数字都必须与其来源表格一致。重新计算声称的改进(“提升 X%”“将 Y 降低 Z”)。文字解读必须与表格相符——例如,用 0.1 分的差距支撑“显著更好”,属于一项发现。
本轮还有四项扫描,其判定标准已在本文件其他位置说明——在这里将它们作为搜索任务执行,而非重复说明:引用完整性和残留标记(标准见下文的提交前最终检查)、模块动机(标准见方面 2),以及表格/图示检查中的机械部分(标准见上文的图表部分——在此还需额外核实每列加粗的“最佳”数值确实是该列最佳值,且箭头方向与指标方向相符)。第 2 轮可能已通过阅读标记了其中一些问题;本轮通过搜索确认,因此每个问题只报告一次。
提交前最终检查
- 所有参考文献完整(没有“?”或缺失条目)
- 作者信息符合投稿场所的要求
- 页数符合限制
- 补充材料已正确引用
- 论文中没有遗留 TODO 标记
- 致谢部分恰当
- 没有意外违反双盲要求(匿名评审时)
- 所有引用的作品都有完整的书目信息(作者、标题、投稿场所、年份)
- 没有破坏匿名性的自引(双盲投稿场所)
- 已引用重要的相关工作——遗漏重要的基线论文可能导致拒稿
移交至答辩
收到评审意见后,使用 paper-rebuttal skill 进行以下工作:
- 评分诊断与评审意见颜色标记
- 支持者策略(为正面评价你的审稿人准备讨论论据)
- 18 条关于结构、内容和语气的策略规则
- 反直觉的答辩原则
你的自我评审材料(以拒稿为先的模拟、主张—证据审计、反直觉流程生成的答辩草稿)会直接用于答辩流程。
扩展版的 5 方面检查清单及更详细的子问题,请参阅 references/review-checklist.md。
关于对抗性压力测试和拒稿风险阈值,请参阅 references/counterintuitive-review.md。
5 方面审查也提供了可执行的工作流:
scripts/five_aspect_review.js — 将其加载到代码解释器中,然后调用 await fiveAspectReview(draftText),即可将五个方面作为并行子审查运行,并获取类型化结果(评分、发现、各方面的阻断问题)以及综合评估。优先使用它,而不是在文字中重新推导并行分发流程;只有在解释器不可用时,才使用上文的顺序检查清单。
第 3 轮的机械扫描属于搜索问题,而非理解问题——收集所有引用键、扫描论文、附录和参考文献中的 \todo/TODO/FIXME,并重新计算声称的改进。请通过解释器执行这些任务;如果解释器不可用,请在评审中说明,而不要暗示已完成全面检查。