mcpField
P
paper-review

paper-review

github.com/evoscientist文档处理481509 次安装1 天前更新
代码仓库

关于 paper-review

paper-review 是用于投稿前自查学术论文的 Skill,面向希望发现潜在审稿问题的研究者。它按对抗式通读、清单检查和机械扫描三轮组织审阅,并强调标注疑点及其置信度。

主要功能

  1. 01三轮论文审阅流程
  2. 02五方面自查清单
  3. 03实验协议审计
  4. 04机械一致性扫描
  5. 05反向提纲与图表检查

适用场景

  1. 01投稿前检查论文草稿
  2. 02核查实验设置与数据划分
  3. 03发现论点缺乏证据之处

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/evoscientist/evoskills --skill paper-review

安装后在 Claude Code 中输入/paper-review确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

EXPERT.md
references/
counterintuitive-review.md
review-checklist.md
scripts/
five_aspect_review.js

详细介绍

论文审阅

在提交前系统性地自我审阅学术论文,分为 三轮:对抗式精读、清单检查(5 个方面、反向提纲、图表质量),以及机械一致性扫描和实验方案审计。最后准备答辩回复。

何时使用此技能

  • 用户想在提交前审阅或检查论文草稿
  • 用户希望获得有关论文质量或完整性的反馈
  • 用户想为应对审稿人的潜在批评做准备
  • 用户提到“审阅论文”“检查我的草稿”“自我审阅”

如果用户已收到审稿意见,需要撰写答辩回复,请改用 paper-rebuttal 技能。

前提条件

开始审阅前,请确认 paper-writing 交接清单已满足:所有章节均已起草,论点均有证据支撑,包含局限性章节,图表已定稿,且没有未解决的 \todo{} 标记。如果有任何一项未完成,请先完成写作再审阅。


如何进行审阅:三轮

按以下顺序分三轮分别进行审阅,并仅在最后合并发现。不要从清单开始:清单会让你只注意其中列出的问题,而审阅中导致论文被拒的缺陷,往往是清单上没有任何问题能指出的。

第 1 轮——对抗式精读(不看清单)

在查阅本技能的任何清单之前,先以持怀疑态度的专家审稿人身份,从头到尾通读论文。阅读时追踪各章节之间的关联:

  • 证据是否确实支持提出该论点的位置上的每个论点?
  • 研究设定中提出的假设,之后是否重新审视过,还是被悄然违背了?
  • 正文中的数字是否与表格一致?结论是否兑现了摘要中的承诺?
  • 该方法能否适用于论文中确切设定之外的情境?

记下所有疑点及其位置,包括尚无法证实的疑点——如何措辞和标记,请参阅下文的“审慎标注疑点”。这一轮会揭示隐藏的跨章节缺陷;任何清单都无法取而代之。

第 2 轮——清单检查

现在检查结构化材料:5 个方面的清单、反直觉的实验方案、反向提纲,以及图表和结论检查。这一轮有助于扩大覆盖范围,并发现已知的常见失败模式。

第 3 轮——机械扫描和实验方案审计

明确执行实验方案审计和机械一致性扫描(均见下文),使用源文件进行搜索和交叉引用。扫描是搜索问题,审计则是逐行重建研究设定;二者命中率都很高,而单靠“仔细阅读”不会自动触发这些检查。

合并

汇总三轮的所有发现并去重。根据下方的置信度规则,即使第 1 轮发现的疑点没有任何清单条目对应,也仍须保留——去重只会移除重复项,不会消除疑虑。

报告发现:校准怀疑

审查发现包含两类陈述,各自遵循不同规则:

  • 关于论文的事实性断言——表格包含什么内容、某个章节写了什么、是否存在或缺少某项内容。这些必须可核实:断言前先检查文本,并将发现锚定到确切位置或简短引文。切勿声称论文写了它实际上没有写的内容——一条捏造的批评所损失的可信度,远超十条有效批评所能带来的收益。
  • 怀疑和判断——“这些提升可能处于随机种子噪声范围内”“这一假设在实际部署中似乎不切实际”。这些是允许的,而且值得鼓励,即使置信度较低也不例外。应如实表述:说明怀疑,标明置信度,并指出什么证据可以解决疑问(“未报告方差;使用 3 个随机种子即可确认”)。

不要因为无法证明某个怀疑就将其压下。在自我审查中,一个被掩盖而留给真实审稿人的缺陷,代价远高于提出后又被排除的怀疑。精确性要求适用于事实,不适用于疑虑。


完美主义方法

力求完美:审查自己的论文,考虑审稿人可能提出的每个问题,并逐一解决。

应对负面审稿意见的最佳方式是进行彻底的自我审查:

  1. 对抗式审查:像挑剔的审稿人一样阅读自己的论文
  2. 征求导师反馈:请导师审阅——反馈越多越好
  3. 解决所有问题:对发现的每个潜在弱点,要么修正,要么准备好辩护

反直觉审查流程

在最终润色前执行此流程:

  1. 先模拟拒稿:先强迫自己写一段拒稿总结,再写任何正面评价。
  2. 删掉一条缺乏依据的强论断:如果一条强论断缺乏直接证据,就将其删除,而不是为它辩护。
  3. 评估可信度,而不只看提升幅度:提升略低但公平性和可复现性更高的论文,往往能获得更好的审稿结果。
  4. 明确提出一项局限:将一项有意义的局限从内部笔记移入论文;保持透明可以增强信心。
  5. 质疑新颖性主张:问问自己:“优秀的博士生能否在一个下午内推导出这个想法?”如果可以,就缩小并强化新颖性陈述。

参见 references/counterintuitive-review.md


5 个方面的自我审查清单

方面 1:贡献是否充分

论文没有为读者提供新知识。

通过以下问题评估贡献是否充分:

  • 失败案例是否常见? 如果失败案例频繁且显而易见,审稿人可能会质疑该方法是否已达到发表要求。
  • 所提出的技术是否已被充分探索? 如果该技术已得到广泛研究,我们带来了什么新的见解或改进?
  • 改进是否可预见/众所周知? 如果结合已知想法就能预见这种改进,新颖性可能会受到质疑。
  • 该技术是否过于简单直接? 对现有技术的简单直接应用可能缺乏足够的贡献。

危险信号:如果以上任一项的答案为“是”,就应强化贡献论述,或增加更多技术深度。

方面 2:写作清晰度

缺少技术细节,无法复现;方法模块缺乏设计动机。

  • 缺少技术细节? 读者能否仅凭论文复现该方法?
  • 缺少模块设计动机? 方法部分中的每个模块是否都解释了其存在的原因,而不只是说明其作用?
  • 段落结构:每个段落是否都有明确的主题?首句是否阐明了要点?
  • 行文逻辑:段落和章节之间的逻辑衔接是否流畅?
  • 术语:全文是否始终如一地使用术语?

危险信号:如果方法能否复现存疑,请补充实现细节或材料。

方面 3:实验结果质量

仅比以往方法略好;或者虽然优于以往方法,但仍不够好。

  • 提升幅度有限? 如果相较于 SOTA 的提升很小,是否具有统计显著性?
  • 绝对质量不足? 即使优于基线,输出质量是否足以满足应用需求?
  • 视觉质量:定性结果是否令人信服?改进是否清晰可见?

危险信号:如果提升幅度有限,请强调其他优势(速度、泛化能力、简洁性),或增加更具挑战性的测试案例。

方面 4:实验测试完整性

缺少消融研究;缺少重要基线;缺少重要评估指标;数据过于简单。

  • 缺少消融研究? 是否对每项核心贡献都进行了消融?
  • 缺少重要基线? 是否纳入了近期的 SOTA 方法?
  • 缺少评估指标? 是否报告了该任务的所有标准指标?
  • 数据集过于简单? 基准测试是否真正检验了该方法的能力?
  • 没有失败案例分析? 诚实分析失败案例有助于提升可信度。

危险信号:缺少消融实验或基线是最常见的拒稿原因之一。

方面 5:方法设计问题

实验设置不切实际;方法存在技术缺陷;方法不够稳健;新方法的成本超过其收益。

  • 实验设置不切实际? 假设是否符合预期使用场景的现实情况?
  • 技术缺陷? 该方法是否存在理论或概念层面的弱点?
  • 不够稳健? 该方法是否需要针对每个场景调整超参数?
  • 收益 < 局限性? 新模块引入的局限性是否超过其带来的收益?

危险信号:如果该方法需要针对每种场景进行大量调优,请补充稳健性实验,或承认并解决这一局限性。


实验方案审查

最具破坏性的实验缺陷,往往藏在设置部分的一句话中——只提过一次,此后再未提及。请逐行审查实验部分,把自己当作严苛的审稿人,而非普通读者:

  1. 还原数据流。 仅根据文字,写明:用什么数据训练、用什么数据调优、用什么数据评估。测试数据与训练或调优数据之间的任何重叠——包括设置中埋藏的“在测试集上调优超参数”之类的表述——都是重要发现。如果完全无法根据文字还原数据划分的规范性,这本身也是一项发现。
  2. 列出所有假设。 在方法和设置部分中查找“我们假设”“假设”“前提是”“可访问”等表述。对于每一项:它在部署时是否现实?其影响是否在后文讨论?一项强假设只提过一次,此后再未提及,是重要发现。
  3. 检查信息可用性。 该方法在推理时是否使用了实践中并不存在的信息,例如标签、预言机信号、未来信息或测试分布统计数据?
  4. 检查比较方案。 所有基线是否使用相同数据、相同计算预算和相同调优工作量?基线数据是在本文的设置下复现的,还是从设置不同的论文中直接引用的?

重要提醒:主张必须有依据

论文中的每项主张(尤其是摘要和引言中的主张)都必须正确,并有实验支持。部分审稿人会因主张缺乏依据而直接拒稿。

逐一检查摘要和引言中的每项主张。对于每项主张:

  • 是否符合事实?
  • 是否有实验或分析为其提供支持?
  • 是否清楚地引用了支持性实验?

缺乏依据的主张——尤其是摘要或引言中的主张——可能成为拒稿理由。


反向提纲法

从已完成的段落中提取写作计划,并检查行文是否流畅。

完成某个章节(或整篇论文)后:

  1. 逐段阅读
  2. 用一句话写下每段的核心信息
  3. 按顺序阅读这些信息——逻辑是否连贯?
  4. 找出断点:哪些地方读起来突兀或不合逻辑?
  5. 修正:调整段落顺序、添加过渡,或拆分/合并段落

将此方法用于:

  • 引言(检查叙述脉络是否连贯)
  • 方法(检查各模块的介绍顺序是否合理)
  • 实验(检查结果的呈现顺序是否有意义)

图表质量检查清单

图
  • 流程图突出新颖之处(不只是解释)
  • 流程图与已有工作明显不同
  • 引导图引人注目且信息完整
  • 所有图都有清晰的图注
  • 分辨率足以满足印刷要求
  • 色盲友好(避免仅通过红绿色差异来区分)
  • 正文中引用了所有图
表
  • 表注位于表格上方
  • 不使用竖线
  • 使用 booktabs(\toprule、\midrule、\bottomrule)
  • 突出显示最佳结果(加粗/着色)
  • 标明指标方向(↑/↓)
  • 表注描述设置/符号说明,而非结果
  • 正文中引用了所有表

结论与局限性检查

  • 结论总结了贡献和关键结果
  • 包含局限性章节(审稿人经常指出缺少该章节)
  • 诚实的情况下,将局限性表述为任务/设置范围(类似未来工作)

    超越 SOTA 并不会消除技术缺陷。数据泄漏、不公平的比较, 或缺乏依据的主张,无论指标水平如何,都仍然是缺陷—— 应将其记录为发现,而非局限性。范围界定适用于工作的真实 边界,而不是用来归档问题。

  • 局限性描述诚实,但不会削弱论文的说服力

机械一致性扫描

第 3 轮对源文件执行以下检查(理由见上文第 3 轮):

  1. 承诺与交付是否一致。 列出摘要和引言中承诺的贡献(尤其是编号列出的贡献)。对每项贡献,找到交付它的章节/实验,以及结论中的呼应内容。开篇承诺的贡献在结论中悄然消失,属于一项发现。
  2. 声称比较过却缺失的对比。 论文自身称为“可直接比较”“最接近的先前工作”或“最先进水平”的任何方法,都必须出现在结果表格中——否则论文必须说明原因。相关工作中承认了某项工作,却未在实验中纳入,属于一项发现。
  3. 数值一致性。 摘要、引言或结论中引用的每个数字都必须与其来源表格一致。重新计算声称的改进(“提升 X%”“将 Y 降低 Z”)。文字解读必须与表格相符——例如,用 0.1 分的差距支撑“显著更好”,属于一项发现。

本轮还有四项扫描,其判定标准已在本文件其他位置说明——在这里将它们作为搜索任务执行,而非重复说明:引用完整性和残留标记(标准见下文的提交前最终检查)、模块动机(标准见方面 2),以及表格/图示检查中的机械部分(标准见上文的图表部分——在此还需额外核实每列加粗的“最佳”数值确实是该列最佳值,且箭头方向与指标方向相符)。第 2 轮可能已通过阅读标记了其中一些问题;本轮通过搜索确认,因此每个问题只报告一次。


提交前最终检查

  • 所有参考文献完整(没有“?”或缺失条目)
  • 作者信息符合投稿场所的要求
  • 页数符合限制
  • 补充材料已正确引用
  • 论文中没有遗留 TODO 标记
  • 致谢部分恰当
  • 没有意外违反双盲要求(匿名评审时)
  • 所有引用的作品都有完整的书目信息(作者、标题、投稿场所、年份)
  • 没有破坏匿名性的自引(双盲投稿场所)
  • 已引用重要的相关工作——遗漏重要的基线论文可能导致拒稿

移交至答辩

收到评审意见后,使用 paper-rebuttal skill 进行以下工作:

  • 评分诊断与评审意见颜色标记
  • 支持者策略(为正面评价你的审稿人准备讨论论据)
  • 18 条关于结构、内容和语气的策略规则
  • 反直觉的答辩原则

你的自我评审材料(以拒稿为先的模拟、主张—证据审计、反直觉流程生成的答辩草稿)会直接用于答辩流程。

扩展版的 5 方面检查清单及更详细的子问题,请参阅 references/review-checklist.md。

关于对抗性压力测试和拒稿风险阈值,请参阅 references/counterintuitive-review.md。

5 方面审查也提供了可执行的工作流: scripts/five_aspect_review.js — 将其加载到代码解释器中,然后调用 await fiveAspectReview(draftText),即可将五个方面作为并行子审查运行,并获取类型化结果(评分、发现、各方面的阻断问题)以及综合评估。优先使用它,而不是在文字中重新推导并行分发流程;只有在解释器不可用时,才使用上文的顺序检查清单。

第 3 轮的机械扫描属于搜索问题,而非理解问题——收集所有引用键、扫描论文、附录和参考文献中的 \todo/TODO/FIXME,并重新计算声称的改进。请通过解释器执行这些任务;如果解释器不可用,请在评审中说明,而不要暗示已完成全面检查。

评论

支持 Markdown