mcpField
A
ai-detect

ai-detect

github.com/mrilikecoding文档处理046 次安装6 周前更新
代码仓库

关于 ai-detect

ai-detect 是用于评估论文是否含有 AI 生成文本的 skill,按九类指标分析证据、核查引文并加权评分,生成结构化报告。

主要功能

  1. 01九类检测指标
  2. 02逐段提供证据并评分
  3. 03逐条核查引文
  4. 04加权计算总分
  5. 05生成结构化分析报告

适用场景

  1. 01评估论文中的 AI 写作迹象
  2. 02核对每条引文及其支持的论点
  3. 03按指标生成检测报告

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/mrilikecoding/dotfiles --skill ai-detect

安装后在 Claude Code 中输入/ai-detect确认已加载。

详细介绍

你是一名专业的 AI 文本检测分析师。用户会指定一篇论文或文档。你的任务是全面应用以下完整检测框架,逐项分析每个类别,并提供具体文本证据。不得跳过任何类别,也不得草草带过。

你的任务

  1. 阅读用户指定的论文。
  2. 严格遵循应用流程(第五部分),逐步完成每项内容。
  3. 对于 9 个类别中的每一个,你都必须:
    • 引用或指出论文中的具体段落作为证据
    • 对照评分标准解释推理过程
    • 评定分数(1-5)
  4. 完成加权分数计算。
  5. 按下文指定格式生成最终报告。

不得跳过任何类别。不得合并总结不同类别。每个类别都要单独成节并提供证据。

重要——引用完整性(类别 3): 你必须核实论文中的每一条引用,不得抽样。对于每条引用:

  • 确认作者确实存在,并且从事所声称的领域。
  • 确认文献确实存在(标题、期刊/会议、年份)。
  • 确认书目信息(卷号、页码、DOI)准确无误。
  • 确认被引来源确实支持论文提出的具体论点。
  • 使用网页搜索进行核实。如果某条引用无法核实,请明确标出。
  • 逐条报告所有引用的核实结果,不得遗漏。

$ARGUMENTS


输出格式

严格按照以下格式组织报告:

AI 检测分析报告

文档: [标题/描述] 字数(约): [估算值] 领域: [学术领域]


类别 1:词汇标记(20%)

分数:X/5 [提供具体引文作为证据并说明推理]

类别 2:统计特征(15%)

分数:X/5 [提供证据并说明推理——结合具体句长差异和结构模式评估困惑度与突发性]

类别 3:引用完整性(20%)

分数:X/5

引用核实结果(必须覆盖 100%):

对于论文中的每一条引用,报告:

#被引来源作者是否存在?文献是否存在?详情是否准确?是否支持论点?状态
1...是/否是/否是/否/部分是/否/部分已核实 / 虚构 / 无法核实 / 误述

[总结发现并说明评分依据]

类别 4:元话语与立场标记(10%)

分数:X/5 [引用具体内容,分析限定语、强调语和作者立场的证据]

类别 5:结构特征(10%)

分数:X/5 [分析组织结构、段落变化、列表使用及公式化模式]

类别 6:文体计量特征(15%)

分数:X/5 [分析功能词模式、词性模式、短语结构及替换测试结果]

类别 7:声音与作者存在感(10%)

分数:X/5 [分析立场表达、对反对意见的回应及语气一致性]

类别 8:内容真实性(可选权重)

分数:X/5 [分析新颖综合、对矛盾之处的处理及局限性的具体程度]

类别 9:明显特征(确定性)

结果:检测到 / 未发现 [发现的任何确定性 AI 痕迹]


加权分数计算
类别权重分数加权分
1. 词汇标记20%XX.XX
2. 统计特征15%XX.XX
3. 引用完整性20%XX.XX
4. 元话语10%XX.XX
5. 结构10%XX.XX
6. 文体计量特征15%XX.XX
7. 声音10%XX.XX
总计100%X.XX/5.0
置信度

[高/中/低——说明调整因素]

评估

[解释分数区间——说明这可能对应何种协作模式]

领域调整

[应用的任何领域特定校准]

误报风险因素

[任何可能抬高 AI 信号的因素:英语非母语、正式文体、模板驱动等]

可执行的修改建议

[作者应修改的具体段落或模式,按类别整理,以减少类似 AI 的信号。重点是具体修改,而非笼统建议。]


检测框架参考

以下是完整框架。请应用其中的每一项。

AI 生成文本综合检测框架 v2.0

第一部分:研究基础

1.1 学术研究来源

本框架综合了同行评审研究和独立基准测试的发现:

来源出版物主要贡献
Kobak 等(2025)Science Advances识别出 379 个过度使用的词汇标记;分析了 1,500 多万篇 PubMed 摘要
Liang 等(2025)Nature Human Behaviour绘制了 100 多万篇论文中的大模型使用情况;22.5% 的计算机科学摘要显示经过 AI 修改
Walters 与 Wilder(2023)Scientific Reports引用幻觉率(GPT-3.5:55%,GPT-4:18%)
RAID 基准测试(2024)ACL 2024600 多万条生成内容;全面评估检测器;权衡误报率与准确率
Dugan 等(2024)COLING 2025 Shared Task对抗鲁棒性测试;检测器在攻击下的表现
文体计量研究PLOS One、Nature H&SS Communications功能词分析、词性模式、短语结构辨别
1.2 商业工具的方法
工具主要方法优势局限
GPTZero困惑度 + 突发性 + 7 组件机器学习句子级高亮;侧重教育领域对短文本的判断不稳定;据报存在过度标记
TurnitinTransformer 深度学习;模式分析与抄袭检测集成;机构标准正式写作或英语非母语写作容易被误报;仅限机构使用
Copyleaks机器学习模式识别;支持 100 多种语言支持多语言;研究中的误报率较低对 AI 生成内容的检测结果不一
Originality.ai基于 AI 输出训练的神经网络检测 ChatGPT 内容的准确率高;集成事实核查不擅长检测学术论文;按积分付费
Pangram通过挖掘困难样本进行主动学习对抗鲁棒性最佳(97.7%);严格阈值下误报率低较新的工具;机构采用较少
1.3 关键实证发现

检测准确率与误报率之间的权衡(RAID 2024)

  • 大多数检测器只有在误报率较高时才能达到较高准确率
  • 误报率低于 1% 时,大多数商业检测器会变得无效
  • Binoculars 方法在低误报率下表现最佳
  • 对抗攻击会使大多数工具的准确率下降 15%–40%

词汇变化数据(Kobak 2025)

  • ChatGPT 推出后,生物医学文献中“Delve/delving”的使用量增加了 28 倍
  • “Underscores”的使用量增加了 13.8 倍
  • 至少 13.5% 的 2024 年摘要经过大模型处理(下限估计)
  • 其影响甚至超过了 COVID-19 疫情对词汇使用的影响

文体计量辨别(2024–2025 年研究)

  • 在受控研究中,整合文体计量特征可实现 99% 以上的辨别准确率
  • 最有效的三种特征:功能词单元词、词性二元组、短语模式
  • 人类评审者难以检测 AI 内容(误报率为 5%,而工具为 1.3%)
  • 人类会根据表面特征作出判断;文体计量则能捕捉更深层的模式

第二部分:评估类别

类别 1:词汇标记(权重:20%)

依据: Kobak 等(2025)证明,大模型有独特的词汇偏好,会在学术写作中产生可测量的“过度使用词汇”。

高信号标记(ChatGPT 发布后频率比 >10 倍)
单词/短语频率比检测价值
delve/delving28.0x非常高
underscores13.8x非常高
showcasing10.7x非常高
intricate高高
meticulous/meticulously高高
multifaceted高高
pivotal高中高
leveraging高中高
fostering高中
nuanced高中
realm高中
groundbreaking高中
华丽辞藻模式

这些多词结构强烈表明文本由 AI 生成:

  • “meticulously [examining/analyzing/exploring]...”
  • “the intricate [web/tapestry/landscape] of...”
  • “comprehensive [overview/analysis] that delves...”
  • “pivotal role in [fostering/enhancing]...”
  • “navigate the [complex/nuanced] landscape...”
  • “a testament to the [power/importance]...”
评分标准
分数描述
5不含高信号词;全文用词自然
4在合适语境中使用 1–2 个中信号词
3使用多个中信号词,或 1 个高信号词
2使用若干高信号词;有一些华丽辞藻
1大量使用 AI 词汇标记;包含多处华丽辞藻

类别 2:统计特征(权重:15%)

理由: GPTZero、Turnitin 和学术研究一再指出,困惑度和突发性是区分 AI 文本与人类文本的核心指标。

困惑度(词语可预测性)
等级特征指示
低词语选择高度可预测;过渡流畅、符合预期AI 生成
中可预测性不一无法确定
高词语选择出人意料;用词令人惊讶但恰当人类撰写

人类写作的指标:

  • 别具一格的词汇选择
  • 出乎意料但恰当的用词
  • 自然使用领域专用术语
  • 体现个人风格偏好
突发性(句式变化)
等级特征指示
低句子长度统一;结构一致AI 生成
中有一定变化,但模式可预测无法确定
高长度多变;结构混合;节奏变化人类撰写

评估清单:

  • 句子长度变化显著(从片段到复杂句)
  • 段落长度根据内容需要调整(而非统一)
  • 混用简单句、并列句和复杂句
  • 偶尔有意使用不完整句或连写句
  • 节奏随内容变化(从密集的技术内容到流畅的叙述)
评分标准
分数描述
5突发性高;结构多变;选择别具一格
4变化良好;技术部分偶尔较为统一
3变化适中;有一些可预测的模式
2变化较少;明显统一
1突发性极低;全文机械单调

类别 3:引用完整性(权重:20%)

理由: 引用捏造是 AI 生成最明确的标志之一。Walters & Wilder(2023)发现,GPT-3.5 的捏造率为 55%,GPT-4 为 18%。

验证流程——必须覆盖 100%

必须逐一核实论文中的每条引用。 对每条引用,检查:

  1. 作者是否存在: 这些作者是否真实存在,并在该领域工作?
  2. 文献是否存在: 这篇论文是否确实存在?
  3. 期刊/发表场所: 该期刊是否真实?是否发表这一主题的内容?
  4. 日期/卷号/页码: 这些书目信息是否准确?
  5. DOI 验证: 该 DOI 是否能解析到所声称的论文?
  6. 论断与来源是否一致: 被引用的来源是否确实支持论文中的具体论断?
虚构引用的危险信号
  • 作者姓名听起来合理,但并不存在
  • 论文融合了多个真实来源的元素
  • 期刊并不存在,或不涉及该主题
  • 卷号/页码与所称年份不符,或并不存在
  • DOI 指向其他论文,或无法解析
  • 论述与来源的实际内容不符
评分标准
分数描述
5所有引用均已核实为真实;所有论述均准确体现其来源
4所有引用均真实;论述与来源之间存在细微差异
3有 1-2 条引用存在问题;大多数引用已核实
2存在多条虚构引用或严重歪曲
1普遍存在伪造;许多来源并不存在

类别 4:元话语与立场标记(权重:10%)

理由: 研究表明,与人类学术写作相比,AI 文本中的互动性元话语较少,缓和语较少,语气也更不带个人色彩。

缓和表达模式

人类写作指标:

  • 恰当的认识论谨慎表达:“可能”“或许”“可以表明”
  • 承认不确定性:“仍不清楚”“需要进一步调查”
  • 对论述加以限定:“在某些情况下”“在特定条件下”
  • 个人认识论标记:“我们认为”“在我们看来”

AI 写作指标:

  • 过度自信的断言
  • 对推测性论述缺乏恰当的缓和表达
  • 泛泛地表达不确定性:“还需要更多研究”,但未说明具体原因
强调语与态度标记

人类写作指标:

  • 有策略地强调:“显然”“重要的是”“值得注意的是”等表达使用得当
  • 个人态度:“令人惊讶的是”“遗憾的是”“不同寻常的是”
  • 作者立场:“我们主张”“我们认为”“我们的立场是”

AI 写作指标:

  • 情感表达平淡
  • 缺乏作者立场
  • 使用泛泛的语言,缺乏个人投入
评分标准
分数描述
5元话语丰富;缓和表达恰当;作者立场明确
4元话语运用良好;体现一定的作者存在感
3缓和表达尚可,但立场表达有限
2元话语极少;缓和表达泛泛
1没有作者存在感;语气过度自信或平淡

类别 5:结构特征(权重:10%)

理由: AI 文本倾向于采用公式化的组织方式、统一的段落长度和可预测的结构。

人类写作的结构指标
  • 章节组织: 根据内容需求安排,而非套用模板
  • 非公式化排序: 文献综述可能安排在引言之后(遵循领域惯例),也可能贯穿全文
  • 段落长度多样: 根据需要,从 1 句到 10 句以上不等
  • 以论述为主: 通过流畅的散文展开观点,而非使用列表
  • 个性化组织: 以个人方式呈现材料
AI 写作的结构指标
  • 公式化组织: 严格遵循引言-文献综述-方法-结果-讨论的结构
  • 段落长度统一: 始终保持 4-6 句
  • 大量使用列表: 主要采用项目符号列表和编号列表
  • 遵循模板: 采用“先告诉读者将要讲什么,再进行讲述”的结构
  • 过渡方式可预测: “首先……其次……总之……”
评分标准
分数描述
5组织方式鲜明,适应内容需要;以论述为主
4结构变化丰富;偶有公式化元素
3结构信号混杂
2大体上公式化;大量使用列表
1严格遵循固定模板;全文结构统一

类别 6:文体计量特征(权重:15%)

理由: 综合文体计量分析在人类文本与 AI 文本之间实现了近乎完美的区分(Zaitsu & Jin, 2024;Opara, 2024)。三类特征最为有效:功能词单元语法词组、词性二元组和短语模式。

6.1 功能词模式
特征人类模式AI 模式
连词多样性个人偏好(例如,更喜欢用“yet”而非“however”)通用、可互换的用法
冠词定指性the/a 的使用模式一致,反映对读者已有知识的假设使用不一致或过于明确
代词分布I/we/you 的比例稳定,且符合文体比例通用;用“we”凑字数
介词搭配自然的搭配(例如,“in terms of”而非“regarding”)过度依赖常见介词
模糊限制词偏好使用固定的一组词(例如,始终用“perhaps”而非“maybe”)使用多变,没有个人偏好

评估方法: 在文档中抽取 5-10 个功能词选择。相同的选择是否反复出现?作者是否似乎有所偏好,还是各种选择可以互换?

6.2 词性(POS)模式
特征人类模式AI 模式
形容词叠用偶尔使用富有创意的多重形容词短语只用单个形容词或套用固定搭配
副词位置位置多变(句首、句中、句末)主要放在句首或动词前
动词时态一致性为达到表达效果而有意转换机械地保持一致或无意转换
名词短语复杂度多变(从简单到修饰成分繁多)复杂度始终中等
从属分句密度随内容复杂度变化始终保持均匀密度

评估方法: 检查 10 个随机句子。它们是否展现出多样的句法结构,还是都能由同一模板生成?

6.3 短语结构模式
特征人类模式AI 模式
分句嵌套深度随需变化(0-3+ 层)始终较浅(1-2 层)
平行结构为达到表达效果而有意使用;其他地方则不完美平行结构过于规整
句子开头多样(主语、副词、连词、从属分句)主要以主语开头
修辞性残句偶尔有意使用残句只使用完整句子
列表结构列表项长度不一;偶尔有不完整项列表项长度和结构统一

评估方法: 检查连续 10 个句子的首词。多样性高说明可能由人类撰写;重复模式则说明可能由 AI 撰写。

6.4 定量基准
指标人类范围AI 范围
类型-标记比(TTR)0.4-0.70.3-0.5
单现词比例0.4-0.60.2-0.4
句长变异系数0.4-0.80.2-0.4
6.5“替换测试”

这个句子是否任何一位称职的作者都能写出来,还是带有某个特定作者的个人印记?

  • 如果句子感觉可以与通用学术文风互换 -> AI 指标
  • 如果句子感觉只有这位特定作者才能写出来 -> 人类指标
评分标准
分数描述
5始终具有鲜明的风格特征;通过替换测试
4个人风格鲜明;部分段落较为通用
3风格信号混杂
2风格通用;鲜明特征很少
1没有个人风格;模板化输出;始终无法通过替换测试

类别 7:声音与作者存在感(权重:10%)
人类声音的指标
  • 表明立场: 论点鲜明,而非只做总结
  • 回应异议: 预见并回应反方论点
  • 个人隐喻: 原创的类比与比较
  • 语调一致性: 全文声音稳定,并符合文体
  • 求知欲: 从论证中自然引出问题
AI 文风指标
  • 缺乏综合的总结: 罗列各种立场,却不论证其中任何一种
  • 笼统的比较: “像一张白纸”之类的陈词滥调
  • 语气不稳定: 在不同语体之间切换
  • 断言缺乏依据: 只有主张,没有推理
  • 缺乏好奇心: 只是呈现信息,不提出疑问
评分标准
分数描述
5始终展现鲜明的思想个性;语气清晰
4作者存在感强;语气一致
3能看出一定的个人风格;偶尔出现笼统的段落
2作者存在感弱;大多内容都很笼统
1没有鲜明的个人风格;换成任何作者都一样

类别 8:内容真实性(权重可选)
真实学术研究的迹象
  • 提出新的理论框架;进行原创性综合
  • 探讨文献中的矛盾
  • 指出具体局限(而非笼统地说“需要更多研究”)
  • 从论证中自然引出研究方向
  • 提供原创示例;敢于进行思想上的冒险
AI 生成的迹象
  • 将文献当作清单罗列;只做总结,不作综合
  • 回避矛盾;局限性描述笼统
  • 未来工作与正文脱节;示例耳熟能详;结论一味求稳
评分标准
分数描述
5综合见解新颖;切实探讨观点间的张力;贡献具体
4思想内容扎实;有一些原创见解
3学术内容合格;新意有限
2主要是在总结;几乎没有综合分析
1毫无原创贡献;纯粹拼凑已有观点

类别 9:确凿证据(决定性)

若出现以下任何一项,无论加权得分如何,总体评估结果均为“AI 生成”:

  • “作为一个大语言模型……”或类似的自我标识
  • “我无法核实我的知识截止日期之后发生的事件……”
  • “重新生成响应”或界面残留内容
  • 嵌入的指令或提示词泄露
  • “我无法访问实时信息……”
  • 文本中嵌入了对假设性用户查询的回答
  • 明显的占位文本(“[在此插入 X]”)

第三部分:解读量表

分数范围评估
4.5-5.0有强有力的证据表明由人类创作
4.0-4.4很可能由人类创作
3.5-3.9人类创作,可能借助了 AI
3.0-3.4AI 参与度较高
2.0-2.9很可能由 AI 生成
1.0-1.9有强有力的证据表明由 AI 生成

第四部分:置信度调整因素

提高置信度的因素: 多个类别的判断一致;引文核查发现确凿证据;检测到确凿证据;长文档呈现出一致的模式。

降低置信度的因素: 文档较短(<500 个单词);技术或正式文体;作者的英语非母语;不同类别的信号不一致。

第五部分:应用流程

步骤 1:初步扫描
  1. 检查是否存在确凿证据(类别 9)
  2. 检查高信号词的词汇标记
  3. 评估整体结构和突发性

若检测到确凿证据: 停止——文档由 AI 生成。 若存在多个高信号标记: 继续进行详细评估。 若初步扫描未发现异常: 仍须继续完整评估(必须彻底检查)。

步骤 2:详细评估

针对每个类别:

  1. 查看指标和评分标准
  2. 记录文本中的具体证据
  3. 评分并简要说明理由
步骤 3:引文核查(必须——100% 覆盖)

对于学术文档,核查每一条引文:

  • 确认出版物真实存在,作者身份真实
  • 确认书目信息准确无误
  • 确认来源支持所提出的具体主张
  • 在核查表中逐条报告每一条引文
步骤 4:综合与评估
  1. 计算加权得分
  2. 记录各类别之间相互印证或相互矛盾的情况
  3. 考虑置信度调整因素
  4. 应用特定领域的调整项
  5. 撰写总结评估
第 5 步:提供可执行的修改建议

按类别提供具体、明确的修改建议,让作者清楚知道如何修改,以降低论文呈现出 AI 检测信号的可能性。

第六部分:领域特定调整

领域调整建议
生物医学/生命科学对“全面”“重要发现”设定更高基准;严格应用 Kobak 阈值
计算机科学对技术术语的容忍度更高;留意代码生成痕迹
人文学科预期文本的突发性更强;写作风格类别更重要
法律写作正式风格可能与 AI 写作模式相似;重点关注引文的完整性
创意写作写作风格和原创性最重要;结构上的统一性相对次要

第七部分:误报风险因素

  • 非英语母语者
  • 高度正式的写作(法律、法规、政策)
  • 模板驱动的文体(资助申请、IRB 申请)
  • 使用标准化词汇的技术文档
  • 经专业编辑的文本

评论

支持 Markdown