mcpField
D
data-quality-audit

data-quality-audit

github.com/nimrodfisher数据与数据库504263 次安装5 周前更新
代码仓库

关于 data-quality-audit

data-quality-audit 是一项用于检查数据集并整理质量发现的技能,适合数据团队和数据治理工作。它指导检查空值、重复项、引用完整性、取值范围和数据新鲜度,并按严重程度归类发现。

主要功能

  1. 01分析空值与完整性
  2. 02检测行级和键级重复
  3. 03检查引用完整性
  4. 04验证业务取值范围
  5. 05检查数据新鲜度
  6. 06生成报告与评分卡

适用场景

  1. 01在下游报表使用前验证数据
  2. 02调查数值错误或数据过时问题
  3. 03在基于新数据源构建前评估质量

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/nimrodfisher/data-analytics-skills --skill data-quality-audit

安装后在 Claude Code 中输入/data-quality-audit确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

assets/
audit_report_template.html
quality_rubric.md
references/
business_rule_patterns.md
quality_dimensions.md
scripts/
duplicate_finder.py
freshness_check.py
null_counter.py
referential_integrity.py
value_range_validator.py

详细介绍

适用场景

  • 数据管道刚加载了新数据,需要先进行验证,再供下游报告使用
  • 利益相关方指出了数据质量问题(总计错误、出现意外空值、数据过时)
  • 作为数据治理流程的一部分,需要为某项数据资产生成正式的数据质量评分卡
  • 正在接入新的数据源,需要在基于它构建内容之前了解其质量概况

流程

  1. 空值与完整性审计 — 运行 scripts/null_counter.py,按列生成空值概况。根据业务场景,标记空值比例超过可接受阈值的列。
  2. 重复数据检测 — 运行 scripts/duplicate_finder.py,识别整行重复和键级别重复。判断重复数据是有意产生的(版本管理),还是错误导致的(管道扇出)。
  3. 引用完整性检查 — 运行 scripts/referential_integrity.py,验证子表中的外键值是否存在于父表中。报告每种关系的孤立记录比例。
  4. 值范围验证 — 根据 references/business_rule_patterns.md 中定义的业务规则,运行 scripts/value_range_validator.py。标记超出可接受范围的值。
  5. 新鲜度检查 — 运行 scripts/freshness_check.py,验证数据集是否为最新数据 — 将最新记录的时间戳与此管道的预期延迟进行比较。
  6. 评估并分类发现 — 使用 references/quality_dimensions.md 将每项发现映射到一个质量维度。指定严重级别(CRITICAL / HIGH / MEDIUM / LOW)。
  7. 生成交付物 — 填写 assets/audit_report_template.html,生成可供分享的报告;填写 assets/quality_rubric.md,生成简明评分卡。

此技能所需的输入

  • 必需:数据集(CSV / Parquet / 数据库表引用)
  • 必需:架构关系 — 哪些列是主键,哪些列是指向哪些表的外键
  • 必需:业务规则 — 可接受的值范围、预期值集合、新鲜度 SLA
  • 可选:可接受的错误率 — 错误率达到什么阈值时,失败的严重级别从 HIGH 升为 CRITICAL
  • 可选:管道计划 — 用于根据预期更新频率评估新鲜度

输出

  • assets/audit_report_template.html(已填写)— 完整的数据质量报告,可与利益相关方分享
  • assets/quality_rubric.md(已填写)— 一页式质量评分卡,包含各维度的得分
  • 脚本控制台输出 — 每个验证脚本按检查项统计的通过 / 失败数量

评论

支持 Markdown