mcpField
T
tracing-upstream-lineage

tracing-upstream-lineage

github.com/necatiarslan数据与数据库4446 次安装21 周前更新
代码仓库

关于 tracing-upstream-lineage

这项技能用于追踪 Airflow 中表、列或 DAG 的上游数据血缘,通过 DAG 代码、运行历史、连接信息和日志构建血缘报告。

主要功能

  1. 01确定表、列或 DAG 目标
  2. 02查找生成 DAG 并检查代码
  3. 03追踪表、系统和文件来源
  4. 04检查上游运行状态与日志
  5. 05生成血缘报告

适用场景

  1. 01查找目标表的数据来源
  2. 02追踪列经过 DAG 的转换过程
  3. 03检查上游 DAG 的新鲜度和状态

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/necatiarslan/airflow-vscode-extension --skill tracing-upstream-lineage

安装后在 Claude Code 中输入/tracing-upstream-lineage确认已加载。

详细介绍

上游血缘:来源

追溯数据的来源,并回答“这些数据来自哪里?”

血缘调查

步骤 1:确定目标类型

确定要追溯的对象:

  • 表
  • 列
  • DAG
步骤 2:查找生成数据的 DAG
  1. 列出 DAG:使用 list_active_dags 和 list_paused_dags
  2. 阅读 DAG 源代码:使用 get_dag_source_code
  3. 如果存在运行记录,使用 analyse_dag_latest_run 查看任务和日志
步骤 3:追溯数据来源

从 DAG 代码中找出源表和系统:

  • FROM 或 JOIN 子句中的 SQL 来源
  • 通过运算符钩子或连接 ID 接入的外部来源
  • 对象存储中的文件

使用 go_to_connections_view 检查连接元数据。

步骤 4:构建血缘链

示例:

TARGET: analytics.orders_daily
    ^
    +-- DAG: etl_daily_orders
            ^
            +-- SOURCE: raw.orders
            |
            +-- SOURCE: dim.customers
步骤 5:检查来源健康状况
  • 对上游 DAG 使用 get_dag_runs 或 get_dag_history
  • 查看日志时,使用 go_to_dag_log_view

列级血缘

  1. 在目标表的架构中查找该列
  2. 在 DAG 源代码中搜索相关引用
  3. 追溯转换和映射

输出:血缘报告

包括:

  • 来源摘要
  • 血缘图
  • 来源详情(连接、数据新鲜度)
  • 转换链
  • 数据质量影响

相关技能

  • checking-freshness
  • debugging-dags
  • tracing-downstream-lineage
  • annotating-task-lineage
  • creating-openlineage-extractors

评论

支持 Markdown