关于 tracing-upstream-lineage
这项技能用于追踪 Airflow 中表、列或 DAG 的上游数据血缘,通过 DAG 代码、运行历史、连接信息和日志构建血缘报告。
主要功能
- 01确定表、列或 DAG 目标
- 02查找生成 DAG 并检查代码
- 03追踪表、系统和文件来源
- 04检查上游运行状态与日志
- 05生成血缘报告
适用场景
- 01查找目标表的数据来源
- 02追踪列经过 DAG 的转换过程
- 03检查上游 DAG 的新鲜度和状态
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ necatiarslan/ airflow-vscode-extension --skill tracing-upstream-lineage安装后在 Claude Code 中输入/tracing-upstream-lineage确认已加载。
详细介绍
上游血缘:来源
追溯数据的来源,并回答“这些数据来自哪里?”
血缘调查
步骤 1:确定目标类型
确定要追溯的对象:
- 表
- 列
- DAG
步骤 2:查找生成数据的 DAG
- 列出 DAG:使用
list_active_dags和list_paused_dags - 阅读 DAG 源代码:使用
get_dag_source_code - 如果存在运行记录,使用
analyse_dag_latest_run查看任务和日志
步骤 3:追溯数据来源
从 DAG 代码中找出源表和系统:
- FROM 或 JOIN 子句中的 SQL 来源
- 通过运算符钩子或连接 ID 接入的外部来源
- 对象存储中的文件
使用 go_to_connections_view 检查连接元数据。
步骤 4:构建血缘链
示例:
TARGET: analytics.orders_daily
^
+-- DAG: etl_daily_orders
^
+-- SOURCE: raw.orders
|
+-- SOURCE: dim.customers
步骤 5:检查来源健康状况
- 对上游 DAG 使用
get_dag_runs或get_dag_history - 查看日志时,使用
go_to_dag_log_view
列级血缘
- 在目标表的架构中查找该列
- 在 DAG 源代码中搜索相关引用
- 追溯转换和映射
输出:血缘报告
包括:
- 来源摘要
- 血缘图
- 来源详情(连接、数据新鲜度)
- 转换链
- 数据质量影响
相关技能
- checking-freshness
- debugging-dags
- tracing-downstream-lineage
- annotating-task-lineage
- creating-openlineage-extractors
评论
支持 Markdown