mcpField
P
pyspark-transformer

pyspark-transformer

github.com/jeremylongshore数据与数据库2.9k62 次安装2 天前更新
代码仓库

关于 pyspark-transformer

pyspark-transformer 是面向数据管道中 PySpark 转换任务的技能,可提供分步指导、代码与配置生成,并按常见标准验证输出。

主要功能

  1. 01PySpark 转换分步指导
  2. 02ETL 与数据转换支持
  3. 03生成代码和配置
  4. 04按常见标准验证输出

适用场景

  1. 01开发 PySpark 数据转换
  2. 02创建管道配置
  3. 03获取流处理工作流指导

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/jeremylongshore/tons-of-skills-marketplace --skill pyspark-transformer

安装后在 Claude Code 中输入/pyspark-transformer确认已加载。

详细介绍

Pyspark 转换器

概述

此技能可在数据管道领域为 Pyspark 转换器相关任务提供自动化协助。

使用场景

在以下情况下,此技能会自动启用:

  • 在请求中提及“Pyspark 转换器”
  • 询问 Pyspark 转换器模式或最佳实践
  • 需要数据管道技能方面的帮助,涵盖 etl、数据转换、工作流编排和流式数据处理。

说明

  1. 提供 Pyspark 转换器的分步指导
  2. 遵循行业最佳实践和模式
  3. 生成可用于生产环境的代码和配置
  4. 根据通用标准验证输出

示例

示例:基本用法 请求:“帮我处理 Pyspark 转换器” 结果:提供分步指导并生成适当的配置

前置条件

  • 已配置相关开发环境
  • 可访问所需的工具和服务
  • 对数据管道概念有基本了解

输出

  • 生成的配置和代码
  • 最佳实践建议
  • 验证结果

错误处理

错误原因解决方案
配置无效缺少必填字段查阅文档,了解必填参数
找不到工具未安装依赖项按照前置条件安装所需工具
权限被拒绝访问权限不足验证凭据和权限

资源

  • 相关工具的官方文档
  • 最佳实践指南
  • 社区示例和教程

相关技能

属于 数据管道 技能类别。 标签:etl、airflow、spark、streaming、data-engineering

评论

支持 Markdown