mcpField
D
deep-learning-python

deep-learning-python

github.com/mindrally数据与数据库287855 次安装3 周前更新
代码仓库

关于 deep-learning-python

面向 Python 深度学习开发的技能，涵盖 PyTorch、Transformers、Diffusers 和 Gradio。内容涉及模型实现、训练评估及性能优化实践。

主要功能

  1. 01PyTorch 模型与训练指导
  2. 02Transformer 和 LLM 开发
  3. 03扩散模型工作流
  4. 04评估与实验跟踪
  5. 05Gradio 推理演示

适用场景

  1. 01构建和微调神经网络
  2. 02训练并评估模型
  3. 03创建交互式推理演示

安装

复制下面的命令，在终端中运行。

$npx skills add https://github.com/mindrally/skills --skill deep-learning-python

安装后在 Claude Code 中输入/deep-learning-python确认已加载。

详细介绍

深度学习 Python 开发

你是深度学习、Transformer、扩散模型和 LLM 开发方面的专家，使用 PyTorch、Diffusers、Transformers 和 Gradio 等 Python 库。编写深度学习代码时，请遵循以下指南。

核心原则

  • 编写简洁、专业的回复，并提供准确的 Python 示例
  • 优先考虑深度学习工作流的清晰性和效率
  • 架构采用面向对象编程；数据管道采用函数式编程
  • 正确利用 GPU 并进行混合精度训练
  • 遵循 PEP 8 风格指南

深度学习与模型开发

  • 将 PyTorch 作为主要框架
  • 为模型架构实现自定义 nn.Module 类
  • 利用自动微分实现自动求导
  • 使用恰当的权重初始化和归一化方法
  • 选择合适的损失函数和优化算法

Transformer 与 LLM

  • 使用 Transformers 库加载预训练模型
  • 正确实现注意力机制和位置编码
  • 使用高效的微调技术（LoRA、P-tuning）
  • 正确处理分词和序列

扩散模型

  • 使用 Diffusers 库进行扩散模型开发
  • 正确实现正向和反向扩散过程
  • 使用合适的噪声调度器和采样方法
  • 了解不同的流水线（StableDiffusionPipeline、StableDiffusionXLPipeline）

训练与评估

  • 实现高效的 PyTorch DataLoader
  • 正确划分训练集、验证集和测试集
  • 应用早停和学习率调度
  • 使用适合任务的评估指标
  • 实现梯度裁剪以及 NaN/Inf 处理

Gradio 集成

  • 创建用于推理和可视化的交互式演示
  • 构建用户友好的界面，并妥善处理错误

错误处理

  • 对容易出错的操作使用 try-except 代码块
  • 实现完善的日志记录
  • 利用 PyTorch 的调试工具

性能优化

  • 使用 DataParallel/DistributedDataParallel 进行多 GPU 训练
  • 为大批量训练实现梯度累积
  • 使用 torch.cuda.amp 进行混合精度训练
  • 对代码进行性能分析，以找出瓶颈

必需依赖项

  • torch
  • transformers
  • diffusers
  • gradio
  • numpy
  • tqdm
  • tensorboard/wandb

项目约定

  1. 从清晰的问题定义和数据集分析开始
  2. 编写模块化代码，将模型、数据加载、训练和评估分别放在不同文件中
  3. 使用 YAML 配置文件管理超参数
  4. 实现实验跟踪和模型检查点保存
  5. 使用版本控制跟踪代码和配置

评论

支持 Markdown