vastai-api

Vastai-Api 技能

全面协助使用 Vast.ai API 管理 GPU 实例、执行机器操作以及自动化 AI/ML 工作流。此技能可访问官方文档，以便通过编程方式控制 Vast.ai 平台。

何时使用此技能

在处理以下事项时，应触发此技能：

• GPU 实例管理：创建、销毁、启动、停止或管理 GPU 实例
• 机器操作：列出租用机器、设置价格、管理维护时段
• SSH 与身份验证：管理 SSH 密钥、API 密钥以及与实例的安全连接
• 账单与额度：查看发票、收益、存款或转移额度
• 网络卷：创建、列出或管理网络存储卷
• 无服务器端点：使用 Vast.ai 无服务器工作组和端点
• 数据传输：在实例或云服务之间复制数据
• 账户管理：管理子账户、环境变量或团队角色
• CLI 操作：使用 vastai 命令行工具
• API 集成：构建与 Vast.ai REST API 集成的应用程序

快速参考

创建和管理实例

创建新的 GPU 实例

# Create instance from an offer
vastai create instance <offer_id> \
  --image pytorch/pytorch:latest \
  --disk 50 \
  --ssh

列出你的活动实例

# Show all instances
vastai show instances

# Show specific instance details
vastai show instance <instance_id>

管理实例状态

# Stop an instance (pause GPU billing, storage still charged)
vastai stop instance <instance_id>

# Start a stopped instance
vastai start instance <instance_id>

# Reboot instance without losing GPU priority
vastai reboot instance <instance_id>

# Destroy instance permanently (irreversible)
vastai destroy instance <instance_id>

SSH 密钥管理

向账户添加 SSH 密钥

# Add your public SSH key
vastai create ssh-key "ssh-rsa AAAAB3NzaC1yc2EA... user@host"

# List all SSH keys
vastai show ssh-keys

# Attach SSH key to specific instance
vastai attach ssh <instance_id> <ssh_key>

搜索和筛选报价

搜索 GPU 报价

# Search with filters
vastai search offers \
  --gpu_name RTX_4090 \
  --num_gpus 2 \
  --disk_space 100

# Order by price
vastai search offers --order dph_total

环境变量（机密信息）

管理环境变量

# Create encrypted environment variable
vastai create env-var MY_API_KEY "secret_value_here"

# List all environment variables
vastai show env-vars

# Update existing variable
vastai update env-var MY_API_KEY "new_secret_value"

# Delete environment variable
vastai delete env-var MY_API_KEY

账单和额度

查看账单信息

# Show invoices
vastai show invoices

# Show earnings (for hosts)
vastai show earnings

# Show deposit for specific instance
vastai show deposit <instance_id>

# Transfer credits to another user
vastai transfer credit [email protected] 25.00

实例日志

获取容器日志

# Get last 100 lines of logs
vastai show logs <instance_id> --tail 100

# Filter logs with grep pattern
vastai show logs <instance_id> --filter "error"

# Get daemon system logs
vastai show logs <instance_id> --daemon-logs

数据传输操作

在实例之间复制

# Copy from one instance to another
vastai copy <src_id> <dst_id> /source/path /destination/path

# Cloud copy using rclone
vastai cloud copy <instance_id> remote:bucket/path /local/path

机器管理（适用于主机）

列出租用中的机器

# List machine with pricing
vastai list machine <machine_id> \
  --price_gpu 0.50 \
  --price_disk 0.10

# Unlist machine (stop renting)
vastai unlist machine <machine_id>

# Schedule maintenance window
vastai schedule maint <machine_id> \
  --sdate "2025-11-01T10:00:00" \
  --duration 3600

核心概念

实例类型

• 按需实例：按使用量付费、由你创建和管理的 GPU 实例
• 可中断实例：成本较低、可能被主机收回的实例
• 预留实例：预付费实例，可享受使用折扣（最高 40%）

定价模式

• GPU 定价：实例运行期间按小时收费
• 存储定价：即使实例已停止，磁盘空间仍会收费
• 网络传输：上传/下载带宽费用
• 折扣：预付预留实例可享受折扣

实例状态

• starting：实例正在初始化
• running：实例处于活动状态并会产生费用
• stopped：容器已停止（存储仍会产生费用）
• exited：容器已退出或发生故障
• rebooting：正在重启
• recycling：正在销毁，并从全新映像重新创建

身份验证

• API 密钥：用于通过 REST API 进行编程访问
• SSH 密钥：用于安全地通过 Shell 访问正在运行的实例
• 环境变量：注入容器的加密机密信息

模板

预配置的设置包含：

• Docker 映像规格
• 环境变量
• 启动脚本
• 资源要求
• 端口映射

热门模板包括 PyTorch、TensorFlow、Jupyter、ComfyUI 和 Stable Diffusion。

网络卷

共享网络存储，可用于：

• 挂载到多个实例
• 独立于实例生命周期持久保存
• 存储数据集和模型权重
• 独立扩展

无服务器架构

• 端点：顶层路由和配置
• 工作组：可自动扩缩的 GPU 实例池
• 测试工作进程：用于性能分析的探索阶段
• 目标利用率：控制扩缩行为

参考文件

此技能在 references/ 中包含全面的文档：

llms-full.md

按类别整理的完整 API 参考，包含所有端点：

• 账户：API 密钥、SSH 密钥、用户管理、子账户
• 账单：发票、收益、存款、信用额度转账
• 实例：创建、管理、销毁、重启、日志、SSH
• 机器：可租用机器列表、定价、维护、默认作业
• 网络卷：创建、列出和管理共享存储
• 搜索：查找优惠、基准测试、筛选 GPU 可用情况
• Serverless：端点、工作组、自动扩缩配置

每个端点都包含：

• HTTP 方法和路径
• 详细说明
• CLI 用法示例
• 参数规范
• 源文档链接

llms-txt.md

重点文档涵盖：

• Serverless 工作组参数和配置
• 端点管理
• 包含设置说明的 QuickStart 指南
• 常见问题与解答
• Schema.org 结构化数据，便于搜索

llms.md

按类别整理的所有 API 操作精选列表，附简要说明和 CLI 示例，方便快速查阅。

使用此 Skill

初学者

从这里开始：

1. 查看 llms-txt.md 中的 QuickStart 部分
2. 按照 4 步设置流程操作（注册、添加额度、准备 SSH、创建实例）
3. 尝试上方快速参考中的基本示例
4. 在关键概念中了解实例状态和定价模式

可以尝试的首批任务：

• 创建用于身份验证的 API 密钥
• 将 SSH 公钥添加到你的账户
• 搜索可用的 GPU 优惠
• 使用模板创建你的第一个实例

中级用户

重点关注：

• 用于管理机密的环境变量
• 在实例和云存储之间传输数据
• 实例生命周期管理（停止/启动/重启与销毁）
• 使用预留实例优化账单
• 为你的工作流创建自定义模板

实用模式：

• 设置自动计费，避免实例中断
• 使用环境变量存储 API 密钥和凭据
• 使用 copy 命令定期安排备份
• 通过发票和收益端点监控成本

高级用户

进阶主题：

• Serverless 端点和工作组配置
• 机器托管和市场优化
• 用于共享数据集的网络卷架构
• 团队和子账户管理
• 在自定义应用中集成 API
• 自动扩缩策略

高级用户技巧：

• 在搜索中使用筛选运算符（eq、neq、gt、lt、gte、lte、in、nin）
• 利用 launch_args 高级自定义实例
• 通过日志 API 实现监控和告警
• 通过调整出价优化成本
• 使用云端复制为数据管道构建工作流

导航提示

查找 API 端点：

• 所有端点均在 llms-full.md 中完整记录
• 按类别整理（账户、账单、实例、机器等）
• 每项均包含 CLI 用法示例

快速查找：

• llms.md 提供所有操作的精简列表
• 使用浏览器搜索（Ctrl+F）查找特定命令
• 查找“CLI Usage:”部分以了解命令语法

理解概念：

• 上方的关键概念部分介绍术语
• llms-txt.md 中的 QuickStart 帮助你开始使用
• 工作组参数部分介绍 Serverless 配置

常见工作流

设置新的开发环境

1. 创建具有适当权限的 API 密钥
2. 将 SSH 密钥添加到账户以获得访问权限
3. 为机密创建环境变量
4. 搜索符合要求的 GPU 优惠
5. 从模板创建实例
6. 通过 SSH 连接并验证设置

管理长时间运行的训练作业

1. 创建具有足够磁盘空间的实例
2. 设置自动计费以防止中断
3. 使用预付款预留实例以享受折扣
4. 使用日志端点进行监控
5. 将模型检查点复制到云存储
6. 暂停时停止（而非销毁）实例以节省成本

通过托管机器获利

1. 使用 list 命令设置机器定价
2. 定义最低出价阈值
3. 配置用于后台工作的默认任务
4. 按需安排维护时段
5. 监控收益并清理过期合约
6. 根据市场情况调整定价

最佳实践

成本管理

• 销毁还是停止：短暂停机时使用停止，长时间停机时使用销毁
• 磁盘空间：谨慎选择，之后无法更改
• 预留实例：预付费用，长期运行的工作可享受 40% 折扣
• 自动扣费：将阈值设为高于每日支出的金额，以避免中断
• 余额不足提醒：启用邮件通知作为备用提醒

安全性

• API 密钥：使用权限范围限制，并定期轮换
• SSH 密钥：不同用途使用不同密钥
• 环境变量：将机密存储为加密环境变量
• 子账户：为团队成员创建访问权限受限的账户

性能

• 模板缓存：预先拉取的映像启动速度快得多（几秒而非几分钟）
• 网络卷：用于在多个实例间共享大型数据集
• 出价定价：更高的出价可获得更好的硬件供应
• 测试 Worker：扩容前先让无服务器功能进行探索

可靠性

• 日志：定期监控错误
• 运行状况检查：在应用程序中实现
• 数据备份：定期将关键数据复制到实例之外
• 冗余：对于关键工作，在多个实例上运行

资源

官方链接

• 控制台：https://cloud.vast.ai/
• API 文档：https://docs.vast.ai/
• Postman 集合：https://www.postman.com/vast33/vast-ai-public-api-docs
• 模板：https://cloud.vast.ai/templates/
• 搜索：https://cloud.vast.ai/create/

支持

• 最低充值金额：$5
• 余额显示在控制面板右上角
• 租用机器或创建团队需要验证电子邮件
• 配置自动扣费可避免服务中断

备注

• 此技能根据 Vast.ai 官方文档自动生成
• 参考文件保留了源文档的结构和示例
• CLI 示例使用 vastai 命令行工具
• API 端点同时支持 REST API 和 CLI 访问
• 所有价格均以美元计价，计算和存储费用按小时结算

更新

如需使用更新后的文档刷新此技能：

1. 使用相同配置重新运行抓取器
2. 此技能将使用最新 API 信息重新构建
3. 检查 API 版本变更或已弃用的端点