mcpField
N
novita-ai

novita-ai

github.com/novitalabs云与 DevOps678 次安装5 周前更新
代码仓库

关于 novita-ai

novita-ai 是面向开发者和 Agent 的 Novita AI 平台技能,涵盖模型 API、GPU、Agent Sandbox 及相关框架和客户端的使用指引。它按任务路由到对应参考资料,并要求动态信息以实时数据核实。

主要功能

  1. 01调用 LLM、图像、视频和音频 API
  2. 02使用 GPU 实例与无服务器 GPU
  3. 03通过 SDK 或 CLI 管理 Agent Sandbox
  4. 04查阅框架、客户端及观测集成指南
  5. 05按任务路由到相应参考资料

适用场景

  1. 01构建使用 Novita AI 模型 API 的应用
  2. 02生成或处理图像、视频与音频任务
  3. 03为 Agent 配置隔离的代码执行环境
  4. 04查询 GPU、Sandbox 或 API 的使用方法

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/novitalabs/novita-skills --skill novita-ai

安装后在 Claude Code 中输入/novita-ai确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

references/
audio-api.md
common-issues.md
gpu-api.md
gpu-guide.md
image-api.md
integrations-clients.md
integrations-frameworks.md
integrations-observability-agents.md
integrations.md
llm-api.md
llm-guide.md
quick-start.md
video-api.md

详细介绍

Novita AI

面向构建者和 Agent 的 AI 原生云:在一个平台上运行模型、扩展 GPU 并构建 AI Agent。

此文件是 Agent 路由。无论作为技能安装,还是直接从以下地址读取,都必须正常工作: https://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/SKILL.md

规则

  • 使用 NOVITA_API_KEY;切勿将密钥粘贴到源代码或回答中。
  • 使用 NOVITA_MODEL 或用户/应用已选择的模型。
  • 不要推荐或臆造默认模型。如果没有选择模型,请列出模型或询问用户要选择哪个模型。
  • 提供确切数值前,先实时核实动态数据:模型、定价、速率限制、配额、延迟、GPU 库存和沙盒限制。
  • 先选择一条路由。只有任务涉及多个产品时,才阅读多个参考资料。
  • 在原始内容读取模式下,从路由表中获取匹配的原始参考资料 URL。
  • 提供可运行的代码或命令,并使用 <MODEL_NAME>、<TASK_ID> 和 <INPUT_FILE> 等明确占位符。
  • 除非用户明确提供安全的 URL,否则图像、视频和音频输入请使用可信的本地媒体文件。

常量

项目值
API 基础地址https://api.novita.ai
OpenAI 兼容基础地址https://api.novita.ai/openai
OpenAI 兼容 v1 基础地址https://api.novita.ai/openai/v1
API 密钥NOVITA_API_KEY
模型NOVITA_MODEL
模型目录https://novita.ai/models
定价https://novita.ai/pricing
控制台https://novita.ai/console
API 密钥https://novita.ai/settings/key-management

路由表

用户意图已安装参考文档原始读取 URL在线来源
首次 API 调用、API 密钥、基础 URLreferences/quick-start.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/quick-start.mdhttps://novita.ai/settings/key-management
聊天、OpenAI SDK、流式传输、工具、JSON、视觉、批处理references/llm-guide.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/llm-guide.mdhttps://novita.ai/docs/api-reference/model-apis-llm-create-chat-completion
大模型参数、嵌入、重排序、文件、批处理端点references/llm-api.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/llm-api.mdhttps://novita.ai/docs/api-reference/model-apis-llm-create-chat-completion
图像生成/编辑、背景、局部重绘、放大references/image-api.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/image-api.mdhttps://novita.ai/docs
视频生成/编辑、视频任务轮询references/video-api.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/video-api.mdhttps://novita.ai/docs
TTS、ASR、语音克隆references/audio-api.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/audio-api.mdhttps://novita.ai/docs
GPU 实例、无服务器 GPU、模板、存储references/gpu-guide.md 或 references/gpu-api.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/gpu-guide.mdhttps://novita.ai/docs/guides/gpu-instance-overview
Agent Sandbox SDK、E2B 兼容性、定价内置 Sandbox 章节;详情见 novita-sandbox 参考文档https://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-sandbox/references/sandbox-guide.mdhttps://novita.ai/docs/guides/sandbox-overview
Agent Sandbox CLI:创建、列出、连接、终止、日志、克隆、提交、构建模板、部署 Agent内置 Sandbox 章节;详情见 novita-sandbox 技能https://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-sandbox/SKILL.mdhttps://novita.ai/docs/guides/sandbox-sdk-and-cli
LangChain、LlamaIndex、OpenAI Agents SDKreferences/integrations-frameworks.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/integrations-frameworks.mdhttps://novita.ai/docs/guides/langchain
Cursor、Continue、Claude Code、Dify、LobeChat、ChatBoxreferences/integrations-clients.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/integrations-clients.mdhttps://novita.ai/docs
LiteLLM、Portkey、Langfuse、Browser Use、Skyvern、Axolotlreferences/integrations-observability-agents.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/integrations-observability-agents.mdhttps://novita.ai/docs
身份验证、计费、配额、速率限制、请求失败references/common-issues.mdhttps://raw.githubusercontent.com/novitalabs/novita-skills/main/skills/novita-ai/references/common-issues.mdhttps://novita.ai/docs/guides/faq

模型选择

按以下顺序选择:

  1. 用户提供的模型。
  2. 现有项目配置或 NOVITA_MODEL。
  3. 查询在线目录,然后询问用户;只有在用户提供了选择标准时才自行选择。
curl https://api.novita.ai/openai/v1/models \
  -H "Authorization: Bearer $NOVITA_API_KEY"

最简大模型调用

import os
from openai import OpenAI

client = OpenAI(
    base_url="https://api.novita.ai/openai",
    api_key=os.environ["NOVITA_API_KEY"],
)

response = client.chat.completions.create(
    model=os.environ["NOVITA_MODEL"],
    messages=[{"role": "user", "content": "Hello"}],
    max_tokens=512,
)

print(response.choices[0].message.content)
curl https://api.novita.ai/openai/v1/chat/completions \
  -H "Content-Type: application/json" \
  -H "Authorization: Bearer $NOVITA_API_KEY" \
  -d '{
    "model": "'"$NOVITA_MODEL"'",
    "messages": [{"role": "user", "content": "Hello"}],
    "max_tokens": 512
  }'

异步任务

图像和视频 API 通常会返回 task_id。轮询结果:

curl "https://api.novita.ai/v3/async/task-result?task_id=<TASK_ID>" \
  -H "Authorization: Bearer $NOVITA_API_KEY"

Agent Sandbox

对于隔离的代码执行、文件操作、模板、长时间运行的 Agent 环境以及兼容 E2B 的工作流,请使用 Sandbox。在此处理常见的 Sandbox 任务;只有需要更深入的 CLI 细节时才使用 novita-sandbox。

SDK 基线
pip install novita-sandbox
export NOVITA_API_KEY=<YOUR_API_KEY>
from novita_sandbox.code_interpreter import Sandbox

sandbox = Sandbox.create()
execution = sandbox.run_code("print('hello world')")
print(execution.logs)
sandbox.kill()

当用户使用 Node.js 时,生成对应的 JavaScript/TypeScript 代码。

CLI 基线

检查 Node.js 并安装或更新 CLI:

if ! command -v node >/dev/null 2>&1; then
  echo "Install Node.js first"
elif ! command -v novita-sandbox-cli >/dev/null 2>&1; then
  npm install -g novita-sandbox-cli@beta
else
  novita-sandbox-cli --version
fi

需要时进行身份验证:

novita-sandbox-cli auth info || novita-sandbox-cli auth login
CLI 工作流
# Template
novita-sandbox-cli template init
novita-sandbox-cli template build -n <TEMPLATE_NAME>
novita-sandbox-cli template list

# Sandbox lifecycle. Use --detach inside AI agents; interactive terminals usually fail there.
novita-sandbox-cli sandbox create <TEMPLATE_ID> --detach
novita-sandbox-cli sandbox list
novita-sandbox-cli sandbox logs <SANDBOX_ID> -f
novita-sandbox-cli sandbox metrics <SANDBOX_ID> -f
novita-sandbox-cli sandbox clone <SANDBOX_ID> --count <N>
novita-sandbox-cli sandbox commit <SANDBOX_ID> --alias <ALIAS>
novita-sandbox-cli sandbox kill <SANDBOX_ID>

# Deploy and invoke an agent. Pass env vars explicitly; sandbox processes do not inherit local shell env.
novita-sandbox-cli agent configure -n <AGENT_NAME> -e <ENTRYPOINT>
novita-sandbox-cli agent launch
novita-sandbox-cli agent invoke '{"prompt":"hello"}' --stream --env NOVITA_API_KEY=$NOVITA_API_KEY

有关确切的标志、模板版本管理、E2B 兼容性、定价和配额行为,请阅读上表中的 Sandbox 路由。

错误处理默认规则

  • 401 / 403:检查密钥、账户状态和 Authorization: Bearer ...。
  • 404 / 未找到模型:从实时目录中确认确切的模型 ID。
  • 429:降低并发量,进行退避,检查速率限制和账户等级。
  • 积分不足:检查账单和余额。
  • 长时间运行的媒体任务:使用异步轮询或 Webhook。

评论

支持 Markdown