mcpField
N
nemotron-voice-agent-builder

nemotron-voice-agent-builder

github.com/nvidiaAgent 工作流3.8k70 次安装今天更新
代码仓库

关于 nemotron-voice-agent-builder

nemotron-voice-agent-builder 是用于借助 Pipecat 或 LiveKit 构建、配置和修复 NVIDIA 语音 Agent 的技能,涵盖级联式与 Omni 语音管线,以及新项目和现有项目的部署与迭代。

主要功能

  1. 01构建级联式与 Omni 语音管线
  2. 02支持 Pipecat 和 LiveKit 项目
  3. 03指导语音定制与多语言路由
  4. 04涵盖云端和本地部署
  5. 05指引项目搭建、迭代与故障排查

适用场景

  1. 01搭建新的 NVIDIA 语音 Agent
  2. 02调整现有语音管线
  3. 03排查语音 Agent 项目故障

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/nvidia/skills --skill nemotron-voice-agent-builder

安装后在 Claude Code 中输入/nemotron-voice-agent-builder确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

BENCHMARK.md
skill-card.md
skill.oms.sig
evals/
EVAL.md
evals.json
references/
intake.md
output-contract.md
preflight.md
references/domain/
agent-behavior.md
speech-customization.md
references/frameworks/
livekit.md
omni.md
pipecat.md
references/models/
asr.md
catalog.md
language-routing.md
llm.md
tts.md
references/networking/
remote-webrtc.md
references/operations/
iterate.md
observability.md
run.md
troubleshoot.md
references/platforms/
deployment.md
dgx-spark.md
jetson-thor.md
readiness.md
single-gpu.md

详细介绍

创建语音 Agent

创建可正常运行的 NVIDIA 语音 Agent,或更新现有项目:

  • 级联式:ASR 转录语音,文本 LLM 作答,TTS 将答案转换为语音。
  • Omni:一个音频输入 LLM 取代 ASR 和文本 LLM,仍由 TTS 将答案转换为语音。

何时使用此技能

当用户希望在 Pipecat 或 LiveKit 上构建、搭建框架、配置、完善或修复 NVIDIA 语音 Agent 时,使用此技能。语音 Agent 是一种实时语音流水线,包含音频输入和语音输出。此技能涵盖级联式(ASR → LLM → TTS)和 Omni(音频输入 LLM + TTS)流水线、语音定制(ASR 词语加权、TTS 发音)、多语言路由,以及在工作站、DGX Spark 或 Jetson Thor 上进行云端或本地部署(NIM、vLLM、NeMo-Speech.cpp)。

请勿将此技能用于纯文本聊天机器人或 RAG、独立的批量语音转文本、通用 Docker 或基础设施支持,或与语音 Agent 流水线无关的 CUDA 或模型工作。

工作流

在进入各阶段之前,先判断项目的起始状态:

  • 对于空项目,按顺序执行所有阶段。
  • 对于正常运行的现有项目,先阅读 references/operations/iterate.md,然后仅选择此次更改所需的参考文件。
  • 对于有故障的现有项目,先阅读 references/operations/troubleshoot.md。恢复基线后,再继续阅读 references/operations/iterate.md。

对于空项目,按顺序执行以下阶段:

阶段阅读内容
1. 需求收集references/intake.md 首先确定流水线和框架,然后引导至预检、模型、语言和领域文件
2. 构建若为可自托管,则阅读 references/platforms/readiness.md → 路由到的模型文件中的确切配置或量化变体 → references/output-contract.md → 路由到的部署路径 → references/operations/observability.md → 所选框架文件
3. 移交references/operations/run.md 要求客户端通过生成的 scripts/smoke.sh 检查,然后在语音交互失败时阅读 references/operations/troubleshoot.md
4. 迭代修改正常运行的 Agent 时阅读 references/operations/iterate.md

写入文件前请等待批准。

references/preflight.md §4 会检测主机并选择部署路径。之后,该路径由路由到的平台文件负责。

当 Pipecat WebRTC 跨主机或网络运行时,也请阅读 references/networking/remote-webrtc.md。

规则

  • 在构建时,根据 NVIDIA 最新文档确定每个模型 ID、镜像标签、配置和服务标志。切勿凭记忆决定。
  • 生成代码前,阅读所有路由到的文件,并遵循需求收集阶段批准的语言与行为约束。
  • 移交前必须成功完成一次语音交互。进程正在运行,并不代表语音 Agent 可以正常工作。

评论

支持 Markdown