关于 nemotron-voice-agent-builder
nemotron-voice-agent-builder 是用于借助 Pipecat 或 LiveKit 构建、配置和修复 NVIDIA 语音 Agent 的技能,涵盖级联式与 Omni 语音管线,以及新项目和现有项目的部署与迭代。
主要功能
- 01构建级联式与 Omni 语音管线
- 02支持 Pipecat 和 LiveKit 项目
- 03指导语音定制与多语言路由
- 04涵盖云端和本地部署
- 05指引项目搭建、迭代与故障排查
适用场景
- 01搭建新的 NVIDIA 语音 Agent
- 02调整现有语音管线
- 03排查语音 Agent 项目故障
安装
复制下面的命令,在终端中运行。
npx skills add https:/ / github.com/ nvidia/ skills --skill nemotron-voice-agent-builder安装后在 Claude Code 中输入/nemotron-voice-agent-builder确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
BENCHMARK.mdskill-card.mdskill.oms.sigevals/EVAL.mdevals.jsonreferences/intake.mdoutput-contract.mdpreflight.mdreferences/domain/agent-behavior.mdspeech-customization.mdreferences/frameworks/livekit.mdomni.mdpipecat.mdreferences/models/asr.mdcatalog.mdlanguage-routing.mdllm.mdtts.mdreferences/networking/remote-webrtc.mdreferences/operations/iterate.mdobservability.mdrun.mdtroubleshoot.mdreferences/platforms/deployment.mddgx-spark.mdjetson-thor.mdreadiness.mdsingle-gpu.md详细介绍
创建语音 Agent
创建可正常运行的 NVIDIA 语音 Agent,或更新现有项目:
- 级联式:ASR 转录语音,文本 LLM 作答,TTS 将答案转换为语音。
- Omni:一个音频输入 LLM 取代 ASR 和文本 LLM,仍由 TTS 将答案转换为语音。
何时使用此技能
当用户希望在 Pipecat 或 LiveKit 上构建、搭建框架、配置、完善或修复 NVIDIA 语音 Agent 时,使用此技能。语音 Agent 是一种实时语音流水线,包含音频输入和语音输出。此技能涵盖级联式(ASR → LLM → TTS)和 Omni(音频输入 LLM + TTS)流水线、语音定制(ASR 词语加权、TTS 发音)、多语言路由,以及在工作站、DGX Spark 或 Jetson Thor 上进行云端或本地部署(NIM、vLLM、NeMo-Speech.cpp)。
请勿将此技能用于纯文本聊天机器人或 RAG、独立的批量语音转文本、通用 Docker 或基础设施支持,或与语音 Agent 流水线无关的 CUDA 或模型工作。
工作流
在进入各阶段之前,先判断项目的起始状态:
- 对于空项目,按顺序执行所有阶段。
- 对于正常运行的现有项目,先阅读
references/operations/iterate.md,然后仅选择此次更改所需的参考文件。 - 对于有故障的现有项目,先阅读
references/operations/troubleshoot.md。恢复基线后,再继续阅读references/operations/iterate.md。
对于空项目,按顺序执行以下阶段:
| 阶段 | 阅读内容 |
|---|---|
| 1. 需求收集 | references/intake.md 首先确定流水线和框架,然后引导至预检、模型、语言和领域文件 |
| 2. 构建 | 若为可自托管,则阅读 references/platforms/readiness.md → 路由到的模型文件中的确切配置或量化变体 → references/output-contract.md → 路由到的部署路径 → references/operations/observability.md → 所选框架文件 |
| 3. 移交 | references/operations/run.md 要求客户端通过生成的 scripts/smoke.sh 检查,然后在语音交互失败时阅读 references/operations/troubleshoot.md |
| 4. 迭代 | 修改正常运行的 Agent 时阅读 references/operations/iterate.md |
写入文件前请等待批准。
references/preflight.md §4 会检测主机并选择部署路径。之后,该路径由路由到的平台文件负责。
当 Pipecat WebRTC 跨主机或网络运行时,也请阅读 references/networking/remote-webrtc.md。
规则
- 在构建时,根据 NVIDIA 最新文档确定每个模型 ID、镜像标签、配置和服务标志。切勿凭记忆决定。
- 生成代码前,阅读所有路由到的文件,并遵循需求收集阶段批准的语言与行为约束。
- 移交前必须成功完成一次语音交互。进程正在运行,并不代表语音 Agent 可以正常工作。