mcpField
N
nemotron-voice-agent-builder

nemotron-voice-agent-builder

github.com/nvidiaエージェントワークフロー3.8k70 回インストール今日更新
リポジトリ

nemotron-voice-agent-builder について

nemotron-voice-agent-builderは、PipecatまたはLiveKitでNVIDIA音声エージェントを構築、設定、修正するスキルです。カスケード型とOmni型の音声パイプラインに加え、新規・既存プロジェクトのデプロイと反復作業を支援します。

主な機能

  1. 01カスケード型とOmni型の音声パイプライン構築
  2. 02PipecatとLiveKitのプロジェクト対応
  3. 03音声カスタマイズと多言語ルーティングの案内
  4. 04クラウドとローカルへのデプロイ
  5. 05プロジェクト構築、反復、トラブルシューティングの案内

活用シーン

  1. 01NVIDIA音声エージェントの新規構築
  2. 02既存の音声パイプラインの変更
  3. 03音声エージェントプロジェクトの障害調査

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/nvidia/skills --skill nemotron-voice-agent-builder

インストール後、Claude Code で/nemotron-voice-agent-builderを入力して読み込まれたか確認します。

同梱ファイル

SKILL.md と一緒にインストールされる参考資料やスクリプト。

BENCHMARK.md
skill-card.md
skill.oms.sig
evals/
EVAL.md
evals.json
references/
intake.md
output-contract.md
preflight.md
references/domain/
agent-behavior.md
speech-customization.md
references/frameworks/
livekit.md
omni.md
pipecat.md
references/models/
asr.md
catalog.md
language-routing.md
llm.md
tts.md
references/networking/
remote-webrtc.md
references/operations/
iterate.md
observability.md
run.md
troubleshoot.md
references/platforms/
deployment.md
dgx-spark.md
jetson-thor.md
readiness.md
single-gpu.md

詳細

音声エージェントの作成

動作する NVIDIA 音声エージェントを作成するか、既存のプロジェクトを更新します。

  • Cascaded:ASR が音声を文字起こしし、テキスト LLM が回答し、TTS が音声を出力します。
  • Omni:1 つの音声入力 LLM が ASR とテキスト LLM を置き換えます。TTS は引き続き音声を出力します。

このスキルを使用する場面

ユーザーが Pipecat または LiveKit 上で NVIDIA 音声エージェント(音声入力と音声出力を備えたリアルタイムの音声パイプライン)の構築、ひな形の作成、設定、改善、修正を希望する場合に、このスキルを使用してください。対象となるのは、Cascaded(ASR → LLM → TTS)および Omni(音声入力 LLM + TTS)パイプライン、音声のカスタマイズ(ASR の単語ブースト、TTS の発音)、多言語ルーティング、ワークステーション、DGX Spark、Jetson Thor でのクラウドまたはローカルデプロイ(NIM、vLLM、NeMo-Speech.cpp)です。

テキストのみのチャットボットや RAG、スタンドアロンのバッチ音声テキスト変換、一般的な Docker やインフラストラクチャの支援、音声エージェントのパイプラインを伴わない無関係な CUDA やモデルの作業には、このスキルを使用しないでください。

ワークフロー

各フェーズに進む前に、開始時の状態を分類してください。

  • 空のプロジェクトの場合は、すべてのフェーズを順番に進めてください。
  • 動作中の既存プロジェクトの場合は、まず references/operations/iterate.md を読み、依頼された変更に必要なリファレンスだけを参照してください。
  • 破損した既存プロジェクトの場合は、まず references/operations/troubleshoot.md を読んでください。ベースラインを復元した後、references/operations/iterate.md に進んでください。

空のプロジェクトの場合は、次のフェーズを順番に進めてください。

フェーズ読むファイル
1. 要件の確認references/intake.md で、まずパイプラインとフレームワークを決定し、その後、事前確認、モデル、言語、ドメインの各ファイルを参照します
2. 構築セルフホストの場合は references/platforms/readiness.md → ルーティングされたモデルファイル内の該当するプロファイルまたは量子化バリアント → references/output-contract.md → ルーティングされたデプロイパス → references/operations/observability.md → 選択したフレームワークのファイル
3. 引き渡しreferences/operations/run.md では、生成された scripts/smoke.sh が成功するまでクライアントを使用できません。音声での対話に失敗した場合は、続けて references/operations/troubleshoot.md を読みます
4. 反復動作中のエージェントを変更する場合は references/operations/iterate.md

ファイルを書き込む前に、承認を得てください。

references/preflight.md §4 では、ホストを調査し、デプロイパスを選択します。その後は、ルーティングされたプラットフォームファイルがそのパスを管理します。

Pipecat WebRTC がホストやネットワークをまたぐ場合は、references/networking/remote-webrtc.md も読んでください。

ルール

  • すべてのモデル ID、イメージタグ、プロファイル、serve フラグは、ビルド時に最新の NVIDIA ドキュメントに基づいて解決してください。記憶に頼らないでください。
  • コードを生成する前に、ルーティングされたファイルをすべて読み、要件の確認時に承認された言語と動作の制約を守ってください。
  • 引き渡しには、音声での対話が正常に行われることが必要です。プロセスが実行中であるだけでは、音声エージェントが動作しているとは言えません。

コメント