jetson-package

Jetson パッケージと環境

エージェントは、aarch64 をサポートすると主張していても、Jetson の GPU の ストリーミングマルチプロセッサ（SM） ターゲット向けにビルドされていない docker pull イメージや pip install ホイールを提案しがちです。Jetson では、ユーザーが明示的にオプトアウトしない限り、NVIDIA が厳選したアーティファクトをデフォルトで使用してください。

目的

GPU ネイティブな ML スタックをインストールする前に、Jetson 互換のコンテナと Python パッケージインデックスを選択します。このスキルにより、デバイスに適した CUDA、JetPack、または SM ターゲットが含まれていない汎用 ARM ホイールや古いコンテナタグをエージェントが推奨するのを防ぎます。

使用するタイミング

• 「この Jetson ではどの Docker イメージ／コンテナを使えばよいですか？」
• 「Jetson 用の PyTorch／vLLM／CUDA ホイールはどこで入手できますか？」
• 汎用 ARM ホイールをインストールした後に「pip install に失敗した」または「CUDA／SM が違う」場合。
• Orin または Thor で ML スタックに対して docker run または pip install を実行する前。
• ユーザーまたはエージェントが NGC で l4t-cuda コンテナを探している場合は、nvcr.io/nvidia/cuda（マルチアーキテクチャ）に案内してください。
• 「Jetson ではどの PyTorch コンテナを使えばよいですか？」— Thor と Orin、および JetPack のバージョンによって回答が異なります。

優先する参照元（まずこちらを使用）

1. ビルド済みコンテナ（GHCR） — NVIDIA-AI-IOT packages：Jetson JetPack スタック向けにビルドされた llama_cpp、ollama、live-vlm-webui、Orin の旧バージョン向け vllm などの関連イメージがあります。Docker Hub の出所不明な arm64 イメージより、こちらを優先してください。vLLM には Thor および Orin JetPack 7.2／L4T r39 以降で、上流の vllm/vllm-openai を使用してください。

2. NGC CUDA／PyTorch コンテナ — タグの選択は Jetson の世代によって異なります。PyTorch タグの例を固定の推奨タグとして扱わないでください。コマンドを提示する前に、NGC PyTorch catalog で現在のタグを確認してください。

   Jetson	CUDA ベース	PyTorch
   Thor	nvcr.io/nvidia/cuda:<ver>-devel-ubuntu<ver>（マルチアーキテクチャ、arm64 を含む）	nvcr.io/nvidia/pytorch:<current-tag>-py3（メインのマルチアーキテクチャタグ。現在の NGC タグを確認してください）
   Orin + r36 / JetPack 6	同じマルチアーキテクチャ CUDA ベース	nvcr.io/nvidia/pytorch:<current-tag>-py3-igpu — 現在の NGC タグを確認し、NGC が公開している場合は Orin iGPU（SM 8.7）に -igpu サフィックスを使用してください
   Orin + r39 以降（将来）	同じ	Orin が SBSA になれば、メインのマルチアーキテクチャタグになる見込みです。r39 のリリース時に確認してください

l4t-cuda は Orin 時代の旧式 CUDA コンテナ系列です。 ユーザーが NGC で l4t-cuda を見つけられない場合は、サードパーティ製イメージではなく、現在のマルチアーキテクチャ nvcr.io/nvidia/cuda イメージに案内してください。 3. Python パッケージインデックス（devpi） — Jetson AI Lab PyPI：ツリー（例：jp6/cu126、jp6/cu128）を参照し、JetPack／CUDA ユーザーランドに合ったインデックスを選んでください。GPU ネイティブなスタックでは、PyPI のみで入手できるホイールよりこちらを優先してください。

GPU アーキテクチャに関する注意（汎用 ARM で動作しない理由）

Jetson ファミリー	CUDA 計算能力	ビルドターゲット	注記
Orin（AGX／NX／Nano）	8.7	sm_87	多くのデスクトップ向け aarch64 ホイールには Jetson Orin カーネルが含まれていません。
Thor（T5000／T4000）	11.0	sm_110	Blackwell Jetson に対応した CUDA／ホイール／コンテナが必要です。

ホイールやコンテナは ARM64 Linux にインストールできても、CUDA カーネルが Jetson の SM 向けにコンパイルされていない場合、使用できない、または動作が遅いことがあります。

ホイールの互換性について説明する際は、CUDA のビルドターゲット名を使用してください。Jetson Orin は sm_87、Jetson Thor は sm_110 です。プロンプトやホスト名から世代を推測しないでください。scripts/artifact_hints.sh を実行し、その検出結果である generation、variant、l4t、cuda_sm_hint フィールドを使ってから、ホイールやコンテナタグを推奨してください。

Jetson 上的 GPU Python wheel

Jetson では、GPU ネイティブパッケージのデフォルトの PyPI wheel は、aarch64 対応をうたっていても、通常は適切な選択肢ではありません。onnxruntime-gpu、PyTorch、vLLM などのパッケージでは、Jetson AI Lab のパッケージインデックスを正式な配布元として使用し、デバイスの JetPack／CUDA ユーザーランドに合ったサブツリーを選択してください。

onnxruntime-gpu では、通常の PyPI ではなく、Jetson AI Lab を優先してください。

pip install --extra-index-url https://pypi.jetson-ai-lab.io/jp6/cu126/+simple/ onnxruntime-gpu

検出された JetPack／CUDA 系統に合わせて、jp6/cu126 の部分を調整してください。デフォルトの PyPI からの pip install onnxruntime-gpu を、Jetson 向けの同等な GPU オプションとして提示しないでください。

デバイスの情報を捏造しない

SKU 名、RAM 容量、JetPack バージョン、CUDA バージョン、GPU SM ターゲットを推測してはいけません。scripts/artifact_hints.sh またはユーザーが提供した環境情報に記載されている内容だけを引用してください。情報がない項目は省略するか、不明であると伝えてください。

前提条件

• パッケージ検出スクリプトは、ホストワークステーションではなく Jetson ターゲット上で実行してください。
• GHCR、NGC、Jetson AI Lab のパッケージインデックスを調べるには、ネットワークアクセスが必要です。
• タグや wheel を推奨する前に、scripts/artifact_hints.sh、jetson-diagnostic、またはユーザー提供の環境情報の出力からデバイス情報を取得してください。

利用可能なスクリプト

スクリプト	目的	引数
scripts/artifact_hints.sh	検出した Jetson SKU／世代、CUDA SM のヒント、正式なパッケージ URL、推奨 vLLM イメージのヒントを出力します。	読みやすい概要を表示するには --human を指定します。引数を指定しない場合は JSON を出力します。

エージェントのランタイムが run_script に対応している場合は、それを使って scripts/artifact_hints.sh を実行し、JSON 出力を読み取ってください。それ以外の場合は、リポジトリのルートから bash でスクリプトを実行してください。

手順

1. scripts/artifact_hints.sh を実行します（標準出力に JSON が出力されます）。このスクリプトは skills/jetson-diagnostic/scripts/detect_jetson.sh を読み込み、sku、generation、product_line、variant、l4t、推奨 vLLM イメージ、cuda_sm_hint、正式な URL を返します。
2. pip の場合は、ブラウザーで devpi のルートを開き、CUDA 系統に合った jp6 サブツリーを選択して、--extra-index-url／PIP_EXTRA_INDEX_URL を設定します。references/pypi-jetson-ai-lab.md を参照してください。
3. コンテナーの場合は、vLLM について references/ghcr-images.md と jetson-llm-serve を参照してください。

制限事項

• このスキルはパッケージカタログを案内し、互換性のヒントを出力します。特定のモデルチェックポイントがメモリに収まるかどうかは検証しません。
• NGC と GHCR のタグは変更されます。<current-tag>-py3 のようなプレースホルダー形式のタグは、実際のタグではなく、検索方法を示すものとして扱ってください。
• generation または cuda_sm_hint が不明な場合、コンテナーのタグを推測してはいけません。

次の引き継ぎ先

• jetson-llm-serve — Thor および Orin JetPack 7.2／L4T r39+ では上流版／ネイティブ版 vLLM 0.20+ を実行し、それより古い Orin では vllm:latest-jetson-orin を使用します。
• jetson-llm-benchmark — スタックをインストールした後に測定します。
• jetson-diagnostic — インストールは成功しても実行時に失敗する場合は、まずスナップショットを取得します。

安全性

読み取り専用です。カタログを案内してヒントを出力しますが、インストールやプルは行いません。

ソース

NVIDIA-AI-IOT GitHub Packages、pypi.jetson-ai-lab.io。