intel-vtune-amd-uprof

Intel VTune & AMD uProf

目的

Intel VTune Profiler（無料の Community Edition）と AMD uProf を使った CPU マイクロアーキテクチャプロファイリングをエージェントに案内します。ホットスポットの特定、マイクロアーキテクチャ分析、メモリアクセスパターンの最適化、パイプラインストールの診断、ルーフラインモデル分析を扱います。

トリガー

• 「Intel VTune を使ってコードをプロファイリングするにはどうすればよいですか？」
• 「パイプラインストールとは何ですか？どうすれば減らせますか？」
• 「VTune でメモリ帯域幅を分析するにはどうすればよいですか？」
• 「ルーフラインモデルとは何ですか？どう使えばよいですか？」
• 「VTune の無料の代替として AMD uProf を使うにはどうすればよいですか？」
• 「コードのキャッシュヒット率は高いのに、まだ遅いです」

ワークフロー

1. VTune のセットアップ（無料の Community Edition）

# Download Intel VTune Profiler (Community Edition — free)
# https://www.intel.com/content/www/us/en/developer/tools/oneapi/vtune-profiler.html

# Install on Linux
source /opt/intel/oneapi/vtune/latest/env/vars.sh

# CLI usage
vtune -collect hotspots ./prog
vtune -collect microarchitecture-exploration ./prog
vtune -collect memory-access ./prog

# View results in GUI
vtune-gui &
# File → Open Result → select .vtune directory

# Or use amplxe-cl (legacy CLI)
amplxe-cl -collect hotspots ./prog
amplxe-cl -report hotspots -r result/

2. 分析の種類

分析	検出する内容	使用するタイミング
ホットスポット	CPU バウンドの関数	最初のステップ — どこで時間が使われているかを特定します
マイクロアーキテクチャ探索	IPC、パイプラインストール、リタイアした命令	ホットスポット特定後 — なぜホットスポットが遅いのかを調べます
メモリアクセス	キャッシュミス、DRAM 帯域幅、NUMA	メモリバウンドのコード
スレッド化	ロック競合、並列効率	マルチスレッドコード
HPC パフォーマンス	ベクトル化、メモリ、ルーフライン	HPC／科学技術計算コード
I/O	ディスクおよびネットワークのボトルネック	I/O バウンドのコード

3. ホットスポット分析

# Collect and report hotspots
vtune -collect hotspots -result-dir hotspots_result ./prog

# Report top functions by CPU time
vtune -report hotspots -r hotspots_result -format csv | head -20

# CLI output example:
# Function       CPU Time  Module
# compute_fft    4.532s    libfft.so
# matrix_mult    2.108s    prog
# parse_input    0.234s    prog

意味のあるシンボルを得るには、デバッグ情報を付けてビルドします。

gcc -O2 -g ./prog.c -o prog     # symbols visible in VTune
gcc -O2 -g -gsplit-dwarf -fno-omit-frame-pointer ./prog.c -o prog  # better stacks

4. マイクロアーキテクチャ探索 — パイプラインストール

vtune -collect microarchitecture-exploration -r micro_result ./prog
vtune -report summary -r micro_result

確認する主なメトリクス：

メトリクス	意味	良好な値
IPC（Instructions Per Clock）	1 サイクルあたりにリタイアする命令数	x86：> 2.0 を目指します
CPI（Clocks Per Instruction）	IPC の逆数	低いほど良好です
不適切な投機実行	分岐予測ミス	< 5%
フロントエンドバウンド	命令デコードのボトルネック	< 15%
バックエンドバウンド	実行ユニットまたはメモリのストール	< 30%
リタイア	有用な処理の割合	理想値は > 70%
メモリバウンド	メモリ待ちに費やすサイクルの割合	< 20%

Pipeline Analysis (Top-Down Methodology):
├── Retiring (good, useful work)
├── Bad Speculation (branch mispredictions)
├── Front-End Bound
│   ├── Fetch Latency (I-cache misses, branch mispredicts)
│   └── Fetch Bandwidth
└── Back-End Bound
    ├── Memory Bound
    │   ├── L1 Bound → L1 cache misses
    │   ├── L2 Bound → L2 cache misses
    │   ├── L3 Bound → L3 cache misses
    │   └── DRAM Bound → main memory bandwidth limited
    └── Core Bound → ALU/compute bound

5. メモリアクセス分析

# Collect memory access profile
vtune -collect memory-access -r mem_result ./prog

# Key output sections:
# - Memory Bound: % time waiting for memory
# - LLC (Last Level Cache) Miss Rate
# - DRAM Bandwidth: GB/s achieved vs theoretical peak
# - NUMA: cross-socket accesses (for multi-socket systems)

DRAM 帯域幅の読み取り：

DRAM Bandwidth: 18.4 GB/s
Peak Theoretical: 51.2 GB/s
Utilization: 36% — likely not DRAM-bound

DRAM バウンドの場合：データレイアウトを最適化し（AoS → SoA）、ワーキングセットを縮小し、空間的局所性を向上させます。

6. AMD uProf — AMD CPU 向けの無料の代替ツール

# Download AMD uProf
# https://www.amd.com/en/developer/uprof.html

# CLI profiling
AMDuProfCLI collect --config tbp ./prog          # time-based profiling
AMDuProfCLI collect --config assess ./prog       # microarchitecture assessment
AMDuProfCLI collect --config memory ./prog       # memory access

# Generate report
AMDuProfCLI report -i /tmp/uprof_result/ -o report.html

# Open GUI
AMDuProf &

AMD uProf のメトリクスと VTune の相当項目：

• Retired Instructions → IPC 分析
• Branch Mispredictions → 不適切な投機実行
• L1/L2/L3 Cache Misses → メモリバウンドの各レベル
• Data Cache Accesses → キャッシュ効率

7. ルーフラインモデル

ルーフラインモデルは、達成したパフォーマンスをハードウェアの上限と比較し、コードが演算バウンドかメモリバウンドかを示します。

Performance (GFLOPS/s)
     |                    _______________
Peak |                 /
Perf |              /  compute bound
     |           /
     |        /
     |     /  memory bandwidth bound
     |  /
     +------------------------------→
        Arithmetic Intensity (FLOPS/Byte)

# VTune roofline collection
vtune -collect hpc-performance -r roofline_result ./prog
# Then: VTune GUI → Roofline view

# For manual calculation:
# Arithmetic Intensity = FLOPS / memory_bytes_accessed
# Peak FLOPS = CPUs × cores × freq × FLOPS_per_cycle_per_core
# Peak BW = from hardware spec (e.g., 51.2 GB/s for DDR4-3200 dual channel)

# likwid-perfctr for manual roofline data (Linux)
likwid-perfctr -C 0 -g FLOPS_DP ./prog          # double-precision FLOPS
likwid-perfctr -C 0 -g MEM ./prog               # memory bandwidth

関連スキル

• perf stat で生の PMU イベントを収集するには skills/profilers/hardware-counters を使用します
• Linux で perf ベースのプロファイリングを行うには skills/profilers/linux-perf を使用します
• メモリアクセスパターンを最適化するには skills/low-level-programming/cpu-cache-opt を使用します
• FLOPS を増やすためにベクトル化するには skills/low-level-programming/simd-intrinsics を使用します