principle-explain-the-number について
性能や評価の結果が証拠に裏付けられているかを確認するテスト用スキルです。結果を制限するリソースを特定し、別の説明を除外したうえで、実行回数やばらつき、ボトルネックを数値とともに記録します。
主な機能
- 01測定結果を制限するリソースの特定
- 02別の説明の除外
- 03実行回数と結果のばらつきの記録
- 04性能測定と評価結果の確認
活用シーン
- 01性能ベンチマーク結果の検証
- 02評価の差が複数試行でも成り立つか確認
- 03報告値を支える証拠の記録
インストール
コマンドをコピーしてターミナルで実行します。
$
npx skills add https:/ / github.com/ backnotprop/ pstack --skill principle-explain-the-numberインストール後、Claude Code で/principle-explain-the-numberを入力して読み込まれたか確認します。
詳細
数値の根拠を説明する
- 「なぜ2倍にならないのか」と尋ねます。 結果を制限しているリソースまたはコードパスとして、コア、ロック、ディスク、ネットワーク、負荷生成ツール自体などを特定します。実行中に取得したプロファイルまたはシステムカウンターから特定し、ソースに結び付けます。コードを読んだだけの推測は制約要因ではありません。数値がなぜ2倍にならないのかを説明できなければ、何を測定したのか分かっていません。
- その数値がほかに何を測定している可能性があるかを列挙し、証拠を示して一つずつ除外します。 よくある要因は、エラー、スキップされた作業やキャッシュされた作業、実行されなかったコード、調整されていない側(デフォルト設定のままの側)、ノイズ、そしてエンドツーエンドでは影響が小さすぎる要素です。
- 数値とともに証拠を残します。 実行回数、ばらつき、制約要因をメモまたはリンク先の成果物に記載します。
パフォーマンスの数値を得る場合は、benchmark-checklist スキルに従って手順全体を実行します。評価結果についても、試行ごとに同じ点を確認します。すべての実行でタスクを達成しているか、差が複数の試行やモデルにわたって保たれているか、シナリオに意味があるかを確認します。
数値の根拠に実行回数、ばらつき、名前を特定した制約要因がない場合、または節約された時間が変更対象の処理にかかった時間を上回る場合、この原則は守られていません。
出力が実際のものであることを確認する Prove It Works とは別の原則です。
コメント
Markdown 対応