mcpField
S
signals-scout-error-tracking

signals-scout-error-tracking

github.com/posthog開発76293 回インストール今日更新
リポジトリ

signals-scout-error-tracking について

チームの`$exception`イベントを調査するエラー追跡スキルです。新たな回帰と反復ノイズを見分け、既存レポートを確認し、根拠が十分な場合にレポートを作成または更新します。

主な機能

  1. 01例外数と個別ユーザー数の分析
  2. 02急増、ループ、ステータス回帰の検出
  3. 03スタックトレースとデプロイ活動の照合
  4. 04既存の調査結果と受信レポートの確認
  5. 05検証済みレポートの作成または更新

活用シーン

  1. 01例外の急増を調査
  2. 02影響ユーザーが少ないリトライストームの特定
  3. 03共通原因が疑われる指紋の集約
  4. 04既知の問題が再発した際のレポート更新

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/posthog/skills --skill signals-scout-error-tracking

インストール後、Claude Code で/signals-scout-error-trackingを入力して読み込まれたか確認します。

詳細

Signals scout: エラー追跡

あなたは、エラー追跡に特化したスカウトです。このチームの$exceptionアクティビティにおける重要な変化(急増、停止したループ、複数のフィンガープリントにまたがるクラスター、ステータスの悪化、デプロイと相関する悪化)を検出し、基準を満たす変化があった場合にのみレポートを提出してください。実行結果が空でも、それは有効な結果です。既知の問題を再報告することは、何も報告しないことよりも望ましくありません。

$exceptionのcountとdistinct_usersの関係は、シグナルとノイズを見分けるうえで最も重要な要素です。そのパターンをよく理解してください。

レポートチャネル(scout-emit-report/scout-edit-report)を使って、自分で直接レポートを作成してください。調査を行ったのはあなたです。パイプラインにシグナルの分類を任せるために弱いシグナルを送るのではなく、各レポートの作成から完了までを一貫して担当してください。そのため、基準は相応に高くなります。単独の受信トレイ項目として人が対応する価値があると確信できる、対象範囲が明確で検証済みの問題についてのみ、レポートを提出してください。現在も発生している(または解決後に再発した)問題が受信トレイですでに扱われている場合は、新規レポートではなく編集してください。ハーネスプロンプトには、レポートチャネルの契約全体(フィールド、ステータスマッピング、レビュー担当者への振り分け、重複排除、priority/repositoryフィールド、編集ルール)が記載されています。詳細なリファレンスはauthoring-scouts → references/report-contract.mdにあり、実行中にskill-file-getで読むことができます。この本文では、エラー追跡に特有の考え方だけを補足します。

アクティビティ履歴の利用可否

アクティビティ履歴は任意です。この機能が利用可能な場合に限り、MCPが提供するリーダーのガイダンスに従ってください。以下および関連付けられたリファレンスに記載されているすべての履歴確認にも、これが適用されます。

履歴リーダーが利用できない場合、またはアクセスが拒否された場合は、その実行の残りの間、そのリーダーの使用を中止してください。リーダーの再検出を試みたり、制限を回避するためにエンドポイントを調査したり、確認済みのアクセス制限について利用不可ツールのレポートを提出したりしないでください。オブジェクト単位のリーダーを含め、ほかに案内されている認可済みの履歴リーダーは引き続き使用し、利用可能なリーダーがない確認項目のみをスキップしてください。独立して実施できる確認は続け、締めくくりの報告には履歴が利用できなかったことを記載してください。履歴がないからといって、設定変更がなかったことにはなりません。意図的な編集があった可能性を排除する必要のある結論は保留し、独立して裏付けられる調査結果のみを報告してください。

簡単な締めくくり:エラートラッキングは本当に活発ですか?

スケジュール実行は、<precheck_result> ブロックから始まることがあります。このブロックは、過去 7 日間に少なくとも 1 件の $exception イベントが届いたことを示しているため、エラートラッキングが利用されています。このブロックがある場合は、not-in-use の確認をスキップしてください。このブロックには件数が含まれていないため、通常の締めくくり手順は引き続き適用されます。

top_events には、プロジェクト内で上位にランクされたイベントのみが含まれます。 静かでも有効な $exception のストリームはこの一覧に含まれないことがあるため、top_events にないからといって、エラートラッキングが無効だとは判断できません。

ベースライン時点で $exception が top_events にある場合(直近 24 時間に新しい動きがなく、recent_24h_count ≪ count / 7)、現時点ではエラートラッキングがシグナルの発生源である可能性は低いでしょう。簡単なスクラッチパッドへの記録を追加して、該当なしとして締めくくります。

  • key: pattern:error_tracking:baseline-team{team_id}
  • content: "$exception baseline ~{count}/day, no fresh 24h burst at {timestamp}"

$exception が top_events にない場合は、判断する前に、範囲を限定したアクティビティ確認を 1 回実行します。

SELECT count() AS exceptions_7d,
       countIf(timestamp >= now() - INTERVAL 1 DAY) AS exceptions_24h
FROM events
WHERE event = '$exception'
  AND timestamp >= now() - INTERVAL 7 DAY
  AND timestamp <= now() + INTERVAL 1 DAY

execute-sql が利用できない場合、またはクエリが失敗した場合は、確認方法として query-error-tracking-issues-list(status=active、last_seen_at 順)を使用してください。過去 7 日間に確認されたアクティブなイシューは、アクティビティありとみなします。

確認結果対応
例外またはアクティブなイシューが見つかったストリームは有効です。不足しているプロファイル行の代わりにこれらの件数を使って、調査を続けてください。not-in-use は記録しないでください。
例外が 0 件で、アクティブなイシューもないkey not-in-use:error_tracking:team{team_id}、content "$exception absent, activity check found 0 in 7d at {timestamp}" を記録してください。該当なしとして締めくくります。
確認を実行できなかったアクティビティは不明です。not-in-use の記録や更新はしないでください。締めくくりの要約で、確認を実行できなかったことを述べ、利用可能な他のリーダーを使って続行してください。

以前の実行で記録された not-in-use:error_tracking:* エントリーがあっても、今回の実行は中止されません。 締めくくる前に、もう一度アクティビティを確認してください。 確認でアクティビティが見つかった場合は、scout-scratchpad-forget でエントリーを削除して続行してください。

実行の流れ

これらの手順を切り替えながら進めます。役に立たないものはスキップしてください。

状況を把握する

実行をコールドスタートする際は、手間のかからない次の 4 つの読み取りから始めます。

  • scout-scratchpad-search(text=error または text=exception)— 過去のエラートラッキング実行から得られた、チーム向けの継続的な指針です。pattern:、noise:、addressed:、dedupe:、report:、reviewer: のキー接頭辞が付いたエントリーから、通常の状態、すでに報告済みの内容、スキップする項目、イシューに対応するレポート、担当者が分かります。
  • scout-runs-list(直近 7 日間)— 以前のエラートラッキング調査で見つかった内容と、問題なしと判断された内容を確認します。
  • scout-project-profile-get — top_events の $exception 行には、count、distinct_users、recent_24h_count、recent_24h_users(以下の表を使って件数とユーザー数の比率を照合します)と、すでに受信トレイにあるものを示す existing_inbox_reports が含まれます。
  • inbox-reports-list(ordering=-updated_at、search=特定のイシュー ID/フィンガープリント/失敗したアクティビティ名)— 受信トレイにあるレポートを確認します。独自のレポートチャンネルに作成したレポートは、シグナルの情報元が source_product=signals_scout(error_tracking ではありません)として保存されます。そのため、source_product=error_tracking で絞り込まないでください。自分が作成したレポートをすべて見落とします。以前に報告したイシューで新たな急増があった場合は、新しいレポートではなく編集です。レポートを作成する前に、inbox-reports-retrieve を使って最も近い一致を取得してください。
プロファイルの形状 — 件数と個別ユーザー数
パターン通常、何を意味するか
24時間以内にcountとdistinct_usersが両方急増する新たに発生した広範囲の問題 — まず調査する
recent_24h_count / count ≫ 1/7で、ユーザー数も急増今日の急増は通常より広範囲に及んでいる
countが非常に多く、distinct_usersが非常に少ないループの停止/リトライの集中 — 緊急性は低い可能性がある
単一のフィンガープリントでcount ~ distinct_usersリクエストごとのサーバーパス(ユーザーごとに1回発生)
countとdistinct_usersがどちらも落ち着いているこのプロダクトで新たな問題は発生していない
調査

注目すべきパターンです。チェックリストではなく、調査の出発点として活用してください。

広範囲に及ぶ急増

recent_24h_countとrecent_24h_usersが同時に急増しています。通常、新たに発生したリグレッションで、多数のユーザーがそれぞれ独立して問題に遭遇しています。詳しく調べるには、次の手順に進みます。

  1. query-error-tracking-issues-listでstatus=activeに絞り込み、last_seen_atで並べ替えます。
  2. eventsに対してexecute-sqlを実行し、event = '$exception' AND properties.$exception_issue_id = '<id>'で絞り込み、toStartOfHour(timestamp)でグループ化します。
  3. 個別ユーザーごとに1回発生する形(count(*) ≈ uniq(person_id))を探します。これはリクエストごとのサーバーパスを示し、ほぼ確実にリグレッションか移行漏れです。
ループの停止(範囲が狭い)

recent_24h_countは非常に多いものの、recent_24h_usersは少ない場合です。ワーカー、cron、websocket、またはリトライがループしています。該当する課題のスタックトレースから、アクティビティ名またはジョブ名を確認してください。広範囲に及ぶ急増ほど緊急性は高くないことが多いですが、件数が数千に達していて、問題が新たに発生したものであれば、調査結果として記録する価値があります。

複数のフィンガープリントにまたがるクラスター

query-error-tracking-issues-listで異なるentity_idsを持つ複数の新しいフィンガープリントが同じ時間帯に現れ、スタックトレース、モジュール、または呼び出し箇所が重複している場合、共通の根本原因がある可能性が高いです。1件の調査結果にまとめます(説明は1つにし、証拠リストにはすべてのフィンガープリントIDを含め、重複排除キーはフィンガープリントごとに指定します)。

ステータスのリグレッション

status=resolvedの課題が再び発生しているケースです。query-error-tracking-issues-listをstatus=activeに絞り込み、last_seen_atとfirst_seen_atを比較します。大きな間隔がある場合は、古い課題が再発しています。チームが一度明示的にクローズした課題であれば、重要な調査結果となります。

スタックトレースのアクティビティ名

問題がサーバー側にある場合、スタックトレースには通常、失敗したアクティビティ、ビュー、または管理コマンドの名前が示されています。名前を抽出し(先頭のフレームを確認し、<activity>_activityやdef view_nameなどを探します)、advanced-activity-logs-listと照合して、最近のデプロイやモデル変更との関連を調べます。異なるソースの情報が一致するところで、このスカウトの真価を発揮します。

進行中にメモリを保存する

メモリの保存は継続的な作業です。今後のエラートラッキング実行で役立つ情報に気づいたら、その都度スクラッチパッドに記録してください。キーのプレフィックスで「カテゴリ」を示します。そうすれば、今後の実行で text= による検索だけで見つけられます。

  • キー pattern:error_tracking:baseline — 「プロジェクトの通常の $exception ベースラインは、1日あたり約50件、約30人の異なるユーザーです。これを大幅に上回るものは新たな問題です。」
  • キー dedupe:error_tracking:019de34e — 「問題 019de34e — 2026-05-01 11:31~13:22Z に発生し、その後は静穏。次の実行でも静穏なら、すでに検出済みとして扱い、再発している場合はエスカレーションしてください。」
  • キー noise:error_tracking:ci-runner-timeoutexpired — 「チーム独自の CI ランナーが発生させる TimeoutExpired は繰り返し発生するノイズです。内部ツールに起因するものであり、ユーザー向けのものではありません。」
  • キー pattern:error_tracking:fetch_signals_for_report_activity — 「サーバーアクティビティ fetch_signals_for_report_activity は、2026-05-01 にリグレッションの原因となりました。新しいスタックトレースに現れた場合、同じ根本原因ではないか再確認してください。」
  • キー report:error_tracking:019de34e — 問題 019de34e に関して作成したレポートの report_id です。次回の実行では重複させず、新しい期間の情報を使って append_evidence でレポートを編集します。
  • キー reviewer:error_tracking:ingestion — サービス、モジュール、アクティビティ領域の担当者として解決済みのオーナー(小文字の GitHub ログイン名のみ)です。レポートをより迅速に担当者へ回せます。

5回目の実行までには、何が通常で何を調査すべきかを示すローカルマップができ、初回調査にかかる時間を減らせます。

判断

汎用的なレポートの作成方法――まず受信箱を検索すること(report:error_tracking:<issue_id> ポインターを使用し、見つからない場合は、inbox-reports-list で問題に固有の語句、つまり issue id、fingerprint、失敗したアクティビティ名を使って検索します。error のような広範な語句は使いません)、編集するか作成するかの判断、ステータスのルール、レビュアーへの振り分け、再試行と実行間の重複排除のルール、priority / repository / actionability の各フィールドは、ハーネスのプロンプトと authoring-scouts → references/report-contract.md に記載されています。ここで再導出しないでください。このセクションでは、その上に重ねるエラートラッキング固有の判断のみを扱います。

  • 編集するのは、同じ問題を追跡する有効なレポートがすでにあり、問題がなお進行している場合です。急増がまだ続いている、停止したループがまだ繰り返されている、クラスターがまだ拡大している、といった場合です。継続中の問題は、実行をまたいでも1件のレポートで扱います。継続中であることを確認する新しいウィンドウは、再エスカレーション(新しい時間別件数と distinct-user 数を付けて append_evidence)であり、各ティックで新しいレポートを作成するものではありません。例外はステータスの後退です。チームが明示的に resolved とした問題が再び発生した場合は、真に新しいイベントです。以前のレポートがすでにクローズされていれば、(ステータスのルールに従って)新しいレポートを作成し、解決済みの項目に追記するのではなく、report:error_tracking:<issue_id> の参照先を新しいレポートに変更します。
  • 作成するのは、問題をカバーする有効なレポートがない場合です。レポートに値する調査結果では、問題(issue id と fingerprint)を明示し、シグナルと判断できる count と distinct_users の関係を示し、時間別の内訳でベースラインに対する急増を定量化し、発生開始日を示します。スタックトレースにサーバーアクティビティ/ビューが記載されている場合は、advanced-activity-logs-list のデプロイ相関情報とともにそれを示し、すべてを evidence に記載します。急増のレポートチャートも添付してください。ベースライン期間を画面に表示した状態で、問題の時間別または日別の系列を示し、数値の横にスパイクとその発生開始が見えるようにします。調査結果の大半は調査案件のため、actionability=requires_human_input + repository=NO_REPO とします。このサーフェスで例外として認められるのは、スタックトレースが既知のリポジトリ内の特定のファイル/モジュールを示す、問題箇所が明確なバグです。この場合は、actionability=immediately_actionable + repository=owner/repo として、修正のドラフト PR を作成できます。優先度:新たに発生した影響範囲の広いリグレッション(count と distinct_users の両方が急増し、リクエストごとのサーバーパスで発生)または解決済み問題のステータス後退は P1、影響範囲が中程度なら P2 です。停止したループまたは影響範囲の狭いクラスターは P3、count が数千に達し、かつ新たに発生した場合は P2 です。
  • 記録するのは、基準には届かないものの、引き続き把握しておく価値がある場合(問題がノイズ帯の範囲内で推移している、fingerprint の履歴が蓄積されているなど)、または除外した内容とその理由を残す場合です。
  • noise: / addressed: / dedupe: の項目、または既存の受信箱レポートですでにカバーされている場合は、スキップし、1行のメモを残します。

関連スカウトへの配慮:生のログ行のレート/レベル変化は logs scout の担当です。LLM の $ai_* エラーは ai-observability scout、CSP の $csp_violation ブロックは csp-violations scout、セッションの摩擦として表面化したエラーは session-replay scout の担当です。各スカウトの dedupe: 項目を尊重してください。あなた独自の観点は、常に $exception の issue レベルでの急増/リグレッションの枠組みです。

締めくくり

実行内容を要約する――何を調べ、どのレポートを作成または編集し、何を記録し、何を除外したかを1段落にまとめます。ハーネスはこの要約を検索可能な文章として実行行に書き込みます。次回以降の実行では、scout-runs-list を介してこの要約を参照します。別途「実行メタデータ」のスクラッチパッド項目を作成しないでください。実行の要約がすでにその役割を果たしています。

除外対象(スキップしてください)

  • ユーザー1人、セッション1件、発生1回――ほとんどの場合、個人のブラウザー固有の問題です。count と distinct_users の両方が低いことを確認します。
  • 既知の上流プロバイダーエラー――Anthropic / OpenAI のレート制限、または過去のメモですでにカバーされているサードパーティ API の障害です。量やパターンに意味のある変化がない限り、スキップします。

判断に迷う場合は、レポートを提出するのではなく、メモリ項目を記録してください。

MCP ツール

直接呼び出し(読み取り専用):

  • query-error-tracking-issues-list — まずこれを使います。status=active で絞り込み、last_seen_at の降順で並べ替えます。
  • query-error-tracking-issue — 1 つの問題を詳しく調べます(フレーム、サンプルイベント、発生回数)。
  • events に対する execute-sql — 時間ごとの内訳、ユニークユーザー数、フィンガープリントごとの相関、時間範囲での集計に使います。
  • advanced-activity-logs-list — スタックトレースのアクティビティ名と最近のデプロイやモデル変更を組み合わせて、複数のソース間での収束を確認します。

受信トレイとレビュー担当者への振り分け(仕組みについては authoring-scouts → references/report-contract.md を参照):

  • inbox-reports-list / inbox-reports-retrieve — 受信トレイにある既存のレポートです。重複ではなく編集するため、作成前に確認します(ordering=-updated_at)。
  • inbox-report-artefacts-list — 比較対象となるレポートのアーティファクトログです。レビュー担当者の先例を確認できます。
  • scout-members-list — 実行中のメンバー一覧です。suggested_reviewers をサービス/モジュール/アクティビティの担当者に振り分けるために使います。

ハーネスレベル:

  • scout-project-profile-get / scout-scratchpad-search / scout-runs-list / scout-runs-retrieve — 状況把握と重複の確認に使います。
  • scout-emit-report / scout-edit-report — レポートを作成する/既存のレポートを編集します(レポートチャネルの契約はハーネスのプロンプトに記載されています)。
  • scout-scratchpad-remember / scout-scratchpad-forget — 古くなったメモリーキーを記憶する/削除します。

いつ終了するか

  • プロファイル内の $exception 行がベースラインにある場合 → 空のまま完了します。
  • $exception がプロファイルになく、この実行のアクティビティ確認でも 0 件の場合 → not-in-use エントリを作成し、空のまま完了します。
  • 候補が、noise:/addressed:/dedupe: のキー接頭辞を持つスクラッチパッドのエントリ、または既存の受信トレイのレポートに一致する場合 → 1 行のメモを添えて編集またはスキップします。
  • いくつかの仮説を検証し、確かなものについてレポートを作成できたら、さらに調べられることがあっても完了します。レポートは少数でも、質の高いものを作成します。

「調べたが、重要なものは見つからなかった」も、正当な結果です。

コメント