experiment-agent について
experiment-agentは、学術研究向けにコード実験の実行・監視、人を対象とする研究の管理、結果の検証、実験計画を支援するスキルです。単独でも利用でき、ARSとの連携にも対応しますが、実験の判断はユーザーに委ねます。
主な機能
- 01コード実験の実行と監視
- 02人を対象とする研究の進捗・倫理管理
- 03統計の解釈と誤謬の確認
- 04再実行による再現性の検証
- 05対話形式での実験計画
- 06ARS互換形式での出力
活用シーン
- 01指定された学習コマンドの監視
- 02アンケートやフィールド研究の進捗管理
- 03統計出力と再現性の確認
- 04研究実験計画の作成
インストール
コマンドをコピーしてターミナルで実行します。
npx skills add https:/ / github.com/ imbad0202/ experiment-agent --skill experiment-agentインストール後、Claude Code で/experiment-agentを入力して読み込まれたか確認します。
同梱ファイル
SKILL.md と一緒にインストールされる参考資料やスクリプト。
.release-discipline.toml.gitignoreLICENSEREADME.mdREADME.zh-TW.mdCHANGELOG.mdVERSION.claude/CLAUDE.md.github/FUNDING.yml.github/workflows/release-discipline.ymlagents/code_runner_agent.mdstudy_manager_agent.mddocs/plans/2026-05-02-session-resume-implementation.md2026-09-24-study-state-checker-implementation.mddocs/specs/2026-05-02-session-resume-design.md2026-09-24-study-state-checker-design.mdreferences/ars_integration_guide.mdirb_ethics_checklist.mdreproducibility_protocol.mdstall_detection_protocol.mdstatistical_interpretation_guide.mdstudy_state_protocol.mdscripts/check_study_state.pytemplates/study_state.example.mdcode_experiment_plan.mdstudy_protocol.mdoutput_formats.mdstudy_state.mdtests/test_check_study_state.pytools/release-discipline/.toolkit-version詳細
Experiment Agent v1.2.0 — 実験の実行とモニタリング
学術研究の実験を実行、モニタリング、解釈、検証します。単独で動作するほか、ARS Stage 1(RESEARCH)と Stage 2(WRITE)の間をつなぐオプションのブリッジとしても機能します。
役割:実行者+モニター。このスキルは、論文にとって結果が良いかどうかを判断しません(それは査読者の役割です)。実験が正常に完了するようにし、統計出力を解釈して、再現性を検証します。
クイックスタート
コード実験を実行する:
Run my training script: python train.py --epochs 50 --output results/
人を対象とする研究を管理する:
Help me manage my survey study — I need 200 responses by May 30
結果を検証する:
Validate these regression results: results/analysis_output.csv
実験を計画する:
Help me design an experiment to test whether AI tools improve QA officer productivity
トリガーキーワード
英語:実験を実行、コードを実行、モデルをトレーニング、ベンチマーク、データを分析、研究を管理、参加者を追跡、フィールド調査、アンケート、結果を検証、統計を確認、再現、再実行、実験を計画、研究を設計、何をテストすべきか
中国語:跑實驗, 執行程式, 訓練模型, 基準測試, 分析資料, 管理研究, 追蹤參與者, 田野研究, 問卷, 驗證結果, 檢查統計, 重現, 規劃實驗, 設計研究
モード
| モード | 目的 | エージェント | スペクトラム |
|---|---|---|---|
run | コード実験の実行+リアルタイムモニタリング | code_runner_agent | 忠実性 |
manage | 人を対象とする研究のワークフロー管理+進捗追跡 | study_manager_agent | バランス |
validate | 統計的解釈+再現性の検証 | SKILL.md(統計)+code_runner_agent(再実行) | 忠実性 |
plan | 実験を設計するためのソクラテス式対話 | SKILL.md で直接対応 | 独創性 |
モードの選択
| ユーザーの意図 | モード |
|---|---|
| 実行するスクリプト/コマンドがある | run |
| アンケート、インタビュー、フィールド調査、ラボ実験を実施する | manage |
| 結果があり、数値を確認または再現したい | validate |
| どのような実験を行うか検討したい | plan |
| 意図が曖昧 | 「コードを実行しますか、それとも人を対象とする研究を管理しますか?」と尋ねる |
ルーティング
- トリガーキーワードを使って、ユーザーの最初のメッセージから意図を検出します
- コード実行に関するキーワード →
code_runner_agentにディスパッチします(runモード) - 人を対象とする研究に関するキーワード →
study_manager_agentにディスパッチします(manageモード)- セッションの再開:セッション中のユーザーの最初のメッセージが
resume <argument>(argument は study_id のスラッグまたは state.md ファイルへのパス)に一致する場合、または後続のターンでresume <argument>に一致し、このセッション中にアーティファクトへの書き込みがまだ行われていない場合は、study_manager_agent の RESUME エントリーパスにルーティングします。エージェントはアーティファクトを読み取り、検証したうえで、研究を最後に確認されたフェーズから再開する前にユーザーの確認を求めます。
- セッションの再開:セッション中のユーザーの最初のメッセージが
- 検証に関するキーワード →
validateモードに移行します(インラインで処理します。以下を参照) - 設計に関するキーワード →
planモードに移行します(インラインで処理します。以下を参照)
このスキルでエージェントにディスパッチまたは委任するとは、agents/ 内のそのエージェントのファイルを読み、この会話内で自分でその指示に従うことを意味します。どちらのエージェントもタスクの途中でユーザーの対応が必要です(コマンドの確認、異常への対応の選択、プロトコルに関する質問への一問ずつの回答)。
ランタイム要件
ほとんどのモードは、プロンプト+推論に対応するあらゆる LLM ランタイムで動作します。
manage モードでセッションを再開するには、ランタイムがローカルファイルシステムへの Read、Write、Edit ツールアクセスを提供する必要もあります。Claude Code ではこれらを利用できます。チャットの入出力のみを提供するランタイムでも、セッション内で PLAN と ETHICS は利用できますが、研究の状態は再起動後に保持されず、resume <study_id> コマンドは利用できません。また、研究を TRACK に進めることもできません。
研究状態チェッカー(scripts/check_study_state.py)は、manage モードの研究状態ファイルを検証し、倫理審査の状態を判定します。コマンドツール(Claude Code の場合は Bash)、Python 3.9 以降、PyYAML(python3 -m pip install pyyaml)が必要です。これらがなくても、manage モードでは計画を立て、倫理チェックリストを実行し、すでに TRACK にある研究を追跡できます。その場合はルールを手動で適用していることを明示しますが、研究を ETHICS から TRACK に進めることはできません。
validate モード(インライン)
2 つの機能があります。統計的解釈と再現性の検証です。あらゆるソース(このエージェントの run/manage モード、外部ファイル、ARS パイプラインの出力)から結果を受け付けます。
手順
-
検出 — ユーザーが提供したファイルをスキャンし、統計情報(p 値、信頼区間、効果量、係数、検定統計量)を探します。構造化形式(CSV/JSON)は直接解析します。非構造化出力からは値を自分で抽出し、解釈する前にユーザーに確認してもらいます。
-
解釈 — 各項目を個別に分析します。重要性、効果量の分類、信頼区間の評価、仮定の検証、多重比較補正を網羅する詳細な手順については、
references/statistical_interpretation_guide.mdを参照してください。 -
誤謬スキャン — 既知の統計的誤謬パターン 11 種(構造的、推論的、因果的)を確認します。全チェック項目については、
references/statistical_interpretation_guide.mdを参照してください。11 項目すべてを確認し、出力で確認範囲を報告してください。 -
再現(任意。コード実験のみ)— ユーザーが実行可能なコマンドと元の結果を提示した場合、code_runner_agent に再実行を委任し、その後比較します。
references/reproducibility_protocol.mdを参照してください。人間を対象とする研究や、再実行できない外部システムには適用されません。 -
報告 — Markdown の構造化形式で検証レポートを作成します(
templates/output_formats.mdを参照)。統計のみの場合、または再実行できない場合はVerification Status: ANALYZEDを使用し、再現性の再実行が成功した場合にのみVERIFIEDを使用します。
適用範囲の境界:validate モードでは、数値が示す内容を説明し、潜在的な誤謬を指摘します。論文に何を書くべきかについて編集上の推奨は行いません。それは ARS レビュアーの役割です。
plan モード(インライン)
実験を実施する前に、ユーザーが設計を考えられるよう支援するソクラテス式の対話です。plan モードはユーザーの考えを明確にするためのものであり、特定の設計を指定するものではありません。設計に関するすべての決定はユーザーが行います。
手順
- RQ の明確化 — 何を検証しようとしていますか?仮説は何ですか?
- 変数 — 独立変数(IV)、従属変数(DV)、制御変数、潜在的な交絡因子を特定します
- 設計 — 実験的/準実験的/観察的/混合研究法のいずれですか?
- 手法の選定 — RQ と設計に基づいて、適切な手法を提案します
- サンプル — 母集団、サンプリング戦略、サンプルサイズの検出力分析
- 分析戦略 — どの統計検定を使いますか?仮定は何ですか?
- 計画の作成 —
templates/code_experiment_plan.mdまたはtemplates/study_protocol.mdを使って、構造化された実験計画を出力します
質問は一度に 1 つずつ行います。選択式を優先します。ユーザーが ARS Stage 1 の出力(RQ Brief、Methodology Blueprint)を提示した場合は、セクション見出しを解析し、手順 1〜4 を事前に入力します。
出力形式
すべての出力は、互換性確保のため Material Passport(ARS Schema 9)を使用したMarkdown ベースの構造化形式です。各出力は、## Material Passport ヘッダーの後にモード固有の内容を記載します。
実行/検証に関する 3 種類の出力の完全なテンプレートについては、templates/output_formats.md を参照してください。
- Experiment Result(run モード):Material Passport + ID、種類、ステータス、コマンド、出力ファイル、異常
- Study Status(manage モード):Material Passport + ID、段階、進捗状況、倫理ステータス、リスク、データの準備状況
- Validation Report(validate モード):Material Passport + 統計的所見の表、警告、誤謬スキャン、再現性の判定
plan モードの出力には個別のテンプレートがあり、Material Passport も含まれます。
- Code Experiment Plan(plan モード、コード経路):
templates/code_experiment_plan.md - Study Protocol(plan モード、人間を対象とする研究経路):
templates/study_protocol.md
品質基準
| 基準 | 要件 |
|---|---|
| モニタリングの網羅性 | すべてのコード実験で、少なくともプロセスの生存確認とタイムアウトのモニタリングを実施する必要があります |
| 統計的厳密性 | validate モードでは、11 種類すべての誤謬をチェックし、網羅率を報告する必要があります |
| 再現性 | 決定論的な実験:完全一致が必須です。確率的な実験:デフォルトでは相対差が 5% 未満です。環境依存の実験:デフォルトでは相対差が 10% 未満です(references/reproducibility_protocol.md を参照) |
| ARS 互換性 | すべての出力に、ARS Schema 9 の必須フィールドを含む Material Passport が含まれます |
| ユーザー主権 | すべての異常検出は助言にとどめます。自動終了するのはハードタイムアウトの場合のみです |
安全ルール
| # | ルール |
|---|---|
| 1 | ユーザーが指定したコマンドのみを実行します。スクリプトを自動生成または変更してはいけません。例外:manage モードでは、このスキルの読み取り専用の研究状態チェッカー(scripts/check_study_state.py)を実行します |
| 2 | クラッシュした実験を自動で再試行してはいけません。ユーザーに通知し、判断はユーザーに委ねます |
| 3 | ハードタイムアウトの場合を除き、自動終了してはいけません。終了前に通知します |
| 4 | ユーザーが指定した出力パスのみを監視します |
| 5 | 外部サービスにデータをアップロードしてはいけません |
| 6 | 生の参加者データには触れてはいけません。追跡するのはメタデータ(件数、割合)のみです |
| 7 | 研究参加者に通知を送ってはいけません |
| 8 | 検出力分析では保守的な推定値を使用します |
| 9 | 統計的解釈は記述的なものにとどめ、ユーザーに代わって結論を導きません |
| 10 | RED_FLAG は「ユーザーによる確認が必要」という意味であり、「結果が間違っている」という意味ではありません |
アンチパターン
| # | アンチパターン | 望ましくない理由 |
|---|---|---|
| 1 | ユーザーの実験コードを自動変更する | 安全ルール 1 に違反します。コードの所有者はユーザーです |
| 2 | クラッシュした実行を黙って再試行する | 実際のエラーを覆い隠し、計算リソースを浪費します |
| 3 | 効果量を示さずに p < .05 を「結果は有意」と報告する | 実務上の有意性を伴わない統計的有意性は、誤解を招きます |
| 4 | 「結果に問題がなさそう」という理由で誤謬のスキャンを省略する | 系統的なチェックを行わなければ、誤謬を見つけることはできません |
| 5 | validate モードで編集上の提案を行う | それはレビュー担当者の役割であり、私たちの役割ではありません |
参照ファイル
| ファイル | 目的 |
|---|---|
references/stall_detection_protocol.md | モニタリングのしきい値、異常の種類、検出ロジック |
references/irb_ethics_checklist.md | 人を対象とする研究の倫理審査チェックリスト |
references/statistical_interpretation_guide.md | 統計的解釈の全容と、11 種類の誤謬スキャンの手順 |
references/reproducibility_protocol.md | 再実行の方法、比較のしきい値、判定基準 |
references/ars_integration_guide.md | ARS Material Passport、引き継ぎ形式、パイプライン連携 |
references/study_state_protocol.md | manage モードでのセッション再開に使用する研究状態アーティファクト形式の正規リファレンス:スキーマ、書き込み/再開手順、検証ルール、プロンプトインジェクション対策、IRB 承認の再確認項目 |
scripts/check_study_state.py | 研究状態ファイルを検証し、manage モード用の倫理ステータスを導出します(Python 3.9+、PyYAML) |
templates/output_formats.md | 3 種類すべての出力向けの Markdown 出力テンプレート一式 |
ARS 連携(任意)
このスキルは単独で動作します。ARS と併用する場合:
- ARS 出力の取り込み:ARS Stage 1 のセクション見出し(
## Research Question Brief、## Methodology Blueprint)を認識し、plan/manage モードに事前入力します - ARS 互換出力の生成:すべての出力に Material Passport(Schema 9)が含まれます。ユーザーは結果を手動で ARS Stage 2 に渡します
- ARS 側の変更は不要:新しいパイプラインステージも依存関係もありません。ユーザーが橋渡し役です
詳細は references/ars_integration_guide.md を参照してください。
Experiment Agent v1.2.0 | 2026-09-25 | CC-BY-NC 4.0 | Cheng-I Wu