mcpField
A
alterlab-preregistration-discipline

alterlab-preregistration-discipline

github.com/alterlab-ieuデータ・データベース7859 回インストール5 週間前に更新
リポジトリ

alterlab-preregistration-discipline について

alterlab-preregistration-disciplineは、結果データを見る前に分析計画を固定し、確認的結果と探索的結果を区別する研究規範スキルです。研究者向けに、計画からの逸脱やデータの先読み、事後変更を検出しますが、統計検定や登録手続き自体は扱いません。

主な機能

  1. 01分析前の計画固定
  2. 02確認的・探索的結果の区別
  3. 03データの先読みと任意停止の検出
  4. 04計画逸脱の開示
  5. 05計画と実際の分析の照合

活用シーン

  1. 01分析前に事前登録計画を確認
  2. 02結果判明後の検定や共変量の変更を検討
  3. 03未計画の分析を探索的と明記
  4. 04論文における計画逸脱の開示確認

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/alterlab-ieu/alterlab-academic-skills --skill alterlab-preregistration-discipline

インストール後、Claude Code で/alterlab-preregistration-disciplineを入力して読み込まれたか確認します。

同梱ファイル

SKILL.md と一緒にインストールされる参考資料やスクリプト。

evals/
evals.json
references/
researcher_degrees_of_freedom.md
workflow_gates.md
scripts/
prereg_check.py

詳細

事前登録の規律(鉄則)

スキルの種類:規律を徹底するスキル。 これはハウツーでもリファレンスでもありません。 データを見た後に研究者の自由度を悪用し、その結果をあたかも事前に計画していたかのように報告するという、特定の失敗を防ぐためのものです。これは、いつ確認的な結果を主張してよいかを定めるものであり、検定の選び方やOSFフォームの記入方法を教えるものではありません。これらは関連する別のスキルが担当します(ルーティング表を参照)。

THE IRON LAW

    NO DATA ANALYSIS WITHOUT A PRE-REGISTERED ANALYSIS PLAN FIRST.

凍結した仮説と分析計画は、実装前に書く失敗テストに相当します。結果が出たかどうかを確認できるようになる前に、何を結果とみなすかを確定します。計画外の分析を行った場合、ルールは絶対です。それは探索的です。探索的であると明記し、タイムスタンプを付けてください。そのp値を確認的な結果として報告することはできません。(Center for Open Scienceの確認的/探索的モデルによると、探索的研究ではp値は診断的な価値を失い、知見には独立した再現が必要です。https://www.cos.io/initiatives/prereg で確認済みです。)

事前登録の字面に違反することは、科学の精神に違反することです。

この一文は、予想される反論――「事前登録は官僚的な手続きだ。私は科学の精神に従っている」――をあらかじめ退けます。精神に従っていれば例外が認められる、ということはありません。EXPLOREフェーズでは自由に反復してください。確認的な主張には、凍結した計画が必要です。

このスキルを使う場面

凍結した計画がないまま確認的な主張が持ち上がったとき、またはデータが見えてから計画を曲げようとしたときに、すぐに使ってください。

  • 書面によるデータ確認前の分析計画がない状態で、データセットを分析しようとしている。
  • 結果やp値を見た後に、主要アウトカムを切り替える、共変量を追加/削除する、または検定を変更する。
  • 収集中のデータを途中で確認し、「もう有意だから」と今すぐ中止するかどうかを検討している。
  • 事前に指定していない外れ値の除外、変数の変換、または除外基準の変更を行う。
  • OSF/AsPredicted/PROSPEROの事前登録を作成する(手続きについてはalterlab-open-scienceに案内してください。このスキルでは、計画が実際に凍結され、遵守されているかを徹底します)。
  • 既存の登録からの逸脱を正当化する。
  • 「この境界的な結果を、出版できる形にするためにとにかくpハックして」といった締め切りに追われた依頼。――そのような枠組みは拒み、代わりにPLAN/CONFIRM/EXPLOREの道筋を提案してください。
トリガーしないケース

このスキルはゲートキーパーであり、ツールボックスではありません。関連スキルと連携し、機械的な処理はすべてほかに振り分けます。隣接する依頼は次のように振り分けてください。

実際の依頼内容振り分け先このスキルではない理由
登録の手順:OSF Registries/AsPredicted のテンプレート/PROSPERO、DMP、FAIR データ、リポジトリの選択、事前登録付き報告alterlab-open-science登録の方法を担当するのはこのスキルです。このスキルは計画を凍結し、それを順守させるだけです。
どの検定を実施するか、仮定の確認(Shapiro/Levene)、検定力/サンプルサイズ、APA 形式の結果alterlab-statistical-analysis検定の選択と実施は統計の領域であり、事前登録の規律ではありません。
エビデンスの質の評価(GRADE、RoB)、バイアス/交絡因子の特定、研究デザインの妥当性alterlab-scientific-thinking既存のエビデンスを評価することは、データを見る前に計画を確定することとは異なります。
引用文献が実在するか/主張を裏付けているかalterlab-citation-verifier引用の整合性に関するものであり、分析計画の整合性ではありません。
すでに実施した分析の報告の網羅性(効果量、CI、すべての検定の開示)alterlab-results-transparencyこれは CONFIRM/EXPLORE の下流にある報告のゲートです。
データを確認する前に、境界的な分布に対して候補となる検定から選ぶalterlab-test-selection-guard検定の選択を確定することは独立したガードです。このスキルでは、検定がすでに凍結済みの計画に含まれているものとします。
TÜBİTAK/助成金申請書の方法セクションの執筆alterlab-tubitak-proposal / alterlab-research-grants申請書の作成に関するものであり、事前登録の順守ではありません(alterlab-grant-reporting は採択後の報告を担当します)。
研究倫理審査の承認/KVKK/データ管理のコンプライアンスalterlab-tr-research-ethics / alterlab-kvkk-dmp倫理とデータガバナンスに関するものであり、分析計画の凍結とは別の領域です。

必須の前提知識(このスキルは連携を担当し、機能を再実装しません): 登録記録には alterlab-open-science、検定の選択と仮定の確認には alterlab-statistical-analysis、バイアスの枠組みには alterlab-scientific-thinking を使用してください。いずれかが必要なステップでは、引き継いでください。ここで内容を言い換えて説明してはいけません。

ワークフロー:PLAN → COLLECT → CONFIRM → EXPLORE

これは、研究における red → green → refactor に相当します。各フェーズには終了ゲートがあり、現在のゲートを通過するまで次のフェーズに進むことはできません。

1. PLAN — データを見る前に計画を凍結する

次のすべてを記録し、確定してください。

  1. 仮説(該当する場合は方向性も含む)。
  2. 主要アウトカムと副次アウトカム(順位を付ける)。
  3. 各仮説に用いる正確な検定(選択は alterlab-statistical-analysis に委ね、決定内容をここに記録する)。
  4. 組み入れ/除外のルールと、事前に規定した外れ値のルール。
  5. 中止ルール/計画サンプルサイズ(任意停止ができないようにするため)。
  6. 共変量、変換、欠測データの処理方法。

alterlab-open-science を通じて記録を登録してください(OSF Registries/AsPredicted/PROSPERO)。**ゲート:**計画が存在し、タイムスタンプが付与され、アウトカムデータを見たことに依存する内容が一切含まれていないこと。「どのような結果が出ればこの仮説は反証されるか?」に答えられない場合、計画はまだ完成していません。

2. COLLECT — 手を加えていないデータを収集する

中止ルールに従ってデータを収集してください。**続行するかを決めるために、アウトカムをのぞき見してはいけません。**中間確認が本当に必要な場合は、事前に規定された逐次デザインである必要があります(その内容を PLAN に記録してください)。**ゲート:**データ収集が凍結済みのルールに従っており、アウトカムに依存した中止が行われていないこと。

3. CONFIRM — 計画どおりの検定を正確に実行する

事前に指定したサンプルに対し、事前に指定した順序で、事前に指定した検定を実行します。 仮定の確認(alterlab-statistical-analysis を使用)は、結果を解釈する前に 実施して報告します。仮定を満たさなかった場合でも、変更が事前に指定されていない限り、検定を差し替えることはできません。 事前の指定なしに差し替えた場合、結果は EXPLORE に格下げされます。 **ゲート:**確認的分析のすべての数値が、凍結された計画のいずれかの行にたどれること。

4. EXPLORE — その他すべてを明示的に示す

凍結された計画に含まれていないものはすべて、ここに分類します。新たなサブグループ、事後的な共変量、代替検定、興味深いパターンなどが該当します。こうした作業には価値があります。次の研究の仮説を生み出すためです。ただし、探索的という見出しの下で報告し、p 値は確認的なものではなく記述的なものとして扱い、「再現が必要」という注意書きを添えます。 **ゲート:**探索的な知見にはすべてその旨を明記し、確認的な説明に紛れ込ませないこと。

意思決定フローチャートと各フェーズのゲートの全容は、 references/workflow_gates.md にあります。

言い訳と実態

よくある正当化と、実際に起きていることです。(文書化されている研究者の自由度に関する文献をもとにしています。詳しくは references/researcher_degrees_of_freedom.md を参照してください。)

言い訳実態
「データから、もっと適切な検定/モデルが示されました。」ノイズに当てはめています。これは HARKing、つまり結果を知った後で仮説を立てることです。探索的分析として報告してください。
「のぞいたのは一度だけです。」任意停止は第 I 種過誤率を高めます。(事前に指定した)逐次デザインを報告するか、のぞくのをやめてください。
「事前登録は融通が利きません。科学は反復的なものです。」EXPLORE セクションで反復してください。確認的な主張には、依然として凍結された計画が必要です。
「正規性を満たすために、外れ値を 3 つ除外しました。」外れ値のルールは事前に指定するか、サイレントな編集ではなく感度分析として報告する必要があります。
「この共変量をモデルに入れるのは明らかです。」事後的な「明らかさ」は、研究者の自由度の一つです。事前に指定するか、探索的であることを明示してください。
「t 検定で有意ではなかったので、Mann–Whitney に切り替えました。」p 値を基準に検定を選ぶのは、検定のつまみ食いです。判定ルールを事前登録するか、結果を探索的と明記してください。
「この逸脱は登録の精神に沿っています。」文面に反することは、精神に反することです。精神に関する例外はありません。
「探索的なだけなので、登録は大げさです。」それなら、すべての知見を探索的と明記し、確認的な p 値を一切主張しないでください。計画なしに確認的分析としての評価を得ることはできません。

危険信号 — 中止

自分(またはユーザー)が次のように考えていることに気づいたら、中止してください。

  • 「別の検定を試してみよう。」
  • 「外れ値を除外して再実行しよう。」
  • 「この共変量を 1 つ追加すれば効果が出る。」
  • 「もう有意だから、データ収集をここで止めてもいい。」
  • 「うまくいった分析だけ報告しよう。」
  • 「このサブグループは興味深い(予測はしていなかったけれど……)。」
  • 「出てきたほうの結果指標を主要評価項目に変更しよう。」
  • 「このような研究に事前登録は大げさだ。」

これらはすべて、同じことを意味します。研究者の自由度を利用しています。 凍結された計画に戻るか、作業を探索的と明記して、確認的な主張を断念してください。第三の選択肢はありません。

多重比較のエスカレーションゲート

厳密に数えられるルールです(「修正に 3 回失敗したらアーキテクチャが間違っている」と同じ考え方です)。

同じ仮説について、有意性を探して3 回以上の検定を実行しましたか?その場合は中止してください。これは多重比較/検定のつまみ食いです。すべての検定に対して補正する(Bonferroni/Benjamini–Hochberg FDR — alterlab-statistical-analysis を使用)か、分析全体を探索的と宣言してください。p < .05 を見つけるために、4 回目の検定を実行してはいけません。

逸脱の開示ゲート

凍結した計画からの逸脱が避けられない場合(計画に真の誤りがある、前提が実現不可能であるなど)、黙って取り込んではなりません。以下を順に実施します。

  1. 元の凍結済み仕様を明示します(計画から引用します)。
  2. 逸脱の内容と、それを余儀なくされた具体的な理由を明示します。
  3. 結果に基づくものではないことを証明できない限り、影響を受けた結果を探索的なものとして分類します。
  4. 原稿の透明性/逸脱のセクションで逸脱を開示します(報告の完全性については alterlab-results-transparency に委ねます)。

計画と実際の内容の食い違いを、構造化された簡易セルフ監査で確認するには、オプションのヘルパーを実行できます。

uv run python skills/methodology/alterlab-preregistration-discipline/scripts/prereg_check.py \
    --plan plan.json --actual actual.json

これは標準ライブラリのみを使用するチェックリスト採点ツールです(ネットワークやサードパーティ API は使用せず、統計分析も実行しません)。--help を参照してください。

確証的な結果を主張する前のセルフチェック

  • 結果データを確認できるようになる前に作成された、凍結済みのタイムスタンプ付き計画がありますか?
  • 確証的な数値はすべて、その計画内の記述を根拠としていますか?
  • 前提の確認は、解釈の前に実施され、報告されていますか?
  • 計画外の分析はすべて、「探索的」という見出しの下に記載され、追試に関する注意書きが添えられていますか?
  • すべての逸脱が取り込まれずに開示されていますか?

1 つでも「いいえ」がある場合、結果は確証的ではなく、探索的です。そのことを明確に述べてください。

参考資料

AlterLab Academic Skills スイートの一部です。

コメント