关于 measure-experiment-results
用于记录受控实验结果的技能,面向复盘测试并传达证据的团队。它按假设、统计结果、细分分析、建议和后续步骤组织报告。
主要功能
- 01记录实验背景与假设
- 02呈现主要指标和护栏指标
- 03分析不同用户细分结果
- 04依据证据提出建议
- 05整理经验与后续步骤
适用场景
- 01记录已完成的 A/B 测试
- 02报告提前结束的实验
- 03向项目相关方传达发现
安装
复制下面的命令,在终端中运行。
npx skills add https:/ / github.com/ product-on-purpose/ pm-skills --skill measure-experiment-results安装后在 Claude Code 中输入/measure-experiment-results确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
HISTORY.mdevals/trigger-fixtures.jsonreferences/EXAMPLE.mdTEMPLATE.md详细介绍
实验结果
实验结果文档记录了假设测试的过程和结果,包括统计结果、细分分析、经验总结和明确的建议。优秀的结果文档能将单次实验转化为组织知识,帮助改进未来的决策。
适用场景
- A/B 测试或实验达到统计显著性后
- 实验提前结束时(无论原因)
- 向未参与实验的利益相关者传达发现
- 决定发布、迭代还是终止某项功能时
- 建立经验库,为未来实验提供参考
不适用场景
- 尚未设计或运行实验 -> 使用
measure-experiment-design - 结果需要做方向性决策 -> 使用
iterate-pivot-decision;此技能负责报告证据,另一项技能负责做出决策 - 希望将可迁移的经验纳入组织知识库 -> 后续使用
iterate-lessons-log - 数据来自问卷回复,而非受控实验 -> 使用
measure-survey-analysis
说明
收到记录实验结果的请求时,请按以下步骤操作:
-
总结实验 提供背景信息:测试了什么、实验何时运行、获得了多少流量。如果原始实验设计文档存在,请链接到该文档。
-
重述假设 提醒读者你原本认为会发生什么,以及原因。这有助于理解结果。
-
呈现主要结果 清晰展示主要指标的结果:对照组和实验组的数值分别是多少?请提供统计显著性(p 值)、置信区间和样本量。诚实说明结果是否具有结论性。
-
分析次要指标 展示用于确保未造成意外损害的护栏指标。指出出现意外变化的次要指标,无论变化是积极还是消极。
-
细分数据 查看不同用户群体(平台、使用时长、套餐类型等)是否存在差异化效果。有时总体结果会掩盖重要的细分群体洞察。
-
提炼经验 除了数字之外,你学到了什么?请包括意外发现、引发的问题,以及对产品假设的影响。负面结果同样有价值。
-
提出建议 明确说明应该发布、迭代还是终止。用证据支持建议。如果决策较为复杂,请解释其中的权衡。
-
定义后续步骤 说明接下来要做什么:发布所需的工程工作、后续实验、需要继续监控的指标,或需要更新的文档。
输出格式
使用 references/TEMPLATE.md 中的模板来组织输出。完整的结果报告应填写模板中的每个部分:摘要;假设回顾;结果;细分分析;可视化;经验总结;建议;后续步骤;以及附录。
质量检查清单
完成前,请确认:
- 清楚说明了统计方法和显著性
- 包含置信区间(不只是 p 值)
- 检查了细分分析中的差异化效果
- 报告了次要指标和护栏指标
- 经验总结不局限于数字本身
- 建议明确且可执行
- 如实报告了负面或不确定的结果
示例
请参阅 references/EXAMPLE.md 查看完整示例。