关于 experiment-design
面向产品管理的实验设计与解读技能,涵盖实验全周期。它强调明确假设、充足样本量、规范执行,以及依据预先设定的规则做决策。
主要功能
- 01包含原因、效果、幅度和机制的假设
- 02样本量与最小可检测效应指导
- 03实验时长与分段分析指导
- 04护栏指标、交互效应与序贯检验
- 05预先约定的结果解读与决策
适用场景
- 01产品变更上线前设计实验
- 02判断现有流量是否足以支持实验
- 03设定实验时长、指标和决策规则
- 04解读结果,避免依赖事后分段分析
安装
复制下面的命令,在终端中运行。
npx skills add https:/ / github.com/ rampstackco/ claude-skills --skill experiment-design安装后在 Claude Code 中输入/experiment-design确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
README.mdreferences/common-failures.mdhypothesis-templates.mdplatform-comparison.mdpost-experiment-decision-framework.mdpre-experiment-readiness-checklist.mdresults-interpretation-checklist.mdsample-size-tables.md详细介绍
实验设计
资深产品经理的实战指南:如何开展实验,做出可靠的决策。
大多数公司的实验默认做法都很草率。产品经理围绕模糊的假设开展测试,过早查看结果,忽略护栏指标,把数据分层到噪声中,最终发布的功能所带来的提升大多只是测量误差。代价确实存在:发布了错误的东西,放弃了正确的东西,得出错误的结论,然后重蹈覆辙。
这项技能是一套能避免大多数此类错误的方法。它假定你拥有可用的实验平台(Statsig、PostHog、GrowthBook、Optimizely、Amplitude、Eppo、Kameleoon;平台并不影响这些原则)。它还假定你拥有能够交付实际处理变更的产品设计和工程工作流。真正困难的是思考,而这里讲的正是这一点。
何时使用这项技能:每当你准备设计或解读一项实验时。请在开始前阅读相关部分,而不是等测试开始运行后再看。
这项技能涵盖的内容
这项技能涵盖完整的实验生命周期:实验前的就绪度评估(这件事是否值得测试);假设设计(原因、结果、幅度、机制);样本量和最小可检测效应(流量是否足以让你学到东西);实验时长(多长时间才够,周期何时会使结果产生偏差);运行纪律(不窥探、护栏指标、序贯检验);结果解读(三种结果及无法得出结论的情况);决策(根据预先承诺的规则匹配结果)。
这项技能不涵盖功能标记的运维机制;这些内容属于 feature-flagging 技能,该技能将标记分类、环境管理和过期标记清理作为一项独立规范来处理。这项技能不涵盖深入的统计分析;有关 delta 方法、CUPED 等方差缩减技术,以及贝叶斯替代方法,请参阅 experimentation-analytics 技能。这项技能不涵盖特定平台的工具;有关 MCP 命令、身份验证模型和特定平台的配置,请查阅所选平台的官方文档。这项技能产出实验设计;平台负责实施。
有关上层编排(要运行哪些实验、按什么顺序、以什么频率运行),请参阅即将推出的 experimentation-platform-orchestrator 技能。该技能负责安排;本技能负责设计。
框架:确保实验结果可信的 12 项考量
严谨可信的实验设计需要综合考虑以下十二项。下文会在各自的章节中详细介绍。
- 假设纪律。 原因、结果、幅度和机制。假设要明确说明正在测试什么、预期哪些指标会变化、变化幅度是多少,以及原因。
- 样本量和最小可检测效应(MDE)。 流量是否足以在所选检验效能下检测到效应。拒绝运行效能不足的测试。
- 测试时长。 样本量达标所需时长与一个完整周周期两者取较长者。无论如何,UI/UX 更改至少需要 14 天。
- 哪些内容不应进行 A/B 测试。 UX 缺陷、法律要求的更改、品牌理念相关的问题、已经做出的决定,以及无法进行干净随机化的设计。
- 细分群体分析。 预先注册的细分群体是证据;事后划分的细分群体则是在噪声中挖掘结果。多重比较问题不容忽视。
- 交互效应。 在同一界面上同时进行的测试可能相互干扰。必须实施互斥机制或进行协调。
- 比率指标和方差估计。 对比率使用朴素方差估计会低估不确定性。确认平台使用了针对比率的估计方法。
- 网络效应和双边市场。 干扰可能导致实验组的处理影响泄漏到对照组。必要时使用集群随机化、切换实验或地理隔离。
- 序贯检验和窥视问题。 每日查看结果会提高假阳性率。条件允许时使用序贯检验方法;否则,事先承诺不随意更改。
- 预先承诺与 p 值操纵。 在上线前写明主要指标、MDE、时长、细分群体和决策规则。结果出来后,严格按规则执行。
- 解读结果并做出决策。 分为三类:明确胜出、明确失败、结论不明。结论不明自有其原因;要抵制仍然发布的冲动。
- 常见失败及修正方法。 常见模式的简明速览,详见
references/common-failures.md。
下文将依次介绍各项考量。请在运行实验之前阅读相关章节,而不是事后再读。
假设规范
这是这项技能中最重要的部分。大多数实验失败都源于假设含糊不清。
一个真正的假设有四个组成部分:原因、效果、幅度和机制。原因是你要做出的改动。效果是你预期会发生变化的指标。幅度是你预期它会变化多少,以及相对于什么基线。机制是你预期这项改动会产生这种效果的原因。
不好的假设,一种常见写法:“我们认为新的定价页面会提高转化率。”问题在于:没有幅度(提高多少),没有机制(为什么),而且指标是“转化率”,而不是定义明确的具体事件。团队会进行这项测试,看到结果后再争论什么才算成功。无法预先承诺,因为没有任何具体内容可供承诺。
好的假设,同一领域:“将三档定价对比替换为单一推荐档位,可将注册转付费转化率提高 8%(目前为 12%,目标为 13%),因为这能降低已经决定订阅的用户所面临的决策阻力。”原因是替换定价档位。效果是注册转付费转化率,定义为用户进入付费墙后,在 7 天内完成付款。幅度是相对提升 8%,将转化率从绝对值 12% 提高到 13%。机制是降低决策阻力。现在,团队有了可测试的内容、明确的目标数字,以及一套可以证伪的解释。
主要指标与护栏指标。主要指标是你试图推动变化的指标。护栏指标是绝不能受到损害的指标:收入、留存率、支持工单量、页面加载时间、错误率。只选一个主要指标。选择 3 到 5 个护栏指标。多个主要指标会破坏规范,因为结果出来后,你可以从中挑选对自己有利的指标。
可证伪性测试。启动实验前,写下哪些情况会让你不发布这项改动。如果答案是“没有,我们无论如何都会采用这项改动”,那么这个假设就不是真正的假设,这场实验也只是作秀。跳过测试,节省工程时间,直接发布改动即可。
方向与幅度的区别。知道改动能推动指标,与知道它推动的幅度是否足够大、值得重视,是两回事。注册转化率绝对值提升 0.3%,即使在流量足够大时具有统计显著性,也未必值得投入工程成本来维护这项改动。幅度与方向同样重要;假设中应明确写出足以支持发布的幅度。
如需查看常见指标类型的模板和示例,请参阅 references/hypothesis-templates.md。
样本量与最小可检测效应
样本量与想要检测的效应大小的平方成反比。检测 1% 的提升,所需样本量大约是检测 10% 提升所需样本量的 100 倍。大多数产品经理都会低估这一点。
基本判断规则:如果在当前流量和合理的测试时长下,你的最小可检测效应(MDE)大于 5% 的绝对提升,那么你可能需要设定更大的 MDE。那些需要海量样本才能检测到的微小变化,通常不值得发布。变化之所以很小,要么是因为其底层机制效果较弱,要么是因为实施得过于保守。机制薄弱,不值得发布。实施过于保守,就应在测试前大胆一些。
“流量不够”的陷阱。对于规模非常小的产品,这确实是个问题;对其他所有人来说,这只是懒得思考。如果你每周有一万名用户,却试图检测半个百分点的绝对提升,那你做的不是实验,而是在抽样噪声。选择预期效果足以在当前流量水平下检测到的变化。如果变化确实很小,就不做测试直接发布(收益小、风险小、成本低),或者干脆不发布。
统计功效。指测试检测实际存在的效应的能力。通常的下限是 80%。低于这个值,就像是在掷骰子;测试会频繁漏掉真实效应。更高的统计功效需要更多样本。大多数平台默认设为 80%;如果要更改,请记录原因。
单侧检验与双侧检验。尽管人们很容易声称并非如此,但大多数产品经理的测试都是双侧检验。单侧检验的意思是:“我只关心正向变化;如果变化让结果变差,我不需要检测出来。”这种情况很少成立。如果新版定价页导致转化率暴跌,你肯定想知道。默认使用双侧检验。如果确实要做单侧检验,请在开始测试前记录这种不对称性。
如需查看针对常见转化率基线和 MDE 预先计算的样本量表,请参阅 references/sample-size-tables.md。这些表格只是起点,不能替代根据你的具体流量和指标进行计算。
测试时长
最低时长取两项约束中较长的一项。第一项约束:样本量达到计算得出的要求。第二项约束:测试至少覆盖一个完整的每周周期。只在周一到周三测试,会漏掉周末的行为;对大多数面向消费者的产品而言,周末行为与工作日有明显差异。
新奇效应。新事物会吸引注意力。成功测试的前几天往往会夸大效果提升。用户注意到变化后会点击,产生一种随着新鲜感消退而逐渐消失的暂时效果。测试时长应足够长,以观察效果提升能否持续超过新奇期。对于任何 UI/UX 实验,即使样本量更早达到要求,通常也至少要测试两周。
首因效应。相反的问题。现有用户可能在第一周抗拒变化,到第三周才适应。这种情况在 UI 布局调整测试中很常见。如果因为第一周的结果看起来是负面的就终止测试,就会忽略在这个时间尺度上,首因效应的影响大于实际效果。
留置期。如果实验更改了永久性功能(通知频率、默认设置、搜索排名),那么上线后至少一个月内,应让一组留置用户不接触新行为。留置组衡量的是长期效果,而不只是第 1 天的效果提升。长期效果往往与短期效果不同:某项通知调整可能提高第 1 天的参与度,却降低第 3 个月的留存率。
最长时长。通常为四到六周。超过这个时长,测试周围的环境就会发生变化。季节性会改变,营销活动会启动,产品也会迭代。随着测试周期内的底层用户群体不再具有可比性,实验组与对照组之间的比较就不再可靠。如果测试需要运行超过六周才能达到统计功效,MDE 可能就设错了;这项变化太小,无法可靠地检测出来。
不要进行 A/B 测试的情况
许多关于实验的讨论都会略过这一部分。值得直接说明。
UX 漏洞修复。如果当前行为客观上存在问题(按钮无法使用、文案有误、无障碍要求不达标),就修复它。对它进行 A/B 测试只是做做样子。正确的做法不是“看看用户是否更喜欢能正常使用的按钮”,而是上线这个能正常使用的按钮。
法律要求的变更。GDPR 同意流程、无障碍合规、法规免责声明。直接上线。效果提升并不重要,合规才是重点。是否遵守法律,不是一个严肃的 A/B 测试问题。
战略性或理念层面的品牌问题。“我们的品牌语气应该活泼还是严肃?”不是 A/B 测试问题,而是品牌战略问题,需要由了解背景的人来决定,并综合考虑品牌资产、受众预期和长期定位。选择点击率更高的版本并不能回答这个问题,因为点击率并非品牌决策的依据。应把实验数据作为品牌决策的一项参考,而不是决策本身。
已经做出决定的事项。如果领导层已承诺某个方向,无论测试结果如何都不会改变,就不要开展实验。把 A/B 测试当作做做样子的工具(开展那些结果不会影响决策的测试),会损害大家对整体实验规范的信任。其他 PM 看到测试,也看到结果被忽略,就会得出结论:实验结果在这家公司无关紧要。于是他们不再预先承诺如何根据结果采取行动,最终实验规范就会崩溃。
无法设计测试的事项。跨设备体验、网络效应、为十人运营团队提供的内部工具,以及任何样本量根本太小或随机化从根本上受到污染的情形。有时,正确的做法是开展定性研究、纵向队列分析,或者直接上线并观察。无法进行可靠设计的实验,也不会得出可靠结论。
分析细分人群
预先注册的细分人群与事后划分的细分人群。在测试开始前声明“我们会分别查看新用户与回访用户的结果”是可以的。测试结束后才发现“周二通过移动设备注册的加利福尼亚用户”带来了巨大的提升,这几乎总是在挖掘噪声。
多重比较问题。每多分析一个细分人群,偶然发现“显著”结果的概率就会增加。对于 20 个相互独立的细分人群,p 值为 0.05 时,预计纯粹偶然会出现一个假阳性。对于 50 个细分人群,则会有两个或三个。不要分析 50 个细分人群,然后只报告达到显著性的那个。
分层何时有帮助,何时会误导。当以下三点都成立时,分层才有用。该细分人群已预先注册。有充分的先验理由预期该细分人群的行为有所不同。该细分人群中的样本量足以按选定的统计功效检测出效果。缺少其中任何一点,分层就是在挖掘噪声。默认做法应当是:报告整体结果。将预先注册的细分人群作为补充背景一并报告。不要报告未事先计划的细分人群。
“加权平均”的重新表述。如果某个处理对一个细分人群有正面效果,对另一个细分人群有负面效果,正确的问题是“对于我们实际将要发布的目标总体,加权平均效果是多少”,而不是“我们干脆只向有效的细分人群发布吧”。向特定细分人群发布通常需要更复杂的 UI、受众定向基础设施和持续维护,而这些投入并不一定能由该细分人群的效果提升证明合理。对面向特定细分人群发布持保留态度是有益的。
交互效应
典型问题:你正在结账流程中同时运行 5 个 A/B 测试。每个测试单独来看都显示出小幅提升。但组合起来后,效果可能无法简单相乘,甚至无法简单相加。它们可能以单独测试无法揭示的方式相互干扰。
实验前的准备。在启动新实验前,检查同一界面上还有哪些实验正在运行。询问负责这些实验的 PM。协调哪些测试互斥,哪些可以重叠。
互斥实验组。大多数平台都支持排除规则,确保参与测试 A 的用户不会同时参与测试 B。当交互效应可能出现时,就使用这些规则。代价是样本量减少,收益是结果更容易解读。对于少量高风险测试,采用互斥是正确的选择。对于数十个风险较低的测试,完全互斥并不切实际;应改为协调并记录测试的重叠情况。
“我们以后再分析”的谬误。事后厘清重叠实验的影响很困难、成本很高,而且通常无法得出明确结论。用于分离交互效应的析因设计所需样本量,是大多数产品无法提供的。应提前协调,而不是事后理清。
比率指标与 delta method
陷阱。转化率是一个比率:转化人数除以用户数。针对原始计数的标准差计算方法不能直接用于比率。对比率指标采用朴素的方差估计,往往会导致区间过窄,从而高估置信度,并造成错误的上线决策。
为何重要。许多实验平台会悄悄地对比率指标使用 delta method(或 bootstrap,或其他考虑比率特性的估计方法)。如果你的平台没有这样做,那么置信区间就是错的,而且错在关键之处:你会上线那些看似显著、其实并不显著的功能。
如何检查。询问平台供应商:“你们对比率指标使用什么方差估计方法?”如果答案是“对比例使用标准 t 检验”,那么对于任何非简单二元转化(是或否,每位用户仅一行)的比率来说,这都是错的。如果答案是“delta method”“在用户层级进行重采样的 bootstrap”或“使用 Taylor 展开的线性化方法”,那就是正确的。还有其他合理答案;关键在于平台团队是否能说清楚自己使用的比率感知估计方法。
示例。每用户收入是一个比率:总收入除以总用户数。未使用比率感知估计方法的 RPU 提升估计往往会高估置信度。报告提升了 5%、p 等于 0.04,实际上可能只是一个 5% 的点估计;正确计算方差后,它可能并不具有统计显著性。基于错误的数学结论上线,意味着上线无法在生产环境中产生所声称效果的改动。
如需深入了解方差缩减(CUPED、分层抽样、控制变量),请参阅发布后提供的 experimentation-analytics skill。
网络效应与双边市场
干扰问题。在双边市场(Uber、Airbnb、eBay、DoorDash,以及任何拥有买家和卖家的平台)中,针对买家的处理可能会影响卖家,无论卖家属于测试中的哪个组。提高买家需求的处理会改变卖家的行为。争夺同一批卖家的“对照组”买家,会因处理组买家的行为而看到不同的供给。此时,测试就无法干净地衡量处理效果;它衡量的是处理效果加上干扰。
常见情况。市场实验中的对照组受到污染。测试报告的效果较小,因为一半效果泄漏到了对照组。团队因此低估真实效果,放弃一个能带来成功的想法,还得出了错误的结论。
缓解方法,没有一种是完美的。整群随机化将整个市场(城市、地区、细分市场)分配到处理组或对照组,而不是按单个用户分配。它能消除群组内干扰,但会使有效样本量减少几个数量级。切换实验在不同时间窗口内交替让整个群体接受处理或对照(第 1 周处理,第 2 周对照,第 3 周处理,依此类推)。它能消除用户之间的干扰,但需要谨慎进行时间建模。地理隔离是在一个城市开展实验,同时让网络的其余部分保持原有行为。它能消除干扰,但成本高、速度慢。
何时采用定性方法。如果干扰很严重,且无法通过随机化将其隔离,那么测试就无法告诉你想知道的内容。应改用用户研究、纵向队列分析,或配备谨慎监测的分阶段推出。此时要做的决策是“我们是否足够相信它有效,值得投入资源监控其推出”,而不是“提升是否达到了统计显著性”。
序贯检验与窥探问题
窥探问题。如果你每天都查看结果,并在看到显著性后立即停止测试,那么你的假阳性率会远高于名义上的 5%。标准统计检验假设只在测试结束时进行一次分析。多次分析会抬高 alpha。
数学原理。进行一次分析时,假阳性率为 5%(alpha 等于 0.05)。在测试期间分三次分析,假阳性率会升至接近 14%。如果在为期 28 天的测试中每天窥探,假阳性率可能超过 30%。你会看到并不真实的“显著”结果,将其发布,然后眼看着它在生产环境中无法复现。
序贯检验方法。大多数现代平台(Statsig、Eppo、部分 PostHog,以及使用 mSPRT 的 GrowthBook)都支持序贯检验,可以调整统计方法,允许每天窥探而不抬高 alpha。这些方法包括序贯概率比检验、组序贯设计,以及通过混合序贯概率比检验(mSPRT)得到的始终有效的 p 值。平台提供这些方法时就使用它们。它们会牺牲一些统计功效,以换取测试中途推断的有效性。
预先注册的停止规则。如果平台不支持序贯检验,请在测试开始前声明计划分析日期。保存这项预先承诺。到那一天之前不要查看结果。如果你必须查看(有些平台很难避免),也不要根据所看到的结果做决定。应在预先承诺的分析日期做决定,而不是在提前窥探的结果看起来有利时就做决定。
“结果看起来很好,所以提前发布”的陷阱。结果几乎总是在第 3 天看起来比第 14 天更显著。回归均值会开始起作用。新鲜感会消退。指标会趋于稳定。能完成整个观察窗口且结果依然出色的测试,才值得发布。那些“早期看起来很棒”并被提前发布的测试,往往更容易在生产环境中令人失望。
预先承诺与 p 值操纵
p 值操纵的常见做法。结果不如预期时,人们经常会做以下事情,且往往是在无意识中:
- 不断增加细分群体,直到某个结果达到显著性
- 不断剔除“异常值”,直到关键结果发生变化
- 在测试进行期间更换主要指标
- 将测试时长“再延长一点”
- 重新表述假设,使其符合数据所显示的结果
- 将多个未得出结论的测试合并成一个“方向性模式”,以此证明发布是合理的
单独来看,每件事都像是一个小小的判断。但累积起来,它们会破坏严谨性。结果并不是“我们发现了真实效应”,而是“我们调整了足够多的分析选项,终于让某个结果看起来显著”。
预先承诺的解决办法。在测试开始前,写下:主要指标及其计算方式;你有能力检测到的 MDE;以日历天数计算的时长;你将分析的细分群体(如有);以及将每种可能结果对应到发布或终止的决策规则。将预先承诺保存在带有时间戳的地方,例如发布实验配置的 PR 描述、已签名的 Slack 消息、置顶工单,或任何能使其不可更改的地方。
结果出来后,遵循预先承诺。如果结果明确且你想发布,就提交发布申请。如果结果不理想且你想终止,就终止。如果结果无法得出结论,就遵循下文所述的未定结论处理路径;不要临时编造新的分析。
“我们学到了很多”的陷阱。如果测试已运行,但结果无法得出结论,那么答案就是“无法得出结论”。不是“我们了解到背后的机制比预期更复杂”,也不是“我们发现了一个有趣的细分群体动态”。无法得出结论就是无法得出结论。如果有经验可供总结,那也是留给下一个假设的,而不是事后硬套到当前假设上。
解读结果并作出决策
分为三类。明确胜出:上线。明确失败:放弃。结果不确定:最棘手的情况。
处理结果不确定的方式,按可接受程度从高到低排列:
- 仍然上线,因为变更成本低且可逆(只有在护栏指标表现良好,并且你确实没有任何信息表明变更有害时,才站得住脚)。这里的门槛很高;“趋势变化有利”还不够。
- 扩大测试规模:增加流量、延长时长,或在可以让变更更大胆时提高 MDE。将不确定结果作为证据,说明原测试统计功效不足,或效果小于预期。
- 放弃这个想法。这通常是正确的答案;但最难做到,因为 PM 已经投入了精力在这个假设上。
- 迭代假设并重新测试。利用不确定结果完善作用机制。新测试就是新测试,不是原测试的延续;再次预先承诺。
贝叶斯思维层面。如果你的先验判断很强(鉴于我们对用户行为的了解,这显然应该有效),那么不确定结果仍应在一定程度上更新你的判断。先验判断错了,或者效果小于预期,或者实现过于保守,未能捕捉到效果。如果你的先验判断较弱(我们确实不知道会发生什么),那么不确定结果就意味着结果不确定;先验本就不确定,而结果也没有缩小不确定范围。
最棘手的情况。主要指标为正向,护栏指标却模棱两可。收入上升了,但支持工单也略有增加。转化率上升了,但会话时长下降了。遵循预先承诺的决策规则。如果没有预先承诺如何权衡护栏指标,默认选择“不上线”。护栏指标之所以存在,是因为你在看到结果之前就重视它们。不要事后降低标准。
分步结果解读清单请参见 references/results-interpretation-checklist.md。
常见失败及解决方法
速查参考。每种模式都在 references/common-failures.md 中有更详细的说明。
- “流量不够”意味着 MDE 设得太小。选择值得检测、幅度更大的变更。
- “上线后提升效果消失了”意味着测试只运行了 5 天,捕捉到的是新奇效应。下次延长测试时间;UI 变更至少测试两周。
- “新用户有效,但回访用户无效”意味着该细分群体是事后划分的,结果很可能只是噪声。要么面向所有人上线,要么放弃;不要只对该细分群体上线。
- “窥探数据 12 天后,p 值升到了 0.04”意味着假阳性率远高于名义值。预先承诺并使用序贯检验。
- “收入上升了,但留存率下降了”意味着违反了护栏指标。不要上线。
- “我们无法复现结果”意味着原始结果很可能是噪声,或由平台 Bug 导致。重新运行前先调查。
- “我们运行了测试,结果不确定,但趋势方向有利,所以还是上线了”意味着你无视了自己的原则。不确定这一类有其存在的理由;不要用趋势模式代替证据。
如果所需数据不可用
此技能的输出依赖于它无法自行生成的数据、测量结果或工具结果。如果所需输入、工具或数据源不可用或无法验证,合规的输出应是注明缺口的交付内容:说明需要什么、实际获取或验证了什么,以及输出的哪些部分受到影响。绝不能为了完成交付内容而捏造、估算或插值所需数值。明确说明缺口本身就是完整的答案。
参考文件
references/hypothesis-templates.md。介绍通过因果关系、影响大小和作用机制检验的假设写作具体格式,并提供涵盖转化、互动度、收入、留存和漏斗步骤指标类型的示例。references/sample-size-tables.md。提供最常见转化率实验的预计算样本量表,并说明使用方法和样本量规划中的常见陷阱。references/common-failures.md。列出 15 种会导致错误上线决策的反模式,每种都包含症状、根本原因、修复方法和预防措施。references/results-interpretation-checklist.md。提供逐步解读结果的检查清单、包含成功、失败和结果不确定三种情况的决策矩阵,以及发布后的监控规范。references/platform-comparison.md。介绍主要实验平台(Statsig、PostHog、GrowthBook、Optimizely、Amplitude、Eppo、Kameleoon)的特点、注意事项,以及用于选择平台的决策矩阵。references/pre-experiment-readiness-checklist.md。提供一份包含 10 个项目的检查清单,供发布前执行并据此决定是否继续。references/post-experiment-decision-framework.md。介绍决策时刻的框架:确认预先承诺、机械地应用规则、进入发布/终止/结果不确定的处理路径,并在一周内撰写复盘。
结语:拿不准时
默认采取保守态度。结果不明确时,不要发布。假阴性(没有发布一个真正成功的方案)的代价通常小于假阳性(发布了实际上不起作用的方案,之后还得永远维护它)的代价。维护成本会不断累积;错失机会的成本则不会,因为你随时可以再次测试。
实验设计的规范,就是在不知道时坦然说出“我不知道”。对于产品经理而言,在一周内说出这句话,往往是影响最大的事情。人们本能地会把结果说得比实际更确定,为了显得果断而发布变更,并在变更上线后不起作用时悄悄承担失败后果。规范做法是说:“测试结果不确定。以下是我会如何调整,以获得明确答案;以下是新的测试计划。”这样说才是专业的。假装结果明确,则只是在演戏。
关于特定平台的模式(哪些平台最适合处理哪些类型的实验、MCP 命令是什么样的、有哪些注意事项),请参阅所选平台的文档。关于本技能下层的运维层(管理标记、清理过时标记、协调环境),请参阅 feature-flagging 技能。关于本技能上层的分析层(方差缩减、贝叶斯替代方法、序贯检验数学),请参阅 experimentation-analytics 技能。