mcpField
A
A/B Test Sample Size Calculator MCP

A/B Test Sample Size Calculator MCP

远程服务
abwex.com数据与分析03 天前更新

关于 A/B Test Sample Size Calculator MCP

A/B Test Sample Size Calculator MCP 为规划或评估转化率实验的团队提供精确计算和显著性检验。它涵盖样本量、实验时长、列联表检验及重复查看造成的假阳性影响,无需 API 密钥或网络调用。

主要功能

  1. 01计算转化实验样本量
  2. 02根据流量估算实验时长
  3. 03执行比例与卡方检验
  4. 04计算列联表的 Fisher 精确检验
  5. 05评估重复查看的假阳性风险

适用场景

  1. 01规划转化实验每个变体所需用户数
  2. 02根据访客流量估算实验时长
  3. 03检验观察到的转化结果是否显著
  4. 04评估反复查看仪表板导致的假阳性

MCP 相关

该 MCP 服务向 MCP 客户端提供五种计算与检验工具。可通过 HTTP 托管运行,也可在本地通过 stdio 运行;计算无需 API 密钥或网络调用。

配置

远程服务无需本地安装。选择你使用的客户端,复制配置或使用一键安装。

服务地址https://ab-test-sample-size-calculator-mcp.lipmichal.workers.dev/mcp
一键复制安装命令
Claude CodeTerminal
Cursor.cursor/mcp.json
VS Code.vscode/mcp.json
Claude Desktopclaude_desktop_config.json
Windsurf~/.codeium/windsurf/mcp_config.json

命令在终端中运行;JSON 粘贴到对应客户端的 MCP 配置后重启。需要授权的服务会在首次连接时提示登录。

工具

详细介绍

ab-test-sample-size-calculator-mcp

为 AI 助手提供 A/B 测试样本量计算和显著性检验,用精确答案取代心算。

这是一个模型上下文协议(MCP)服务。它可以计算 A/B 测试需要多少用户、测试需要运行多长时间、结果是否显著(z 检验、卡方检验、Fisher 精确检验)、适用于较大列联表的 Fisher-Freeman-Halton 精确检验,以及反复查看结果会在多大程度上增加假阳性率。它不需要 API 密钥,也不会发起网络请求。

工具

工具返回内容
calculate_sample_size转化率测试中每个变体所需的用户数:基线、相对或绝对 MDE、alpha、检验功效、单侧或双侧、多变体(可选 Bonferroni 校正)、不等比例分流。还会显示 Evan Miller 计算器在相同输入下给出的数值。
estimate_test_duration根据每日访客数、流量占比和变体数量,计算达到所需样本量需要的天数和整周数。
test_ab_significance双比例 z 检验、p 值、置信区间、相对提升、含 Yates 校正和不含 Yates 校正的卡方检验、Fisher 精确检验 p 值,以及样本比例失配检查。
fisher_exact_test2x2 列联表的精确 p 值(双侧、大于、小于),或任意 r x c 列联表的精确 p 值(Fisher-Freeman-Halton),并列显示 Pearson 卡方检验和期望频数检查。
check_peeking_risk测试被查看 K 次时实际的假阳性率,以及最多 10 次查看对应的 Pocock 和 O'Brien-Fleming 边界。

每个结果都包含结构化 JSON、一段摘要、as_of、source(方法参考资料)和 more(abwex.com 上对应的计算器:abwex.com)。

它知道而你的模型不知道的内容

  • 精确的反正态分位数和完整的样本量公式。模型会将 z 值取整、遗漏合并方差项,或混淆相对和绝对 MDE,结果可能相差数千名用户。
  • 为什么不同计算器会给出不同结果。结果会同时显示标准合并公式(与 R power.prop.test 一致)和 Evan Miller 发布的公式,因此 37,513 与 36,314 的差距有据可查。
  • 精确的超几何求和。4 x 4 列联表的 Fisher-Freeman-Halton p 值需要对数百万个列联表求和,无法靠心算估算。
  • 序贯检验数值:当 p < 0.05 时查看 5 次会产生 14.2% 的假阳性率,以及可修正该问题的边界。

安装

托管版(Claude.ai 自定义连接器、ChatGPT 开发者模式)

粘贴此 URL。无需令牌,也无需注册。

https://ab-test-sample-size-calculator-mcp.lipmichal.workers.dev/mcp
Claude Code
claude mcp add --transport http ab-test-calculator https://ab-test-sample-size-calculator-mcp.lipmichal.workers.dev/mcp

或者通过 stdio 在本地运行:

claude mcp add ab-test-calculator -- npx -y github:theluckystrike/ab-test-sample-size-calculator-mcp
Claude Desktop

添加到 claude_desktop_config.json:

{
  "mcpServers": {
    "ab-test-calculator": { "command": "npx", "args": ["-y", "github:theluckystrike/ab-test-sample-size-calculator-mcp"] }
  }
}
Cursor

添加到 ~/.cursor/mcp.json:

{
  "mcpServers": {
    "ab-test-calculator": { "url": "https://ab-test-sample-size-calculator-mcp.lipmichal.workers.dev/mcp" }
  }
}
VS Code

添加到 .vscode/mcp.json:

{
  "servers": {
    "ab-test-calculator": { "type": "http", "url": "https://ab-test-sample-size-calculator-mcp.lipmichal.workers.dev/mcp" }
  }
}

本地 stdio 版本需要 Node 20 或更高版本。

示例提示词

  • “我们的结账转化率为 4.2%。若要以 80% 的检验功效检测 10% 的相对提升,每个变体需要多少用户?”
  • “我们每天有 4,000 名访客,想测试 3 个变体。需要多少周?”
  • “对照组的 10,000 名用户中有 420 次转化,变体组的 10,050 名用户中有 495 次转化。结果显著吗?”
  • “对 [[12, 30, 8], [20, 25, 15]] 执行 Fisher-Freeman-Halton 检验。”
  • “如果连续 10 天每天查看一次仪表板,实际假阳性率是多少?”

数据来源

没有实时数据。检验方法及用于核验的已发布数值见 DATA_SOURCES.md:R power.prop.test 和 fisher.test 文档输出、Evan Miller 的计算器代码、scipy 和 statsmodels 的参考值(scripts/reference.py)、Armitage 等人(1969 年),以及 Jennison 和 Turnbull(2000 年)。

限制

  • 样本量计算涵盖转化率(两个比例)。收入/用户等连续指标需要标准差,因此不在涵盖范围内。
  • 样本量和时长的计算基于固定时限测试,且只分析一次。若要进行多次查看,请使用 check_peeking_risk 规划。
  • Fisher-Freeman-Halton 检验会精确枚举列联表。非常大或稀疏的 r x c 表可能会超出工作量限制(托管服务上的限制低于本地)。此时,工具会返回卡方检验结果并附上说明,而不是精确 p 值。
  • 偷看边界假设各次查看间隔相等,并采用双侧检验;最多提供 10 次查看的边界。
  • 差值的置信区间采用 Wald 区间,对于样本量较小且比率接近 0 或 1 的情况,效果较差。

更多内容

这些计算器和指南的交互版本请访问 abwex.com,其中包括 Fisher-Freeman-Halton 计算器和偷看膨胀计算器。

属于 Zovo MCP 集合:https://mcp.zovo.one

开发

npm install
npm test                      # builds, then runs the fixture tests
python3 scripts/reference.py  # recomputes the reference values with scipy and statsmodels
node scripts/smoke-stdio.mjs  # stdio check, one call per tool
npx wrangler deploy           # Cloudflare Worker, Streamable HTTP at /mcp

许可证

MIT

同一作者提供的更多数据服务

每个服务都免费使用,无需 API 密钥,并提供可粘贴到 Claude 或 ChatGPT 中的托管 URL。

servertoolshosted URL
cups-to-grams-mcpconvert_ingredient, search_ingredients, scale_recipe, convert_oven_temperaturehttps://cups-to-grams-mcp.lipmichal.workers.dev/mcp
dscr-loan-calculator-mcpcalculate_dscr, max_loan_for_target_dscr, rent_needed_for_target_dscr, compare_scenarios, amortization_summaryhttps://dscr-loan-calculator-mcp.lipmichal.workers.dev/mcp
gold-price-per-gram-mcpget_gold_price_per_gram, get_metal_prices, calculate_jewelry_value, convert_gold_unitshttps://gold-price-per-gram-mcp.lipmichal.workers.dev/mcp
lake-level-mcpsearch_lakes, get_lake_level, get_lake_history, compare_lakeshttps://lake-level-mcp.lipmichal.workers.dev/mcp
minimum-wage-mcpget_minimum_wage, list_upcoming_increases, compare_states, annual_income_at_minimum_wagehttps://minimum-wage-mcp.lipmichal.workers.dev/mcp
no-tax-on-overtime-mcpcalculate_overtime_deduction, calculate_tips_deduction, calculate_senior_deduction, estimate_tax_savings, explain_eligibilityhttps://no-tax-on-overtime-mcp.lipmichal.workers.dev/mcp
paycheck-calculator-mcpcalculate_take_home_pay, compare_states_take_home, salary_to_hourly, hourly_to_salary, get_federal_tax_bracketshttps://paycheck-calculator-mcp.lipmichal.workers.dev/mcp
uk-income-tax-salary-mcpcalculate_uk_take_home, get_uk_tax_bands, compare_salaries, marginal_rate_at_incomehttps://uk-income-tax-salary-mcp.lipmichal.workers.dev/mcp
us-federal-holidays-business-days-mcplist_federal_holidays, is_business_day, add_business_days, count_business_days, invoice_due_datehttps://us-federal-holidays-business-days-mcp.lipmichal.workers.dev/mcp
aca-premium-tax-credit-calculator-mcpget_federal_poverty_level, calculate_premium_tax_credit, check_subsidy_cliff, get_aptc_repayment_caphttps://aca-premium-tax-credit-calculator-mcp.lipmichal.workers.dev/mcp
ap-score-distributions-mcpget_ap_score_distribution, estimate_ap_percentile, compare_ap_exams, list_ap_exams, estimate_ap_score_from_compositehttps://ap-score-distributions-mcp.lipmichal.workers.dev/mcp
car-loan-interest-deduction-calculator-mcpcalculate_car_loan_interest_deduction, calculate_salt_deduction, get_tax_brackets_and_standard_deduction, calculate_child_tax_credithttps://car-loan-interest-deduction-calculator-mcp.lipmichal.workers.dev/mcp
estate-gift-tax-exemption-calculator-mcpget_exemption_amounts, calculate_estate_tax, check_gift, compare_yearshttps://estate-gift-tax-exemption-calculator-mcp.lipmichal.workers.dev/mcp
recipe-nutrition-calculator-mcplookup_ingredient_nutrition, calculate_recipe_nutrition, round_nutrition_label, scale_recipe_nutritionhttps://recipe-nutrition-calculator-mcp.lipmichal.workers.dev/mcp
retirement-contribution-limits-2027-mcpget_contribution_limits, calculate_max_contribution, get_social_security_cola, compare_yearshttps://retirement-contribution-limits-2027-mcp.lipmichal.workers.dev/mcp
section-179-deduction-calculator-mcpcalculate_section_179, calculate_bonus_depreciation, get_vehicle_depreciation_limits, calculate_asset_loan_paymenthttps://section-179-deduction-calculator-mcp.lipmichal.workers.dev/mcp
student-loan-repayment-assistance-plan-calculator-mcpcalculate_rap_payment, compare_rap_vs_standard, get_federal_loan_limits, get_plan_transition_dateshttps://student-loan-repayment-assistance-plan-calculator-mcp.lipmichal.workers.dev/mcp
subdomain-finder-mcpfind_subdomains, resolve_subdomains, get_certificate_history, summarize_attack_surfacehttps://subdomain-finder-mcp.lipmichal.workers.dev/mcp
uk-statutory-sick-pay-maternity-pay-calculator-mcpcalculate_statutory_sick_pay, calculate_statutory_maternity_pay, get_minimum_wage_rates, check_eligibilityhttps://uk-statutory-sick-pay-maternity-pay-calculator-mcp.lipmichal.workers.dev/mcp

付费后台集合(发票、增值税、PDF、电子表格)位于 https://mcp.zovo.one

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。