关于 ae-experiment
ae-experiment 是面向 Atlas AB Experiment 的 ae-cli 技能,涵盖实验、指标、流量层、Feature 和报告操作。它提供从资源检查和实验配置到就绪检查、管理及报告查询的流程指引。
主要功能
- 01列出实验相关资源
- 02创建并验证指标与 Feature
- 03保存实验并更新指标绑定
- 04检查实验就绪状态与流量冲突
- 05管理实验状态并查询报告
适用场景
- 01为项目创建或调整实验
- 02检查实验提交前的就绪状态
- 03查询实验指标趋势与样本量
- 04管理 Feature 和白名单规则
安装
复制下面的命令,在终端中运行。
npx skills add https:/ / github.com/ thinkingaiagenticengine/ ae-cli --skill ae-experiment安装后在 Claude Code 中输入/ae-experiment确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
references/batch_delete_experiment.mdbatch_delete_feature.mdbatch_delete_traffic_layer.mdcancel_experiment_query_by_request_id.mdcheck_experiment_ready.mdcheck_experiment_traffic_layer_conflict.mddelete_metric.mdmanage_experiment.mdmanage_feature_status.mdmanage_feature_whitelist.mdmanage_guardrail_metrics.mdquery_bucket_list.mdquery_experiment_detail.mdquery_experiment_list_archived.mdquery_experiment_list.mdquery_experiment_metric_trend.mdquery_experiment_operation_log.mdquery_experiment_report_summary.mdquery_experiment_sample_size_report.mdquery_feature_detail.mdquery_feature_list.mdquery_feature_operation_log.mdquery_feature_version_list.mdquery_metric_detail.mdquery_metric_list.mdquery_traffic_layer_detail.mdquery_traffic_layer_list.mdsave_build_guide.mdsave_experiment.mdsave_feature.md详细介绍
ae-experiment
AE CLI(ae-cli)通过 experiment 域提供 Atlas AB Experiment 功能。
全局规则
- 进行 Atlas AB Experiment 相关操作时,优先使用
ae-cli experiment <command>。 - 项目范围的命令使用
--project-id/-p。 - 复杂的保存、状态和删除 DTO 使用
--reqJSON。 - 不要臆造实验 ID、流量层 ID、分桶 ID、Feature 键、指标 ID 或负载字段名。
- 仅绑定
experiment metric list返回的指标 ID;保存实验前,先创建并验证缺失的指标。 - 验证 ID 后即可直接运行读取命令。
- 写入命令需要用户明确授权,通常应保留确认提示。构造 JSON 时,先在写入调用前使用
--dry-run。
命名和响应边界:
- CLI 命令段和标志使用 kebab-case。
- 外层 Capability 输入和所有响应键使用 snake_case。
- 通过
--req传递的嵌套业务 DTO 保留其原生 camelCase 字段。 - 关键:
save build-guide/save validate响应会递归地将example_args.req转换为 snake_case。切勿将这些键复制到--req中。应使用 camelCase(expName、metricId等)。权威字段名请参阅:ae-cli capability inspect experiment.experiment.save(或相应的最终保存 ID)→input_schema.properties.req。save validate中valid: true并不表示最终保存的 Schema 校验通过——snake_case 的req仍可能导致experiment … save失败。 - 受众 QP 在 CLI 边界处采用语义化格式:写入时使用
targeting.definitionRequest;读取时使用targeting.definition_request。切勿生成或提交targetConfig。 - 指标 QP 在 CLI 边界处采用语义化格式:写入时使用
metricDefinition;读取时使用metric_definition。切勿生成或提交metricConfig、calcType或Axxx代码。 - 事件属性比较应放在
metricDefinition.filters中,格式为{relation,items:[{field,operator,values}]}。切勿将比较字段直接放在metricDefinition上,也不要提交原始的filts、calcuSymbol或ftv字段。 - 对于
sum/avg/max/distinct_count指标聚合,metricDefinition.property为必填项,且必须是 Analysis 元数据中实际可用的事件属性。切勿创建缺少property的属性聚合(例如metric_avg_no_property_*)。 - 预设事件聚合
total_count/user_count/active_days不应包含property。 - 实验指标创建不支持
avg_per_user/A105。 - 保存语义化定义前,使用 Analysis 元数据解析事件和属性名称。
- 列表返回
data.items和data.total;详情命令返回data.item。 - 就绪状态返回
data.readiness;报告返回data.report;保存指南返回data.guide;保存试运行校验返回data.validation;写入返回data.result。 - 查询取消操作返回
data.success。
典型工作流
- 查找可复用资产:
experiment bucket listexperiment traffic-layer listexperiment feature listexperiment metric list
- 按需创建缺失的资产:
- 当保存验证失败或请求结构不明确时,运行
experiment save build-guide --operation-mode save_metric - 重试失败的保存操作前,运行
experiment save validate --operation-mode save_metric --req '{...}' experiment traffic-layer saveexperiment feature saveexperiment metric save
- 当保存验证失败或请求结构不明确时,运行
- 使用
experiment experiment save创建或修改实验草稿。 替换指标绑定或分配护栏角色时,使用experiment experiment update-metrics。 - 对于外部实验,改用
experiment external-experiment save-submit。此操作会直接提交,不使用 Features、流量层、流量分配、定向或实验周期。 - 使用
experiment experiment ready-check检查就绪状态。 - 对于非互斥流量层,在提交前运行
experiment experiment conflict-check(需要从上下文或experiment get中获取feature_key_list)。 - 使用
experiment experiment manage更改状态。 - 使用
experiment report summary、experiment report sample-size和experiment report metric-trend查询报告。
如果实验保存返回 error_code: METRIC_NOT_FOUND,请列出同一项目的指标。创建并验证该指标后再重试;切勿使用另一个虚构 ID 重试。存在有效的实验绑定时,删除指标会返回 error_code: METRIC_IN_USE。
参数约定
- 实验保存载荷区分两个流量分配字段:实验级别的
req.allocation(仅限整数;不能有小数)和组级别的req.groups[].allocation(仅限整数;总和必须恰好等于100)。 - 公开的实验指标角色为
primary、secondary和guardrail。内部的observation角色目前不可用于保存。Guardrail 是一种绑定角色;更新指标会替换完整的绑定列表。
ae-cli experiment experiment get --project-id 1 --exp-id exp_123
ae-cli experiment experiment save --project-id 1 --req '{"expName":"Demo"}' --dry-run
ae-cli experiment metric save --project-id 1 --req '{"metricId":"payment_gold_sum","metricName":"Payment gold sum","createType":"event","goalDirection":"up","metricDesc":"Gold sum for payments above 10","metricDefinition":{"type":"event","event":"payment","aggregation":"sum","property":"gold","filters":{"relation":"and","items":[{"field":"gold","operator":"gt","values":[10]}]}}}' --dry-run
ae-cli experiment report metric-trend --project-id 1 --exp-id exp_123 --metric-id metric_1 --start-time 2026-07-01 --end-time 2026-07-07
可选的全局参数与其他领域中的用法相同:--host、--mcp-url、--format、--jq、--dry-run 和 --yes。
参考资料
使用命令前,请先打开 references/ 中对应的文件,尤其是在执行写操作和处理 JSON 载荷时。
保存辅助工具
experiment save build-guide、experiment save validate
当保存命令返回 next_tool: experiment.save.build-guide 时,先调用指南,然后运行 experiment save validate,最后重试最终的保存功能。
使用这些辅助工具前,请先阅读 save_build_guide.md 和
save_validate.md。请根据 inspect / 技能参考资料,使用 camelCase 重新构建
--req;不要粘贴 example_args.req。
实验
experiment experiment save、experiment experiment update-metrics、experiment external-experiment save-submit、capability run experiment.experiment.save-submit、experiment experiment list、experiment experiment list-archived、experiment experiment get、experiment experiment ready-check、experiment experiment conflict-check、experiment experiment manage、experiment experiment update-group、experiment experiment batch-delete、experiment operation-log query
分配或替换指标角色前,请先阅读 manage_guardrail_metrics.md。
外部实验
experiment external-experiment save-submit
创建或更新外部实验前,请先阅读 save_submit_external_experiment.md。
流量层和流量桶
experiment traffic-layer save、experiment traffic-layer get、experiment traffic-layer list、experiment traffic-layer batch-delete、experiment bucket list
报告
experiment report summary、experiment report sample-size、experiment report metric-trend、capability run experiment.query.cancel
指标与功能
experiment metric save、experiment metric get、experiment metric list、experiment metric delete、experiment feature save、experiment feature update-status、experiment feature get、experiment feature list、experiment feature version-list、experiment feature operation-log query、experiment feature batch-delete、experiment feature whitelist list、experiment feature whitelist save、experiment feature whitelist update-status、experiment feature whitelist batch-delete
在查询或更改功能白名单规则之前,请先阅读 manage_feature_whitelist.md。