mcpField
A
add-product-e2e-eval

add-product-e2e-eval

github.com/paperclipai测试与质量108.3k43 次安装今天更新
代码仓库

关于 add-product-e2e-eval

用于为 Paperclip 添加 Product E2E 评测的技能,指导贡献者定义、注册、验证和记录浏览器工作流,并要求独立证据及谨慎处理敏感产物。

主要功能

  1. 01定位仓库与评测文档
  2. 02设计有限范围的工作流和证据
  3. 03注册目录与夹具
  4. 04无 Provider 验证及发现检查
  5. 05失败归因与来源信息留存
  6. 06敏感产物发布规范

适用场景

  1. 01添加 Everyday Workflow 评测
  2. 02注册基于浏览器的产品流程
  3. 03检查评测发现与报告
  4. 04准备经过脱敏的公开评测证据

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/paperclipai/paperclip --skill add-product-e2e-eval

安装后在 Claude Code 中输入/add-product-e2e-eval确认已加载。

详细介绍

添加产品端到端评估

将此技能用于产品端到端评估:真实的 Chromium、Paperclip 服务、数据库、Runner、提供商,以及可选的 Daytona。即使日常工作流的打包结果被导入 Evalbook,它们仍属于此类。针对模拟控制平面的 Runner 协议用例应归入 add-runner-eval。

如果提供了 PAPERCLIP_ROOT,则使用它定位仓库;否则从检出目录运行 git rev-parse --show-toplevel。如果当前目录不在 Git 仓库中,请检查 ~/paperclipai/paperclip 等工作区根目录;确认所选根目录包含 tests/runner-e2e 和 packages/paperclip-runner。从该仓库根目录运行命令。复制的技能文件可能位于检出目录之外。 阅读 doc/evals.md,然后阅读所选区域的权威文档: tests/runner-e2e/README.md、FIXTURES.md、SECURITY.md 和 EVERYDAY-WORKFLOWS.md。进行任何更改前,请检查最接近的现有目录条目、用例、harness 流程、匹配器、证据写入器和报告测试。让用户旅程经过生产环境的浏览器/API 界面;不要添加私有 Runner 钩子或直接写入 fixture 数据库。

定义一个范围明确的工作流,包含清晰的用户结果、持久状态断言和独立证据。声明 profile、环境、预期的提供商轮次、超时、清理、截图、制品检查和计费范围。不得将凭据和密钥放入目录数据、截图、fixture 元数据、日志或受版本控制的文件中。Daytona 镜像必须使用不可变的摘要引用。应使用现有的结果验证器、失败分类器、截图策略和产品端到端报告流水线,而不要重复实现。

在 tests/runner-e2e/catalog.ts 和相关的 fixture-registry.ts 路径中注册工作流。日常用例和操作位于 everyday-cases.ts 和 everyday-flow.ts 中;应遵循现有测试套件的结构。通过现有的选择器和匹配器表关联其 profile、环境和用例 ID,并在周边测试套件有相应做法时,添加报告/目录覆盖测试。使用有效结果和合理的错误结果校准新的评分断言;缺少证据不得判定为通过。运行之前,请确认已能发现该用例:

pnpm test:e2e:runner -- --list --suite <suite-name>
pnpm test:e2e:runner -- --list --suite everyday-workflows

--all 有意排除手动运行的 everyday-workflows 套件和其他仅显式指定的单元格。对于这些用例,请使用确切的套件或执行 ID。产品端到端生成器为 pnpm test:e2e:runner:report;日常工作流结果也可以通过其规范导入器导入 Evalbook,但它仍是一次产品端到端运行,应优先使用其打包的仪表板/报告。

先运行无需凭据的检查:

pnpm test:e2e:runner:typecheck
pnpm test:e2e:runner:unit
pnpm test:e2e:runner -- --list

如需执行经授权的实时检查,请使用范围最小的显式本地 --id 选择器。只有在配置了不可变镜像和凭据时,才选择 Daytona。完整的 --all 测试活动需要付费,应仅用于受治理的工作流。根据打包的尝试证据和仪表板验证结果;模型编写的测试通过,不能推翻独立判定器的结论。

根据断言,将已完成但结果错误的工作流归类为产品行为问题,或模型/提供商行为问题。启动、传输和超时症状必须根据证据归因:它们可能表明 Paperclip/Runner 产品缺陷、提供商行为或基础设施问题。分别保留观察到的失败和原因,不要更改现有的机器评分/分类器,并保留部分尝试、重试、源 SHA、目录/定义摘要、模型/profile、环境、评分器版本、耗时、令牌数、运行时估算值和成本覆盖信息。不要根据部分/手动选择的结果宣称已通过资格验证。 当 README.md、FIXTURES.md、SECURITY.md 或 EVERYDAY-WORKFLOWS.md 中的权威约定发生变更时,请更新相应文件,并从 doc/evals.md 添加链接。请勿重新生成 Evalbook HTML,也不要发布未经处理的可信跟踪记录、视频、归档文件、数据库、工作区、凭据、SVG、提供商会话 ID 或隐藏推理。现有发布器允许时,应提供公开的脱敏固定会话、带标记的屏幕截图和列入允许名单的结构化证据。

评论

支持 Markdown