mcpField
W
wjs-evaling-voicedrop-prompts

wjs-evaling-voicedrop-prompts

github.com/jianshuoTesting & quality13745 installsUpdated today
Repository

About wjs-evaling-voicedrop-prompts

wjs-evaling-voicedrop-prompts is a skill for evaluating changes to VoiceDrop's mining prompt with data rather than relying on a few subjective trials. It runs candidate and current prompts against fixtures, uses blinded paired judgments, and requires human approval before promotion.

Key features

  1. 01Runs candidate prompt evaluations on fixtures
  2. 02Compares candidate and current outputs blindly
  3. 03Aggregates verdicts and proxy failures
  4. 04Presents close or disputed cases for review
  5. 05Requires approval before promoting a prompt
  6. 06Runs npm test after promotion

Use cases

  1. 01Assessing a proposed change to MINE_SYSTEM
  2. 02Checking whether a prompt change harms JSON output
  3. 03Comparing prompt outputs across evaluation fixtures
  4. 04Deciding whether to promote a candidate prompt

Install

Copy the command and run it in a terminal.

$npx skills add https://github.com/jianshuo/claude-skills --skill wjs-evaling-voicedrop-prompts

After installing, type/wjs-evaling-voicedrop-promptsin Claude Code to confirm it loaded.

Bundled filesreferences/judge-rubric.md

Details

From the project README

VoiceDrop 挖矿 prompt 评估

harness = 本 skill（协议）+ jianshuo.dev agent/eval/（脚本/数据）。运行时 = 本地 Claude Code。 被测对象 = agent/src/prompts/mine.js 的 MINE_SYSTEM（git 即版本库）。

何时用

用户改了挖矿 prompt（MINE_SYSTEM），想用数据判断改好了还是改坏了，而不是凭感觉看一两次。

流程（按序）

  1. 拿候选 prompt：把候选版 MINE_SYSTEM 文本写到一个临时文件（如 /tmp/cand-prompt.txt）；冠军 = 当前 mine.js 的 MINE_SYSTEM（脚本自动读）。
  2. 跑产出：cd ~/code/jianshuo.dev/agent && CLAUDE_API_KEY=$CLAUDE_API_KEY node eval/run-eval.mjs /tmp/cand-prompt.txt <runId>。产出落 eval/runs/<runId>/。先看终端有没有「确定性回退」警告——有就先停，多半是候选 prompt 破坏了 JSON 输出。
  3. 成对盲评：对每条 fixture，dispatch 一个 subagent，喂 references/judge-rubric.md + 该 fixture 的 transcript + 两份产出。A/B 顺序随机（一半 fixture 把 candidate 放 A、一半放 B，记录映射，收到结果后还原成 champion/candidate）。裁判模型用与生成（opus）不同家族的模型。收每条的 {winner, dims, reason}。
  4. 聚合：把还原后的 verdicts（winner ∈ candidate/champion/tie）+ 候选 proxyFails 喂 aggregate()，渲染 renderReport() → 写 eval/runs/<runId>/report.md。
  5. 人工终审：把胜负最接近、分歧最大的 1–2 条产出并排摆给用户。机器只筛掉明显更差的，文风最后一票是用户。
  6. 晋级：仅当 decision==="promote"（胜率 ≥70% 且无回退）且用户点「认可」——把候选写回 agent/src/prompts/mine.js 的 MINE_SYSTEM，commit（message 附 runId 与胜率），并跑 npm test 确认没破坏。否则保留报告、不动生产版。

边界

  • 只评挖矿 prompt（MINE_SYSTEM/MINE_SYSTEM_FORCE）。审核/语音编辑 prompt 是不同 eval 模式，不在本 skill。
  • 不测成本/缓存/延迟（本地缓存行为≠生产）；不做无人值守。
  • 真实金标集要 ≥10 条才可信（见 agent/eval/fixtures/README.md 的补充流程）；种子 2 条只够自测流程。

Comments

Markdown supported