mcpField
L
llm-council

llm-council

github.com/rohitg00Agent 工作流2.9k161 次安装5 周前更新
代码仓库

关于 llm-council

llm-council 是一种通过多模型评议审查决策的技能,适用于高风险计划和架构选择。模型先独立作答,再对匿名回答排序,最后由主席模型综合;会议记录可保存到可搜索的 wiki。

主要功能

  1. 01三阶段评议流程
  2. 02模型并行独立作答
  3. 03匿名评议回答排序
  4. 04主席模型综合结果
  5. 05选择提供方和模型
  6. 06将记录写入 wiki

适用场景

  1. 01审查高风险计划
  2. 02比较不同架构观点
  3. 03解决相互冲突的学习规则
  4. 04保存评议记录以供搜索

MCP 相关

它可调用 providers MCP 服务的 run_provider_task 工具来执行评议任务和查询提供方状态。

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/rohitg00/pro-workflow --skill llm-council

安装后在 Claude Code 中输入/llm-council确认已加载。

附带文件scripts/council.js

详细介绍

LLM 委员会

Karpathy 的 LLM 委员会模式,支持 Anthropic 和兼容 OpenAI 的提供商。

适用场景

  • 审查高风险计划(/plan 涉及的文件数超过 N)
  • 学习规则存在冲突 → 通过投票重新裁定
  • 用户调用 /council "<query>" 或 /wiki council
  • 需要汇集多方观点的架构决策
  • 将讨论过程保存为 wiki 页面,供日后参考

三个阶段

  1. 独立作答:每个模型并行作答
  2. 排序:每个模型为匿名的同伴回答排序
  3. 综合:主席模型阅读所有回答和排序 → 给出最终答案

提供商配置

在插件配置对话框中配置可选的密钥。使用 providers MCP 服务的 run_provider_task 工具,并设置 task: "council" 和 args: ["run", "<query>", "--provider", "openai"]。如需查看提供商状态,请传入 args: ["providers"]。切勿在聊天中索要密钥,也不要从现有凭据或 shell 配置中读取密钥。

如需独立使用 CLI,请显式设置下方专用于 pro-workflow 的变量。第一个已配置的提供商为默认提供商;--provider 可显式选择提供商。请参阅提供商配置。

独立 CLI 变量提供商默认基础 URL
PRO_WORKFLOW_ANTHROPIC_API_KEYAnthropichttps://api.anthropic.com
PRO_WORKFLOW_OPENAI_API_KEYOpenAIhttps://api.openai.com/v1
PRO_WORKFLOW_OPENROUTER_API_KEYOpenRouterhttps://openrouter.ai/api/v1
PRO_WORKFLOW_FIREWORKS_API_KEYFireworkshttps://api.fireworks.ai/inference/v1
LLM_COUNCIL_BASE_URL + PRO_WORKFLOW_LLM_COUNCIL_API_KEY自定义 OpenAI 兼容(用户提供)

可通过 --provider openai|anthropic|openrouter|fireworks|custom 覆盖单次运行的设置。

各提供商的默认模型列表位于 scripts/council.js,可通过 --models CSV 和 --chairman <id> 覆盖。

命令

在插件会话中,将这些运行器参数传入 run_provider_task。下方的直接命令适用于明确配置了凭据的独立 CLI 安装。

node $SKILL_ROOT/scripts/council.js run "<query>" [--models id1,id2,id3] [--chairman id] [--provider <name>] [--wiki <slug>]
node $SKILL_ROOT/scripts/council.js providers
node $SKILL_ROOT/scripts/council.js show <session-id>

--wiki <slug> 会将完整记录写入 <wiki>/derived/council/<session-id>.md,并通过 wiki-cli.js page 注册,以便在 FTS5 搜索中显示。

输出

每次会话都会写入:

~/.pro-workflow/council/<session-id>/
├── config.json           # query, models, chairman, provider
├── phase1_responses.json # raw API responses per model
├── phase2_rankings.json  # anonymized ranking outputs
├── phase3_synthesis.txt  # chairman's final answer
└── final_output.md       # human-readable bundle

控制台会打印 Markdown 汇总内容。按需通过管道传递给 pbcopy / tee。

硬性规则

  1. 绝不跳过排序阶段。这是委员会模式的核心。
  2. 将原始回答原样保存到磁盘。存储时不得总结。
  3. 排序时对回答进行匿名处理——模型看到的是 Response A/B/C/...,而不是同伴的名称。
  4. 主席模型会看到真实名称和排序结果。
  5. 向用户展示全部三个阶段。不得省略任何阶段。

成本估算

该脚本会记录受支持提供商每次调用的延迟和 token 数。乘以提供商的费率即可估算成本。委员会成本会随 len(models)^2 线性增长(每个模型都会为其他所有模型排序),此外还要加上主席模型的成本。

委员会默认规模:3-5 个模型。模型越多,排序调用次数就越多。

与 wiki 搭配使用

/wiki council agent-memory "should we adopt episodic memory in our agents?"

将 agent-memory wiki 上下文加载为系统提示词前缀,运行委员会,并将讨论记录保存为 wiki/derived/council/<id>.md。可通过 /wiki ask 搜索讨论记录。

评论

支持 Markdown