mcpField
R
rag-architect

rag-architect

github.com/borghei开发1.0k133 次安装1 周前更新
代码仓库

关于 rag-architect

rag-architect 是用于设计、实现和评估生产级 RAG 流水线的技能。它涵盖从文本分块和嵌入到检索、防护措施及质量评估的组件选择。

主要功能

  1. 01按语料特征选择分块策略
  2. 02选择嵌入模型和向量存储
  3. 03设计稠密、稀疏及混合检索
  4. 04查询转换与重排序
  5. 05PII、幻觉和注入防护
  6. 06使用 RAGAS 和 IR 指标评估

适用场景

  1. 01设计端到端 RAG 流水线
  2. 02选择分块方法或向量数据库
  3. 03通过重排序改善检索质量
  4. 04衡量流水线质量并分析失败原因

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/borghei/claude-skills --skill rag-architect

安装后在 Claude Code 中输入/rag-architect确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

chunking_optimizer.py
rag_pipeline_designer.py
retrieval_evaluator.py
references/
chunking_strategies_comparison.md
embedding_model_benchmark.md
rag_evaluation_framework.md
rag-design-guide.md
tool-cli-reference.md

详细介绍

RAG 架构师

该 Agent 负责设计、实现和优化生产级 RAG 管道,涵盖从文档分块到评估的各个环节。

核心能力

  • 分块策略选择——根据语料特征,选择固定大小、句子、段落、语义、递归或文档感知分块,并设置合适的参数。
  • 嵌入模型与向量数据库选择——根据规模、延迟和成本,选择嵌入模型(本地或 API)和向量存储(Pinecone、Weaviate、Qdrant、Chroma、pgvector)。
  • 检索设计——采用稠密、稀疏(BM25)或混合检索,并结合倒数排名融合;当精确率必须超过 0.85 时,使用交叉编码器重排序。
  • 查询转换——针对风格不匹配和含糊查询,使用 HyDE、多查询和回退一步等技术。
  • 安全防护——检测 PII、执行幻觉/NLI 检查、标注来源、评估置信度并防止注入攻击。
  • 评估——结合 RAGAS 忠实度/相关性指标与 IR 指标(Precision@K、Recall@K、MRR、NDCG)进行故障分析。
  • 生产模式——缓存、流式处理、回退方案、增量重新索引和成本控制。

适用场景

  • 从头到尾构建 RAG 系统。
  • 选择分块策略或向量数据库。
  • 优化检索质量或添加重排序。
  • 使用 RAGAS 或 IR 指标评估管道。

先澄清

设计管道前,先确认以下信息。如果有任何一项未知或含糊,请提问,不要自行假设:

  • 语料特征——规模、文档结构和领域(决定分块策略及其参数)
  • 规模/延迟/成本限制——查询量和预算(决定嵌入模型和向量数据库)
  • 检索精确率目标——准确度门槛(精确率 >0.85 时必须采用混合检索和交叉编码器重排序)
  • 查询类型——含糊、多跳或风格不匹配(决定使用哪些查询转换:HyDE/多查询/回退一步)

停止规则:只询问最可能影响输出的 2-3 项。如果用户说“直接起草”,就继续,并在文档开头列出假设。

工具

Python 工具位于技能根目录(没有 scripts/ 目录)。完整的标志和输出格式见:references/tool-cli-reference.md。

工具用途命令
chunking_optimizer.py分析语料,并推荐最优分块策略及其参数python chunking_optimizer.py ./docs --output results.json
retrieval_evaluator.py使用 Precision@K、Recall@K、MRR、NDCG 评估检索,并进行故障分析python retrieval_evaluator.py queries.json ./corpus ground_truth.json
rag_pipeline_designer.py根据需求生成完整的管道设计、成本预测和 Mermaid 图表python rag_pipeline_designer.py requirements.json --output pipeline_design.json

参考资料

加载与任务相符的参考资料——保持此文件精简,按需查阅详细内容:

  • references/rag-design-guide.md — 8 步工作流、所有选择矩阵(分块、嵌入、向量数据库、检索、查询转换)、上下文窗口优化、RAGAS 目标、护栏、完整的 YAML 流水线示例、生产模式、常见问题、故障排查表和成功标准。设计或调试流水线时请阅读。
  • references/tool-cli-reference.md — chunking_optimizer.py、retrieval_evaluator.py 和 rag_pipeline_designer.py 的完整标志/参数表、示例和输出格式。运行脚本前请阅读。
  • references/chunking_strategies_comparison.md — 五种分块策略的深入比较,包括大小分布、质量指标和领域建议。选择分块策略时请阅读。
  • references/embedding_model_benchmark.md — OpenAI、开源、专用和特定领域嵌入模型的基准测试。选择嵌入模型时请阅读。
  • references/rag_evaluation_framework.md — 完整的评估框架:检索/生成/端到端维度、离线/在线/人工评估方法、指标实现。构建评估工具链时请阅读。

范围与限制

此技能涵盖:

  • 端到端 RAG 流水线架构设计:分块、嵌入、向量存储、检索、重排序和评估。
  • 对四类策略(固定大小、句子、段落、语义)进行定量分块分析。
  • 使用标准 IR 指标(Precision@K、Recall@K、MRR、NDCG)评估检索质量,并内置 TF-IDF 基线。
  • 自动化流水线设计,包括组件选择、成本预测和 Mermaid 架构图。

此技能不涵盖:

  • LLM 提示词工程或生成侧优化——请参阅 engineering/prompt-engineer-toolkit。
  • 向量数据库配套元数据存储的数据库架构设计——请参阅 engineering/database-designer。
  • 已部署流水线的生产可观测性、告警和 SLO 仪表板——请参阅 engineering/observability-designer。
  • 构建在 RAG 检索之上的 Agent 编排或多步推理工作流——请参阅 engineering/agent-workflow-designer。

集成点

技能集成方式数据流
engineering/prompt-engineer-toolkit优化与检索分块一同提供的系统提示词和少样本示例流水线设计输出 --> 引用分块格式和元数据的提示词模板
engineering/database-designer设计与向量数据库配套的关系型元数据存储(标签、访问控制、来源跟踪)向量数据库建议 --> 混合存储的元数据架构
engineering/observability-designer为已部署的 RAG 流水线设置延迟、吞吐量和准确率监控评估指标和 SLO 目标 --> 仪表板和告警规则
engineering/agent-workflow-designer将 RAG 检索步骤嵌入多 Agent 推理工作流检索配置 --> 包含 top-K 和阈值参数的 Agent 工具定义
engineering/ci-cd-pipeline-builder自动执行嵌入重新索引、评估回归测试,以及在文档变更时部署评估阈值 --> 在指标退化时阻止部署的 CI 门禁
engineering/api-design-reviewer审查 RAG 服务公开的查询和摄取 API 接口流水线配置 --> 搜索和摄取端点的 OpenAPI 规范审查

评论

支持 Markdown