mcpField
D
doris-architecture-advisor

doris-architecture-advisor

github.com/apache数据与数据库47111 次安装4 周前更新
代码仓库

关于 doris-architecture-advisor

doris-architecture-advisor 是面向 Apache Doris 架构规划的技能,适合需要按工作负载设计部署和表结构的团队。它按顺序涵盖负载分类、集群估算、架构决策和 DDL 生成。

主要功能

  1. 01分类六种工作负载
  2. 02按负载估算集群规模
  3. 03指导模型、分区和索引选择
  4. 04将子负载映射到表
  5. 05生成并注明规则的 DDL

适用场景

  1. 01设计 IoT 数据平台
  2. 02规划日志与时序数据存储
  3. 03估算 CDC 工作负载的集群

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/apache/doris-skills --skill doris-architecture-advisor

安装后在 Claude Code 中输入/doris-architecture-advisor确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

references/
decision-data-model-selection.md
decision-deployment-mode.md
decision-ingestion-strategy.md
decision-mutable-state.md
decision-query-acceleration.md
decision-sizing-matrix.md
decision-time-series-design.md
decision-workload-classification.md
example-adtech-marketing.md
example-cdc-operational-sync.md
example-gaming.md
example-iot-sensor-platform.md
example-log-observability.md
example-logistics-courier.md
example-payment-fintech.md
example-retail-fashion.md
example-securities-analytics.md
example-web3-exchange.md

详细介绍

Apache Doris 架构顾问

面向工作负载的 Apache Doris 架构设计。 8 条决策规则,3 个完整示例。 以容量规划为先的工作流,可补充 doris-best-practices。


工作流

按顺序执行以下 5 个步骤:

  1. DDL 验证 — doris-best-practices 技能负责 DDL 正确性。其预检清单和 DDL 注意事项适用于每个 CREATE TABLE。此顾问侧重架构决策(选择哪种模型、分区策略和索引),而非 DDL 语法。始终计算明确的分桶数量。如果容量未知,请选择保守的默认值:小型维度表为 3,中型表为 8,大型日事实表为 16-32。

  2. 工作负载分类 — 阅读 references/decision-workload-classification.md。将用户场景匹配到 6 种工作负载类型中的一种或多种。复合工作负载(例如 IoT = 时序 + 设备状态 + 日志 + 仪表板)应拆分为多个子表。

  3. 集群容量规划 — 阅读 references/decision-sizing-matrix.md。估算写入吞吐量、查询 QPS、延迟目标和热数据量。容量规划结果只输出总 vCPU 和总缓存,切勿拆分为单节点规格(在云端/存算分离模式下,节点数量通常由平台管理)。如果用户尚未指定云端还是本地部署,也要阅读 references/decision-deployment-mode.md。

  4. 设计架构 — 根据工作负载分类,阅读相关决策规则:

    工作负载信号阅读这些规则
    仅追加事件、日志、时序数据decision-data-model-selection、decision-time-series-design、decision-ingestion-strategy
    更新、CDC、设备状态跟踪decision-data-model-selection、decision-mutable-state、decision-ingestion-strategy
    半结构化/多协议 JSONdecision-data-model-selection(VARIANT 部分)
    仪表板、预聚合指标decision-query-acceleration
    点查询 API、高并发查询decision-query-acceleration(点查询部分)
    文本搜索、日志搜索、全文搜索decision-query-acceleration(索引部分)
    向量/嵌入搜索decision-query-acceleration(向量部分)
    数仓分层(ODS/DWD/DWS/ADS)decision-workload-classification(分层部分)、decision-data-model-selection
    多部门/工作负载隔离decision-workload-classification(隔离部分)
    配合数据湖的冷热分层decision-workload-classification(湖仓一体部分)、decision-deployment-mode

    输出架构设计:数据流图、每种子工作负载对应的表,以及每张表的关键设计决策(模型、分区策略、分桶键、索引、压缩、摄取方式)。

  5. 生成 DDL — 应用第 1 步中的所有约束,生成 CREATE TABLE 语句。使用 decision-time-series-design.md 中的公式计算明确的分桶数量;输入不完整时使用上述后备数量。对于每张表,注明推动该决策的最佳实践规则。


输出结构

回复应包含以下部分(可根据对话调整格式):

  • 工作负载摘要 — 分类、写入速率、QPS、延迟目标、热数据量
  • 容量规划建议 — 数仓层级、存储估算、缓存策略
  • 架构概览 — 从数据源 → 摄取 → Apache Doris → 应用的数据流
  • 表设计 — CREATE TABLE,并在行内注释中注明决策规则
  • 已检查的规则 — 对于每张表,列出所应用的规则及其准确文件路径,方便用户在排查问题时查找规则。格式:Per [rule-name](doris-best-practices/references/rule-name.md)。示例:
    Table: sensor_readings
    Rules Applied:
    - [schema-model-choose-for-workload](doris-best-practices/references/schema-model-choose-for-workload.md) — DUPLICATE for append-only
    - [schema-bucket-target-size](doris-best-practices/references/schema-bucket-target-size.md) — 10 buckets (21 GB / 2 GB)
    - [schema-props-compression](doris-best-practices/references/schema-props-compression.md) — ZSTD for IoT data
    
  • 决策依据 — 为每项建议标注来源:official(来自 Doris 文档)、derived(逻辑推断)或 field(经验启发式,并附免责声明)

实例示例

如需查看完整的输入 → 输出示例,请阅读:

  • references/example-iot-sensor-platform.md — IoT:5 万个传感器、复合工作负载、4 张表
  • references/example-log-observability.md — 日志 + 跟踪 + 指标、倒排索引、ZSTD
  • references/example-cdc-operational-sync.md — MySQL CDC、UNIQUE MoW、序列列
  • references/example-securities-analytics.md — 证券公司:ODS→DWD→DWS→ADS 分层、客户 360、合规、湖仓、工作负载隔离
  • references/example-retail-fashion.md — 零售/时尚:全渠道库存、用于用户画像的宽表 + 高表、BITMAP 分群、多品牌隔离、旺季扩容
  • references/example-logistics-courier.md — 物流/快递:用于包裹状态的 AGGREGATE(MIN/MAX/REPLACE)、使用 GIS + cooldown_ttl 的车辆 GPS、分拣中心 KPI、平台整合(Presto+Kudu+ES+HBase→Apache Doris)
  • references/example-web3-exchange.md — Web3/加密货币:多链 VARIANT 架构、托管监控、TVL/代币异步 MVs、AML 风险检测、钱包画像、会话分析
  • references/example-payment-fintech.md — 支付/金融科技:用于交易生命周期的部分列更新、收单行列混合(100+ 列)、商户对账、风险引擎、替代 ES 的日志平台、Lambda→统一架构
  • references/example-gaming.md — 游戏:留存/漏斗分析、玩家画像 BITMAP、通过 MCP 进行 NL2SQL Agentic 分析、反作弊异常检测、用于离线数据的湖仓
  • references/example-adtech-marketing.md — AdTech/营销:RTB 服务 + 分析双路径、DSP/ADX、使用 VARIANT + vector 进行创意分析、跨境多区域、替代 Redis+MySQL+HBase+Hive

不要使用此技能的情况

  • 审查现有 DDL → 改用 doris-best-practices
  • 优化慢查询 → 使用 doris-best-practices 的查询规则
  • CLI / 连接设置 → 使用 doris-best-practices 的“连接与 CLI”部分

评论

支持 Markdown