关于 market-data
面向金融市场数据系统建设与运营团队的参考技能,涵盖数据类型、行情源、供应商与许可、分发架构、历史数据及质量控制。
主要功能
- 01市场数据类型与层级
- 02SIP 与直连行情源对比
- 03供应商与许可考量
- 04分发架构模式
- 05历史数据与偏差
- 06数据质量监控
适用场景
- 01选择数据供应商与行情源
- 02设计市场数据分发架构
- 03审查许可与使用权限
- 04为研究准备历史数据
- 05检测数据陈旧、缺失或异常
安装
复制下面的命令,在终端中运行。
npx skills add https:/ / github.com/ joellewis/ finance_skills --skill market-data安装后在 Claude Code 中输入/market-data确认已加载。
附带文件references/examples.md
详细介绍
市场数据
核心概念
1. 市场数据类型
- 成交数据: 最新成交价、数量、时间戳、交易条件代码(常规、零股、开盘/收盘)、累计成交量、VWAP。
- 报价数据: NBBO(所有交易所中的最佳买价/卖价)、买卖盘数量。在流动性高的金融工具中,报价更新的数量远远超过成交更新。
- 订单簿深度: NBBO 之外的多个价位及其挂单数量。可提供汇总深度(每个价位的数量)或逐笔订单数据(可见单笔订单)。
- 指数数据: 实时指数值、成分、权重、总回报值。数据来源包括交易所计算(通过 Cboe 提供的 S&P 500)和第三方(MSCI、FTSE Russell)。
- 固定收益定价: 交易商报价、估值定价(ICE、Bloomberg BVAL)、公司债 TRACE 成交报告、市政债 EMMA 数据。其标准化程度本质上低于股票。
- 期权数据: 期权链(行权价/到期日)、希腊值、隐含波动率、成交量、未平仓合约数。OPRA 提供汇总期权行情。
- 基本面数据: 盈利、财务报表、公司行动、分析师预估。数据来自供应商(Bloomberg、FactSet、S&P Capital IQ),而非交易所行情源。
- 新闻和事件: 新闻标题、经济日历(FOMC、就业)、公司事件(财报日期、除息日)、情绪评分。
2. 数据级别
Level 1 — 最优报价: NBBO、最新成交价、成交量、每日 OHLC。足以满足投资组合管理、客户报告和订单录入需求。成本和带宽最低。
Level 2 — 市场深度: 多个价位及其汇总数量(每侧前 5–20 档)。可揭示 NBBO 之外的流动性。对于主动交易、市场冲击评估和算法执行(TWAP、VWAP)至关重要。成本和带宽较高。
Level 3 — 完整订单簿: 单笔订单详情(价格、数量、订单 ID),可用于完整重建订单簿并跟踪订单生命周期。由直连行情源提供(Nasdaq ITCH、NYSE Arca)。做市、HFT 和队列位置建模均需要此级别。成本最高——每个交易所每秒会产生数十万条消息。
| 用例 | 级别 | 理由 |
|---|---|---|
| 投资组合管理/报告 | Level 1 | NBBO 和最新成交价足以估值 |
| 主动股票交易台 | Level 2 | 交易员会在下达大额订单前评估市场深度 |
| 算法执行 | Level 2 | 算法会根据可用流动性调整执行节奏 |
| 做市/HFT | Level 3 | 需要队列位置和订单流建模 |
| 面向客户的应用(延迟行情) | Level 1(延迟) | 仅用于显示,可接受 15 分钟延迟 |
3. 汇总行情与直连行情
证券信息处理器(SIP): NYSE 上市证券使用 CTA/CQS(Tape A/B),Nasdaq 上市证券使用 UTP(Tape C),期权使用 OPRA。SIP 从所有交易所收集数据,计算 NBBO,并发布汇总行情流。根据 Reg NMS,SIP NBBO 是最佳执行的监管基准。
交易所直连行情: 来自单个交易所的专有行情源(NYSE Arca、Nasdaq TotalView/ITCH、Cboe PITCH、IEX DEEP),提供比 SIP 延迟更低的逐笔订单数据。公司必须订阅多个行情源并在内部计算 NBBO。各交易所使用不同的协议,因此需要针对每个交易所编写解析器。
| 维度 | SIP(汇总) | 直连行情 |
|---|---|---|
| 延迟 | 较高(SIP 处理约需 10–50 微秒) | 较低(绕过 SIP) |
| NBBO | 直接提供 | 必须根据多个行情源计算 |
| 数据深度 | Level 1(NBBO + 最新成交价) | Level 2/3(完整深度、逐笔订单) |
| 成本 | 较低且可预测 | 较高,并随交易所数量增加 |
| 标准化 | 预先标准化 | 需要针对每个交易所编写解析器 |
| 典型用户 | 买方机构、顾问、零售用户 | 自营交易、做市、HFT |
4. 市场数据供应商
本技能中的成本数据均依据 2024—2025 年的标价;编制预算前,请向供应商确认当前价格。
**Bloomberg:**Terminal(每位用户每年 2 万至 2.5 万美元)、B-PIPE(企业级实时数据馈送)、Data License(批量 EOD/参考数据)、BEAP(云 API)。
**Refinitiv (LSEG):**Eikon(桌面版,成本低于 Bloomberg,在外汇/固定收益方面实力突出)、Elektron/ LSEG Real-Time(企业级数据馈送)、DataScope(批量 EOD)、Tick History(历史逐笔数据)。
**ICE Data Services:**综合数据馈送、评估型固定收益定价(广泛用于 NAV 和监管报告)、ICE Benchmark Administration。
**FactSet:**侧重研究,支持灵活的 API 交付,对规模较小的买方机构价格有竞争力,并与 Excel/投资组合管理深度集成。
**S&P Capital IQ / Market Intelligence:**全面的基本面数据、信用评级、公司申报文件。**Morningstar:**基金/ETF 数据、评级,以及用于研究的 Morningstar Direct。
**免费/开源来源:**交易所网站和金融门户提供延迟(15 分钟)的报价。适用于对时效性要求不高的展示,但可靠性和覆盖范围有限。
**供应商选择标准:**资产类别覆盖范围、延迟、可靠性/正常运行时间 SLA、API 质量、总许可成本(包括交易所费用)、历史数据深度、支持服务、数据质量处理。
5. 市场数据许可和权限
**许可类别:**非专业用途(零售、个人使用,费用较低)与专业用途(商业使用,费用显著更高)。展示用途(供人在屏幕上查看)与非展示用途(自动化系统:算法、风险引擎、定价——费用依据应用类型而非用户数量)。衍生数据(经过实质性转换;如果无法逆向还原原始数据,可能允许再分发;具体政策因交易所而异)。
**许可模式:**按用户/设备计费(必须提供准确的月度数量)、企业许可(覆盖指定实体的固定费用)、按使用量计费的非展示许可(按应用类别收费:交易、风险、估值)。
**报告义务:**每月/每季度向各交易所或通过数据供应商提交订阅者数量。少报会导致追溯补收费用、罚款和合同终止。
**再分发:**原始交易所数据需要明确的再分发协议,并需为面向客户的展示支付额外费用。对于通过其平台使用的数据,供应商通常会处理再分发事宜。
**成本管理:**定期审核使用情况,取消未使用的订阅。无需实时数据时使用延迟数据。跟踪非展示用途——许多公司只有在交易所审计时,才发现未报告的非展示许可义务。
6. 市场数据分发架构
**行情接入层:**集中式接入与规范化层。解析交易所协议(ITCH、PITCH、FIX),规范化为统一架构,映射证券标识体系,缓存最新值,应用合并处理,并监控数据馈送运行状况。
**扇出模式:**基于主题的发布-订阅(主流模式;中间件:Solace、TIBCO、29West,以及适用于更低延迟需求的 Kafka)、请求-响应(用于按需查询的 REST)、组播(用于超低延迟共置环境的网络层扇出)。
**合并处理:**降低面向较慢消费者的更新频率。基于时间(每隔 N 毫秒发送最新值)、基于变更(抑制重复数据)、基于优先级(交易数据绝不合并;对较慢的消费者合并报价)。
**API:**REST 用于历史/参考数据,WebSocket 用于向 Web/移动应用实时推送数据,专有二进制 API 用于超低延迟消费者。
**云服务:**AWS Data Exchange、Google Cloud Marketplace、Azure Data Share。会增加网络延迟(不适用于对延迟敏感的交易),但适用于分析、投资组合管理和面向客户的应用。
7. 历史市场数据
**EOD 数据库:**每日 OHLCV。足以用于投资组合分析和长期回测。**逐笔数据:**每笔交易/报价及微秒级时间戳。日内回测和微观结构研究需要这类数据。美国股票单日逐笔数据可能超过 10-20 TB。提供商:Refinitiv Tick History、NYSE TAQ、LOBSTER。
**调整后价格与未调整价格:**逐笔交易分析和监管记录使用未调整价格。收益计算使用拆股调整后价格和完全调整后价格(拆股 + 股息)。
**幸存者偏差:**仅包含当前上市证券的数据库会夸大回测收益。要进行无偏研究,需要使用时点数据库(展示历史上实际存在的证券范围)。时点数据也适用于基本面数据:最初的业绩报告可能会被重述;使用重述后的数据会引入前视偏差。
8. 市场数据质量
**过期数据检测:**标记交易时段内未在预期时间范围内更新的报价。从交易和估值决策中排除过期数据。
**缺口检测:**包括 Feed 层面(ITCH/PITCH 的序列号缺口)和应用层面(预期与实际数据频率的差异)。
**错误逐笔数据过滤:**处理交易所的撤销成交消息。过滤异常打印数据(价格远离 NBBO,并根据价差和波动率进行调整)。区分合法的异常交易(大宗交易、集合竞价、盘后交易)与错误数据。
**监控和告警:**Feed 健康状况仪表盘、延迟跟踪(从交易所到接收端)、与基准值对比的成交量监控,以及针对断连、延迟激增、数据过期和缺口的自动告警。
**故障转移:**采用主/备用 Feed 架构,在断连、延迟过高或质量不达标时自动切换。下游系统必须能够平稳降级(例如,从直连 Feed 切换到 SIP 时失去 Level 3 深度数据)。
| 指标 | 目标 |
|---|---|
| Feed 可用率(交易时段) | > 99.95% |
| 中位延迟 | < 1ms(直连),< 50ms(SIP) |
| 第 99 百分位延迟 | < 10ms(直连),< 100ms(SIP) |
| 数据过期率 | < 0.1% 的工具 |
| 缺口率 | < 0.01% 的预期消息 |
实例分析
references/examples.md 中提供了三个实例场景(中型 RIA 的供应商选择与许可、电子交易平台的 SIP 加直连 Feed 架构,以及附带成本敞口表的权限/交易所审计整改)。在设计具体的市场数据技术栈、比较供应商成本或处理权限合规问题时,请加载该文件。
常见陷阱
-
将 SIP NBBO 与直接行情源的最优价格混为一谈。 SIP NBBO 是 Reg NMS 的 监管基准。公司根据直接行情源内部计算的 NBBO 可能因延迟而有所不同。对于最佳执行合规, SIP NBBO 是权威基准。
-
少报交易所订阅用户数。 通过估算而非实际统计专业用户和非显示应用的数量, 可能导致交易所审计期间产生大额追溯费用。
-
忽视非显示用途费用。 任何为自动化用途(算法、风险管理、定价)使用交易所数据的系统, 通常都需要单独的非显示用途许可证。
-
将延迟数据视为免费。 通过某些平台提供延迟数据,仍需支付供应商传输成本和专业用户费用。 请根据具体用例核实相关条款。
-
过度订阅市场数据。 公司会随着时间推移积累未使用的订阅。定期审计使用情况可发现显著的节省成本机会。
-
忽视数据质量监控。 使用数据时若不监控数据陈旧、缺口和错误行情,可能导致公司遭遇无声故障。 使用陈旧价格计算的 VaR 会造成危险的误导。
-
未针对峰值数据速率做好规划。 市场事件期间,数据量会激增。请按典型峰值流量的 2-3 倍配置 基础设施,以避免在数据最关键时发生故障。
-
忽视历史数据中的幸存者偏差。 策略研究应使用时点数据和无幸存者偏差的数据库, 避免回测收益被夸大。
-
未获得再分发许可证便分发原始交易所数据。 面向客户的实时行情需要明确的再分发协议。 违规可能导致许可证终止并承担法律责任。
交叉引用
- reference-data(data-integration 插件)— 证券主数据和符号体系是市场数据基础设施的基础;市场数据系统依赖参考数据进行 符号映射和公司行动处理。
- exchange-connectivity(trading-operations 插件)— 市场数据馈送通过物理和逻辑交易所连接传输; 涵盖共置和协议处理。
- trade-execution(trading-operations 插件)— 智能订单路由器和执行算法会使用 Level 2/3 市场数据做出路由决策并控制执行节奏。
- portfolio-management-systems(advisory-practice 插件)— PMS 平台使用市场数据进行 持仓估值、偏离监控和再平衡触发。
- performance-metrics(wealth-management 插件)— EOD 定价馈送提供每日收益计算所需的收盘价; 数据质量会直接影响计算出的指标。
- volatility-modeling(wealth-management 插件)— 根据 OPRA 期权数据推导隐含波动率; GARCH/EWMA 模型基于市场数据基础设施中的历史价格序列进行校准。
- equities(wealth-management 插件)— 股票市场结构和工具;此技能涵盖向使用系统传输股票市场信息的数据基础设施。