关于 quota-management
quota-management 面向集成限流服务的团队,提供累计请求与 Token 用量跟踪及阈值管理模式。它还介绍如何在执行前估算任务需求,并在操作后记录用量。
主要功能
- 01跟踪请求与 Token 用量
- 02三级配额阈值
- 03任务执行前检查容量
- 04记录用量与请求详情
- 05估算 Token 和成本需求
适用场景
- 01集成限流 API
- 02跨会话跟踪用量
- 03接近配额上限时延后任务
- 04操作前估算成本
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ athola/ claude-night-market --skill quota-management安装后在 Claude Code 中输入/quota-management确认已加载。
附带文件modules/estimation-patterns.mdmodules/threshold-strategies.md
详细介绍
配额管理
概述
跟踪累计令牌预算并强制执行限额。若需按调用记录日志, 请使用 usage-logging。
用于跟踪和执行限速服务资源配额的模式。此技能提供基础设施,供其他插件 一致地处理配额。
适用场景
- 构建与限速 API 的集成
- 需要跨会话跟踪用量
- 希望在接近限额时优雅降级
- 需要在操作前估算成本
不适用场景
- 项目不使用 leyline 基础设施模式
- 不需要服务架构的简单脚本
核心概念
配额阈值
用于主动管理的三级阈值系统:
| 级别 | 用量 | 操作 |
|---|---|---|
| 健康 | <80% | 正常继续 |
| 警告 | 80-95% | 发出提醒,考虑批处理 |
| 严重 | >95% | 延后非紧急操作,使用备用服务 |
配额类型
@dataclass
class QuotaConfig:
requests_per_minute: int = 60
requests_per_day: int = 1000
tokens_per_minute: int = 100000
tokens_per_day: int = 1000000
快速入门
检查配额状态
from leyline.quota_tracker import QuotaTracker
tracker = QuotaTracker(service="my-service")
status, warnings = tracker.get_quota_status()
if status == "critical":
# Defer or use secondary service
pass
记录用量
tracker.record_request(tokens=estimated_tokens, success=True, duration=elapsed_seconds)
执行前估算
can_proceed, issues = tracker.can_handle_task(estimated_tokens)
if not can_proceed:
print(f"Quota issues: {issues}")
集成模式
其他插件会引用此技能:
# In your skill's frontmatter
dependencies: [leyline:quota-management]
然后使用共享模式:
- 为你的服务初始化跟踪器
- 操作前检查配额
- 操作后记录用量
- 妥善处理阈值警告
详细资源
- 阈值策略:参见
modules/threshold-strategies.md,了解降级模式 - 估算模式:参见
modules/estimation-patterns.md,了解令牌/成本估算
退出条件
- 操作前已检查配额状态
- 操作后已记录用量
- 已妥善处理阈值警告
评论
支持 Markdown