关于 cli-batches
cli-batches 介绍 omniroute 命令行中用于提交和监控批量推理任务、管理文件及获取结果或错误的命令,适合在命令行和 CI/CD 工作流中运行批处理。
主要功能
- 01创建、提交、查看和取消批次
- 02等待批量任务完成
- 03获取批次结果和错误
- 04上传、查看、检查和删除文件
适用场景
- 01提交 JSONL 批量推理任务
- 02监控任务并等待完成
- 03将批次结果或错误保存到文件
- 04在 CI/CD 工作流中管理输入文件
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ cheaper-inference/ omniroute --skill cli-batches安装后在 Claude Code 中输入/cli-batches确认已加载。
详细介绍
概述
通过命令行提交和监控批量推理任务。上传和管理用于批处理的文件,获取结果,并将批处理流水线集成到 CI/CD 工作流中。
快速安装
npm install -g omniroute # or: npx omniroute
omniroute --version
子命令
batches
示例:
omniroute batches
batches list
标志:
--status <s>--limit <n>
示例:
omniroute batches list
batches get <batchId>
示例:
omniroute batches get <batchId>
batches create
标志:
--input-file <fileId>--endpoint <e>--completion-window <w>--metadata <kv>
示例:
omniroute batches create
batches submit
标志:
--jsonl <path>--endpoint <e>--wait
示例:
omniroute batches submit
batches cancel <batchId>
标志:
--yes
示例:
omniroute batches cancel <batchId>
batches wait <batchId>
标志:
--timeout <ms>
示例:
omniroute batches wait <batchId>
batches output <batchId>
标志:
--out <path>
示例:
omniroute batches output <batchId>
batches errors <batchId>
标志:
--out <path>
示例:
omniroute batches errors <batchId>
files
示例:
omniroute files
files list
标志:
--purpose <p>--limit <n>
示例:
omniroute files list
files get <fileId>
示例:
omniroute files get <fileId>
files upload <path>
标志:
--purpose <p>
示例:
omniroute files upload <path>
files content <fileId>
标志:
--out <path>
示例:
omniroute files content <fileId>
files delete <fileId>
标志:
--yes
示例:
omniroute files delete <fileId>
评论
支持 Markdown