mcpField
C
cli-batches

cli-batches

github.com/cheaper-inference数据与数据库82.3k1.0k 次安装今天更新
代码仓库

关于 cli-batches

cli-batches 介绍 omniroute 命令行中用于提交和监控批量推理任务、管理文件及获取结果或错误的命令,适合在命令行和 CI/CD 工作流中运行批处理。

主要功能

  1. 01创建、提交、查看和取消批次
  2. 02等待批量任务完成
  3. 03获取批次结果和错误
  4. 04上传、查看、检查和删除文件

适用场景

  1. 01提交 JSONL 批量推理任务
  2. 02监控任务并等待完成
  3. 03将批次结果或错误保存到文件
  4. 04在 CI/CD 工作流中管理输入文件

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/cheaper-inference/omniroute --skill cli-batches

安装后在 Claude Code 中输入/cli-batches确认已加载。

详细介绍

概述

通过命令行提交和监控批量推理任务。上传和管理用于批处理的文件,获取结果,并将批处理流水线集成到 CI/CD 工作流中。

快速安装

npm install -g omniroute   # or: npx omniroute
omniroute --version

子命令

batches

示例:

omniroute batches
batches list

标志:

  • --status <s>
  • --limit <n>

示例:

omniroute batches list
batches get <batchId>

示例:

omniroute batches get <batchId>
batches create

标志:

  • --input-file <fileId>
  • --endpoint <e>
  • --completion-window <w>
  • --metadata <kv>

示例:

omniroute batches create
batches submit

标志:

  • --jsonl <path>
  • --endpoint <e>
  • --wait

示例:

omniroute batches submit
batches cancel <batchId>

标志:

  • --yes

示例:

omniroute batches cancel <batchId>
batches wait <batchId>

标志:

  • --timeout <ms>

示例:

omniroute batches wait <batchId>
batches output <batchId>

标志:

  • --out <path>

示例:

omniroute batches output <batchId>
batches errors <batchId>

标志:

  • --out <path>

示例:

omniroute batches errors <batchId>
files

示例:

omniroute files
files list

标志:

  • --purpose <p>
  • --limit <n>

示例:

omniroute files list
files get <fileId>

示例:

omniroute files get <fileId>
files upload <path>

标志:

  • --purpose <p>

示例:

omniroute files upload <path>
files content <fileId>

标志:

  • --out <path>

示例:

omniroute files content <fileId>
files delete <fileId>

标志:

  • --yes

示例:

omniroute files delete <fileId>

评论

支持 Markdown