关于 judgevet
judgevet 是用于 TypeSafe Jev 模型的类型化 Python 客户端和命令行工具,可提出结构化判断问题并返回类型化答案。它支持本地策略评估,也可通过可选 MCP 入口供 Agent 调用。
主要功能
- 01类型化是非、选项和评分问题
- 02Python 库与命令行工具
- 03JSON 输出与策略退出状态
- 04本地接受策略评估
- 05可选 stdio MCP 服务
适用场景
- 01按主题分类支持工单
- 02按有序评分标准评估内容
- 03设置答案最低值后再接受
MCP 相关
可选的 stdio MCP 服务向 MCP 客户端提供 `ask_noul`、`ask_choice`、`ask_score` 和 `evaluate_policy`。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
工具
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
judgevet
一个用于 TypeSafe 的 Jev(System One)判断模型的带类型 Python 客户端,并提供 CLI 和可选的 MCP 入口。可用它针对内容提出结构化问题,例如判断支持工单是否涉及账单问题。
状态是你的内容。问题描述要评估的内容。带类型的答案包含模型返回的值,供你的应用检查,或与本地验收策略进行比较。
非官方,与 TypeSafe 无关联。 TypeSafe 官方 Python SDK 也提供带类型的问题以及同步和异步客户端。judgevet 则提供共享库、CLI 和用于本地策略评估的 MCP 契约。安装库和 CLI 时无需安装 MCP 运行时。
文档状态:草稿。请从下方开始,或参阅首次判断教程,了解环境设置、检查点和恢复步骤。
安装并提出一个问题
使用 Python 3.12 或更高版本。在虚拟环境中:
python -m pip install 'judgevet==0.23.0'
judgevet --help
通过进程环境或密钥提供方提供 TypeSafe API 密钥。本示例读取 JEV_API__KEY,并将其显式传递给库。请勿将真实密钥放入源代码或命令参数中。安装指南介绍了其他安装方法。
此调用会将状态、问题和所选模型发送到配置的服务。 仅发送你获准披露的内容。使用敏感内容前,请阅读数据与凭据指南。本示例使用合成工单:
import os
from judgevet import HTTPSystemOneAdapter, Noul
with HTTPSystemOneAdapter(api_key=os.environ["JEV_API__KEY"]) as client:
response = client.system_one(
state="I was charged twice. Please help today.",
questions={"billing": Noul(instructions="Is this about billing?")},
)
answer = response.nouls["billing"]
print(f"Probability of billing: {answer.noul}")
print(f"Resolved model: {response.model}")
print(f"Input tokens: {response.usage.input_tokens}")
上下文管理器会在调用后关闭 HTTP 客户端。答案仍可用。如果导入或调用失败,请参阅教程中的恢复步骤,或查看故障排除指南。
读取答案并作出决策
0.85 这样的 Noul 值表示模型给出肯定答案的概率。实际值会有所变化。它不是布尔值、实测准确率,也不是路由工单的指令。Noul 没有单独的置信度字段。
请参阅供应商对 Noul 的定义。
返回的容器还会记录解析后的模型和令牌用量。 其他问题类型可让你选择标签或按照有序评分标准进行评估:
| 问题 | 答案包含的内容 |
|---|---|
Noul | 肯定答案的概率 |
Choice | 所选标签、各标签的概率和置信度 |
Score | 连续分数、评分标准说明、各级别的概率和置信度 |
供应商 API 参考定义了这些字段。 问题类型说明 介绍了如何选择类型,以及如何区分分数、置信度和概率。
本地策略可以要求答案达到最低值,应用才会接受。例如,0.85 达到 0.8 的最低值,但未达到 0.9。这些是用于教学的阈值,不是生产环境建议。通过策略并不能证明模型正确,也不会执行应用的下一步操作。
试试首个策略教程,使用合成答案;无需密钥或网络。
选择下一步任务
| 需求 | 从这里开始 |
|---|---|
| 了解一次完整的服务调用 | 首个判断 |
| 从异步应用调用 | Python 异步指南 |
| 使用已挂载的密钥或密钥提供程序 | 凭据来源 |
| 在容器或无服务器环境中部署 | 部署指南 |
| 关联诊断事件 | 事件契约和调用方绑定 |
| 配置代理或私有 CA | 网络配置 |
| 配置有界重试 | 重试限制 |
| 处理服务和传输故障 | 库错误处理 |
| 在 Python 中评估类型化或 JSON 策略 | 策略指南 |
| 使用 Shell 命令、文件或标准输入 | CLI 输入和 CLI 策略 |
| 为 Agent 提供判断工具 | 可选 MCP 的安装、连接和发现 |
| 查询类型、选项或架构 | 参考索引 |
| 了解阈值及其权衡 | 本地策略说明 |
| 选择入口点并管理其生命周期 | 以库为先的架构 |
CLI 使用相同的库,并可返回 JSON 或策略退出状态。
可选的 MCP 服务通过标准输入/输出公开 ask_noul、ask_choice、ask_score 和 evaluate_policy。请按照连接指南安装额外组件并配置主机。
这些是可替代的入口点;使用 Python 或 CLI 无需 MCP。
了解限制
精确文档示例会针对隔离安装运行,并使用合成答案。这些检查验证的是本地连接,而非模型质量或校准情况。实时证据仅涵盖已观察到的案例和已解析的 jev-1.13.0 模型。429/529 错误正文仍未见到;其他模型和未触及的字段均未经验证。验证说明区分了本地测试、供应商声明和实时观察结果。
默认情况下,诊断信息不会输出。调试元数据不包含状态和问题文本,但协议错误、CLI 错误封装以及任意回溯可能包含敏感内容。分享前请先检查。安全策略说明了凭据、披露和诊断方面的限制。
维护者
提出工作建议前,请阅读贡献政策。 文档检查、软件包验证和发布请遵循维护者流程。 仓库贡献规则规定了检查门槛和提交要求。验证台账记录了哪些服务声明已通过实时调用验证。
评论
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。