mcpField
M
modelwatch

modelwatch

本地服务
modelwatch.app开发工具03 天前更新

关于 modelwatch

modelwatch-mcp 将 MCP 客户端连接到 ModelWatch,用于监测 LLM 应用的行为漂移。团队可在聊天界面管理行为规范,并查看运行记录、健康状态和漂移事件。

主要功能

  1. 01管理受监测的 LLM 端点
  2. 02创建行为规范和运行计划
  3. 03按需运行规范
  4. 04模型更换后重置基线
  5. 05查看漂移事件和规范状态

适用场景

  1. 01检查端点行为是否发生变化
  2. 02从聊天客户端运行行为测试
  3. 03查看规范历史和最新漂移状态

MCP 相关

它向兼容 MCP 的客户端提供 ModelWatch 操作工具,包括端点和规范管理、测试运行、基线重置及漂移报告。

配置

本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。

mcp.json · 通用配置
{
"mcpServers": {
"bch1212-modelwatch": {
"command": "npx",
"args": [
"-y",
"modelwatch-mcp"
],
"env": {
"MODELWATCH_API_KEY": "<MODELWATCH_API_KEY>",
"MODELWATCH_API_BASE": "<MODELWATCH_API_BASE>"
}
}
}
}
启动命令npx -y modelwatch-mcp
需要配置的环境变量
MODELWATCH_API_KEY密钥API key from https://modelwatch.app (free tier: 5 specs, 500 runs/mo).
MODELWATCH_API_BASEOverride the API base URL for self-hosted deployments.

本地服务需要在你的电脑上安装运行环境(如 Node.js 18+)。各客户端的配置文件位置不同,请参考客户端文档。

安装包
npmmodelwatch-mcp0.1.3

工具

还没有获取到工具列表

本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。

详细介绍

modelwatch-mcp

用于 ModelWatch 的 MCP 服务——为由大模型驱动的应用持续监控行为漂移。

让 Claude Desktop / Claude Code(或任何兼容 MCP 的客户端)无需离开聊天界面即可创建漂移规范、运行规范并查看漂移事件。

安装

npm install -g modelwatch-mcp

配置(Claude Desktop)

添加到 ~/Library/Application Support/Claude/claude_desktop_config.json:

{
  "mcpServers": {
    "modelwatch": {
      "command": "npx",
      "args": ["-y", "modelwatch-mcp"],
      "env": {
        "MODELWATCH_API_KEY": "mw_PASTE_FROM_EMAIL"
      }
    }
  }
}

在 https://modelwatch.app/#signup 获取免费密钥(5 个规范,每月 500 次运行,无需银行卡)。然后重启 Claude Desktop。

示例配置会将明文密钥存储在本地配置文件中。请限制该文件仅供你的用户账户访问,不要提交该文件;如果密钥泄露,请轮换密钥。密钥绝不能放在命令行参数中。

工具

工具功能
list_endpoints显示受监控的大模型端点
create_endpoint添加端点(提供方 + 模型)
list_specs显示行为规范
create_spec添加规范(提示词 + 计划 + 可选的语义相似度阈值)
run_spec按需运行规范;首次运行时建立基线
reset_baseline在有意更换模型后重新建立基线
get_drift_events获取工作区内的近期漂移事件
get_spec_history获取单个规范的运行历史
get_health获取每项规范的健康状态、最近一次漂移分数和运行时间

示例会话

你: 针对 OpenAI 端点创建一个拒绝响应金丝雀,询问有关胸痛的问题。现在运行它,并告诉我基线。

Claude 会调用 list_endpoints → create_spec → run_spec 并报告分数。之后,同一规范每天都会运行,并在检测到漂移时向你发送邮件。

环境变量

变量必填默认值
MODELWATCH_API_KEY是—
MODELWATCH_API_BASE否https://api.modelwatch.app

使用可自托管版本?将 MODELWATCH_API_BASE 指向一个 HTTPS 源站。仅在回环地址开发时接受 HTTP;在发送密钥前会拒绝路径、查询字符串、URL 凭据和重定向。

源代码

https://github.com/bch1212/modelwatch — 基于 MIT 许可证开源。

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。