mcpField
L
Lionscraper Mcp

Lionscraper Mcp

本地服务
github.com/dowant开发工具129 周前更新

关于 Lionscraper Mcp

LionScraper 的伴随桥接项目,通过本地守护进程连接 LionScraper 浏览器扩展,面向需要从网页采集内容的 AI 应用和脚本。它同时提供 MCP 服务、命令行和本地 HTTP API;实际抓取由扩展执行。

主要功能

  1. 01通过 MCP 暴露网页抓取能力
  2. 02CLI 管理守护进程并执行抓取
  3. 03提供本地 HTTP API
  4. 04连接浏览器扩展的 HTTP 与 WebSocket
  5. 05支持 Node.js 和 Python 实现

适用场景

  1. 01让 AI 应用采集网页列表、文章和链接
  2. 02通过命令行抓取指定 URL
  3. 03用脚本通过本地 HTTP API 调用抓取功能

MCP 相关

lionscraper-mcp 通过 stdio 向支持 MCP 的 AI 应用提供抓取工具,并经本地桥接连接 LionScraper 扩展。抓取逻辑由扩展执行。

配置

本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。

暂未收录安装方式

我们还没有获取到这个服务的安装包或远程地址,请按项目 README 中的说明安装。

代码仓库

工具

还没有获取到工具列表

本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。

详细介绍

LionScraper MCP + CLI + HTTP API 桥接

简体中文

这是什么?

LionScraper 是一款浏览器扩展,可从网页收集列表、文章、链接、图片等内容。本仓库提供了连接你的工具与该扩展的配套桥接程序,有以下三种使用方式:

  • MCP(lionscraper-mcp):连接 AI 应用(例如 Cursor),让模型通过标准输入/输出调用网页抓取工具。
  • CLI(lionscraper):在终端中通过与扩展相同的本地 HTTP/WebSocket 端口运行 daemon、scrape、ping 等命令。
  • HTTP API:daemon 运行时,可通过环回 JSON HTTP(例如 /v1/...)从脚本或任何 HTTP 客户端调用相同功能——无需 MCP 或 CLI 前端。

实际的网页抓取逻辑在扩展中运行;这些软件包负责连接并转发请求。

开始之前

  1. 浏览器:Chrome 或 Edge(请以扩展支持的浏览器为准)。
  2. LionScraper 扩展:从商店安装并启用。
  3. 运行环境(可选择其中一种或同时使用两种实现):
    • npm 软件包需要 Node.js 18+ — Node.js
    • PyPI 软件包需要 Python 3.10+ — Python
  4. 使用 MCP:支持 MCP 的 AI 应用(例如 Cursor、Trae)。
  5. 使用 HTTP API:与 CLI 相同的浏览器、扩展和 daemon;路径及示例请参阅软件包 README。

没有 Chrome/Edge 时的 HTTP 回退模式:如果在标准路径下未检测到这两种浏览器,且扩展未连接,MCP 仍会启动;ping 会以 http_fetch 模式成功,而 scrape* 会使用最简的服务端 HTTP GET(不执行 JS)。如果已安装浏览器但扩展未连接,仍会进入扩展连接流程。Node 自动生成进程的路径修复了 Unix 安装中解析 lionscraper.js 时缺少前导 / 的问题(例如 Glama/Docker)。Python 软件包使用 aiohttp 与 daemon 建立出站 HTTP/WebSocket 连接。

两种实现

Node.js(npm)Python(pip)
注册表io.github.dowant/lionscraper-nodeio.github.dowant/lionscraper-python
文档(EN)packages/node/README.mdpackages/python/README.md
文档(ZH)packages/node/README_cn.mdpackages/python/README_cn.md

可安装其中一种或两种;它们是独立软件包,CLI 命令名称相同。

安装(npm)

已发布到 npm,软件包名为 lionscraper。

npm install -g lionscraper

如果不进行全局安装,MCP 可使用 npx;请参阅在 AI 应用中添加 MCP下方的 npx JSON 示例。

安装(pip)

已发布到 PyPI,软件包名为 lionscraper。

pip install -U lionscraper

建议使用虚拟环境;如果不想安装到系统解释器中,也可以运行 pip install -U --user lionscraper。

命令(两个软件包均适用)
命令作用
lionscraper-mcp面向 AI 应用的轻量 MCP 服务(stdio)
lionscraperCLI:daemon、stop、scrape、ping、……(也在同一端口提供 HTTP API)

pip install -U lionscraper 后,如果 lionscraper-mcp 不在你的 PATH 中,请使用不带任何额外参数的 python -m lionscraper 来运行 MCP stdio(参见 packages/python/README.md)。

在所有模式下,PORT(默认值为 13808)必须与扩展的桥接端口一致。

CLI 快速入门

lionscraper daemon
lionscraper ping
lionscraper scrape -u https://www.example.com

完整的标志、多 URL、分页和 HTTP API 详情:packages/node/README.md / packages/python/README.md。

在 AI 应用中添加 MCP

示例假定 lionscraper-mcp 在你的 PATH 中(通过 npm 或 pip 安装)。在 MCP JSON 中,每个 env 值都是字符串。

最简配置(PORT 默认值为 13808;必须与扩展的桥接端口一致):

{
  "mcpServers": {
    "lionscraper": {
      "command": "lionscraper-mcp"
    }
  }
}

完整的 env 示例(省略不需要的键):

{
  "mcpServers": {
    "lionscraper": {
      "command": "lionscraper-mcp",
      "env": {
        "PORT": "13808",
        "TIMEOUT": "120000",
        "LANG": "en-US",
        "TOKEN": "",
        "DAEMON": ""
      }
    }
  }
}

npx(无需全局安装)——需要 Node.js;首次运行时可能会下载软件包。npm 软件包名称是 lionscraper;可执行文件是 lionscraper-mcp。将 npx 用作 command,并在 args 中依次传入 lionscraper 和 lionscraper-mcp(位于 -y 之后)。

最简配置(npx):

{
  "mcpServers": {
    "lionscraper": {
      "command": "npx",
      "args": ["-y", "lionscraper", "lionscraper-mcp"]
    }
  }
}

完整的 env 示例(npx):

{
  "mcpServers": {
    "lionscraper": {
      "command": "npx",
      "args": ["-y", "lionscraper", "lionscraper-mcp"],
      "env": {
        "PORT": "13808",
        "TIMEOUT": "120000",
        "LANG": "en-US",
        "TOKEN": "",
        "DAEMON": ""
      }
    }
  }
}

若要固定版本,请在 args 中用 "[email protected]" 替换 "lionscraper",例如。

  • PORT:HTTP + WebSocket 监听端口;默认值为 13808;必须与扩展的桥接端口一致。
  • TIMEOUT:等待前一个实例释放端口的毫秒数;默认值为 120000;0 表示快速接管。
  • LANG:工具描述和 stderr 的语言(en-US、zh-CN 或 POSIX 格式)。
  • TOKEN:与守护进程共享的 Bearer 令牌;留空表示不进行身份验证。
  • DAEMON:只有设为 0 才会禁用轻量 MCP 自动启动 lionscraper daemon。

更改配置后,请重启 MCP 或宿主应用。

Python:通过 python -m 使用 MCP
{
  "mcpServers": {
    "lionscraper": {
      "command": "python",
      "args": ["-m", "lionscraper"]
    }
  }
}

请使用你安装软件包时所用的同一个 python(某些系统上使用 python3)。

匹配浏览器扩展中的端口

  1. 打开 LionScraper 的设置 / 选项。
  2. 将桥接端口设为与 PORT 相同的值(例如 13808)。
  3. 如有需要,请使用“重新连接”,重新加载扩展,或重启浏览器。

日常使用

  1. 根据需要保持扩展启用,并打开目标页面。
  2. 用自然语言提出请求(例如检查连接,抓取列表 / 文章 / 电子邮件 / 电话号码 / 链接 / 图片)。
  3. 如果看到“未连接”或超时,请重新检查连接,并确认 PORT 匹配。

常见问题

扩展未连接或抓取失败?

  • 扩展是否已启用?
  • AI 应用中的 PORT 是否与扩展的桥接端口完全一致?
  • 通常每台机器只需一个桥接;重复的 MCP 配置可能会造成冲突。

在客户端中看到 MCP 工具就说明一切正常吗?

不一定。工具只能证明 AI → 桥接正常;扩展也必须在同一端口上注册。

MCP Registry 和目录

官方 MCP Registry 条目(均使用 server.json):

路径Registry 名称包
packages/node/server.jsonio.github.dowant/lionscraper-nodenpm: lionscraper(package.json 中的 mcpName)
packages/python/server.jsonio.github.dowant/lionscraper-pythonPyPI: lionscraper(英文 README.md 中的 mcp-name 注释)

发布概要(安装官方 CLI,参见 Quickstart):

  1. 按照各 server.json 中的版本发布 npm / PyPI。
  2. 在 packages/node 中:运行 mcp-publisher login github,然后运行 mcp-publisher publish。
  3. 在 packages/python 中:运行 mcp-publisher publish(复用登录状态)。

第三方目录(例如 Glama)有各自的规则;Smithery 面向公开 HTTPS/流式设置,默认不适用于本地 stdio + npm/pip。

第三方目录(Glama)

此项目已列入 Glama(例如 Glama 上的 LionScraper)。如果页面显示 无法安装 或 未找到许可证,通常可通过以下方式解决:在根目录添加 LICENSE(本仓库已包含 LICENSE);对于由组织拥有的仓库,添加包含维护者 GitHub 用户名的 glama.json(glama.json—如果认领失败,请编辑 maintainers);在 Glama 上认领此服务;如果需要 Glama 的安装以及安全/质量检查,也可以完成 Glama 的 Docker / 发布流程——官方安装方式仍为 npm install -g lionscraper 和 pip install -U lionscraper。另请参阅评分 / 检查清单页面。

许可证

MIT(与 npm 和 PyPI 包相同)。

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。