mcpField
S
Scrapling Fetch MCP

Scrapling Fetch MCP

本地服务
github.com/cyberchitta浏览器自动化1261 周前更新

关于 Scrapling Fetch MCP

Scrapling Fetch MCP 是一个 MCP 服务,帮助 AI 助手获取受机器人防护网站的 HTML 或 Markdown 文本内容。它适用于低频率获取文档和参考资料,而非大规模抓取。

主要功能

  1. 01获取受反自动化保护网站的页面内容
  2. 02返回 HTML 或 Markdown 格式
  3. 03支持分页获取完整页面
  4. 04按正则表达式提取匹配内容
  5. 05三级防护等级自动升级

适用场景

  1. 01获取 API 文档或参考资料页面
  2. 02在页面中查找特定关键词的内容
  3. 03获取受保护网站的安装说明

MCP 相关

该项目作为 MCP 服务,向 MCP 客户端提供页面抓取和正则提取两个工具。

配置

本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。

暂未收录安装方式

我们还没有获取到这个服务的安装包或远程地址,请按项目 README 中的说明安装。

代码仓库

工具

还没有获取到工具列表

本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。

详细介绍

scrapling-fetch-mcp

License PyPI version

帮助 AI 助手从受机器人防护的网站获取内容。使用 Scrapling(patchright + curl-cffi)绕过反自动化措施,并返回整洁的 HTML 或 Markdown。

专为低频获取文档和参考资料而优化。不适用于大规模抓取或数据采集。

要求:Python 3.10+、uv

Claude Code 技能

最简单的使用方式是将其作为 Claude Code 技能。安装后,只要你提出请求,Claude 就会自动获取受机器人防护的 URL,无需手动运行命令。

安装到项目中(推荐——仅在此项目的上下文中加载):

git clone --depth=1 https://github.com/cyberchitta/scrapling-fetch-mcp /tmp/scrapling-fetch-mcp
cp -r /tmp/scrapling-fetch-mcp/skills/s-fetch .claude/skills/
rm -rf /tmp/scrapling-fetch-mcp

或安装到所有项目中(在任何地方的上下文中加载):

git clone --depth=1 https://github.com/cyberchitta/scrapling-fetch-mcp /tmp/scrapling-fetch-mcp
cp -r /tmp/scrapling-fetch-mcp/skills/s-fetch ~/.claude/skills/
rm -rf /tmp/scrapling-fetch-mcp

首次调用 /s-fetch 时,Claude 会读取 skills/s-fetch/references/install.md 并运行一次性设置 (安装工具并下载浏览器二进制文件)。之后,只需直接提出请求:

"Fetch the docs at https://example.com/api"
"Find all mentions of 'authentication' on that page"
"Get me the installation instructions from their homepage"

Claude Desktop(MCP 服务)

如果 /s-fetch 技能已安装该工具,请跳过安装,直接查看下方配置。

否则,请先安装:

uv tool install git+https://github.com/cyberchitta/scrapling-fetch-mcp
uvx --from git+https://github.com/cyberchitta/scrapling-fetch-mcp scrapling install

注意:浏览器安装会下载数百 MB 的内容,且必须在首次使用前完成。如果服务首次启动时超时,请等待几分钟后重试。

将以下内容添加到 Claude Desktop MCP 设置中,然后重启:

MacOS:~/Library/Application Support/Claude/claude_desktop_config.json
Windows:%APPDATA%\Claude\claude_desktop_config.json

{
  "mcpServers": {
    "scrapling-fetch": {
      "command": "uvx",
      "args": ["scrapling-fetch-mcp"]
    }
  }
}

工作原理

Claude 会自动使用两个工具:

  • 页面获取——支持分页地获取完整页面
  • 模式提取——查找符合正则表达式的内容

自动逐级提升的三种防护级别:

  • basic——快速(1-2s),适用于大多数网站
  • stealth——适中(3-8s),使用无头 Chromium
  • max-stealth——全面(10s+),使用完整的浏览器指纹

限制

  • 仅支持文本内容(文档、文章、参考资料)
  • 不适用于大规模抓取或需要身份验证的网站
  • 性能因网站复杂程度和防护级别而异

许可证

Apache 2.0

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。