关于 Scrapling Fetch MCP
Scrapling Fetch MCP 是一个 MCP 服务,帮助 AI 助手获取受机器人防护网站的 HTML 或 Markdown 文本内容。它适用于低频率获取文档和参考资料,而非大规模抓取。
主要功能
- 01获取受反自动化保护网站的页面内容
- 02返回 HTML 或 Markdown 格式
- 03支持分页获取完整页面
- 04按正则表达式提取匹配内容
- 05三级防护等级自动升级
适用场景
- 01获取 API 文档或参考资料页面
- 02在页面中查找特定关键词的内容
- 03获取受保护网站的安装说明
MCP 相关
该项目作为 MCP 服务,向 MCP 客户端提供页面抓取和正则提取两个工具。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
我们还没有获取到这个服务的安装包或远程地址,请按项目 README 中的说明安装。
工具
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
scrapling-fetch-mcp
帮助 AI 助手从受机器人防护的网站获取内容。使用 Scrapling(patchright + curl-cffi)绕过反自动化措施,并返回整洁的 HTML 或 Markdown。
专为低频获取文档和参考资料而优化。不适用于大规模抓取或数据采集。
要求:Python 3.10+、uv
Claude Code 技能
最简单的使用方式是将其作为 Claude Code 技能。安装后,只要你提出请求,Claude 就会自动获取受机器人防护的 URL,无需手动运行命令。
安装到项目中(推荐——仅在此项目的上下文中加载):
git clone --depth=1 https://github.com/cyberchitta/scrapling-fetch-mcp /tmp/scrapling-fetch-mcp
cp -r /tmp/scrapling-fetch-mcp/skills/s-fetch .claude/skills/
rm -rf /tmp/scrapling-fetch-mcp
或安装到所有项目中(在任何地方的上下文中加载):
git clone --depth=1 https://github.com/cyberchitta/scrapling-fetch-mcp /tmp/scrapling-fetch-mcp
cp -r /tmp/scrapling-fetch-mcp/skills/s-fetch ~/.claude/skills/
rm -rf /tmp/scrapling-fetch-mcp
首次调用 /s-fetch 时,Claude 会读取
skills/s-fetch/references/install.md 并运行一次性设置
(安装工具并下载浏览器二进制文件)。之后,只需直接提出请求:
"Fetch the docs at https://example.com/api"
"Find all mentions of 'authentication' on that page"
"Get me the installation instructions from their homepage"
Claude Desktop(MCP 服务)
如果 /s-fetch 技能已安装该工具,请跳过安装,直接查看下方配置。
否则,请先安装:
uv tool install git+https://github.com/cyberchitta/scrapling-fetch-mcp
uvx --from git+https://github.com/cyberchitta/scrapling-fetch-mcp scrapling install
注意:浏览器安装会下载数百 MB 的内容,且必须在首次使用前完成。如果服务首次启动时超时,请等待几分钟后重试。
将以下内容添加到 Claude Desktop MCP 设置中,然后重启:
MacOS:~/Library/Application Support/Claude/claude_desktop_config.json
Windows:%APPDATA%\Claude\claude_desktop_config.json
{
"mcpServers": {
"scrapling-fetch": {
"command": "uvx",
"args": ["scrapling-fetch-mcp"]
}
}
}
工作原理
Claude 会自动使用两个工具:
- 页面获取——支持分页地获取完整页面
- 模式提取——查找符合正则表达式的内容
自动逐级提升的三种防护级别:
- basic——快速(1-2s),适用于大多数网站
- stealth——适中(3-8s),使用无头 Chromium
- max-stealth——全面(10s+),使用完整的浏览器指纹
限制
- 仅支持文本内容(文档、文章、参考资料)
- 不适用于大规模抓取或需要身份验证的网站
- 性能因网站复杂程度和防护级别而异
许可证
Apache 2.0
评论
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。