关于 Scrapfly MCP Server
Scrapfly MCP Server 通过 Scrapfly 抓取服务,让 AI 助手获取实时网页内容。它支持快速抓取、浏览器自动化、结构化提取、截图和账户用量查询。
主要功能
- 01获取实时网页内容
- 02处理反爬检查与页面渲染
- 03提取结构化 JSON 数据
- 04截取页面或元素截图
- 05查询账户用量和配额
适用场景
- 01获取最新价格、列表或新闻
- 02从复杂网页提取商品数据
- 03截图用于视觉检查或监控
MCP 相关
通过托管 HTTP 端点向 MCP 客户端提供网页抓取、提取、截图和账户查询工具,也支持本地运行或自托管。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
工具
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
Scrapfly MCP 服务
让你的 AI 实时访问任意网站
🌐 产品页面 • 📖 文档 • 🎮 在线演示 • 🔑 获取 API 密钥
什么是 Scrapfly MCP?
Scrapfly MCP 服务通过 Model Context Protocol 将你的 AI 助手连接到实时网络数据。让你的 AI 摆脱训练数据的限制,实时访问任意网站。
✨ AI 能做什么
| 能力 | 说明 |
|---|---|
| 🌐 抓取实时数据 | 实时获取当前价格、商品列表、新闻或任意网页内容 |
| 🛡️ 绕过反机器人系统 | 自动处理 CAPTCHA、代理、JavaScript 渲染和速率限制 |
| ⚡ 提取结构化数据 | 使用 AI 驱动的数据提取,将复杂网站解析为整洁的 JSON |
| 📸 截取屏幕截图 | 捕获页面或特定元素的视觉快照,以供分析 |
🏆 为什么选择 Scrapfly?
基于经过实战检验的基础设施构建,已被数千名开发者使用:
- 99.9% 正常运行时间 — 企业级可靠性
- 100+ 个国家/地区 — 全球代理网络,提供数据中心和住宅 IP,支持三种代理池(Basic、Unblocker、Unblocker Ultra)或 Auto,由 API 选择代理池
- 绕过反机器人系统 — 先进的 Unblocker 技术可应对现代防护措施
- OAuth2 安全性 — 面向生产部署的企业级身份验证
📖 了解更多:为什么选择 Scrapfly MCP?
🚀 快速安装
点击下方任意按钮,在首选 IDE 中安装 MCP 服务:
📦 手动安装
标准配置
适用于大多数兼容 MCP 的工具:
{
"servers": {
"scrapfly-cloud-mcp": {
"type": "http",
"url": "https://mcp.scrapfly.io/mcp"
}
}
}
云端配置(NPX)
适用于需要本地进程的工具:
{
"mcpServers": {
"scrapfly": {
"command": "npx",
"args": [
"mcp-remote",
"https://mcp.scrapfly.io/mcp"
]
}
}
}
🔧 IDE 专属设置
VS Code
### 一键安装手动安装
请参阅 VS Code MCP 指南,或使用 CLI:
code --add-mcp '{"name":"scrapfly-cloud-mcp","type":"http","url":"https://mcp.scrapfly.io/mcp"}'
安装后,Scrapfly 工具将在 GitHub Copilot Chat 中可用。
📖 完整指南:VS Code 集成
VS Code Insiders
一键安装
手动安装
code-insiders --add-mcp '{"name":"scrapfly-cloud-mcp","type":"http","url":"https://mcp.scrapfly.io/mcp"}'
📖 完整指南:VS Code 集成
Visual Studio
一键安装
手动安装
- 打开 Visual Studio
- 前往 GitHub Copilot Chat 窗口
- 点击聊天工具栏中的工具图标(🛠️)
- 点击 + Add Server 打开配置对话框
- 配置:
- Server ID:
scrapfly-cloud-mcp - Type:
http/sse - URL:
https://mcp.scrapfly.io/mcp
- Server ID:
- 点击 Save
📖 完整指南:Visual Studio MCP 文档
Cursor
一键安装
### 手动安装- 前往
Cursor Settings→MCP→Add new MCP Server - 使用上面的标准配置
- 点击 Edit,验证或添加参数
📖 完整指南:Cursor 集成
Claude Code
使用 Claude Code CLI:
claude mcp add scrapfly-cloud-mcp --url https://mcp.scrapfly.io/mcp
📖 完整指南:Claude Code 集成
Claude Desktop
添加到 Claude Desktop 配置文件中:
macOS:~/Library/Application Support/Claude/claude_desktop_config.json
Windows:%APPDATA%\Claude\claude_desktop_config.json
{
"mcpServers": {
"scrapfly": {
"command": "npx",
"args": ["mcp-remote", "https://mcp.scrapfly.io/mcp"]
}
}
}
📖 完整指南:Claude Desktop 集成
Cline
添加到 Cline MCP 设置中:
{
"scrapfly-cloud-mcp": {
"type": "http",
"url": "https://mcp.scrapfly.io/mcp"
}
}
📖 完整指南:Cline 集成
Zed
添加到 Zed 设置中:
{
"context_servers": {
"scrapfly-cloud-mcp": {
"type": "http",
"url": "https://mcp.scrapfly.io/mcp"
}
}
}
📖 完整指南:Zed 集成
OpenAI Codex
创建或编辑 ~/.codex/config.toml:
[mcp_servers.scrapfly-cloud-mcp]
url = "https://mcp.scrapfly.io/mcp"
📖 更多信息:Codex MCP 文档
Gemini CLI
按照 Gemini CLI MCP 指南使用标准配置。
OpenCode
添加到 ~/.config/opencode/opencode.json:
{
"$schema": "https://opencode.ai/config.json",
"mcp": {
"scrapfly-cloud-mcp": {
"type": "http",
"url": "https://mcp.scrapfly.io/mcp",
"enabled": true
}
}
}
📖 更多信息:OpenCode MCP 文档
🛠️ 可用工具
Scrapfly MCP 服务提供 5 个强大的工具,可满足 99% 的网页抓取需求:
| 工具 | 描述 | 使用场景 |
|---|---|---|
scraping_instruction_enhanced | 抓取选项速查表 | 可选——不确定应使用哪些选项时 |
web_get_page | 使用智能默认设置快速获取页面 | 简单的抓取任务 |
web_scrape | 通过浏览器自动化全面掌控抓取过程 | 复杂抓取、登录流程 |
screenshot | 截取页面屏幕截图 | 视觉分析、监控 |
info_account | 查看使用情况和配额 | 账户管理 |
📖 完整参考:工具与 API 规范
代理池
web_scrape 和 web_get_page 接受 proxy_pool,用于同时设置代理和解锁器(反机器人绕过):
proxy_pool | 运行方式 |
|---|---|
basic | 数据中心代理,关闭解锁器 |
unblocker | 住宅代理,开启解锁器 |
unblocker_ultra | 住宅代理,开启解锁器;这是目标网站和自身有价格的反机器人保护唯一接受的代理池 |
auto | API 根据目标网站的配置,在请求前选择代理池:使用开启解锁器的数据中心代理,或目标网站所需的代理池;按实际使用的代理池计费 |
根据网站的需求选择代理池:数据中心代理可以访问的网站使用 basic;需要住宅代理和解锁器的网站使用 unblocker 或 unblocker_ultra;也可以使用 auto,让 API 进行选择。
自身有价格的目标网站或反机器人保护会拒绝 basic 和 unblocker,并返回
ERR::PROXY::UNBLOCKER_ULTRA_REQUIRED(HTTP 422,不计费):使用 proxy_pool=unblocker_ultra 重新发送请求,或使用 proxy_pool=auto。auto 适用于所有目标网站,包括要求使用 unblocker_ultra 的网站,并会将相应价格计入费用。public_tor_pool 使用 Tor 网络(.onion)。
已弃用:unblocker 和 asp
web_scrape 的 unblocker 输入及其旧名称 asp 已弃用:请改用 proxy_pool(解锁器使用 unblocker_ultra)。
迁移指南介绍了代理池推出前编写的请求,也包括代理池名称 public_datacenter_pool 和 public_residential_pool。
如果未提供 proxy_pool,服务器会向 API 发送不含代理池的请求,并默认设置 asp=true;该指南也涵盖此类请求。
示例:抓取页面
User: "What are the top posts on Hacker News right now?"
AI: Uses web_get_page to fetch https://news.ycombinator.com and returns current top stories
示例:提取结构化数据
User: "Get all product prices from this Amazon page"
AI: Uses web_scrape with extraction_model="product_listing" to return structured JSON
📖 更多示例:真实场景示例
🔐 身份验证
Scrapfly MCP 支持多种身份验证方式:
| 方式 | 最适用于 | 文档 |
|---|---|---|
| OAuth2 | 生产环境、多用户应用 | OAuth2 配置 |
| API Key | 个人使用、开发 | API Key 配置 |
| Header Auth | 自定义集成 | Header Auth |
🔑 获取你的 API key:Scrapfly 控制面板
📊 配置参考
| 设置 | 值 |
|---|---|
| 服务名称 | scrapfly-cloud-mcp |
| 类型 | 远程 HTTP 服务 |
| URL | https://mcp.scrapfly.io/mcp |
| 协议 | 基于 HTTP/SSE 的 MCP |
🖥️ 自托管 / 本地部署
你可以在本地运行 Scrapfly MCP 服务,也可以自行托管。
CLI 参数
| 标志 | 说明 |
|---|---|
-http <address> | 在指定地址启动 HTTP 服务(例如 :8080)。优先级高于 PORT 环境变量。在服务密钥模式下,此参数绑定到回环地址(127.0.0.1),除非同时传入 -allow-remote。 |
-apikey <key> | 使用此 API key,而非 SCRAPFLY_API_KEY 环境变量。 |
-allow-remote | 仅适用于服务密钥 HTTP 模式:允许绑定非回环网络接口。该模式不会对各个调用方进行身份验证——所有请求都使用内置密钥——因此仅应在自有身份验证代理之后启用。 |
-verify-ssl | 验证出站调用的 TLS 证书(默认值为 true)。仅当目标主机提供自签名证书时,才设置为 false。 |
环境变量
| 变量 | 描述 |
|---|---|
PORT | 要监听的 HTTP 端口。未设置 -http 标志时使用。 |
SCRAPFLY_API_KEY | 内置于服务中的 Scrapfly API 密钥。设置后,服务会将其用于每个请求(服务端密钥模式),并且不会读取每个请求单独提供的密钥。 |
SCRAPFLY_ALLOW_REMOTE | 1/true 是 -allow-remote 的等效环境变量。 |
SCRAPFLY_VERIFY_SSL | 0/false 是 -verify-ssl=false 的等效环境变量。 |
每个请求单独提供密钥:启动服务时不内置密钥(仅使用 -http),并由
每个调用方在每个请求中提供自己的密钥,形式为 Authorization: Bearer <key>、
或 ?key=<key> / ?apiKey=<key>。此方式需要身份验证;而上文所述的服务端密钥
方式不需要,因此默认仅绑定到回环地址。
示例
# Start HTTP server on port 8080
./scrapfly-mcp -http :8080
# Start HTTP server using PORT env var
PORT=8080 ./scrapfly-mcp
# Start with an API key. Prefer the environment variable: a key passed as a
# flag lands in your shell history and in the process list.
# Server-key mode has no per-caller auth, so it binds 127.0.0.1 here.
SCRAPFLY_API_KEY=... ./scrapfly-mcp -http :8080
# Same, but expose it on all interfaces — only behind your own auth proxy.
SCRAPFLY_API_KEY=... ./scrapfly-mcp -http 0.0.0.0:8080 -allow-remote
# Start in stdio mode (for local MCP clients)
./scrapfly-mcp
Docker
# Build
docker build -t scrapfly-mcp .
# Run (Smithery compatible - uses PORT env var)
docker run -p 8080:8080 scrapfly-mcp
# Run with custom port
docker run -e PORT=9000 -p 9000:9000 scrapfly-mcp
🤝 框架集成
Scrapfly MCP 也可与 AI 框架和自动化工具配合使用:
| 框架 | 文档 |
|---|---|
| LangChain | LangChain 集成 |
| LlamaIndex | LlamaIndex 集成 |
| CrewAI | CrewAI 集成 |
| OpenAI | OpenAI 集成 |
| n8n | n8n 集成 |
| Make | Make 集成 |
| Zapier | Zapier 集成 |
📖 所有集成:集成索引
📚 资源
💬 需要帮助?
由 Scrapfly 倾心打造 ❤️
面向开发者的网页抓取 API
评论
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。