mcpField
S
Scrapfly MCP Server

Scrapfly MCP Server

本地服务
github.com/scrapfly浏览器自动化142 天前更新

关于 Scrapfly MCP Server

Scrapfly MCP Server 通过 Scrapfly 抓取服务,让 AI 助手获取实时网页内容。它支持快速抓取、浏览器自动化、结构化提取、截图和账户用量查询。

主要功能

  1. 01获取实时网页内容
  2. 02处理反爬检查与页面渲染
  3. 03提取结构化 JSON 数据
  4. 04截取页面或元素截图
  5. 05查询账户用量和配额

适用场景

  1. 01获取最新价格、列表或新闻
  2. 02从复杂网页提取商品数据
  3. 03截图用于视觉检查或监控

MCP 相关

通过托管 HTTP 端点向 MCP 客户端提供网页抓取、提取、截图和账户查询工具,也支持本地运行或自托管。

配置

本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。

mcp.json · 通用配置
{
"mcpServers": {
"scrapfly": {
"command": "npx",
"args": [
"-y",
"scrapfly-mcp"
]
}
}
}
启动命令npx -y scrapfly-mcp

本地服务需要在你的电脑上安装运行环境(如 Node.js 18+)。各客户端的配置文件位置不同,请参考客户端文档。

安装包
npmscrapfly-mcp1.0.0

工具

还没有获取到工具列表

本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。

详细介绍

Scrapfly MCP 服务

Scrapfly

让你的 AI 实时访问任意网站

🌐 产品页面 • 📖 文档 • 🎮 在线演示 • 🔑 获取 API 密钥


什么是 Scrapfly MCP?

Scrapfly MCP 服务通过 Model Context Protocol 将你的 AI 助手连接到实时网络数据。让你的 AI 摆脱训练数据的限制,实时访问任意网站。

✨ AI 能做什么
能力说明
🌐 抓取实时数据实时获取当前价格、商品列表、新闻或任意网页内容
🛡️ 绕过反机器人系统自动处理 CAPTCHA、代理、JavaScript 渲染和速率限制
⚡ 提取结构化数据使用 AI 驱动的数据提取,将复杂网站解析为整洁的 JSON
📸 截取屏幕截图捕获页面或特定元素的视觉快照,以供分析
🏆 为什么选择 Scrapfly?

基于经过实战检验的基础设施构建,已被数千名开发者使用:

  • 99.9% 正常运行时间 — 企业级可靠性
  • 100+ 个国家/地区 — 全球代理网络,提供数据中心和住宅 IP,支持三种代理池(Basic、Unblocker、Unblocker Ultra)或 Auto,由 API 选择代理池
  • 绕过反机器人系统 — 先进的 Unblocker 技术可应对现代防护措施
  • OAuth2 安全性 — 面向生产部署的企业级身份验证

📖 了解更多:为什么选择 Scrapfly MCP?


🚀 快速安装

点击下方任意按钮,在首选 IDE 中安装 MCP 服务:

在 VS Code 中安装 在 VS Code Insiders 中安装 在 Visual Studio 中安装 在 Cursor 中安装


📦 手动安装

标准配置

适用于大多数兼容 MCP 的工具:

{
  "servers": {
    "scrapfly-cloud-mcp": {
      "type": "http",
      "url": "https://mcp.scrapfly.io/mcp"
    }
  }
}
云端配置(NPX)

适用于需要本地进程的工具:

{
  "mcpServers": {
    "scrapfly": {
      "command": "npx",
      "args": [
        "mcp-remote",
        "https://mcp.scrapfly.io/mcp"
      ]
    }
  }
}

🔧 IDE 专属设置

VS Code ### 一键安装

在 VS Code 中安装

手动安装

请参阅 VS Code MCP 指南,或使用 CLI:

code --add-mcp '{"name":"scrapfly-cloud-mcp","type":"http","url":"https://mcp.scrapfly.io/mcp"}'

安装后,Scrapfly 工具将在 GitHub Copilot Chat 中可用。

📖 完整指南:VS Code 集成

VS Code Insiders
一键安装

在 VS Code Insiders 中安装

手动安装
code-insiders --add-mcp '{"name":"scrapfly-cloud-mcp","type":"http","url":"https://mcp.scrapfly.io/mcp"}'

📖 完整指南:VS Code 集成

Visual Studio
一键安装

在 Visual Studio 中安装

手动安装
  1. 打开 Visual Studio
  2. 前往 GitHub Copilot Chat 窗口
  3. 点击聊天工具栏中的工具图标(🛠️)
  4. 点击 + Add Server 打开配置对话框
  5. 配置:
    • Server ID:scrapfly-cloud-mcp
    • Type:http/sse
    • URL:https://mcp.scrapfly.io/mcp
  6. 点击 Save

📖 完整指南:Visual Studio MCP 文档

Cursor
一键安装

在 Cursor 中安装

### 手动安装
  1. 前往 Cursor Settings → MCP → Add new MCP Server
  2. 使用上面的标准配置
  3. 点击 Edit,验证或添加参数

📖 完整指南:Cursor 集成

Claude Code

使用 Claude Code CLI:

claude mcp add scrapfly-cloud-mcp --url https://mcp.scrapfly.io/mcp

📖 完整指南:Claude Code 集成

Claude Desktop

添加到 Claude Desktop 配置文件中:

macOS:~/Library/Application Support/Claude/claude_desktop_config.json Windows:%APPDATA%\Claude\claude_desktop_config.json

{
  "mcpServers": {
    "scrapfly": {
      "command": "npx",
      "args": ["mcp-remote", "https://mcp.scrapfly.io/mcp"]
    }
  }
}

📖 完整指南:Claude Desktop 集成

Cline

添加到 Cline MCP 设置中:

{
  "scrapfly-cloud-mcp": {
    "type": "http",
    "url": "https://mcp.scrapfly.io/mcp"
  }
}

📖 完整指南:Cline 集成

Windsurf

按照 Windsurf MCP 文档使用标准配置。

📖 完整指南:Windsurf 集成

Zed

添加到 Zed 设置中:

{
  "context_servers": {
    "scrapfly-cloud-mcp": {
      "type": "http",
      "url": "https://mcp.scrapfly.io/mcp"
    }
  }
}

📖 完整指南:Zed 集成

OpenAI Codex

创建或编辑 ~/.codex/config.toml:

[mcp_servers.scrapfly-cloud-mcp]
url = "https://mcp.scrapfly.io/mcp"

📖 更多信息:Codex MCP 文档

Gemini CLI

按照 Gemini CLI MCP 指南使用标准配置。

OpenCode

添加到 ~/.config/opencode/opencode.json:

{
  "$schema": "https://opencode.ai/config.json",
  "mcp": {
    "scrapfly-cloud-mcp": {
      "type": "http",
      "url": "https://mcp.scrapfly.io/mcp",
      "enabled": true
    }
  }
}

📖 更多信息:OpenCode MCP 文档


🛠️ 可用工具

Scrapfly MCP 服务提供 5 个强大的工具,可满足 99% 的网页抓取需求:

工具描述使用场景
scraping_instruction_enhanced抓取选项速查表可选——不确定应使用哪些选项时
web_get_page使用智能默认设置快速获取页面简单的抓取任务
web_scrape通过浏览器自动化全面掌控抓取过程复杂抓取、登录流程
screenshot截取页面屏幕截图视觉分析、监控
info_account查看使用情况和配额账户管理

📖 完整参考:工具与 API 规范

代理池

web_scrape 和 web_get_page 接受 proxy_pool,用于同时设置代理和解锁器(反机器人绕过):

proxy_pool运行方式
basic数据中心代理,关闭解锁器
unblocker住宅代理,开启解锁器
unblocker_ultra住宅代理,开启解锁器;这是目标网站和自身有价格的反机器人保护唯一接受的代理池
autoAPI 根据目标网站的配置,在请求前选择代理池:使用开启解锁器的数据中心代理,或目标网站所需的代理池;按实际使用的代理池计费

根据网站的需求选择代理池:数据中心代理可以访问的网站使用 basic;需要住宅代理和解锁器的网站使用 unblocker 或 unblocker_ultra;也可以使用 auto,让 API 进行选择。 自身有价格的目标网站或反机器人保护会拒绝 basic 和 unblocker,并返回 ERR::PROXY::UNBLOCKER_ULTRA_REQUIRED(HTTP 422,不计费):使用 proxy_pool=unblocker_ultra 重新发送请求,或使用 proxy_pool=auto。auto 适用于所有目标网站,包括要求使用 unblocker_ultra 的网站,并会将相应价格计入费用。public_tor_pool 使用 Tor 网络(.onion)。

已弃用:unblocker 和 asp

web_scrape 的 unblocker 输入及其旧名称 asp 已弃用:请改用 proxy_pool(解锁器使用 unblocker_ultra)。 迁移指南介绍了代理池推出前编写的请求,也包括代理池名称 public_datacenter_pool 和 public_residential_pool。 如果未提供 proxy_pool,服务器会向 API 发送不含代理池的请求,并默认设置 asp=true;该指南也涵盖此类请求。

示例:抓取页面
User: "What are the top posts on Hacker News right now?"

AI: Uses web_get_page to fetch https://news.ycombinator.com and returns current top stories
示例:提取结构化数据
User: "Get all product prices from this Amazon page"

AI: Uses web_scrape with extraction_model="product_listing" to return structured JSON

📖 更多示例:真实场景示例


🔐 身份验证

Scrapfly MCP 支持多种身份验证方式:

方式最适用于文档
OAuth2生产环境、多用户应用OAuth2 配置
API Key个人使用、开发API Key 配置
Header Auth自定义集成Header Auth

🔑 获取你的 API key:Scrapfly 控制面板


📊 配置参考

设置值
服务名称scrapfly-cloud-mcp
类型远程 HTTP 服务
URLhttps://mcp.scrapfly.io/mcp
协议基于 HTTP/SSE 的 MCP

🖥️ 自托管 / 本地部署

你可以在本地运行 Scrapfly MCP 服务,也可以自行托管。

CLI 参数
标志说明
-http <address>在指定地址启动 HTTP 服务(例如 :8080)。优先级高于 PORT 环境变量。在服务密钥模式下,此参数绑定到回环地址(127.0.0.1),除非同时传入 -allow-remote。
-apikey <key>使用此 API key,而非 SCRAPFLY_API_KEY 环境变量。
-allow-remote仅适用于服务密钥 HTTP 模式:允许绑定非回环网络接口。该模式不会对各个调用方进行身份验证——所有请求都使用内置密钥——因此仅应在自有身份验证代理之后启用。
-verify-ssl验证出站调用的 TLS 证书(默认值为 true)。仅当目标主机提供自签名证书时,才设置为 false。
环境变量
变量描述
PORT要监听的 HTTP 端口。未设置 -http 标志时使用。
SCRAPFLY_API_KEY内置于服务中的 Scrapfly API 密钥。设置后,服务会将其用于每个请求(服务端密钥模式),并且不会读取每个请求单独提供的密钥。
SCRAPFLY_ALLOW_REMOTE1/true 是 -allow-remote 的等效环境变量。
SCRAPFLY_VERIFY_SSL0/false 是 -verify-ssl=false 的等效环境变量。

每个请求单独提供密钥:启动服务时不内置密钥(仅使用 -http),并由 每个调用方在每个请求中提供自己的密钥,形式为 Authorization: Bearer <key>、 或 ?key=<key> / ?apiKey=<key>。此方式需要身份验证;而上文所述的服务端密钥 方式不需要,因此默认仅绑定到回环地址。

示例
# Start HTTP server on port 8080
./scrapfly-mcp -http :8080

# Start HTTP server using PORT env var
PORT=8080 ./scrapfly-mcp

# Start with an API key. Prefer the environment variable: a key passed as a
# flag lands in your shell history and in the process list.
# Server-key mode has no per-caller auth, so it binds 127.0.0.1 here.
SCRAPFLY_API_KEY=... ./scrapfly-mcp -http :8080

# Same, but expose it on all interfaces — only behind your own auth proxy.
SCRAPFLY_API_KEY=... ./scrapfly-mcp -http 0.0.0.0:8080 -allow-remote

# Start in stdio mode (for local MCP clients)
./scrapfly-mcp
Docker
# Build
docker build -t scrapfly-mcp .

# Run (Smithery compatible - uses PORT env var)
docker run -p 8080:8080 scrapfly-mcp

# Run with custom port
docker run -e PORT=9000 -p 9000:9000 scrapfly-mcp

🤝 框架集成

Scrapfly MCP 也可与 AI 框架和自动化工具配合使用:

框架文档
LangChainLangChain 集成
LlamaIndexLlamaIndex 集成
CrewAICrewAI 集成
OpenAIOpenAI 集成
n8nn8n 集成
MakeMake 集成
ZapierZapier 集成

📖 所有集成:集成索引


📚 资源


💬 需要帮助?


Scrapfly
由 Scrapfly 倾心打造 ❤️
面向开发者的网页抓取 API

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。