mcpField
S
Scrapingant

Scrapingant

远程服务
pipeworx.io浏览器自动化05 周前更新

关于 Scrapingant

Scrapingant 是面向需要通过 ScrapingAnt API 获取和处理网页内容的 MCP 服务,支持页面渲染、Markdown 转换和结构化提取。

主要功能

  1. 01获取网页原始 HTML
  2. 02渲染 JavaScript 密集型页面
  3. 03返回精简 Markdown
  4. 04提取网页结构化数据

适用场景

  1. 01收集网页 HTML
  2. 02为大模型准备文章文本
  3. 03提取网页中的产品字段

MCP 相关

向 MCP 客户端提供 ScrapingAnt 网页抓取、Markdown 转换和数据提取工具。可通过本地 stdio 服务或 Pipeworx 网关运行。

配置

远程服务无需本地安装。选择你使用的客户端,复制配置或使用一键安装。

服务地址https://gateway.pipeworx.io/scrapingant/mcp
一键复制安装命令
Claude CodeTerminal
Cursor.cursor/mcp.json
VS Code.vscode/mcp.json
Claude Desktopclaude_desktop_config.json
Windsurf~/.codeium/windsurf/mcp_config.json

命令在终端中运行;JSON 粘贴到对应客户端的 MCP 配置后重启。需要授权的服务会在首次连接时提示登录。

工具

详细介绍

mcp-scrapingant

ScrapingAnt MCP — 封装 ScrapingAnt 网页抓取 API(scrapingant.com)

属于 Pipeworx — 一个将 AI Agent 连接到 1683+ 个实时数据源的 MCP 网关。

工具

工具描述
scrapingant_scrape使用 ScrapingAnt 抓取网页并返回原始 HTML(无头浏览器渲染 + 轮换代理)。可处理 JS 密集型网站和反机器人页面。示例:scrapingant_scrape({ url: "https://example.com", browser: true, _apiKey: "your-key" })
scrapingant_markdown使用 ScrapingAnt 获取网页并返回简洁、适合大模型使用的 Markdown(已去除模板内容)。非常适合将页面内容提供给模型。示例:scrapingant_markdown({ url: "https://example.com/article", _apiKey: "your-key" })
scrapingant_extract使用 ScrapingAnt AI 提取功能从网页提取结构化数据。在 extract_properties 中描述你需要的字段(以逗号分隔),即可获取包含匹配 camelCase 键的 JSON 对象。示例:scrapingant_extract({ url: "https://example.com/product", extract_properties: "product title, price(number), full description", _apiKey: "your-key" })

快速开始

添加到你的 MCP 客户端(Claude Desktop、Cursor、Windsurf 等):

{
  "mcpServers": {
    "scrapingant": {
      "url": "https://gateway.pipeworx.io/scrapingant/mcp"
    }
  }
}
此端点实际提供的内容

https://gateway.pipeworx.io/scrapingant/mcp 上的 tools/list 会返回上表中的工具,以及 Pipeworx 共享元工具——ask_pipeworx、 discover_tools、search_within、remember/recall 和网关范围内的其他工具。因此,你看到的工具数量会多于此表所列:单个工具包端点目前会列出大约 30 个共享工具,以及该工具包自身的工具。连接的 initialize 响应会说明其确切范围,是特定日期的权威答案。

这是有意设计的,并非意外的多路复用。元工具可以让特定范围的连接回答此工具包无法覆盖的问题——通过可跨整个目录路由的 ask_pipeworx——而无需添加第二个 MCP 服务。目前无法挂载不包含这些工具的工具包端点;如果额外的架构信息带来的上下文成本超过路由的价值,请连接一次完整网关,而不是连接多个工具包端点。

或者连接完整的 Pipeworx 网关,直接列出每个工具包的工具,而不仅仅是此工具包的工具:

{
  "mcpServers": {
    "pipeworx": {
      "url": "https://gateway.pipeworx.io/mcp"
    }
  }
}

这两个 URL 都会连接到同一个网关和同一组 1683+ 个数据源。唯一的区别是会直接列出哪个工具包的工具;无论连接哪个端点,ask_pipeworx 都可以访问所有工具。

没有 MCP 客户端?通过 HTTP 调用

此工具包需要你自己的 API 密钥(_apiKey)——我们不会代为提供,因此这里没有无需密钥即可运行的 curl 命令。查看任意工具:GET https://gateway.pipeworx.io/v1/tools/scrapingant_scrape。查找工具:使用 {"query":"..."} 调用 POST https://gateway.pipeworx.io/v1/tools/search_packs。

独立运行(无需网关账户)

此软件包也可以作为本地 stdio MCP 服务运行——无需 Pipeworx 账户,也无需经过网关:

{
  "mcpServers": {
    "scrapingant": {
      "command": "npx",
      "args": ["-y", "@pipeworx/mcp-scrapingant"]
    }
  }
}

或者直接运行以确认它能启动:

npx -y @pipeworx/mcp-scrapingant

它通过 stdin/stdout 使用 MCP 通信,并响应 initialize/tools/list/tools/call,仅包含此工具包的工具——不包含上述网关连接额外添加的任何共享元工具。源码相同,工具相同,但没有 ask_pipeworx 路由。

使用 ask_pipeworx

你可以用普通英语提问,而不是直接调用工具——此方式既适用于上面的工具包端点,也适用于完整网关:

ask_pipeworx({ question: "your question about Scrapingant data" })

网关会自动选择合适的工具并填入参数。

更多信息

许可证

MIT

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。