mcpField
W
Web Content & URL Tools

Web Content & URL Tools

远程服务
apify.com浏览器自动化03 周前更新

关于 Web Content & URL Tools

Web Content & URL Tools 是面向需要读取网页和检查 URL 的 Agent 的托管 MCP 服务。其 26 个工具涵盖网页提取、网站与域名检查、身份诊断、开发工具和 Hyperliquid 行情数据。

主要功能

  1. 01将网页内容转换为 Markdown
  2. 02提取元数据、结构和技术栈
  3. 03检查重定向、TLS、标头和 SEO
  4. 04检查域名、订阅源和邮件认证
  5. 05分析 SAML 与 OpenID Connect
  6. 06使用开发工具和 Hyperliquid 数据

适用场景

  1. 01整理网页内容以供大模型处理
  2. 02检查网站安全、SEO 或失效链接
  3. 03诊断邮件认证和 SSO 设置
  4. 04查询时区、正则表达式或行情数据

MCP 相关

向 MCP 客户端提供 26 个网页读取、URL 检查、身份诊断、开发工具及 Hyperliquid 数据工具。服务通过 Streamable HTTP 托管,支持 Apify 令牌认证或通过 Apify MCP 网关使用 OAuth。

配置

远程服务无需本地安装。选择你使用的客户端,复制配置或使用一键安装。

服务地址https://avalonai--web-content-url-tools-mcp.apify.actor/mcp
一键复制安装命令
Claude CodeTerminal
Cursor.cursor/mcp.json
VS Code.vscode/mcp.json
Claude Desktopclaude_desktop_config.json
Windsurf~/.codeium/windsurf/mcp_config.json

命令在终端中运行;JSON 粘贴到对应客户端的 MCP 配置后重启。需要授权的服务会在首次连接时提示登录。

全部服务地址
Streamable HTTPhttps://avalonai--web-content-url-tools-mcp.apify.actor/mcp需要授权

工具

详细介绍

Web 内容与 URL 工具 MCP 服务

一个远程 Model Context Protocol 服务,为 AI Agent 提供 26 个工具,用于读取和检查网页——无需浏览器,无需设置,仅对成功调用付费。

以整洁的 Markdown 格式读取任意页面、提取元数据或结构、检测其技术栈,并检查重定向、TLS 证书、安全标头、robots.txt、站点地图、信息流、域名(WHOIS/DNS)、SEO、失效链接、电子邮件身份验证(SPF、DMARC、DKIM)和单点登录(SAML、OpenID Connect)。它还包含日常开发者实用工具(cron、正则表达式、颜色、Unicode、时区)以及 Hyperliquid 永续合约市场数据。

连接

选项 1 — Standby URL + Apify API token

使用你的 Apify API token 作为 Bearer token。 适用于 Claude Desktop、Claude Code、Cursor、VS Code、Windsurf,以及任何支持通过标头连接远程服务的 MCP 客户端。

{
  "mcpServers": {
    "web-content-url-tools": {
      "url": "https://avalonai--web-content-url-tools-mcp.apify.actor/mcp",
      "headers": { "Authorization": "Bearer <YOUR_APIFY_TOKEN>" }
    }
  }
}
选项 2 — 通过 mcp.apify.com 使用 OAuth(无需复制 token)

支持 MCP OAuth 的客户端可以通过 Apify 托管的 MCP 网关连接,并在浏览器中使用 Apify 账户登录:

https://mcp.apify.com?tools=avalonai/web-content-url-tools-mcp

Claude Code 示例:

claude mcp add --transport http web-content-url-tools "https://mcp.apify.com?tools=avalonai/web-content-url-tools-mcp"

工具

网页和 URL
工具返回内容每次调用价格
to_markdown整洁、适用于大模型的主要内容 Markdown(移除菜单、广告和页脚)、字数/字符数、语言$0.003
get_metadata标题、描述、预览图片、网站名称、规范 URL、favicon、作者、发布时间、Open Graph / Twitter 标签$0.003
extract_structure标题大纲、站内/站外链接、图片、表格和 JSON-LD$0.003
detect_technologiesCMS、框架、电商平台、CDN、分析和支付工具,以及相关证据$0.003
trace_redirects到达最终 URL 的每一跳重定向(HTTP 和 meta refresh)——展开短链接$0.001
check_ssl证书颁发者、到期时间、剩余天数、SAN,以及浏览器是否信任该证书$0.001
grade_security_headers安全标头、信息泄露和不安全 Cookie 的 A+ 到 F 评级$0.001
parse_robots按用户代理列出的 robots.txt 规则、站点地图,以及是否允许抓取某路径$0.001
parse_sitemap站点地图或站点地图索引中的 URL(自动发现,支持 gzip)$0.001
read_feed转换为 JSON 的 RSS、Atom 或 RDF 信息流(从网站 URL 自动发现)$0.001
lookup_domainWHOIS(RDAP)注册商、日期、域名年龄、名称服务器、DNS 记录、MX/SPF/DMARC$0.001
audit_seo页面 SEO 评分和等级,并提供按优先级排序的问题及修复方法$0.003
check_broken_links最多检查 100 个链接:分别报告失效、重定向和被机器人拦截的链接$0.003
电子邮件和身份诊断
工具返回内容每次调用价格
check_email_domainMX、SPF(最多查询 10 次)、DMARC、DKIM、MTA-STS、TLS-RPT 和 BIMI 的通过/警告/失败评级,并提供修复方法和 0-100 分的评分$0.003
analyze_saml_metadataSAML 元数据(XML 或 URL):实体 ID、端点和绑定、NameID 格式、签名证书到期时间及问题$0.001
check_oidc_providerOpenID Connect 发现和 JWKS:颁发者匹配、HTTPS、PKCE S256、ID token 算法、密钥大小、证书到期时间$0.001
开发者实用工具
工具返回内容每次调用价格
parse_cron有效性、通俗易懂的说明,以及任意时区的上一次和下一次运行时间$0.001
test_regex每个匹配项的位置和分组,以及查找和替换结果;失控的模式会在 0.1 s 后停止$0.001
convert_colorHEX、RGB、HSL、HSV、CMYK、最佳文本颜色、对比度和调色板$0.001
check_color_contrastWCAG 2 对比度,以及 AA/AAA 是否通过$0.001
inspect_unicode每个字符的码点、名称和字节;字素数量;规范化形式$0.001
convert_timezone多个 IANA 时区中的同一时间,包括偏移量、缩写和夏令时$0.001
list_timezonesIANA 时区名称,可按区域筛选$0.001
Hyperliquid 永续合约市场数据
工具返回内容每次调用价格
hyperliquid_markets标记价/预言机价格、24 小时涨跌幅、每小时和年化资金费率、未平仓量、成交量$0.001
hyperliquid_funding_history每小时资金费率历史记录(最多 30 天),包括平均费率和年化费率$0.001
hyperliquid_candles从 1 分钟到 1 周的 OHLCV 蜡烛图$0.001

Hyperliquid 数据来自 Hyperliquid 的公开市场数据。本服务与 Hyperliquid 没有隶属关系,返回的任何内容都不构成财务建议。

定价

通过你的 Apify 账户按成功的工具调用付费:检查和实用工具每次 $0.001,页面工具每次 $0.003。失败的调用(URL 无效、网站屏蔽、超时)免费,并会返回清晰的错误原因。

注意事项

  • 页面内容取自服务发送的 HTML;完全在浏览器中渲染内容的网站返回的文本很少,并会在 warning 字段中说明。
  • 有些网站会屏蔽自动访问;此类调用会返回 target_blocked,且不会收费。
  • 仅获取公开的 http/https 地址;拒绝访问私有和内部地址。

关于此仓库

这是用于托管 MCP 服务的 Apify Actor 源代码。它是一个轻量级连接器:每个工具都会将请求转发到 Web Content API,并返回 JSON 结果。

.actor/        Apify Actor definition (Standby mode, MCP path /mcp, pay-per-event pricing)
src/main.py    MCP server (FastMCP, Streamable HTTP) and tool definitions
Dockerfile     Container image

你无需自行运行它——连接到上方托管的端点即可。

许可证

MIT © Avalon Company

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。