mcpField
F
fetch-url

fetch-url

github.com/arabold生产力1.8k59 次安装3 天前更新
代码仓库

关于 fetch-url

fetch-url 是用于一次性读取网页的技能,可将单个 URL 内容转为 Markdown,适合检查文档或为摘要和分析提取原文。它不会将内容加入文档索引。

主要功能

  1. 01将网页内容转换为 Markdown
  2. 02自动处理 JavaScript 页面
  3. 03支持自定义请求头
  4. 04支持控制重定向

适用场景

  1. 01读取单个文档页面
  2. 02索引前检查文档内容
  3. 03提取网页文本用于摘要或分析

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/arabold/docs-mcp-server --skill fetch-url

安装后在 Claude Code 中输入/fetch-url确认已加载。

详细介绍

获取 URL

获取单个 URL,并将其内容转换为干净的 Markdown。此操作不会向文档索引添加任何内容;它是一次性读取操作。

适用场景

  • 需要读取单个网页,并将其内容转换为 Markdown。
  • 想在决定是否将文档页面编入索引之前先检查它。
  • 需要获取 URL 的原始文本以进行摘要或分析。

如果需要将内容编入索引以便反复搜索,请改用 docs-manage 技能的 scrape 命令。

命令

npx @arabold/docs-mcp-server@latest fetch-url <url> [options]
标志默认值描述
--follow-redirectstrue跟随 HTTP 重定向
--no-follow-redirects禁止跟随重定向
--scrape-mode auto|fetch|playwrightautoHTML 处理策略
--header "Name: Value"自定义 HTTP 标头(可重复指定)
--quiet禁止显示非错误诊断信息
--verbose启用调试日志

抓取模式

模式适用场景
auto默认模式。先尝试简单的 HTTP 获取;如果页面由 JavaScript 渲染,则回退到 Playwright。
fetch强制使用普通 HTTP 获取。速度最快,但无法获取由 JavaScript 渲染的内容。
playwright强制使用无头浏览器。适用于 SPA 或需要 JavaScript 才能渲染的页面。

示例

# Fetch a documentation page
npx @arabold/docs-mcp-server@latest fetch-url https://react.dev/reference/react/useEffect

# Fetch with custom auth header
npx @arabold/docs-mcp-server@latest fetch-url https://docs.internal.com/api \
  --header "Authorization: Bearer tok_xxx"

# Force Playwright for a JS-heavy page
npx @arabold/docs-mcp-server@latest fetch-url https://some-spa.dev/docs --scrape-mode playwright

# Disable redirect following
npx @arabold/docs-mcp-server@latest fetch-url https://example.com/old-page --no-follow-redirects

输出

该命令会将转换后的 Markdown 文本直接写入 stdout。虽然支持全局 --output 标志,但它不会产生任何效果,因为结果已经是纯文本,而非结构化数据。

诊断信息和错误会输出到 stderr,并且在非交互式会话中默认隐藏。使用 --verbose(或设置 LOG_LEVEL=INFO)可重新启用这些信息。使用 --quiet 可在任何会话类型下禁止显示所有非错误诊断信息。

提示

  • 如果要保存输出,请将其通过管道写入文件: npx @arabold/docs-mcp-server@latest fetch-url <url> > page.md
  • 可与搜索结合使用:search 返回相关 URL 后,抓取页面以读取其完整内容。
  • 对于需要身份验证的页面,可使用 --header 传递 Cookie 或令牌。

评论

支持 Markdown