mcpField
F
firecrawl-lean

firecrawl-lean

github.com/alexsmedile数据与数据库32206 次安装3 周前更新
代码仓库

关于 firecrawl-lean

Firecrawl CLI 的精简参考技能,面向需要通过命令行搜索和提取网页内容的用户。它按搜索、抓取、站点映射到高级爬取等步骤组织命令,并提供输出管理建议。

主要功能

  1. 01搜索网页并支持地域与新闻筛选
  2. 02抓取网页正文及多种格式
  3. 03按站点查找 URL
  4. 04批量爬取或下载页面
  5. 05使用 Agent 提取结构化数据

适用场景

  1. 01查找特定主题的网页资料
  2. 02提取 JavaScript 页面或长篇文章内容
  3. 03定位文档站点中的相关页面
  4. 04将网页内容保存为本地文件或 JSON

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/alexsmedile/firecrawl-lean --skill firecrawl-lean

安装后在 Claude Code 中输入/firecrawl-lean确认已加载。

包含的文件

除 SKILL.md 外,安装时一起下载的参考资料和脚本。

.gitignore
PROJECT.md
TODO.md
STATUS.md
LICENSE
README.md
.agents/plugins/
marketplace.json
.claude-plugin/
marketplace.json
plugin.json
.codex-plugin/
plugin.json
articles/2026-05-19-the-skill-you-load-but-dont-use/
article.md

详细介绍

Firecrawl CLI — 精简参考

检查状态:firecrawl --status(显示身份验证、积分和并发限制)。 尚未安装?运行:npm install -g firecrawl-cli && firecrawl auth 身份验证命令:firecrawl login、firecrawl logout、firecrawl view-config

WebFetch 与 Firecrawl

先尝试 WebFetch(免费)。在以下情况下使用 Firecrawl:

  • 需要网页搜索(WebFetch 无法搜索)
  • JS 密集型 SPA / 营销页面
  • 完整文章内容(WebFetch 会截断较长的页面)
  • WebFetch 输出少于 1000 个字符或看起来不完整

升级模式

search → scrape → map+scrape → crawl* → interact*

* = 高级功能;如有需要,请安装专用技能

命令

Search — 尚无 URL,需要查找页面:

firecrawl search "query" --limit 5 -o .firecrawl/results.json --json
firecrawl search "query" --scrape -o .firecrawl/results.json --json        # include full content
firecrawl search "query" --sources news --tbs qdr:d --json                 # news, past day
firecrawl search "query" --country US --location "New York" --json         # geo-targeted

Scrape — 已有 URL:

firecrawl scrape "<url>" -o .firecrawl/page.md
firecrawl scrape "<url>" --only-main-content -o .firecrawl/page.md        # strip nav/footer
firecrawl scrape "<url>" --wait-for 3000 -o .firecrawl/page.md            # wait for JS
firecrawl scrape "<url>" --query "What is the enterprise price?"            # targeted Q (5 credits)
firecrawl scrape "<url>" --format markdown,html,screenshot -o .firecrawl/page.md  # multi-format
firecrawl scrape "<url>" --format json --schema '{"price":"string"}' -o .firecrawl/data.json  # structured

Map — 查找网站内的 URL:

firecrawl map "<url>" --search "authentication" -o .firecrawl/urls.txt
firecrawl map "<url>" --limit 200 --json -o .firecrawl/urls.json
firecrawl map "<url>" --include-subdomains --sitemap -o .firecrawl/urls.json

Crawl — 批量提取网站板块(高级功能 — 安装 firecrawl-crawl 获取完整文档):

firecrawl crawl "<url>" --include-paths /docs --limit 50 --wait -o .firecrawl/crawl.json
firecrawl crawl "<url>" --max-depth 3 --delay 500 --exclude-paths /blog --wait -o .firecrawl/crawl.json

Download — 将网站保存为本地文件(高级功能):

firecrawl download "<url>" --limit 20 -y -o .firecrawl/site/

Interact — 抓取后点击 / 填写表单(高级功能 — 安装 firecrawl-instruct 获取完整文档):

firecrawl scrape "<url>"
firecrawl interact --prompt "Click the login button"
firecrawl interact stop

Agent — 由 AI 驱动的结构化提取(高级功能 — 安装 firecrawl-agent 获取完整文档):

firecrawl agent "extract all pricing tiers" --wait -o .firecrawl/data.json
firecrawl agent "extract pricing" --urls "<url>" --schema '{"tiers":[]}' --wait -o .firecrawl/data.json

Browser — CDP / Playwright 风格的自动化(不同于 interact):

firecrawl browser launch-session "<url>"
firecrawl browser execute --code "document.querySelector('button').click()"
firecrawl browser list
firecrawl browser close <session-id>

输出规则

  • 始终使用 -o 将输出写入 .firecrawl/,避免上下文膨胀
  • 将 .firecrawl/ 添加到 .gitignore
  • 始终为 URL 加上引号(? 和 & 是 shell 特殊字符)
  • 切勿一次性读取全部输出:使用 head -50 file.md 或 grep "keyword" file.md
  • 命名规则:.firecrawl/search-{query}.json、.firecrawl/{site}-{path}.md

从 JSON 结果中提取 URL

jq -r '.data.web[].url' .firecrawl/search.json

积分

firecrawl credit-usage

评论

支持 Markdown