关于 CRW Web Scraper
CRW Web Scraper 是面向 AI Agent 的开源网页抓取工具,提供 scrape、crawl、map 工具。它基于 fastCRW 项目,可本地运行或使用托管 API,适合需要为 Agent 获取网页内容的开发者。
主要功能
- 01开源网页抓取工具
- 02提供 scrape、crawl、map 工具
- 03可本地运行或使用托管 API
- 04输出 markdown 或结构化 JSON
适用场景
- 01为 AI Agent 获取网页的 markdown 内容
- 02批量爬取网站页面并收集内容
- 03在编码工具中通过 MCP 调用网页抓取
MCP 相关
该项目提供 MCP 服务,将 scrape、crawl、map 等工具暴露给 MCP 客户端。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
docker run -i --rm ghcr.io/fastcrw/crw:latest本地服务需要在你的电脑上安装运行环境(如 Node.js 18+)。各客户端的配置文件位置不同,请参考客户端文档。
ghcr.io/fastcrw/crw:lateststdio工具
本地服务需要在你的电脑上运行后才能读取工具,维护者暂未提供工具列表。
详细介绍
fastCRW
用一个引擎完成搜索、抓取、映射、爬取和提取,将 URL 转换为简洁的markdown或结构化的 JSON。
可作为轻量级 Rust 二进制文件在本地运行,也可使用托管 API。
领取 1000 个免费额度 → · 安装 · 文档
无需信用卡。使用 GitHub 继续。
一条命令完成安装
curl -fsSL https://fastcrw.com/install | sh
本地运行,免费且无需账号。要使用 Cloud,只需将密钥粘贴到同一条命令中,即可安装二进制文件、连接密钥,并为你已有的 AI 编码工具注册 MCP 服务:
curl -fsSL https://fastcrw.com/install | CRW_API_KEY=crw_live_... sh
crw search "rust tutorials"
如果 Claude Code、Cursor、Codex、Gemini CLI、OpenCode 和 Windsurf 已配置好,安装程序会自动检测;不会改动其他内容,密钥也会保存在 ~/.config/crw/config.toml 中,而不会复制到每个工具中。添加 CRW_NO_AGENTS=1 可跳过此步骤,也可以单独运行 crw setup 进行交互式选择。
1000 个免费额度,无需信用卡。 提供托管代理、JS 渲染和搜索,无需运行或维护任何内容。 获取我的免费密钥 →
支持 macOS 和 Linux,兼容 Intel 和 ARM。 查看更多安装选项 →
功能
| 操作 | 结果 |
|---|---|
| 抓取 | 将单个 URL 转换为 markdown、HTML、链接、屏幕截图或 schema JSON |
| 爬取 | 按限定范围爬取网站并收集其页面 |
| 映射 | 发现 URL,无需抓取每个页面 |
| 搜索 | 搜索网络,并可选择抓取指定结果 |
| 提取 | 从一个或多个 URL 中提取结构化字段 |
为什么选择 fastCRW
在 Firecrawl 自己公开的 1,000 个 URL 数据集上,fastCRW 找回的真实信息比 Crawl4AI 和 Firecrawl 更多,中位延迟与最快者持平,空闲时仅占用 ~14 MB 内存。
在另一个完全不同的基准测试中,评估的是答案准确率,而非抓取召回率, fastCRW 正确回答了 600 道 AA-Omniscience 问题中的 90.0%。Artificial Analysis Search Index 上列出的所有产品都低于它。
选择使用方式
CLI
crw https://example.com # scrape, works right after install
crw search "rust async runtime" # search, after `crw setup`
Python SDK
使用云服务?获取 API 密钥,然后导出一次:
export CRW_API_KEY="crw_live_..."
pip install crw
from crw import CrwClient
client = CrwClient()
page = client.scrape("https://example.com", formats=["markdown"])
print(page["markdown"])
Node.js
npm install crw-sdk
import { CrwClient } from "crw-sdk";
const client = new CrwClient();
const page = await client.scrape("https://example.com", {
formats: ["markdown"],
});
console.log(page.markdown);
面向 AI Agent 的 MCP
npx -y crw-mcp@latest install
此操作会在检测到的 AI 工具中安装 CRW skill 和 MCP 服务。crw setup 也能完成这一步,因此选择任一种方式即可。
手动设置 →
选择运行位置
| 托管 API | 本地 / 可自托管 | |
|---|---|---|
| 适用于 | 无需基础设施,并由托管服务扩展 | 数据控制、私有网络或自定义基础设施 |
| 开始使用 | 创建 API 密钥,然后运行 crw setup | 安装并运行 crw <URL> |
| 运维 | 托管代理、计费和托管功能 | 由你选择渲染器、搜索、身份验证、代理和容量 |
不同部署方式的功能和响应格式可能有所不同:
/v1/capabilities · 响应格式
了解更多
贡献
此工作区需要 Rust 1.85 或更高版本:
git clone https://github.com/fastcrw/crw
cd crw
make check-fast
贡献者
有了这些人的贡献,crw 才变得更好。感谢大家:
引擎和 MCP 服务: AGPL-3.0。Python 和 TypeScript SDK:MIT。 嵌入许可:[email protected]。
Star 历史
请遵守网站政策。默认情况下,抓取和映射会遵循 robots.txt。
评论
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。