mcpField
C
CRW Web Scraper

CRW Web Scraper

ローカル
fastcrw.comブラウザ自動化1.2k今日更新

CRW Web Scraper について

CRW Web Scraper は AI エージェント向けのオープンソースの Web スクレイピングツールで、scrape、crawl、map のツールを提供します。fastCRW プロジェクトをもとにしており、ローカルで実行することも、マネージド API を利用することもできます。エージェントに Web コンテンツを渡す必要のある開発者に適しています。

主な機能

  1. 01オープンソースの Web スクレイピングツール
  2. 02scrape、crawl、map のツール
  3. 03ローカル実行またはマネージド API の利用
  4. 04markdown または構造化 JSON の出力

活用シーン

  1. 01AI エージェント向けの Web ページの markdown 取得
  2. 02Web サイトのページを一括クロールしてコンテンツを収集
  3. 03コーディングツールから MCP 経由で Web スクレイピングを呼び出す

MCP 対応

このプロジェクトは MCP サーバーとして、scrape、crawl、map のツールを MCP クライアントに公開します。

設定

ローカルサーバーの設定はどのクライアントでも共通です。コピーしてクライアントの MCP 設定ファイルに貼り付けてください。

mcp.json · 共通設定
{
"mcpServers": {
"us-crw": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/us/crw:latest"
]
}
}
}
起動コマンドdocker run -i --rm ghcr.io/us/crw:latest

ローカルサーバーにはマシン上の実行環境(Node.js 18 以上など)が必要です。設定ファイルの場所はクライアントごとに異なります。

パッケージ
ocighcr.io/us/crw:latest

ツール

ツール一覧はまだ取得されていません

ローカルサーバーのツールはマシン上で起動して初めて取得できます。メンテナーはまだツール一覧を提供していません。

詳細

fastCRW

fastCRW

URL をクリーンなMarkdownまたは構造化された JSONに変換します。検索、スクレイピング、マッピング、クロール、抽出を1つのエンジンで実行できます。

小さな Rust バイナリとしてローカルで実行するか、マネージド API を利用できます。

無料クレジットを1000件獲得 → · インストール · ドキュメント

クレジットカードは不要です。GitHub で続行できます。

crates.io PyPI npm crw-mcp CI ライセンス GitHub スター

1コマンドでインストール

curl -fsSL https://fastcrw.com/install | sh

ローカルで無料で実行でき、アカウントは不要です。Cloud を利用するには、同じコマンドにキーを貼り付けてください。バイナリがインストールされ、キーが接続され、MCP サーバーがすでに利用している AI コーディングツールに登録されます。

curl -fsSL https://fastcrw.com/install | CRW_API_KEY=crw_live_... sh
crw search "rust tutorials"

Claude Code、Cursor、Codex、Gemini CLI、OpenCode、Windsurf は、すでに設定されていれば自動的に検出されます。それ以外には変更を加えません。また、キーは各ツールにコピーされず、~/.config/crw/config.toml に保存されます。この手順を省略するには CRW_NO_AGENTS=1 を追加するか、crw setup を単独で実行して対話形式で選択してください。

無料クレジット1000件、クレジットカード不要。 マネージドプロキシ、JS レンダリング、検索を利用でき、実行や更新が必要なものはありません。 無料キーを取得 →

macOS と Linux に対応し、Intel と ARM の両方で利用できます。 その他のインストール方法 →

できること

操作結果
スクレイピング1つの URL を Markdown、HTML、リンク、スクリーンショット、またはスキーマ JSON に変換
クロール範囲を限定したサイトのクロールを行い、そのページを収集
マッピングすべてのページをスクレイピングせずに URL を検出
検索ウェブを検索し、選択した結果をスクレイピングすることも可能
抽出1つまたは複数の URL から構造化フィールドを生成

API の全容を見る →

fastCRW を選ぶ理由

Firecrawl が公開している 1,000 URL のデータセットでは、fastCRW は Crawl4AI と Firecrawl より多くの正解情報を取得し、最速の中央値レイテンシーに並び、アイドル時の RAM 使用量は 約 14 MB でした。

正解情報の再現率、固有の取得結果、中央値レイテンシー、ダウンロードサイズ、再現深度における fastCRW と Crawl4AI、Firecrawl の比較

評価方法、全データ、再現方法

まったく別のベンチマークである、スクレイピングの再現率ではなく回答精度の評価では、fastCRW は AA-Omniscience の 600 問のうち 90.0% に正しく回答します。Artificial Analysis Search Index に掲載されているすべての製品を上回っています。

AA-Omniscience の回答精度。fastCRW は 90.0% で、Artificial Analysis Search Index のすべての製品を上回ります。Firecrawl は 73、Exa は 70、You.com は 69、Parallel は 68、Tavily は 64、検索なしでは 38 です。

全 14 製品の比較、対照実行、再現方法

利用方法を選択する

CLI
crw https://example.com            # scrape, works right after install
crw search "rust async runtime"    # search, after `crw setup`
Python SDK

クラウドを利用しますか?API キーを取得し、一度だけエクスポートしてください。

export CRW_API_KEY="crw_live_..."
pip install crw
from crw import CrwClient

client = CrwClient()
page = client.scrape("https://example.com", formats=["markdown"])

print(page["markdown"])
Node.js
npm install crw-sdk
import { CrwClient } from "crw-sdk";

const client = new CrwClient();

const page = await client.scrape("https://example.com", {
  formats: ["markdown"],
});

console.log(page.markdown);

ローカルモードとその他の SDK の例 → · REST API →

AI エージェント向け MCP
npx -y crw-mcp@latest install

検出された AI ツールに CRW スキルと MCP サーバーをインストールします。crw setup でもこの手順を実行できるため、どちらか一方で十分です。 手動セットアップ →

実行場所を選択する

マネージド APIローカル/セルフホスト可能
最適な用途インフラ管理不要で、スケーリングも任せたい場合データ管理、プライベートネットワーク、カスタムインフラ
開始方法API キーを作成し、crw setup を実行crw <URL> をインストールして実行
運用プロキシ、課金、ホスト型の機能をマネージドで提供レンダラー、検索、認証、プロキシ、容量を自分で選択

機能やレスポンス形式はデプロイ方法によって異なる場合があります。 /v1/capabilities · レスポンス形式

セルフホストガイド →

詳細情報

コントリビューション

ワークスペースには Rust 1.85 以降が必要です。

git clone https://github.com/fastcrw/crw
cd crw
make check-fast

コントリビューターガイドを読む →

貢献者

crwは、以下の皆さんのおかげでより良いものになっています。皆さん、ありがとうございます。

us paoloantinori behramcelen rqi14 santhreal AsheTheWings gjija adambenhassen atirna cdebled VIVAAN-DHAWAN alkaz-nodemaven mj520

エンジンとMCPサーバー: AGPL-3.0。PythonおよびTypeScript SDK:MIT。 組み込みライセンスについては、[email protected]までお問い合わせください。

スター履歴

スター履歴チャート

ウェブサイトのポリシーを遵守してください。クロールとマッピングでは、デフォルトで robots.txt に従います。

コメント

MCP は初めてですか?

プロトコルの概要から最初のサーバーの導入まで、よくある疑問にまとめて答えます。

AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。