mcpField
W
Webcrawl Anything

Webcrawl Anything

リモート
github.comブラウザ自動化21 日前に更新
リポジトリ公式サイト

Webcrawl Anything について

Webcrawl Anythingは、ウェブ調査やドキュメント解析を行うエージェント向けのローカルMCPサーバーです。検索、クロール、抽出、分野別検索をまとめ、ローカルモードではAPIキーなしで動作します。

主な機能

  1. 01ウェブ検索と分野別検索
  2. 02JavaScriptを使うページの読み取り
  3. 03PDFとOfficeファイルの解析
  4. 04ドメイン内URLの発見とクロール
  5. 05構造化JSONの抽出
  6. 06検索結果の関連度順並べ替え

活用シーン

  1. 01ニュース、学術、技術サイトの調査
  2. 02ドメイン内のページ収集と確認
  3. 03ウェブページからの項目抽出
  4. 04PDFやOffice文書の読み取り

MCP 対応

検索、読み取り、解析、クロール、抽出、再ランキングなどのツールをMCPクライアントに提供します。既定ではローカルで動作し、任意でホスト型エンドポイントにも接続できます。

設定

リモートサーバーはインストール不要です。クライアントを選んで設定をコピーするか、ワンクリックで導入できます。

エンドポイントhttps://webcrawl.app/mcp
インストールコマンドをコピー
Claude CodeTerminal
Cursor.cursor/mcp.json
VS Code.vscode/mcp.json
Claude Desktopclaude_desktop_config.json
Windsurf~/.codeium/windsurf/mcp_config.json

コマンドはターミナルで実行し、JSON は各クライアントの MCP 設定に貼り付けて再起動します。認可が必要なサーバーは初回接続時にログインを求めます。

パッケージ
npm@webcrawl/mcp1.4.2

ツール

詳細

@webcrawl/mcp

Webcrawl Anything 用の Model Context Protocol(MCP)サーバーです。

Claude Code、Cursor、Codex、Windsurf、Gemini CLI から、ウェブ検索、構造化されたカテゴリ(ショッピング、航空券、ホテル、不動産、地域のビジネス、CVE)、JavaScript を多用するサイトのページ読み込み、PDF/Office ファイルの解析をリアルタイムで利用できます。API キーもアカウントも不要で、お使いのマシン上で動作します。

1 つのコマンドでエージェントをセットアップ

@webcrawl/mcp を登録し、webcrawl-anything Agent Skill(SKILL.md)を自動的にインストールします。

npx webcrawl setup

MCP の手動設定

.cursor/mcp.json、~/.claude.json、または MCP クライアントの設定に追加します。

{
  "mcpServers": {
    "webcrawl": {
      "command": "npx",
      "args": ["-y", "@webcrawl/mcp@latest"],
      "env": {
        "WEBCRAWL_MCP_SCHEMA_PROFILE": "compact"
      }
    }
  }
}
オプション:webcrawl.app クラウド

ローカルモードがデフォルトで、それ以外の設定は不要です。同じツールをホストサービスで実行するには、次のいずれかを行います。

  • 上記の env に "WEBCRAWL_API_KEY": "wc_live_..." を追加します(キーは webcrawl.app で取得できます)。または
  • クライアントをホストエンドポイント https://webcrawl.app/mcp に接続し、ブラウザーでサインインします。ローカルへのインストールは不要です。

WEBCRAWL_MODE には local、cloud、auto を設定できます(デフォルト:キーが設定されていない場合は local)。

コンパクトなスキーマプロファイル

WEBCRAWL_MCP_SCHEMA_PROFILE=compact を設定すると(npx webcrawl setup でインストールした場合のデフォルト)、サーバー側の完全な検証を維持しながら、コンテキストに制約のあるエージェントでツールスキーマが使用するトークンを最小限に抑えられます。詳細なパラメーター説明を使用するには、WEBCRAWL_MCP_SCHEMA_PROFILE=full を設定します。

提供されるツール

  • web_search — ウェブまたは構造化されたカテゴリ(shopping、flights、hotels、real-estate、business、security、academic、tech、news)を検索します。
  • web_read — URL を取得し、対象の根拠情報を含む整形済み Markdown を返します。
  • web_parse / web_parse_status — PDF(ネイティブ形式+OCR)、Word/Excel/PowerPoint ファイル、YouTube 動画、音声/動画を Markdown に解析します。
  • web_map — ドメイン上のすべての URL を検出します(sitemap.xml、robots.txt、リンクグラフ)。
  • web_crawl — URL を起点に最大 25 ページをクロールします。
  • web_extract — プロンプトまたは JSON Schema を使って、URL から構造化 JSON を抽出します。
  • web_rerank — クエリとの関連性に基づいて候補ドキュメントを再ランク付けします。
  • web_monitor — ページ、URL リスト、またはサイトをスケジュールに従って監視し、トリガー条件に応じてメール/Webhook アラートを送信します(クラウドのみ)。
  • search_categories — サポート対象の検索カテゴリ、サブカテゴリ、フィルターをすべて一覧表示します。

ライセンス

MIT

コメント

MCP は初めてですか?

プロトコルの概要から最初のサーバーの導入まで、よくある疑問にまとめて答えます。

AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。