WebCrawlerAPI について
WebCrawlerAPIは、公開ウェブページを読みやすいMarkdownに変換するリモートMCPサーバーです。JavaScriptで描画されるページにも対応し、ドキュメント、記事、製品ページをチャットやナレッジベースに取り込む用途に向いています。
主な機能
- 01公開ページをMarkdownとして取得
- 02JavaScript描画ページの処理
- 03ナビゲーション、広告、定型部分の除去
- 04OAuth 2.1による接続
- 05読み取り専用get_markdownツール
活用シーン
- 01ウェブ上のドキュメントをAIチャットに取り込む
- 02記事の内容をナレッジベース用に抽出
- 03ページの雑多な要素を除いて製品情報を読む
MCP 対応
リモートMCPサーバーは、公開URLを取得して本文をMarkdownで返す読み取り専用の`get_markdown`ツールを公開します。クライアントはStreamable HTTPで接続し、OAuth 2.1で認証します。
設定
リモートサーバーはインストール不要です。クライアントを選んで設定をコピーするか、ワンクリックで導入できます。
https://mcp.webcrawlerapi.com/mcpclaude mcp add --transport http com-webcrawlerapi https://mcp.webcrawlerapi.com/mcp{"mcpServers":{"com-webcrawlerapi":{"type":"http","url":"https://mcp.webcrawlerapi.com/mcp"}}}Cursor で開く{"servers":{"com-webcrawlerapi":{"type":"http","url":"https://mcp.webcrawlerapi.com/mcp"}}}VS Code で開く{"mcpServers":{"com-webcrawlerapi":{"type":"http","url":"https://mcp.webcrawlerapi.com/mcp"}}}{"mcpServers":{"com-webcrawlerapi":{"serverUrl":"https://mcp.webcrawlerapi.com/mcp"}}}コマンドはターミナルで実行し、JSON は各クライアントの MCP 設定に貼り付けて再起動します。認可が必要なサーバーは初回接続時にログインを求めます。
ツール
詳細
WebCrawlerAPI MCP サーバー
AI アシスタントがあらゆるウェブページを読みやすい Markdown として取得できる、リモートのModel Context Protocolサーバーです。WebCrawlerAPI 上で実行されるため、JavaScript で描画されるページにも対応し、ナビゲーション、広告、定型コンテンツを取り除きます。ドキュメント、記事、製品ページをナレッジベースやチャットに取り込むために使用できます。
- リモート URL:
https://mcp.webcrawlerapi.com/mcp - トランスポート:Streamable HTTP(ステートレス)
- サインイン:
https://auth.webcrawlerapi.com経由の OAuth 2.1。貼り付ける API キーは不要です - ツール:
get_markdown
WebCrawlerAPI アカウントが必要です。https://dash.webcrawlerapi.com から登録してください。
接続
ワンクリックでインストール:Cursor に追加 · VS Code に追加
以下の各クライアントで最初のリクエストを送信すると、ブラウザーウィンドウが開き、サインインしていずれかの組織へのアクセスを承認します。リクエストはその組織に請求されます。
Claude Code
claude mcp add --transport http webcrawlerapi https://mcp.webcrawlerapi.com/mcp
続いて Claude Code 内で /mcp を実行し、webcrawlerapi を選択して「Authenticate」を選びます。
Claude.ai と Claude Desktop
- 「Settings」を開き、「Connectors」を選択します。
- 「Add custom connector」を選択します。
- 名前:
WebCrawlerAPI。URL:https://mcp.webcrawlerapi.com/mcp。 - 「Connect」をクリックし、ブラウザーでアクセスを承認します。
Cursor
~/.cursor/mcp.json(またはプロジェクト内の .cursor/mcp.json)に以下を追加します。
{
"mcpServers": {
"webcrawlerapi": {
"url": "https://mcp.webcrawlerapi.com/mcp"
}
}
}
Cursor の「Settings」を開き、「MCP」を選択して、webcrawlerapi の横にある「Connect」をクリックします。
VS Code
.vscode/mcp.json に以下を追加します(または「MCP: Add Server」を実行し、「HTTP」を選択します)。
{
"servers": {
"webcrawlerapi": {
"type": "http",
"url": "https://mcp.webcrawlerapi.com/mcp"
}
}
}
エントリの上にある CodeLens からサーバーを起動し、ブラウザーでアクセスを承認します。
MCP Inspector
npx @modelcontextprotocol/inspector
トランスポートに「Streamable HTTP」、URL に https://mcp.webcrawlerapi.com/mcp を指定し、「Auth」タブで OAuth フローを実行してから、get_markdown を呼び出します。
ChatGPT
- 「Settings」、「Connectors」の順に開き、「Developer mode(Advanced)」をオンにします。
- URL を
https://mcp.webcrawlerapi.com/mcpに設定し、認証方式に OAuth を指定してコネクターを作成します。 - チャットでコネクターを有効にし、ブラウザーでアクセスを承認します。
メニュー名は ChatGPT のプランやリリースによって異なります。カスタムコネクターは、すべてのプランで利用できるとは限りません。
ツールのリファレンス
get_markdown
公開ウェブページを取得し、主要なコンテンツを読みやすい Markdown として返します。
| 入力 | 型 | 必須 | 説明 |
|---|---|---|---|
url | string | はい | 最大 2048 文字の絶対 http:// または https:// URL |
ページを Markdown テキストとして返します。失敗した場合、ツールは短い人間が読めるエラーメッセージ(サイトに到達できない、ページが robots.txt でブロックされている、タイムアウト、残高不足など)を含むエラー結果を返します。
アノテーション:読み取り専用、べき等、非破壊的、オープンワールド(公開ウェブにアクセスします)。
呼び出しごとに WebCrawlerAPI 組織に請求されます。https://webcrawlerapi.com/pricing をご覧ください。
認証
このサーバーは OAuth リソースサーバーです。クライアントは
https://mcp.webcrawlerapi.com/.well-known/oauth-protected-resource から認可サーバーを検出します。この URL は https://auth.webcrawlerapi.com を指しています。
- スコープ:
markdown:read(唯一のスコープ) - トークンは MCP サーバーの URL(リソースインジケーター)と、承認した組織に紐づけられます。
- ダッシュボードの「Connected apps」で、接続済みのアプリを確認し、アクセスを取り消せます。
- サーバーがトークンを他のサービスに転送することはありません。
プライバシーと利用規約
- プライバシーポリシー:https://webcrawlerapi.com/privacy
- 利用規約:https://webcrawlerapi.com/tos
サーバーは、取得を依頼された URL を受け取り、ページの内容を返します。トークンや、クエリ文字列を含む完全な URL をログに記録することはありません。
料金
利用料金は組織に請求されます。現在の料金:https://webcrawlerapi.com/pricing
コントリビューション
CONTRIBUTING.md と 行動規範 を参照してください。変更内容は CHANGELOG.md に記載されています。
サポート
[email protected]。セキュリティに関する報告については、SECURITY.md を参照してください。
開発
Node 22 と pnpm が必要です。
pnpm install
cp .env.example .env # fill in the values
pnpm dev # tsx watch
pnpm lint && pnpm test && pnpm build
設定は環境変数で行います。.env.example と CONTRIBUTING.md を参照してください。レジストリへの公開手順は
docs/registry-verification.md に記載されています。
ライセンス
MIT。LICENSE を参照してください。
コメント
AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。