DLBrowser について
DLBrowserは、AIエージェント向けのウェブアクセスを提供し、5つのバックエンドを使い分け、ブロック時には順次切り替えます。Markdownや抽出済みコンテンツを返し、バックエンド、所要時間、利用コストも記録します。
主な機能
- 01ブロック時に5つのバックエンドへ切り替え
- 02ウェブ取得、スクレイピング、検索、クロール
- 03Markdown形式とコンテンツ抽出
- 04LLMによる構造化抽出
- 05実行ごとの利用量とコスト記録
活用シーン
- 01エージェントをブロックするページを取得
- 02生のHTMLを避けてページ内容を返す
- 03バックエンド選択と取得コストを追跡
MCP 対応
DLBrowserはMCPクライアントに、`fetch`、`scrape`、`smart_extract`、`crawl`、`search` など11種類のツールを提供します。クライアントはホスト型HTTPゲートウェイに接続するか、ローカル接続を設定できます。
設定
ローカルサーバーの設定はどのクライアントでも共通です。コピーしてクライアントの MCP 設定ファイルに貼り付けてください。
ツール
11掲載時のツール一覧 · 2 週間前に更新
| パラメーター | 型 | 必須 | 説明 |
|---|---|---|---|
| url | string | はい | 取得する URL(必須) |
| mode | enum | いいえ | 抽出モード:html(生データ)、article(クリーンアップ済み)、text(プレーンテキスト)、tables、linksarticle | text | html | tables | links |
| stealth | boolean | いいえ | ステルス型のボット対策を有効にする |
| timeout | integer | いいえ | タイムアウト(秒) |
詳細
DLBrowser
あなたの AI エージェントは、反撃してくるウェブの半分を見ることができません。
Cloudflare、CAPTCHA、JavaScript の壁が、エージェントがブラウジングに使うツールをひそかにブロックします。 DLBrowser なら突破できます。 1 行。自己修復。クレジットに応じた従量課金です。
npx dlbrowser connect --key dlb_xxx
1 つのコマンドで、DLBrowser を Claude Code、Cursor、Windsurf、Cline、Codex に接続します。 エージェントは、実際にページに到達できる 11 個のウェブツールを使えます。
60 秒で試す
pip install dlbrowser
dlbrowser fetch https://example.com
フェッチするたびに、どのバックエンドが成功したか、どれくらい時間がかかったかがわかります。 エンジンは動作する中で最も安価なものを選び、サイトにブロックされた場合にのみ段階的に切り替えるためです。
{ "success": true, "backend": "curl_cffi", "load_time": 0.03, "blocked": false }
実行ごとの料金はプランに対して明確に計測されるため、予想外の請求はありません。
{ "plan": "scout", "remaining_daily": 497, "remaining_monthly": 2497,
"upgrade_url": "https://dekryptlabs.github.io/dlbrowser/pricing.html" }
これはライブゲートウェイからの実際のレスポンスです。無料で始められます。2,500 クレジット、カード登録不要です。
エージェントにこれが必要な理由
エージェントにウェブアクセスを組み込みます。デモでは動作します。しかし、実際のウェブに遭遇すると次のような問題が起きます。
- あるサイトは 50ms の HTTP リクエストで読み込めます。次のサイトは、JS が実行されるまで空の React シェルのままです。
- Cloudflare や DataDome は、ヘッドレスブラウザーにチャレンジページをひそかに表示します。
- エージェント内蔵のフェッチはエラーではなく
""、つまり空文字列を返し、そのまま処理を続けます。 - どのサイトで失敗したのか、どのバックエンドなら成功したのか、いくらかかったのかもわかりません。
DLBrowser は、これらの問題を解決する機能レイヤーです。スクレイパーでもクローラーでもありません。 AI エージェント向けの取得インフラです。信頼性が高く、可観測で、課金可能です。
エンジン:安価な方法から始め、ブロックされた場合にのみ切り替える
curl_cffi → tls_client → playwright → nodriver (CDP) → firecrawl
~50ms ~200ms full JS max stealth last resort
HTTP-level, no browser │ browser-level, real Chromium
└── auto-escalates when a block is detected
実際のフェッチの約 70% では、ブラウザーは必要ありません。50ms のリクエストから始め、ブロックを検出した場合にのみ段階的に切り替えることで、速度とコストを抑えながら、ほかのすべてが止まるサイトにも到達できます。バックエンドは 5 種類です。 Firecrawl は 2 種類、Crawl4AI は 1 種類です。
期待を変えるポイント
| 🔁 自己修復フォールバック | ブロック時に 5 種類のバックエンドへ自動的に切り替えます。エージェントが空文字列を受け取ることはなくなります。 |
| 💸 実行ごとのコスト計測 | すべての実行について、バックエンド、クレジット、推定コストが照会可能な台帳に記録されます。これを公開している競合製品はありません。 CFO がようやく「ウェブデータにいくらかかっているのか?」という問いに答えられます。 |
| 🪙 トークン効率 | 生の HTML ではなく、整形済みの Markdown や抽出済みコンテンツを返します。コンテンツページでは、エージェントのコンテキストに渡すトークンを約 4 分の 1 に削減します(実測値)。API コストを抑え、コンテキストウィンドウを広げ、シグナルの質を高めます。 |
| 🎯 JS による倍率なし | どのバックエンドでも、1 ページあたり 1 クレジットです。Firecrawl と ScrapingBee は JS レンダリングに 5~7 倍の料金を請求します。 |
| 🔒 アトミックな課金計測 | 予約方式により、並行実行時でも**超過は 0%**です。クォータを超えて請求されることはありません。 |
| 🧠 LLM 抽出 | 自然言語から構造化 JSON を生成します。ローカルまたは無料のモデルで実行でき、クラウドキーは不要です。 |
| 📦 MIT、セルフホスト可能 | セルフホストでも全機能を利用できます。データが自社のインフラから外に出ることはありません。ホステッドゲートウェイを使えば、プロキシと CAPTCHA 用インフラの運用を省けます。 |
| 🔌 MCP ネイティブ | まず使うよう促す説明付きの 11 個のツールにより、エージェントは不安定な内蔵ブラウザーよりも DLBrowser を優先します。 |
トークンを減らして、シグナルを明確に
生の HTML はタグ、スクリプト、定型文をエージェントのコンテキストに大量に流し込みます。ノイズにトークンを消費し、モデルは <div class> の羅列の解析に注意を奪われます。DLBrowser は代わりに、クリーンなマークダウンまたは抽出したコンテンツを返します。
稼働中のゲートウェイを通じた実測値です。Wikipedia の記事の場合:
| モード | トークン数(概算) | 生の HTML との比較 |
|---|---|---|
| 生の HTML | ~57,000 | — |
| マークダウン | ~13,000 | 約77%削減 |
| 記事 | ~42,000 | 約27%削減 |
コンテンツページでは取得1回あたりのコンテキストを約4分の1に削減できます。API コストを抑え、ウィンドウに余裕ができ、モデルが推論するためのシグナルも明確になります。削減量はページによって異なります(リンクがまばらなページでは削減効果は小さく、モードはエージェントが選択します)。そのため、ぜひご自身で測定してください:
import asyncio, tiktoken
from hermes_browser import fetch # pip install dlbrowser
enc = tiktoken.get_encoding("cl100k_base")
raw = asyncio.run(fetch(url, mode="html"))["content"]["html"]
md = asyncio.run(fetch(url, mode="markdown"))["content"]["markdown"]
print(len(enc.encode(raw)), "→", len(enc.encode(md)), "tokens")
1行で、あらゆるホストに対応
npx dlbrowser connect --key dlb_xxx
# detects and configures: claude-code · claude-desktop · cursor · windsurf · cline · codex
または、任意の MCP クライアントから無料のホスト型デモゲートウェイを指定してください(ローカル環境を設定せずにお試しいただけます。デモでは一部の機能が制限されています。すべての機能を利用するにはセルフホストしてください):
claude mcp add dlbrowser --transport http \
--url https://api.dekryptlabs.com \
--header "Authorization: Bearer dlb_xxx"
エージェントはすぐに次の機能を利用できます:fetch · scrape · smart_extract · screenshot ·
markdown · crawl · search · serp · status · account · topup。
信頼できますか?(アーキテクチャ)
Agent / CLI / Extension / MCP client
│
┌────┴─────┐
│ Gateway │ Paywalled — 401 no key · 402 over quota · free: status/account
└────┬─────┘
┌────┴─────┐
│ Router │ Adaptive per-domain scoring: success · latency · cost · freshness
└────┬─────┘
┌────┴─────────────────────────────┐
│ curl_cffi → tls → playwright → │ self-healing cascade
│ nodriver → firecrawl │
└────┬─────────────────────────────┘
┌────┴─────┐
│ Ledger │ per-run backend · credits · cost · trace_id (OpenTelemetry)
└──────────┘
ルーターはドメインごとに学習し、利用が増えるほどルーティングが向上します。ゲートウェイより上のすべての部分はMIT ライセンスで、セルフホスト可能です。信頼する前にコードをお読みください。それこそがオープンソースの意義です。
Cloudflare を突破できますか?
実際の多くのサイトで、ブラウザーをまったく使わずに対応できます。 データセンターの IP から、住宅用プロキシを使わずに Cloudflare で保護された5つのサイトをテストしました(最悪の条件です):
| サイト | 結果 | 方法 |
|---|---|---|
| nowsecure.nl(CF チャレンジテスト) | ✅ 成功 | TLS 偽装 |
| crunchbase.com | ✅ 成功 | curl_cffi、0.3秒、ブラウザー不要 |
| nike.com | ✅ 成功 | curl_cffi、1.2秒、ブラウザー不要 |
| g2.com | ❌ 403 | Cloudflare Enterprise — データセンターの IP がレピュテーションによってブロック |
| zillow.com | ❌ 403 | Enterprise と CAPTCHA — 住宅用 IP が必要 |
HTTP レベルの TLS 偽装だけで5件中3件を突破しました。 失敗した2件はフィンガープリントの問題ではなく、住宅用プロキシ経由のルーティングが必要な IP レピュテーションによるブロックです(対応していますが、このテストでは無効にしていました)。Cloudflare をあらゆる状況で突破できるツールはありません。DLBrowser は段階的なエスカレーションで対応します。完全な方法論と「Cloudflare の突破が実際に意味すること」については、 marketing/cloudflare.mdをご覧ください。
Firecrawl/Crawl4AI との幅広い直接比較ベンチマークはまだ公開していません。次に実施し、方法論もあわせて公開する予定です。作り上げた数字を掲載することはありません。 この表を鵜呑みにせず、ご自身にとって最も難しいサイトでお試しください:
pip install "dlbrowser[full]" && python3 -m playwright install chromium
dlbrowser fetch <a-url-that-blocks-your-current-tool> # see the backend that got through
料金
| プラン | 価格 | クレジット | 1日の上限 | バックエンド | CAPTCHA | プロキシ | LLM | キー |
|---|---|---|---|---|---|---|---|---|
| Scout | Free | 2,500(初回のみ) | 500 | curl_cffi | — | — | — | 1 |
| Analyst | $29/mo | 100,000/mo | 5,000 | + tls_client | — | — | 50k | 3 |
| Operator | $85/mo | 500,000/mo | 25,000 | + playwright | ✓ | — | 200k | 10 |
| Command | $299/mo | 2,000,000/mo | 100,000 | すべて + nodriver | ✓ | ✓ | 1M | 50 |
| Enterprise | $999/mo から | 10M–100M+/mo | — | すべて + 専用環境 | ✓ | ✓ | ∞ | ∞ |
1クレジットでバックエンドを問わず1ページを取得できます。年払いは20%割引です。セルフホストは永久に無料です。 料金の詳細 → PRICING.md · ホスト版:dekryptlabs.github.io/dlbrowser/pricing.html
会社で承認されますか?
- マルチテナント — 組織、チーム、シート、ロール
- API キー — 作成、取り消し、ローテーション、スコープ設定、有効期限の設定(SHA-256 でハッシュ化)
- 監査ログ — 誰が、いつ、どのような操作を、いくらのコストで行ったかを記録する改ざん不可能なイベント台帳
- Webhook — HMAC-SHA256 署名付き、デッドレターキュー対応
- SLA 監視 — ノイズに強い変更検出による、スケジュール設定可能なページ差分の監視
- セルフホスト可能 — Docker のワンライナーで導入でき、全機能に対応。データはネットワーク内に保持されます
Enterprise プランは実際の価格($999/mo から)を公開しています。「お問い合わせください」という不透明な料金体系はありません。[email protected]
DLBrowserを使用しないほうがよい場合
- 事前構築済みのデータセットが必要 → Bright Data / Apify
- ビジュアルなスクレイピングIDEが必要 → Octoparse
- スクリーンショットのサービスとしての提供が必要 → Urlbox
DLBrowserは、大規模なウェブアクセスにおいて信頼性、可観測性、コスト管理を必要とするAIエージェントを運用するチーム向けです。
ドキュメント
| リソース | リンク |
|---|---|
| はじめに | GETTING_STARTED.md |
| インテグレーション(LangChain / LlamaIndex) | INTEGRATION_QUICKSTART.md |
| セルフホスト環境へのデプロイ | DEPLOYMENT.md |
| Firecrawl / Crawl4AIとの比較 | COMPARISON.md |
💜 DLBrowserをスポンサーする
DLBrowserはMITライセンスで、今後もずっと無料です。誰でも利用できる無料のホスト型デモゲートウェイも運用しています。スポンサーからの支援は、新しいバックエンド、公開ベンチマーク、サイト固有のスクレイパーの開発に役立ち、無料枠を無料のまま維持できます。エージェントのブロックを回避できた、あるいはトークンを節約できた場合は、ぜひご支援をご検討ください。
スポンサーになる → · 月額10ドルから1,000ドルまでのプランがあります。特典の詳細はSPONSORS.mdをご覧ください。 月額25ドル以上のスポンサーは、下のバナーに名前(100ドル以上の場合はロゴも)を掲載できます — リポジトリ、PyPIページ、npmページを訪れるすべての人の目に触れます。
スポンサー
最初のスポンサーになりませんか — ここに名前またはロゴを掲載します。
スポンサーになる →
mcp-name: io.github.DekryptLabs/dlbrowser
コメント
AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。