关于 DLBrowser
DLBrowser 为 AI Agent 提供网页访问能力,可在五种后端间选择,并在页面拦截时逐级切换。它返回 Markdown 或提取后的内容,并报告所用后端、耗时和用量成本。
主要功能
- 01遭遇拦截时切换五种后端
- 02网页抓取、搜索与爬取工具
- 03Markdown 格式与内容提取
- 04基于 LLM 的结构化提取
- 05逐次运行的用量与成本记录
适用场景
- 01获取会拦截 Agent 的网页
- 02不返回原始 HTML,直接提供页面内容
- 03追踪后端选择与抓取成本
MCP 相关
DLBrowser 向 MCP 客户端提供 11 种工具,包括 `fetch`、`scrape`、`smart_extract`、`crawl` 和 `search`。客户端可连接其托管 HTTP 网关,或配置本地连接。
配置
本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。
工具
11收录的工具列表 · 更新于 2 周前
| 参数 | 类型 | 必填 | 说明 |
|---|---|---|---|
| url | string | 是 | 要获取的 URL(必填) |
| mode | enum | 否 | 提取模式:html(原始)、article(清理后)、text(纯文本)、tables、linksarticle | text | html | tables | links |
| stealth | boolean | 否 | 启用隐身反机器人措施 |
| timeout | integer | 否 | 超时时间(秒) |
详细介绍
DLBrowser
你的 AI Agent 看不到那些会阻挡它的半个网络。
Cloudflare、验证码和 JavaScript 墙会悄无声息地拦住 Agent 用来浏览网页的工具。 DLBrowser 能突破这些阻碍。 一行代码。自我修复。按信用点计量。
npx dlbrowser connect --key dlb_xxx
只需一条命令,即可将 DLBrowser 接入 Claude Code、Cursor、Windsurf、Cline 和 Codex。 你的 Agent 将获得 11 个真正能访问网页的工具。
60 秒快速试用
pip install dlbrowser
dlbrowser fetch https://example.com
每次抓取都会告诉你哪个后端成功访问了网页,以及耗时多久——因为引擎会选择能正常工作的最便宜方案,只有遇到网站阻拦时才升级:
{ "success": true, "backend": "curl_cffi", "load_time": 0.03, "blocked": false }
每次运行都会按套餐公开计量——不会收到意外账单:
{ "plan": "scout", "remaining_daily": 497, "remaining_monthly": 2497,
"upgrade_url": "https://dekryptlabs.github.io/dlbrowser/pricing.html" }
这是从在线网关获取的真实响应。免费开始——2,500 个信用点,无需银行卡。
为什么你的 Agent 需要它
你为 Agent 接入网页访问能力。在演示中一切正常,直到它遇到真实网络:
- 一个网站通过 50 毫秒的 HTTP 请求就能加载。下一个网站却只有一个空的 React 外壳,必须运行 JS 才会显示内容。
- Cloudflare 和 DataDome 会悄悄向你的无头浏览器发送验证页面。
- Agent 内置的 fetch 返回
""——不是报错,而是一个空字符串——然后继续运行。 - 你不知道哪些网站访问失败、哪个后端本可以成功,也不知道这一切花了多少钱。
DLBrowser 是解决这些问题的能力层。它不是爬虫,也不是抓取器。 它是面向 AI Agent 的数据获取基础设施——可靠、可观测、可计费。
引擎:从低成本方案开始,仅在受阻时升级
curl_cffi → tls_client → playwright → nodriver (CDP) → firecrawl
~50ms ~200ms full JS max stealth last resort
HTTP-level, no browser │ browser-level, real Chromium
└── auto-escalates when a block is detected
约 70% 的实际抓取无需浏览器。先从 50 毫秒的请求开始,仅在检测到拦截时逐级升级,既能保持快速、低成本,又能访问其他工具无法访问的网站。五种后端。 Firecrawl 有两种。Crawl4AI 只有一种。
重新定义预期
| 🔁 自我修复的回退机制 | 遇到拦截时自动升级至五种后端。你的 Agent 不再收到空字符串。 |
| 💸 逐次运行的成本遥测 | 每次运行都会将后端、信用点和预估成本记录到可查询的账本中。没有竞争对手会公开这些信息。 你的 CFO 终于能回答“我们的网页数据要花多少钱?” |
| 🪙 节省令牌 | 返回干净的 Markdown/提取内容,而非原始 HTML——在内容页面上,传入 Agent 上下文的令牌数减少约 4 倍(实测)。降低 API 成本,留出更多上下文窗口,获得更优质的信息。 |
| 🎯 不因 JS 增加费用 | 无论使用哪种后端,每页均为 1 个信用点。Firecrawl 和 ScrapingBee 对 JS 渲染收取 5–7 倍费用。 |
| 🔒 原子计量 | 基于预留机制——超额率为 0%,即使并发运行也一样。计费绝不会超出你的配额。 |
| 🧠 LLM 提取 | 自然语言 → 结构化 JSON。使用本地/免费模型运行——无需云端密钥。 |
| 📦 MIT 许可,可自托管 | 自托管时功能完整。你的数据绝不会离开自己的基础设施。托管网关只是帮你省去运行代理和验证码基础设施的麻烦。 |
| 🔌 原生支持 MCP | 提供 11 个工具,并配有优先使用的描述,让你的 Agent 遇到问题时优先调用 DLBrowser,而不是不稳定的内置浏览器。 |
更少的令牌,更清晰的信号
原始 HTML 会把标签、脚本和样板内容塞进 Agent 的上下文——你要为这些噪声支付令牌费用,模型还得费心解析 <div class> 的内容。DLBrowser 则会返回干净的 markdown 或提取后的内容。
通过实时网关进行的实际测量——一篇 Wikipedia 文章:
| 模式 | 令牌数(约) | 相比原始 HTML |
|---|---|---|
| 原始 HTML | ~57,000 | — |
| Markdown | ~13,000 | 少约 77% |
| 文章 | ~42,000 | 少约 27% |
在内容页面上,每次抓取所需的上下文约减少 4 倍——降低 API 成本,为上下文窗口腾出更多空间,也为模型提供更好的推理信号。节省量因页面而异(稀疏的链接列表节省很少,而且你的 Agent 可以选择模式),所以请自行测量:
import asyncio, tiktoken
from hermes_browser import fetch # pip install dlbrowser
enc = tiktoken.get_encoding("cl100k_base")
raw = asyncio.run(fetch(url, mode="html"))["content"]["html"]
md = asyncio.run(fetch(url, mode="markdown"))["content"]["markdown"]
print(len(enc.encode(raw)), "→", len(enc.encode(md)), "tokens")
一行命令,适用于所有主机
npx dlbrowser connect --key dlb_xxx
# detects and configures: claude-code · claude-desktop · cursor · windsurf · cline · codex
或者让任意 MCP 客户端连接到免费托管演示版网关(无需本地设置即可试用——演示版会限制部分功能;自托管即可使用完整引擎):
claude mcp add dlbrowser --transport http \
--url https://api.dekryptlabs.com \
--header "Authorization: Bearer dlb_xxx"
你的 Agent 会立即获得:fetch · scrape · smart_extract · screenshot ·
markdown · crawl · search · serp · status · account · topup。
我可以信任它吗?(架构)
Agent / CLI / Extension / MCP client
│
┌────┴─────┐
│ Gateway │ Paywalled — 401 no key · 402 over quota · free: status/account
└────┬─────┘
┌────┴─────┐
│ Router │ Adaptive per-domain scoring: success · latency · cost · freshness
└────┬─────┘
┌────┴─────────────────────────────┐
│ curl_cffi → tls → playwright → │ self-healing cascade
│ nodriver → firecrawl │
└────┬─────────────────────────────┘
┌────┴─────┐
│ Ledger │ per-run backend · credits · cost · trace_id (OpenTelemetry)
└──────────┘
路由器会针对不同域名进行学习——使用越多,路由效果越好。网关以上的所有内容均为 MIT 许可且可自托管。在信任它之前先阅读代码;这正是开源的意义所在。
它能击败 Cloudflare 吗?
在许多真实网站上,**完全不需要浏览器。**我们使用数据中心 IP,且不通过住宅代理,测试了 5 个受 Cloudflare 保护的网站(最坏情况):
| 网站 | 结果 | 方式 |
|---|---|---|
| nowsecure.nl(CF challenge 测试) | ✅ 通过 | TLS 模拟 |
| crunchbase.com | ✅ 通过 | curl_cffi,0.3 秒,无需浏览器 |
| nike.com | ✅ 通过 | curl_cffi,1.2 秒,无需浏览器 |
| g2.com | ❌ 403 | Cloudflare Enterprise——数据中心 IP 因信誉问题被拦截 |
| zillow.com | ❌ 403 | Enterprise + 验证码——需要住宅 IP |
**仅靠 HTTP 层面的 TLS 模拟就有 3/5 通过。**两项失败并非指纹识别失败——而是 IP 信誉拦截,需要通过住宅代理进行路由(支持此功能,但本次测试中未启用)。没有任何工具能在所有情况下击败 Cloudflare;DLBrowser 的方案是分层升级。完整方法及“击败 Cloudflare 实际意味着什么” → marketing/cloudflare.md。
我们尚未发布与 Firecrawl/Crawl4AI 的大范围对比基准测试——这是接下来的计划,届时会同时公布测试方法。我们不会编造数据。别相信我们的表格——请在你最难抓取的网站上自行测试:
pip install "dlbrowser[full]" && python3 -m playwright install chromium
dlbrowser fetch <a-url-that-blocks-your-current-tool> # see the backend that got through
定价
| 套餐 | 价格 | 点数 | 每日上限 | 后端 | 验证码 | 代理 | LLM | 密钥 |
|---|---|---|---|---|---|---|---|---|
| Scout | 免费 | 一次性 2,500 | 500 | curl_cffi | — | — | — | 1 |
| Analyst | $29/月 | 100,000/月 | 5,000 | + tls_client | — | — | 50k | 3 |
| Operator | $85/月 | 500,000/月 | 25,000 | + playwright | ✓ | — | 200k | 10 |
| Command | $299/月 | 2,000,000/月 | 100,000 | 全部 + nodriver | ✓ | ✓ | 1M | 50 |
| Enterprise | $999/月起 | 10M–100M+/月 | — | 全部 + 专用 | ✓ | ✓ | ∞ | ∞ |
1 点数 = 1 个页面,适用于任意后端。年付优惠 20%。自托管永久免费。 完整定价 → PRICING.md · 托管版:dekryptlabs.github.io/dlbrowser/pricing.html
我的公司会批准使用它吗?
- 多租户——组织、团队、席位、角色
- API 密钥——创建、撤销、轮换、限定范围、设置过期时间(经 SHA-256 哈希处理)
- 审计日志——不可变的事件台账:谁在何时做了什么、花费了多少
- Webhooks——使用 HMAC-SHA256 签名,并配备死信队列
- SLA 监控——按计划对页面进行差异比对,并通过容噪变更检测识别变化
- 自托管——一条 Docker 命令即可部署,功能完全一致,数据留在你的网络中
Enterprise 套餐公布真实价格($999/月起)——没有“联系我们”这种黑箱。[email protected]
何时不使用 DLBrowser
- 你需要预构建数据集 → Bright Data / Apify
- 你需要可视化抓取 IDE → Octoparse
- 你需要截图即服务 → Urlbox
DLBrowser 适用于需要大规模可靠、可观测且成本可控的 Web 访问的 AI Agent 团队。
文档
| 资源 | 链接 |
|---|---|
| 快速入门 | GETTING_STARTED.md |
| 集成(LangChain / LlamaIndex) | INTEGRATION_QUICKSTART.md |
| 自托管部署 | DEPLOYMENT.md |
| 与 Firecrawl / Crawl4AI 的对比 | COMPARISON.md |
💜 赞助 DLBrowser
DLBrowser 采用 MIT 许可证,永久免费;我们还一直为所有人提供一个免费托管演示网关。赞助资金将用于开发新的后端、发布基准测试、构建针对特定网站的抓取工具,并确保免费层永久免费。如果它帮助你的 Agent 避免被屏蔽,或者为你节省了令牌,请考虑赞助。
成为赞助者 → · 套餐价格从 $10/mo 到 $1,000/mo。完整权益请见 SPONSORS.md。 每月赞助 $25 及以上,你的名字(赞助 $100 及以上可显示徽标)将出现在下方横幅中——访问代码仓库、PyPI 页面和 npm 页面的所有人都能看到。
我们的赞助者
成为首位赞助者——在这里展示你的名字或徽标。
成为赞助者 →
让你的 Agent 畅游整个 Web。
npx dlbrowser connect --key dlb_xxx
由 Dekrypt Labs 构建 · MIT 许可证 · [email protected]
mcp-name: io.github.DekryptLabs/dlbrowser
评论
一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。