mcpField
D
DLBrowser

DLBrowser

本地服务
dekryptlabs.github.io浏览器自动化114 周前更新

关于 DLBrowser

DLBrowser 为 AI Agent 提供网页访问能力,可在五种后端间选择,并在页面拦截时逐级切换。它返回 Markdown 或提取后的内容,并报告所用后端、耗时和用量成本。

主要功能

  1. 01遭遇拦截时切换五种后端
  2. 02网页抓取、搜索与爬取工具
  3. 03Markdown 格式与内容提取
  4. 04基于 LLM 的结构化提取
  5. 05逐次运行的用量与成本记录

适用场景

  1. 01获取会拦截 Agent 的网页
  2. 02不返回原始 HTML,直接提供页面内容
  3. 03追踪后端选择与抓取成本

MCP 相关

DLBrowser 向 MCP 客户端提供 11 种工具,包括 `fetch`、`scrape`、`smart_extract`、`crawl` 和 `search`。客户端可连接其托管 HTTP 网关,或配置本地连接。

配置

本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。

mcp.json · 通用配置
{
"mcpServers": {
"dekryptlabs-dlbrowser": {
"command": "uvx",
"args": [
"dlbrowser"
],
"env": {
"DLBROWSER_API_KEY": "<DLBROWSER_API_KEY>"
}
}
}
}
启动命令uvx dlbrowser
需要配置的环境变量
DLBROWSER_API_KEY密钥API key for the hosted gateway. Optional — DLBrowser runs fully local without it.

本地服务需要在你的电脑上安装运行环境(如 Node.js 18+)。各客户端的配置文件位置不同,请参考客户端文档。

安装包
pypidlbrowser4.0.2

工具

11

收录的工具列表 · 更新于 2 周前

参数类型必填说明
urlstring是要获取的 URL(必填)
modeenum否提取模式:html(原始)、article(清理后)、text(纯文本)、tables、linksarticle | text | html | tables | links
stealthboolean否启用隐身反机器人措施
timeoutinteger否超时时间(秒)

详细介绍

DLBrowser

你的 AI Agent 看不到那些会阻挡它的半个网络。

Cloudflare、验证码和 JavaScript 墙会悄无声息地拦住 Agent 用来浏览网页的工具。 DLBrowser 能突破这些阻碍。 一行代码。自我修复。按信用点计量。

PyPI npm License: MIT Python

npx dlbrowser connect --key dlb_xxx

只需一条命令,即可将 DLBrowser 接入 Claude Code、Cursor、Windsurf、Cline 和 Codex。 你的 Agent 将获得 11 个真正能访问网页的工具。


60 秒快速试用

pip install dlbrowser
dlbrowser fetch https://example.com

每次抓取都会告诉你哪个后端成功访问了网页,以及耗时多久——因为引擎会选择能正常工作的最便宜方案,只有遇到网站阻拦时才升级:

{ "success": true, "backend": "curl_cffi", "load_time": 0.03, "blocked": false }

每次运行都会按套餐公开计量——不会收到意外账单:

{ "plan": "scout", "remaining_daily": 497, "remaining_monthly": 2497,
  "upgrade_url": "https://dekryptlabs.github.io/dlbrowser/pricing.html" }

这是从在线网关获取的真实响应。免费开始——2,500 个信用点,无需银行卡。


为什么你的 Agent 需要它

你为 Agent 接入网页访问能力。在演示中一切正常,直到它遇到真实网络:

  • 一个网站通过 50 毫秒的 HTTP 请求就能加载。下一个网站却只有一个空的 React 外壳,必须运行 JS 才会显示内容。
  • Cloudflare 和 DataDome 会悄悄向你的无头浏览器发送验证页面。
  • Agent 内置的 fetch 返回 ""——不是报错,而是一个空字符串——然后继续运行。
  • 你不知道哪些网站访问失败、哪个后端本可以成功,也不知道这一切花了多少钱。

DLBrowser 是解决这些问题的能力层。它不是爬虫,也不是抓取器。 它是面向 AI Agent 的数据获取基础设施——可靠、可观测、可计费。


引擎:从低成本方案开始,仅在受阻时升级

curl_cffi  →  tls_client  →  playwright  →  nodriver (CDP)  →  firecrawl
  ~50ms         ~200ms        full JS        max stealth       last resort
  HTTP-level, no browser       │            browser-level, real Chromium
                               └── auto-escalates when a block is detected

约 70% 的实际抓取无需浏览器。先从 50 毫秒的请求开始,仅在检测到拦截时逐级升级,既能保持快速、低成本,又能访问其他工具无法访问的网站。五种后端。 Firecrawl 有两种。Crawl4AI 只有一种。


重新定义预期

🔁 自我修复的回退机制遇到拦截时自动升级至五种后端。你的 Agent 不再收到空字符串。
💸 逐次运行的成本遥测每次运行都会将后端、信用点和预估成本记录到可查询的账本中。没有竞争对手会公开这些信息。 你的 CFO 终于能回答“我们的网页数据要花多少钱?”
🪙 节省令牌返回干净的 Markdown/提取内容,而非原始 HTML——在内容页面上,传入 Agent 上下文的令牌数减少约 4 倍(实测)。降低 API 成本,留出更多上下文窗口,获得更优质的信息。
🎯 不因 JS 增加费用无论使用哪种后端,每页均为 1 个信用点。Firecrawl 和 ScrapingBee 对 JS 渲染收取 5–7 倍费用。
🔒 原子计量基于预留机制——超额率为 0%,即使并发运行也一样。计费绝不会超出你的配额。
🧠 LLM 提取自然语言 → 结构化 JSON。使用本地/免费模型运行——无需云端密钥。
📦 MIT 许可,可自托管自托管时功能完整。你的数据绝不会离开自己的基础设施。托管网关只是帮你省去运行代理和验证码基础设施的麻烦。
🔌 原生支持 MCP提供 11 个工具,并配有优先使用的描述,让你的 Agent 遇到问题时优先调用 DLBrowser,而不是不稳定的内置浏览器。

更少的令牌,更清晰的信号

原始 HTML 会把标签、脚本和样板内容塞进 Agent 的上下文——你要为这些噪声支付令牌费用,模型还得费心解析 <div class> 的内容。DLBrowser 则会返回干净的 markdown 或提取后的内容。

通过实时网关进行的实际测量——一篇 Wikipedia 文章:

模式令牌数(约)相比原始 HTML
原始 HTML~57,000—
Markdown~13,000少约 77%
文章~42,000少约 27%

在内容页面上,每次抓取所需的上下文约减少 4 倍——降低 API 成本,为上下文窗口腾出更多空间,也为模型提供更好的推理信号。节省量因页面而异(稀疏的链接列表节省很少,而且你的 Agent 可以选择模式),所以请自行测量:

import asyncio, tiktoken
from hermes_browser import fetch          # pip install dlbrowser
enc = tiktoken.get_encoding("cl100k_base")
raw = asyncio.run(fetch(url, mode="html"))["content"]["html"]
md  = asyncio.run(fetch(url, mode="markdown"))["content"]["markdown"]
print(len(enc.encode(raw)), "→", len(enc.encode(md)), "tokens")

一行命令,适用于所有主机

npx dlbrowser connect --key dlb_xxx
# detects and configures: claude-code · claude-desktop · cursor · windsurf · cline · codex

或者让任意 MCP 客户端连接到免费托管演示版网关(无需本地设置即可试用——演示版会限制部分功能;自托管即可使用完整引擎):

claude mcp add dlbrowser --transport http \
  --url https://api.dekryptlabs.com \
  --header "Authorization: Bearer dlb_xxx"

你的 Agent 会立即获得:fetch · scrape · smart_extract · screenshot · markdown · crawl · search · serp · status · account · topup。


我可以信任它吗?(架构)

Agent / CLI / Extension / MCP client
        │
   ┌────┴─────┐
   │ Gateway  │  Paywalled — 401 no key · 402 over quota · free: status/account
   └────┬─────┘
   ┌────┴─────┐
   │  Router  │  Adaptive per-domain scoring: success · latency · cost · freshness
   └────┬─────┘
   ┌────┴─────────────────────────────┐
   │  curl_cffi → tls → playwright →  │  self-healing cascade
   │  nodriver → firecrawl            │
   └────┬─────────────────────────────┘
   ┌────┴─────┐
   │  Ledger  │  per-run backend · credits · cost · trace_id (OpenTelemetry)
   └──────────┘

路由器会针对不同域名进行学习——使用越多,路由效果越好。网关以上的所有内容均为 MIT 许可且可自托管。在信任它之前先阅读代码;这正是开源的意义所在。


它能击败 Cloudflare 吗?

在许多真实网站上,**完全不需要浏览器。**我们使用数据中心 IP,且不通过住宅代理,测试了 5 个受 Cloudflare 保护的网站(最坏情况):

网站结果方式
nowsecure.nl(CF challenge 测试)✅ 通过TLS 模拟
crunchbase.com✅ 通过curl_cffi,0.3 秒,无需浏览器
nike.com✅ 通过curl_cffi,1.2 秒,无需浏览器
g2.com❌ 403Cloudflare Enterprise——数据中心 IP 因信誉问题被拦截
zillow.com❌ 403Enterprise + 验证码——需要住宅 IP

**仅靠 HTTP 层面的 TLS 模拟就有 3/5 通过。**两项失败并非指纹识别失败——而是 IP 信誉拦截,需要通过住宅代理进行路由(支持此功能,但本次测试中未启用)。没有任何工具能在所有情况下击败 Cloudflare;DLBrowser 的方案是分层升级。完整方法及“击败 Cloudflare 实际意味着什么” → marketing/cloudflare.md。

我们尚未发布与 Firecrawl/Crawl4AI 的大范围对比基准测试——这是接下来的计划,届时会同时公布测试方法。我们不会编造数据。别相信我们的表格——请在你最难抓取的网站上自行测试:

pip install "dlbrowser[full]" && python3 -m playwright install chromium
dlbrowser fetch <a-url-that-blocks-your-current-tool>   # see the backend that got through

定价

套餐价格点数每日上限后端验证码代理LLM密钥
Scout免费一次性 2,500500curl_cffi———1
Analyst$29/月100,000/月5,000+ tls_client——50k3
Operator$85/月500,000/月25,000+ playwright✓—200k10
Command$299/月2,000,000/月100,000全部 + nodriver✓✓1M50
Enterprise$999/月起10M–100M+/月—全部 + 专用✓✓∞∞

1 点数 = 1 个页面,适用于任意后端。年付优惠 20%。自托管永久免费。 完整定价 → PRICING.md · 托管版:dekryptlabs.github.io/dlbrowser/pricing.html


我的公司会批准使用它吗?

  • 多租户——组织、团队、席位、角色
  • API 密钥——创建、撤销、轮换、限定范围、设置过期时间(经 SHA-256 哈希处理)
  • 审计日志——不可变的事件台账:谁在何时做了什么、花费了多少
  • Webhooks——使用 HMAC-SHA256 签名,并配备死信队列
  • SLA 监控——按计划对页面进行差异比对,并通过容噪变更检测识别变化
  • 自托管——一条 Docker 命令即可部署,功能完全一致,数据留在你的网络中

Enterprise 套餐公布真实价格($999/月起)——没有“联系我们”这种黑箱。[email protected]


何时不使用 DLBrowser

  • 你需要预构建数据集 → Bright Data / Apify
  • 你需要可视化抓取 IDE → Octoparse
  • 你需要截图即服务 → Urlbox

DLBrowser 适用于需要大规模可靠、可观测且成本可控的 Web 访问的 AI Agent 团队。


文档

资源链接
快速入门GETTING_STARTED.md
集成(LangChain / LlamaIndex)INTEGRATION_QUICKSTART.md
自托管部署DEPLOYMENT.md
与 Firecrawl / Crawl4AI 的对比COMPARISON.md

💜 赞助 DLBrowser

DLBrowser 采用 MIT 许可证,永久免费;我们还一直为所有人提供一个免费托管演示网关。赞助资金将用于开发新的后端、发布基准测试、构建针对特定网站的抓取工具,并确保免费层永久免费。如果它帮助你的 Agent 避免被屏蔽,或者为你节省了令牌,请考虑赞助。

成为赞助者 → · 套餐价格从 $10/mo 到 $1,000/mo。完整权益请见 SPONSORS.md。 每月赞助 $25 及以上,你的名字(赞助 $100 及以上可显示徽标)将出现在下方横幅中——访问代码仓库、PyPI 页面和 npm 页面的所有人都能看到。

我们的赞助者

成为首位赞助者——在这里展示你的名字或徽标。
成为赞助者 →


让你的 Agent 畅游整个 Web。

npx dlbrowser connect --key dlb_xxx

由 Dekrypt Labs 构建 · MIT 许可证 · [email protected]


mcp-name: io.github.DekryptLabs/dlbrowser

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。