laohan-xiazai

从互联网拿内容

按平台选择正确方法，一步到位。先看平台路由表，再读对应 reference 文件。平台方法不行时，按品类降级链逐层深入——每层解决不同问题，能浅不深。

核心理念

能浅不深——先用最轻的方法（HTTP 请求），不行再加重量（浏览器渲染→反检测→AI 操作→手动控制）。成本递增，每层解决不同问题，不要跳层。

外部环境自举（External Bootstrap）

本 skill 在全新机器上：外部 AI 先按此清单装配依赖，再进入平台路由。装哪个取决于目标平台，不必全装。每项给安装命令 + 验证命令，装完跑验证确认可用。 Python 环境提示：Debian/Ubuntu 系统 Python 有 PEP 668 锁，pip3 install 会被拒——统一改用 pipx install <包>（先 pip3 install --user pipx），CLI 工具进 ~/.local/bin 等价可用。ffmpeg：macOS brew install ffmpeg；Debian/Ubuntu sudo apt install ffmpeg；Win winget install Gyan.FFmpeg。

层	工具	安装	验证
必装（通用下载/转码）	yt-dlp + ffmpeg	pip3 install -U "yt-dlp[default]"（YouTube 完整支持需完整依赖+JS runtime，见 官方 dependencies）	yt-dlp --version && ffmpeg -version
平台封装（30+ 平台主力）	opencli	npm install -g @jackwener/opencli（需 Node ≥20.18.1；Cookie 命令另需 Chrome 装扩展，见 opencli doctor 引导）	opencli list
搜索/阅读（13 平台统一入口）	agent-reach	pipx install git+https://github.com/Panniantong/agent-reach.git（⚠️ PyPI 同名包是别人的项目，必须从官方仓装）	agent-reach doctor
AI 增强爬取（免费开源，批量页面→结构化）	Crawl4AI	pip3 install crawl4ai && crawl4ai-setup（LLM 结构化提取需另配模型——本地 Ollama 免费或云端 API 计费；纯 Markdown 提取不需模型）	python3 -c "import crawl4ai"
图集下载（Instagram/Twitter/Pixiv 等 100+ 站）	gallery-dl	pip3 install gallery-dl	gallery-dl --version
AI 自主浏览器（未知页面探索）	browser-use	pip3 install browser-use，浏览器与模型配置按官方 quickstart	python3 -c "import browser_use"
反指纹浏览器（可选，硬反爬站）	Camoufox	pip3 install -U 'camoufox[geoip]' && python3 -m camoufox fetch（注意 shell 引号；代理场景配 geoip=True 才自动匹配地理位置指纹）	python3 -c "import camoufox"

本机专属工具说明：huashu-chrome MCP、Scrapling MCP、anysearch、web-access、douyin-session、dy-cli 是老韩本机配置，外部机器没有——降级链中遇到这些层时直接跳到下一层（外部等效：Scrapling→Crawl4AI/Camoufox，huashu-chrome→browser-use/Playwright，anysearch→DuckDuckGo/SearXNG）。 | 精确控制（确定性脚本） | Playwright | pip3 install playwright && playwright install chromium | playwright --version |

零依赖兜底（什么都没装也能用）：

• 网页正文：curl -sL "https://r.jina.ai/<url>"（Jina Reader，免 key 限速可用）
• 搜索：DuckDuckGo HTML（curl -sL "https://html.duckduckgo.com/html/?q=<query>" 后解析）或 SearXNG 公共实例（curl -sL "https://searx.be/search?q=<query>&format=json"，实例列表 searx.space）
• 直链视频：curl -L -o out.mp4 "<直链>"

付费 API 可选增强（有免费额度，按需）：Exa 语义搜索（exa.ai，赠送月度 credits，口径以官方定价为准）适合"找相似内容/深度调研"；Tavily（tavily.com，1000 credits/月，advanced search 每次 2 credits，见文档）适合 agent 检索管线。无 key 时用上面的零依赖兜底。

不适用场景

• 批量爬取/爬虫开发 → 这不是爬虫框架，是一次性内容获取工具
• 需要登录才能访问且用户未登录 → 告诉用户先登录对应平台，huashu-chrome / web-access 可以用已登录的 Chrome
• 下载付费内容/会员内容 → 不处理侵权场景

前置检查（定期更新，命令报错时必做）

opencli 高频发版（每周 2-3 次），但不需要每次使用都更新——定期（如每周）更新，或命令报错/找不到新命令时再更新即可。

第1步：更新 opencli（npm 包）

npm update -g @jackwener/opencli

第2步：更新 opencli skills（npx 管理）

npx skills update -g -y   # 注意：会更新锁文件里全部已装 skill，不止 opencli 的 4 个

opencli 自带 4 个辅助 skill，随 opencli 仓库更新但独立于 npm 包。必须单独更新：

• opencli-usage：查命令总览，不确定有什么命令时用
• opencli-autofix：命令失败时自动诊断修复（SELECTOR 错误、页面结构变化等）
• opencli-browser：浏览器自动化操作
• opencli-adapter-author：写新的 opencli 适配器

第3步：查最新命令比对文档

opencli <platform> --help

opencli 经常加新命令（如 4 月加了 bilibili download、xiaohongshu download），SKILL 文档可能滞后。发现新命令时更新对应 reference 文件。

第4步：检查 Browser Bridge

opencli doctor

3 项全绿（Daemon + Extension + Connectivity）才能用 Cookie 命令。失败时排障：

1. opencli doctor 看哪项失败
2. daemon 没跑 → opencli daemon restart（opencli 自带 daemon 管理，不要用 launchctl——opencli 不提供 LaunchAgent）
3. daemon 在跑但扩展未连 → 让用户 chrome://extensions/ 关开 OpenCLI 扩展
4. 都 OK 还连不上 → opencli daemon stop 后再跑任意 opencli <命令> 触发 daemon 自启

命令失败时的处理

1. 先用 opencli-autofix skill 诊断：OPENCLI_DIAGNOSTIC=1 重跑失败命令
2. 修复成功 → 更新 reference 文件记录正确方法
3. 修复失败 → 按降级链切换方法

快速路由

场景 A：下载（视频/音频/字幕/博主数据）

先判断平台，再读对应的 reference 文件：

关键词	平台	reference 文件
抖音 / douyin	抖音	references/douyin.md
TT / tiktok / TikTok	TikTok	references/tiktok.md
YouTube / youtube / 油管	YouTube	references/youtube.md
B站 / bilibili / BV	B站	references/other-platforms.md
小红书 / xhs	小红书	references/other-platforms.md
知乎 / zhihu	知乎	references/other-platforms.md
公众号 / 微信文章	微信公众号	references/other-platforms.md
视频号 / 微信视频号	微信视频号	references/other-platforms.md

不确定平台时，默认尝试 yt-dlp <url>，失败再按平台路由。

references/douyin.md 除下载/转录外，还含发布自动化（publish/draft/update）与账号数据分析——发布需求直接读该文件对应章节。

场景 B：搜索/阅读（文章/评论/帖子/搜索结果）

不走 reference 文件，直接走平台封装降级。注意：场景B 的首选方法与第一层降级表（下载场景）不同——搜索/阅读优先用 opencli 搜索命令或 agent-reach，下载才用移动端 UA / fetch.py 等。

平台	第1选	第2选	第3选	第4选
公众号	opencli weixin search/download	agent-reach	fetch.py	Jina Reader
知乎	opencli zhihu	agent-reach	Jina Reader	—
小红书	opencli xiaohongshu	agent-reach	Scrapling stealthy	—
微博	opencli weibo	agent-reach	Jina Reader	—
B站	opencli bilibili	agent-reach	Jina Reader	—
抖音	opencli douyin search（视频流搜索，仅 likes 真实）	dy-cli（statistics 字段全，pip 装+扫码，见 references/douyin.md）	同命令 trace/autofix + opencli browser 绑定当前登录页只读取证	douyin-session（评论）
TikTok	opencli tiktok（需 Browser Bridge）	agent-reach	Scrapling stealthy	—
任意平台	agent-reach（13平台搜索/阅读，含 GitHub/RSS/V2EX/Twitter/Reddit/小宇宙/Exa 等 opencli 不覆盖的）	web-content-fetcher	Jina Reader	Scrapling stealthy

agent-reach 触发场景：用户说"读一下这个链接""这个公众号文章"，或给出非视频的社交平台链接。纯技术查证类搜索不进本 skill（让位 laohan-sousuo）。

降级链

第一层：平台路由（Layer 2 平台封装）

每个平台方法失败时，按以下顺序降级，直到成功或全部失败才报错给用户：

平台	第1选	第2选	第3选	最终兜底
抖音	opencli douyin detail <短链/ID>（≥2.0 新命令，单视频全解含下载地址；旧版本先 npm update -g @jackwener/opencli）	短链解析 + Playwright 抓 aweme/detail	douyin-session（评论）	Scrapling stealthy
TikTok	tikwm API	yt-dlp	opencli tiktok（需 Browser Bridge）	—
YouTube	yt-dlp（需 --cookies-from-browser chrome）	opencli youtube transcript（字幕）	—	—
B站	opencli bilibili download（需 Browser Bridge）	Jina Reader	—	—
小红书	opencli xiaohongshu download（需 Browser Bridge）	agent-reach	Jina Reader	—
知乎	opencli zhihu	Jina Reader	—	—
公众号	opencli weixin download（导出 Markdown）	fetch.py	agent-reach	Jina Reader
视频号	B 元宝凭证脚本 scripts/shipinhao-yuanbao.py（官方接口，免证书免代理，用前查时效）	A wx_video_download（MITM 代理）	—	—
快手	KS-Downloader（JoeanAmier/KS-Downloader release 下载程序，贴分享链接）	网页版 kuaishou.com + 浏览器 network 抓视频流（huashu-chrome/Playwright）	—	—
Instagram	gallery-dl（pip3 install gallery-dl，需登录 cookie，Reels/图集全支持）	instaloader（pip3 install instaloader，元数据强）	—	—
Twitter/X 图集视频	gallery-dl（同上，配 cookie）	agent-reach（读推文）	—	—
直播流 m3u8/HLS	ffmpeg -i "<m3u8地址>" -c copy out.mp4	yt-dlp "<m3u8地址>"	—	—
未知平台	yt-dlp	Scrapling MCP（get）	Scrapling stealthy	Jina Reader

降级时注意：

• 降级产物性质：部分降级产出的是替代产物而非原目标（如 B站视频→Jina 只出正文、YouTube 视频→transcript 只出字幕、抖音→douyin-session 只出评论）——降级到这些层时要向用户说明拿到的是什么，不能当作原下载成功
• 抖音不存在 yt-dlp 降级路径（已验证无效），不要浪费时间尝试
• 抖音纯 HTTP 通道 2026-08 起全部关闭（iesdouyin SSR / douyin_tiktok_scraper 均失效），单视频下载走短链解析 + Playwright 抓包（见 references/douyin.md）
• B站 yt-dlp 已被 HTTP 412 全面拦截（2026-04-28 验证），不要尝试 yt-dlp 下载B站视频
• YouTube 无 cookies 会被 bot 检测拦截，必须加 --cookies-from-browser chrome
• 每步失败后简要告诉用户换了个方法，不要静默切换
• 全部失败时，告诉用户具体哪步失败了、可能的原因、建议用户做什么

第二层：品类降级（平台路由全部失败时）

平台方法全部失败后，按能力从轻到重逐层深入。每层解决一个不同的问题：

平台封装已试过（opencli / agent-reach / yt-dlp 全部失败）
  ↓ 问题：普通网页抓取即可
轻量抓取 → Scrapling MCP get（普通 HTTP 请求，无 JS 渲染）
  ↓ 问题：页面需要 JS 渲染 / 登录态 / 多步交互（点击/翻页/表单/上传）
huashu-chrome MCP（用户日常 Chrome 真登录态 + 22 工具：snapshot/click/fill/act 批处理；每步带效果证据，28 站出厂经验库）
  ↓ 问题：被反爬拦截且 huashu-chrome 也过不去
反检测抓取 → Scrapling stealthy_fetch（绕过检测 + 提取内容）
  ↓ 问题：批量页面要 LLM 结构化提取（本地免费，2026 主流开源方案 81K star）
AI 爬取 → Crawl4AI（`pip3 install crawl4ai`，本地 LLM 可选 Ollama，输出 Markdown/JSON；本地版 Firecrawl，无费用）
  ↓ 问题：页面结构未知，写不出选择器
AI 浏览器 → browser-use（AI 理解页面结构、自主操作）
  ↓ 问题：需要登录态但 huashu-chrome 扩展离线，或视频帧采样
CDP 接管 → web-access（接管用户日常 Chrome，天然登录态）
  ↓ 问题：需要代码级精确控制，或要独立无登录态浏览器做隔离
手动驱动 → Playwright（代码级精确控制每一步）

每层解决的问题不同，不要跳层：

• 普通网页 → Scrapling get（最轻，HTTP 直接请求）
• JS 渲染 / 登录态 / 多步交互 → huashu-chrome（2026-10-21 起首选，真登录态+效果证据+站点经验；工具：snapshot 拍元素清单、click/type/fill 操作、act 一次跑多步、fetch 带 cookie 调接口、network 看接口。前置：npx huashu-chrome doctor 显示扩展在线）
• 反爬拦截 → Scrapling stealthy（隐身模式绕过检测）
• 批量页面要结构化提取 → Crawl4AI（本地 AI 爬取，2026-10 调研：开源主流，外部机器 pip3 install crawl4ai 即得）
• 页面看不懂 → browser-use（AI 理解能力）
• huashu-chrome 离线时的登录态兜底 / 视频采样 → web-access（CDP 接管）
• 精确操作 → Playwright（人工级控制）

成本递增，能浅不深：Scrapling get（HTTP 秒级）< huashu-chrome（自家 Chrome，秒级）< Scrapling stealthy（反检测）< Crawl4AI（本地 AI 提取，免 API 费）< browser-use（需调 LLM API）< web-access（需 CDP 连接）< Playwright（需写代码）

人机验证（CAPTCHA/Cloudflare）应对层

被 Turnstile/reCAPTCHA/hCaptcha/验证页拦截时的专门降级（2026-10-22 调研，来源标注见各条）：

免费开源层（优先）：

1. Scrapling stealthy 的 solve_cloudflare 参数（本 skill 已有，易被忽略）：stealthy_fetch url=<url> solve_cloudflare=true——自动过 Cloudflare Turnstile/Interstitial 质询，本机 MCP 直调零成本
2. Camoufox（定制 Firefox 反指纹构建，2026-10 评测"硬指纹对抗最佳"，实测可过 Turnstile）：pip3 install -U camoufox[geoip] && camoufox fetch（Python API：AsyncCamoufox(humanize=True) 配 playwright）；带代理时自动匹配地理位置指纹
3. nodriver（undetected-chromedriver 后继，Python 现代默认）：pip3 install nodriver；SeleniumBase UC mode（Cloudflare 场景评佳）：pip3 install seleniumbase 后 with SB(uc=True) 使用

付费 API 层（可选，按量计费）：CapSolver（约 $0.8-1.2/千次，Turnstile/reCAPTCHA/hCaptcha/GeeTest，capsolver.com）/ 2Captcha（$1.45/千次 Turnstile，2captcha.com）。接入复杂度提示：独立 widget 场景是"提交参数→取 token→回填"；Cloudflare 整页 challenge 还需捕获 action/cData/chlPageData 并配合 UA 回调——按2Captcha 官方文档的完整流程做，不要只取 token。已知限制（2026-04 争议）：部分观点认为 Turnstile 服务端指纹校验下纯 token 服务不可靠，此时用 Camoufox 类真实指纹浏览器更稳。

边界：仅用于个人一次性内容获取场景；不得用于批量滥用、登录爆破或违反目标站服务条款的用途——付费服务账号与法律风险自负。

评论采集

详查命令见 references/other-platforms.md。opencli 是评论主力（read 8 平台 / write 3 平台），MediaCrawler 只抓不写且禁商业，不装。

平台	read 评论	write 评论	命令
B站	✅（含楼中楼 --parent）	✅ 发评论/回复	opencli bilibili comments <bvid> / comment <bvid> <msg>
小红书	✅（楼中楼）	❌	opencli xiaohongshu comments <note-id>
知乎	✅ answer-comments	✅ comment <target> <text>	回答评论列表 / 发评论
微博	✅	❌	opencli weibo comments <id>
即刻	✅（post 含评论）	✅ comment <id> <text>	opencli jike post <id> / comment
知识星球	✅（topic 含评论）	❌	opencli zsxq topic <id>
雪球	✅	❌	opencli xueqiu comments <symbol>
贴吧	✅（read 含回复）	❌	opencli tieba read <id>
抖音	△（user-videos 含热门评论，无独立 comments）	❌	opencli douyin user-videos；深度评论用 douyin-session adapter
快手	❌ opencli 无此平台	❌	下载有方案（KS-Downloader / 网页版抓流，见路由表）；评论采集仍是缺口

批量评论/批量主页采集属爬虫框架范畴，不在本 skill（见「不适用场景」）；按需取评论走 opencli。

通用兜底

方法	工具	场景
agent-reach	agent-reach（pipx/pip 安装，官方推荐 pipx）	13 平台搜索/阅读统一入口（Tier0 零配置：Web/YouTube/GitHub/RSS/Exa/V2EX/雪球；Tier1 需登录态：Twitter/Reddit/B站/小红书用 Cookie，小宇宙用免费 Groq Key）。管"读/搜"，与 opencli（管"下载/操作"）互补
Jina Reader	curl -sL "https://r.jina.ai/<url>"	通用网页内容提取
web-content-fetcher	/web-content-fetcher skill	agent-reach 失败时的三级降级抓网页
Scrapling stealthy	MCP stealthy_fetch	反爬场景
yt-dlp	yt-dlp <url>	通用视频下载（cookies 支持 --cookies-from-browser chrome/chromium/firefox/edge/safari，按用户实际浏览器选；被封时加 --proxy socks5://...）
gallery-dl	pip3 install gallery-dl 后 gallery-dl <url>	图集/媒体站批量下载（Instagram/Twitter/Pixiv 等 100+ 站，2026-10 验证活跃 v1.32；多数站需登录 cookie）
browser-use	/open-source skill	AI 自主操作浏览器，全新/未知页面
web-access	/web-access skill	CDP 接管已登录日常 Chrome（localhost:3456），覆盖：登录态内容、复杂交互（点击/翻页/表单/上传）、视频帧采样、本地书签历史检索
Playwright 手动	ECC Playwright MCP	精确手动控制，最后兜底

web-access 调用要点（本机兜底：huashu-chrome 离线时的登录态方案）

web-access 与 huashu-chrome 都连用户日常 Chrome（登录态共享）；huashu-chrome 在线时优先它（效果证据+站点经验），web-access 在其离线时兜底，另有独占能力：视频帧采样、本地书签历史检索。触发 /web-access 加载后按此调用：

1. 启动 CDP proxy：node "${CLAUDE_SKILL_DIR}/scripts/check-deps.mjs"（Node 22+ 必需，脚本自动启动并等待 proxy 就绪）
2. 操作前必须向用户展示封禁须知：部分站点对浏览器自动化检测严格，存在账号封禁风险，已内置防护但无法完全避免，继续操作即视为接受。
3. curl 调 localhost:3456 API：/new（后台 tab，URL 走 POST body 保留完整参数）//eval（读写 DOM，递归穿透 Shadow DOM·iframe）//click·/clickAt（真实鼠标手势，触发文件对话框）//scroll（触发懒加载）//screenshot（含视频当前帧）//setFiles（上传，绕过对话框）//close（关闭自建 tab，保留用户 tab）
4. 本地浏览器检索（web-access 独有）：用户说"我之前看过的""公司内部系统"等公网搜不到的目标 → node "${CLAUDE_SKILL_DIR}/scripts/find-url.mjs" 关键词 [--only bookmarks|history] [--since 7d] 查 Chrome/Edge 书签+历史

何时优先 web-access：需登录态 / 多步 GUI 交互（点击·翻页·表单·上传）/ 视频帧采样 / 本地浏览器检索——这四类其余工具都做不了或不如它。仅当页面结构完全未知、需 AI 自主探索时才用 browser-use；需代码级隔离测试时才用 Playwright MCP。

工具速查

语音转文字

优先级	工具	命令	说明
1	硅基流动 API	curl -X POST https://api.siliconflow.cn/v1/audio/transcriptions -H "Authorization: Bearer $SILICONFLOW_API_KEY" -F "model=FunAudioLLM/SenseVoiceSmall" -F "[email protected]"	秒级，免费，中文优化
2	whisper-cli	whisper-cli -m model.bin -f audio.mp3 -l zh	本地 C++，快
3	whisper Python	python3 -c "import whisper; ..." (small 模型)	本地，最准
4	whisper-timestamped	python3 -c "import whisper_timestamped; ..."	精确时间戳，字幕制作用

语音合成 / 音视频处理

操作	命令
语音合成（TTS）	edge-tts --text "文本" --voice zh-CN-XiaoxiaoNeural --write-media output.mp3
音视频转码	ffmpeg -i input.mp4 -vn -acodec libmp3lame output.mp3
OCR	tesseract image.png stdout -l chi_sim+eng
PDF 提取文本	python3 -c "import fitz; doc=fitz.open('file.pdf'); print('\n'.join(p.get_text() for p in doc))"（必须 print 输出，只构造列表 stdout 为空）
图片处理	magick input.png -resize 800x600 output.png

搜索兜底

注：smart-search/web-search/multi-search-engine/baidu-search 位于 ~/.openclaw/skills/，需 OpenClaw 环境已安装；anysearch 在 ~/.agents/skills/（通用，无 OpenClaw 也可用）。无 OpenClaw 环境时优先 anysearch。

工具	场景	说明
anysearch	实时搜索+垂直领域+批量并行+URL全文提取	16 个垂直领域（股票/CVE/DOI/法律/学术等；Stock/CVE/DOI 是触发标识符非 domain），~/.agents/skills/anysearch/，/anysearch
smart-search	opencli 搜索路由	基于 opencli 的智能搜索，覆盖社交/技术/新闻/购物，~/.agents/skills/smart-search/
web-search	通用网页搜索	DuckDuckGo API，轻量搜索，~/.openclaw/skills/web-search/
multi-search-engine	agent-reach + Jina 都搜不到时	17 搜索引擎聚合对比，~/.openclaw/skills/multi-search-engine/
baidu-search	中文内容搜索	百度 AI 搜索，中文场景优于通用引擎，~/.openclaw/skills/baidu-search/

搜索优先级：通用搜索/事实查询/垂直领域 → anysearch（最轻最快）→ opencli（平台结构化数据）→ agent-reach（opencli 未覆盖的平台兜底）。

技术查证类搜索（API 用法/报错归因/版本兼容/"先查再说"）：走同仓 laohan-sousuo 的三路检索（官方文档/GitHub issue/社区心得 + 来源标注输出）。未装 sousuo 时的最小三路法：① 官方文档 WebFetch（或 curl -sL "https://r.jina.ai/<官方URL>"）② gh search issues "关键词" --repo owner/repo ③ 社区 curl -sL "https://html.duckduckgo.com/html/?q=<query>"——结论必须带 (verified: URL)，查不到如实说推断。

Scrapling 调用路径

环境	方式	说明
Claude Code 主会话	MCP 直调 mcp__ScraplingServer__stealthy_fetch	直接可用
OpenClaw 子 agent	mcporter 桥接 mcporter call ScraplingServer.stealthy_fetch url=<url>	子 agent 无 MCP 权限，需桥接

关键注意事项

• 抖音反爬极强，yt-dlp/Jina/纯 HTTP 全部无效（2026-08 升级后 iesdouyin SSR 与 douyin_tiktok_scraper 也失效），单视频下载走短链解析 + Playwright 抓包（见 references/douyin.md）
• TikTok 用 tikwm API，CDN URL 临时，获取后立即下载
• YouTube 字幕首选 opencli youtube transcript（返回干净文本免清洗），备选 yt-dlp 的 VTT 需 clean_vtt.py 清洗（见 references/youtube.md）
• opencli Cookie 命令需要 Browser Bridge 运行（排障：opencli doctor）