关于 browser-automation
browser-automation 是面向工程任务的浏览器自动化技能,可审查脚本、生成表单自动化代码和带限速的网页抓取代码。它强调先确认目标、授权和请求策略,再生成自动化方案。
主要功能
- 01检查脚本中的检测特征
- 02从表单生成自动化脚本
- 03生成带限速的抓取代码
- 04提供合规抓取建议
适用场景
- 01审查现有网页抓取脚本
- 02根据表单 HTML 生成填写脚本
- 03为授权网站生成抓取代码
安装
复制下面的命令,在终端中运行。
$
npx skills add https:/ / github.com/ borghei/ claude-skills --skill browser-automation安装后在 Claude Code 中输入/browser-automation确认已加载。
包含的文件
除 SKILL.md 外,安装时一起下载的参考资料和脚本。
references/browser-automation-guide.mdscripts/anti_detection_checker.pyform_automation_builder.pyscraping_toolkit.py详细介绍
浏览器自动化
类别: 工程 领域: Web 自动化
概述
浏览器自动化技能提供一系列工具,用于构建可靠的 Web 自动化、检查脚本中的机器人检测特征、生成表单自动化代码,以及创建包含速率限制和最佳实践的 Web 抓取方案。
先确认信息
生成自动化方案前,请确认以下输入。如果有任何信息未知或模糊,请询问,不要自行假设:
- 目标网站和任务 — URL,以及需要自动化或抓取的具体内容(决定生成的选择器和流程)
- 要使用的工具 — 审查现有脚本、构建表单自动化,还是生成抓取器(决定使用
anti_detection_checker.py、form_automation_builder.py还是scraping_toolkit.py) - 礼貌策略和授权 — 礼貌或激进的策略、是否遵守 robots.txt,以及你是否获准自动化此目标(决定生成代码中的请求延迟和退避策略)
停止规则:只询问最能影响输出的 2-3 项。如果用户说“先起草一版”,则继续,并在产物开头列出假设。
快速开始
# Check automation script for detection signatures
python scripts/anti_detection_checker.py --file ./my_scraper.py
# Generate form automation code from HTML
python scripts/form_automation_builder.py --url https://example.com/form --output form_script.py
# Generate scraping code with rate limiting
python scripts/scraping_toolkit.py --url https://example.com --strategy polite --output scraper.py
工具概览
| 工具 | 用途 | 关键标志 |
|---|---|---|
anti_detection_checker.py | 审查自动化代码中的机器人检测特征 | --file、--format |
form_automation_builder.py | 根据 HTML 分析生成表单填写脚本 | --url、--html-file、--output |
scraping_toolkit.py | 生成带速率限制的 Web 抓取代码 | --url、--strategy、--output |
工作流
构建可靠的抓取器
- 使用
scraping_toolkit.py分析目标并生成基础代码 - 使用
anti_detection_checker.py检查生成的代码 - 处理发现的所有检测特征
- 逐步测试速率限制
自动提交表单
- 向
form_automation_builder.py提供表单 HTML - 检查生成的脚本中的字段映射
- 自定义数据源和验证规则
- 对最终脚本运行反检测检查
参考文档
- 浏览器自动化指南 - 反检测技术、速率限制策略、合乎道德的抓取实践
常见模式
礼貌抓取
- 遵守 robots.txt 指令
- 出错时实施指数退避
- 在请求之间延迟 2-5 秒
- 使用描述性 User-Agent 标识你的机器人
- 缓存响应以尽量减少重复请求
反检测最佳实践
- 以真实的方式轮换 User-Agent 字符串
- 随机化请求时间(避免固定间隔)
- 妥善处理 Cookie 和会话
- 避免暴露无头浏览器指纹的特征
评论
支持 Markdown