mcpField
S
scraping-skills

scraping-skills

github.com/wentorai数据与数据库307161 次安装19 周前更新
代码仓库

关于 scraping-skills

scraping-skills 汇集 6 项网页抓取、数据集发现和仓库元数据采集技能,面向研究数据收集。内容涵盖 API、无代码工具及 OAI-PMH 等方法,并提供伦理与法律方面的指导。

主要功能

  1. 016 项数据采集技能
  2. 02网页抓取伦理指南
  3. 03研究数据集发现
  4. 04可视化无代码采集指南
  5. 05使用 OAI-PMH 收集仓库数据

适用场景

  1. 01查找并下载研究数据集
  2. 02合规收集 Google Scholar 数据
  3. 03采集开放仓库元数据
  4. 04选择基于 API 的数据收集方式

安装

复制下面的命令,在终端中运行。

$npx skills add https://github.com/wentorai/research-plugins --skill scraping-skills

安装后在 Claude Code 中输入/scraping-skills确认已加载。

详细介绍

网页抓取与数据采集 — 6 项技能

选择符合用户需求的技能,然后read其 SKILL.md。

技能描述
academic-web-scraping以合乎伦理的方式抓取网页并通过 API 收集研究数据
dataset-finder-guide从 Kaggle、HuggingFace 和代码仓库搜索并下载研究数据集
easy-spider-guideEasySpider 可视化无代码网页数据采集指南
google-scholar-scraper合乎伦理的 Google Scholar 数据采集技巧和最佳实践
repository-harvesting-guide使用 OAI-PMH 协议从开放代码仓库收集元数据
web-scraping-ethics-guide为研究目的合乎伦理且合法地抓取网页数据

评论

支持 Markdown