mcpField
A
apify-scrapers

apify-scrapers

本地服务
github.com/jlucasmcrell浏览器自动化06 周前更新

关于 apify-scrapers

apify-scrapers 是一个 MCP 服务,将 40 种公共数据提取器作为 Actor 接入 Apify 账户。它面向查询商业、市场、政府及研究数据的 Agent 和自动化工作流,并支持筛选工具目录及返回结构化运行状态。

主要功能

  1. 01提供 40 种公共数据提取器
  2. 02涵盖线索、职位、申报和招标等数据
  3. 03通过配置筛选工具目录
  4. 04返回结构化结果和运行状态
  5. 05设置单次运行费用上限

适用场景

  1. 01从 Google Maps 构建商业线索列表
  2. 02监控 SEC 申报和政府机会
  3. 03搜索职位列表和市场数据
  4. 04收集研究所需的公共记录

MCP 相关

将 Apify Actor 作为可调用工具提供给 MCP 客户端,可通过 `uvx apify-data-scrapers` 安装。`APIFY_TOOL_PROFILE` 可将工具发现和调用限制在选定目录内。

配置

本地服务的配置在各客户端中通用,复制后粘贴到客户端的 MCP 配置文件即可。

mcp.json · 通用配置
{
"mcpServers": {
"jlucasmcrell-apify-scrapers": {
"command": "uvx",
"args": [
"apify-data-scrapers"
],
"env": {
"APIFY_TOOL_PROFILE": "<APIFY_TOOL_PROFILE>",
"APIFY_TOKEN": "<APIFY_TOKEN>"
}
}
}
}
启动命令uvx apify-data-scrapers
需要配置的环境变量
APIFY_TOOL_PROFILEOptional tool selection: all, leads, market, government, or research. Restart after changing.
APIFY_TOKEN密钥Apify API token for running actors

本地服务需要在你的电脑上安装运行环境(如 Node.js 18+)。各客户端的配置文件位置不同,请参考客户端文档。

安装包
pypiapify-data-scrapers1.4.0

工具

40

收录的工具列表 · 更新于 2 周前

参数类型必填说明
locationstring否可选的城市或地区。如果 search_query 中已包含,则省略。
max_resultsinteger否要提取并返回的商业线索记录的最大数量。默认为 10。
search_querystring是地理搜索查询,结合目标行业类别和市级市场位置(例如 'HVAC contractors in Phoenix, AZ' 或 'Commercial Electricians Dallas TX')。

详细介绍

mcp-name: io.github.jlucasmcrell/apify-scrapers

Apify 公共数据 MCP:40 种生产级数据工具与公共记录

Python 3.10+ Node.js 18+ Apify Verified Glama MCP Server License: MIT Smithery Listed on mcpservers.org 一个 MCP 服务为 AI Agent 提供 40 种生产级数据提取工具——Google Maps 商业线索、Google News、Google Autocomplete、LinkedIn 和 Glassdoor 职位、SEC EDGAR、USAspending、Grants.gov、TED 招标、NHTSA 召回信息、FEC、EPA、ClinicalTrials.gov、openFDA、Europe PMC、GLEIF、CMS 服务提供商、Census 地理编码、州企业注册信息、承包商许可证、Airbnb、YouTube、Twitch 和 Google Play——每种工具都以 Actor 的形式在你自己的 Apify 账户中运行。使用 uvx apify-data-scrapers 安装(支持 Claude Desktop、Cursor 和任何 MCP 客户端),也可以通过 Python、Node.js 或无代码工具直接调用相同的 Actor。

每个 Actor 都采用严格的架构验证、确定性字段映射、自修复 DOM 选择器和按事件计费的定价(每条结果 $0.00015 起,Actor 启动费用 $0.0005 起;实际价格以 Apify Store 当前标价为准)。


运行时约定与费用控制

自 1.1.0 版起,调用会在 MCP 结构化内容和文本中都返回 {results, status, run?}。状态为 success、partial、empty_unverified 或 error;错误包含稳定的代码和重试指引。结果行数为零并不能证明不存在匹配记录。现有集成如果解析的是裸结果数组,现在必须读取 results。原生数据集字段名称保持不变。

每次调用默认请求 120 秒的 Actor 超时和 $1 的按事件计费上限。设置 APIFY_MAX_CHARGE_USD 可调整上限。此上限针对单次运行,并非账户总支出限额;Actor 事件费用之外的平台费用仍可能适用。最多可并发运行四次调用。取消请求时会尝试中止云端运行;如果未能确认,请检查返回的运行 ID。启动结果不明确时绝不会自动重试。

MCP 可执行程序使用 Python;Node.js 文件是直接调用 Actor API 的示例,并非第二个 MCP 服务。此公共目录未收录私有队列中的 Actor。

快速导航


选择工具

选择专注的工具配置,并生成安装配置。

1.2.0 版本新增了可选的 APIFY_TOOL_PROFILE 环境变量:all(默认)、leads、market、government 或 research。这些配置对应下方目录中的四个类别。配置会限制工具的发现与调用、提示词和 Actor 目录。更改配置后,请重启 MCP 服务并刷新或重新连接客户端。如果不希望同时加载完整目录,请只保留专注型服务条目。直接调用 Actor API 的示例不受影响;此设置不构成 Apify 帐户权限边界。

选择你的首个工作流

你的目标从这里开始预期内容
建立本地承包商潜在客户名单达拉斯电工示例任务查看预填的输入,设置较小的结果数量上限,然后运行并导出数据集。
跟踪公司申报文件SEC 申报监控教程选择公司和表单类型;保留申报标识符,以避免重复提醒。
随时间比较医疗服务提供者CMS 服务提供者监控教程保存快照,并比较源数据集中的变化,而非实时临床结果。
使用 AI 聊天界面ChatGPT 和 Apify MCP 设置连接你自己的 Apify 帐户,并明确选择 Actor。

无需单独订阅此 MCP 软件包。Actor 运行费用将按显示的 Store 价格通过你的 Apify 帐户结算。请先进行少量运行并检查输出,再安排定期任务;公开来源的数据可能存在延迟、不完整或暂时不可用的情况。


隐私政策

MCP 服务不会收集任何信息。它在你的计算机上运行,从环境中读取 APIFY_TOKEN,唯一的出站调用是使用你自己的 Apify 帐户,向 Apify API 运行你指定的 Actor。我们不会收集遥测数据、记录日志或接收任何数据。完整政策:apify.revenuesystemslabs.com/privacy。

Make.com 模板

8 个已发布的 Make 场景,只需单击即可复制到自己的 Make 账户。每个场景都会在设置向导中要求提供 Apify 令牌和目标位置(Google Sheets 或 Slack)。

模板运行的 Actor
Google Maps 潜在客户信息导入 Google Sheetsgoogle-maps-business-search
Glassdoor 职位信息导入 Google Sheetsglassdoor-jobs-scraper
加利福尼亚州承包商执照信息导入 Google Sheetsca-contractor-license-search
SEC EDGAR 文件提交提醒发送至 Slacksec-edgar-filings-search
将 Google News 搜索结果导出到 Google Sheetsgoogle-news-search
将 Grants.gov 机会信息导出到 Google Sheetsgrants-gov-opportunity-search
将 TED EU 招标信息导出到 Google Sheetsted-eu-tender-search
将 NHTSA 车辆召回信息导出到 Google Sheetsnhtsa-vehicle-recall-search

使用场景指南

每个页面对应 Agent 会收到的一个问题,并列出完成该任务所需的工具、参数、返回字段和价格:

专注于端到端流程的教程:


可用提取器和 Store 列表

以下每个提取器既是 Apify Store 列表,也是同一服务中的 MCP 工具;各个章节对应买家会提出的问题。

商业情报与潜在客户开发

另有:跨境公司注册信息搜索,在有数据的情况下整合英国、法国和 GLEIF 的记录。

工具Store 链接关键输出字段适用场景
Google Maps 商业潜在客户captainhandsome/google-maps-business-search名称、电话、网站、评分、评论、地址、坐标、营业时间B2B 潜在客户开发、本地代理商客户挖掘
网站技术栈与电商扫描器captainhandsome/tech-stack-detectortechnologies、cms、ecommerce_platform、payments、emails适用于竞争对手技术研究,以及对一批公司网站进行 B2B 潜在客户资格评估。
美国商业实体注册信息captainhandsome/us-business-entity-search法律实体名称、备案编号、司法管辖区、状态法律尽职调查、公司注册核查
阿拉巴马州商业实体搜索captainhandsome/al-business-entity-searchentity id、entity name、location、entity type、status按公司名称搜索阿拉巴马州商业实体并导出实体 ID
佛罗里达州 Sunbiz 商业实体搜索captainhandsome/fl-sos-new-filingsentity name、document number、status、entity type、date filed搜索佛罗里达州 Sunbiz 的公司名称结果并导出法律实体名称
佛罗里达州 Sunbiz 高管与注册代理人搜索captainhandsome/fl-sunbiz-officer-searchofficer name、entity name、document number、detail url、entity type按高管或注册代理人姓名搜索佛罗里达州 Sunbiz 并导出高管信息
法国公司搜索captainhandsome/french-company-searchsiren、name、legal name、acronym、status按名称、业务活动、邮政编码搜索法国官方公司注册信息
GLEIF LEI 查询captainhandsome/gleif-lei-searchlei、legal_name、registered_as、legal_form_name、status适用于 KYC 和交易对手尽职调查:在合作方准入前,核实公司的法律实体识别编码、注册状态及其所属国家注册机构编号。
美国承包商执照captainhandsome/us-contractor-license-search承包商名称、执照编号、分类、状态、州技工资质核验、分包商尽职调查
加利福尼亚州承包商执照搜索captainhandsome/ca-contractor-license-searchcontractor name、name type、license number、city、status按承包商名称搜索加利福尼亚州 CSLB 承包商记录并导出
职位、市场与消费者情报
工具商店链接关键输出字段最适用于
Glassdoor 职位与薪资captainhandsome/glassdoor-jobs-scraper职位名称、公司、薪资估算、评分、地点、职位 URL、发布日期招聘情报、薪酬基准分析
LinkedIn 公开职位captainhandsome/linkedin-public-jobs-search职位名称、雇主、地点、直接申请 URL、发布时长招聘、科技人才监测
Airbnb 度假租赁captainhandsome/airbnb-listings-search标题、房间类型、每晚价格、评分、评论数、房源 URL房地产研究、市场价格追踪
Google Play 应用评论captainhandsome/google-play-reviews-scraper评论文本、星级评分、点赞数、日期、评论者姓名应用商店舆情、竞争对手反馈
Apple App Store 评论captainhandsome/app-store-reviews-searchapp_name、review_rating、review_body、review_version、app_average_ratingiOS 评论挖掘、ASO 研究及跨平台舆情分析
YouTube 视频搜索captainhandsome/youtube-search-scraper标题、视频 URL、频道、观看次数、时长、发布日期内容追踪、创作者联络
Twitch 直播captainhandsome/twitch-live-streams-scraper主播用户名、标题、观众人数、语言、类别电子竞技分析、直播监测
政府与公共记录

另有:SEC Form 4 内部人交易、OFAC 制裁名单、CourtListener 案件和 NVD/CISA 漏洞情报。

工具Store 链接主要输出字段最适用于
SEC EDGAR 企业申报文件captainhandsome/sec-edgar-filings-search股票代码、CIK、表格类型(10-K、10-Q、8-K)、申报日期、主要文件 URL财务尽调、股票研究、合规
USAspending 联邦拨款captainhandsome/usaspending-federal-awards接收方供应商、拨款金额、拨款机构、说明、日期政府合同、采购情报
Grants.gov 资助机会captainhandsome/grants-gov-opportunity-search机会编号、机构、截止日期、拨款范围、资格要求、联系人联邦拨款挖掘与资助监测
TED 欧洲招标captainhandsome/ted-eu-tender-search采购方、国家、CPV 代码、截止日期、预估金额、源文件欧洲采购与投标机会发现
NHTSA 车辆召回captainhandsome/nhtsa-vehicle-recall-search活动编号、部件、缺陷、后果、补救措施、受影响车辆数车辆安全检查与召回监测
FEC 竞选财务搜索captainhandsome/fec-campaign-finance-search记录类型、ID、姓名、党派、职位按州搜索美国联邦候选人、PAC 和竞选捐款
EPA ECHO 设施合规与违规记录captainhandsome/epa-echo-facility-search注册 ID、名称、街道、城市、州按州、邮编、NAICS、名称和计划搜索受 EPA 监管的美国设施
US Census 地址地理编码器captainhandsome/us-census-geocodermatched_address、county_name、tract_geoid、block_geoid、congressional_district_geoid最适用于为美国地址补充人口普查区、县 FIPS 和选区 GEOID,以便进行人口统计数据关联和合规报告。
研究与健康数据
工具Store 链接主要输出字段最适用于
ClinicalTrials.gov 搜索captainhandsome/clinical-trials-searchNCT ID、标题、官方标题、缩写、机构研究 ID按疾病、干预措施搜索 ClinicalTrials.gov 官方 API,
Europe PMC 论文搜索captainhandsome/europe-pmc-paper-search标题、DOI、PMID、摘要、引用次数最适用于生物医学文献综述、引文追踪,以及在 PubMed 和 Europe PMC 中发现开放获取内容。
openFDA 药品标签、召回与不良事件captainhandsome/openfda-search数据集、ID、品牌名、通用名、制造商搜索 FDA 官方药品标签、批准信息、不良事件和药品,
CMS 医疗服务提供者搜索captainhandsome/cms-healthcare-provider-search姓名、provider_type、城市、州、星级评分按地点、所有权和星级评分比较经 CMS 认证的医院、养老院和其他 Medicare 服务提供者。

Python 快速入门

1. 安装依赖项
pip install apify-client pandas python-dotenv
2. 将 50 条 Google Maps 潜在客户导出为 CSV
import os
from apify_client import ApifyClient
import pandas as pd

# Get your API token from https://console.apify.com/account/integrations
client = ApifyClient(os.getenv("APIFY_TOKEN"))

# Run the actor
run = client.actor("captainhandsome/google-maps-business-search").call(run_input={
    "search_query": "commercial electricians",
    "location": "Dallas, Texas",
    "max_items": 50,
    "include_details": True,
})

# Fetch dataset items and export to CSV
items = list(client.dataset(run["defaultDatasetId"]).iterate_items())
df = pd.DataFrame(items)
df.to_csv("dallas_electricians.csv", index=False)
print(f"Exported {len(df)} leads to dallas_electricians.csv")

完整脚本请参阅 examples/google_maps_leads_to_csv.py。


Node.js 快速入门

1. 安装依赖项
npm install apify-client
2. 查询 SEC EDGAR 文件
import { ApifyClient } from 'apify-client';

const client = new ApifyClient({ token: process.env.APIFY_TOKEN });

const run = await client.actor('captainhandsome/sec-edgar-filings-search').call({
  companies: ['AAPL', 'NVDA', 'MSFT'],
  forms: ['10-K'],
  max_items: 15,
});

const { items } = await client.dataset(run.defaultDatasetId).listItems();
items.forEach(filing => {
  console.log(`[${filing.ticker}] ${filing.form} (${filing.filing_date}): ${filing.filing_url}`);
});

完整脚本请参阅 examples/sec_filings.js。


无代码与自动化工作流

如果您通过 n8n、Make、Zapier 或 Google Sheets 进行自动化,workflows/ 中提供了可直接导入的蓝图:

在 Make 中打开模板:Google Maps、Glassdoor、加州承包商、将 SEC 文件提交信息发送到 Slack、Google News、Grants.gov、TED 招标,或 NHTSA 召回信息。


预构建示例任务(零代码)

如果您更喜欢通过可运行的网页界面任务而无需编写代码,每个 actor 都包含已在 Apify Store 上发布的预配置任务:

Google Maps 潜在客户
Glassdoor 职位
Airbnb 租房
YouTube 和 Google Play

免费示例数据集

正在寻找可用于基准测试、分析或训练模型的干净数据?已验证的示例数据包及其元数据架构可在 datasets/ 中找到,也已公开托管在 Hugging Face Datasets 上:

八个已验证的示例数据包,每个都导出自其旁边所列 Actor 的一次生产运行。所有数据包均由此代码仓库提供,并镜像到 Hugging Face;数据集卡片会链接回生成它的 Actor。

  1. 凤凰城 HVAC 承包商线索: datasets/phoenix_hvac_leads/ | Hugging Face Hub — 10 个已验证的 HVAC 承包商档案,包含评分、地址和电话号码(Google Maps Business Leads)。
  2. 加利福尼亚持证承包商: datasets/california_solar_contractors/ | Hugging Face Hub — 50 家仍在经营、持有 C-46 和 B 级执照的太阳能安装商,包含州级验证编号(California Contractor License Search)。
  3. 奥斯汀软件工程师招聘信息: datasets/austin_software_jobs/ | Hugging Face Hub — 30 条经过规范化处理的招聘信息,包含预估发布日期和薪资范围(LinkedIn Public Jobs)。
  4. 标普 500 企业申报文件: datasets/sp500_sec_edgar_filings/ | Hugging Face Hub — 5 条 SEC EDGAR 申报记录,包含 CIK、股票代码、SIC 和文档链接(SEC EDGAR Filings)。
  5. 美国联邦国防与 AI 奖项: datasets/us_federal_defense_ai_awards/ | Hugging Face Hub — 10 项联邦合同授予记录,包含受领方、机构、义务金额和日期(USAspending Federal Awards)。
  6. 美国远程 AI 与 ML 招聘信息: datasets/us_remote_ai_ml_job_postings/ | Hugging Face Hub — 10 条远程 AI/ML 招聘信息,包含职位名称、公司、地点和申请 URL(LinkedIn Public Jobs)。
  7. Twitch 热门直播: datasets/twitch_top_live_streams_metadata/ | Hugging Face Hub — 10 条直播频道记录,包含观众人数、类别和语言(Twitch Live Streams)。
  8. 移动应用情感评价: datasets/mobile_apps_user_sentiment_reviews/ | Hugging Face Hub — 10 条 Google Play 评价,包含评分、点赞数和评价者元数据(Google Play Reviews)。

AI Agent 与 MCP 集成

此代码仓库中的所有 Actor 均符合 OpenAPI 和 JSON Schema 标准,因此 AI Agent 可通过模型上下文协议(MCP)直接调用:

选项 1:Claude Desktop / Cursor 与 UVX(推荐)

将以下内容添加到 claude_desktop_config.json 或 Cursor MCP 设置中:

{
  "mcpServers": {
    "apify-data-scrapers": {
      "command": "uvx",
      "args": ["apify-data-scrapers"],
      "env": {
        "APIFY_TOKEN": "YOUR_APIFY_API_TOKEN"
      }
    }
  }
}
选项 2:Docker 容器(Glama / Cloud)

通过 Docker 运行:

{
  "mcpServers": {
    "apify-data-scrapers": {
      "command": "docker",
      "args": ["run", "-i", "--rm", "-e", "APIFY_TOKEN", "glcr.b-cdn.net/jlucasmcrell/apify-scrapers:latest"],
      "env": {
        "APIFY_TOKEN": "YOUR_APIFY_API_TOKEN"
      }
    }
  }
}
选项 3:本地 Python Stdio 运行器

通过 pip 安装或直接运行:

pip install apify-data-scrapers
export APIFY_TOKEN="your_token_here"
apify-data-scrapers

或者从本地源代码运行:

python mcp_server.py
开箱即用的 Agent 提示词:
  • “在 Google Maps 上搜索亚特兰大 50 家商业屋顶承包商,包含电话号码和网站。”
  • “从 SEC EDGAR 检索过去 2 年的 Apple 和 Microsoft Form 10-K 文件。”
  • “在 Glassdoor 上搜索有薪资估算的远程产品经理职位。”

深入工程指南

技术案例研究和问题解决文档位于 articles/:


仓库结构

apify-scrapers/
 README.md                                # Documentation and quickstart
 LICENSE                                  # MIT License
 requirements.txt                         # Python client dependencies
 package.json                             # Node.js dependencies
 mcp.json                                 # MCP tool registry specification
 mcp_server.py                            # Native Python stdio MCP server
 articles/                                # In-depth engineering case studies
    airbnb_playwright_pagination_guide.md
    glassdoor_posting_dates_guide.md
    reddit_community_responses.md        # Reference technical answers for forums
 datasets/                                # Sample benchmark datasets
    phoenix_hvac_leads/
    california_solar_contractors/
    austin_software_jobs/
 workflows/                               # No-code automation templates
    n8n_google_maps_to_sheets.json
    n8n_sec_edgar_to_slack.json
    n8n_google_news_competitor_monitor.json
    n8n_grants_gov_opportunity_monitor.json
    n8n_ted_eu_tender_monitor.json
    README.md
 examples/                                # Standalone developer scripts
     google_maps_leads_to_csv.py
     sec_edgar_filings_downloader.py
     glassdoor_jobs_tracker.py
     airbnb_market_scraper.py
     usaspending_defense_awards.py
     twitch_live_stream_monitor.py
     google_maps_leads.js
     sec_filings.js

作者与支持

由 Joseph McRell 维护。


许可证

本项目采用 MIT License 授权,详情请参阅 LICENSE 文件。

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。