mcpField
C
CrawlKit Scrapers

CrawlKit Scrapers

远程服务
apify.com浏览器自动化04 天前更新

关于 CrawlKit Scrapers

CrawlKit Scrapers 汇集了基于 Apify 的抓取器,可从电商、旅游、房产、招聘、社交媒体、评论、金融和搜索网站获取数据。它面向开发者和 AI Agent,提供使用 Apify REST API 的示例,并可通过 Apify MCP 服务调用。

主要功能

  1. 0124 个 Apify 抓取 Actor
  2. 02覆盖多个数据类别
  3. 03按结果计费
  4. 04使用 httpx 的 Python 示例
  5. 05Apify REST API 访问
  6. 06Apify MCP 服务集成

适用场景

  1. 01收集 Booking.com 酒店搜索结果
  2. 02获取 Amazon 商品评论
  3. 03提取 YouTube 视频文字稿
  4. 04收集 Zillow 房产信息

MCP 相关

AI Agent 可通过 `https://mcp.apify.com` 上的 Apify MCP 服务调用 CrawlKit Actors。README 提供连接 Claude、Cursor 等客户端的教程链接。

配置

远程服务无需本地安装。选择你使用的客户端,复制配置或使用一键安装。

服务地址https://mcp.apify.com/?actors=sweet_stickball/booking-scraper,sweet_stickball/airbnb-scraper,sweet_stickball/amazon-reviews-scraper,sweet_stickball/aliexpress-scraper,sweet_stickball/google-shopping-scraper,sweet_stickball/zillow-scraper,sweet_stickball/reddit-scraper,sweet_stickball/google-jobs-scraper,sweet_stickball/indeed-job-scraper,sweet_stickball/yelp-scraper,sweet_stickball/google-news-scraper,sweet_stickball/google-flights-scraper,sweet_stickball/shopify-store-scraper,sweet_stickball/telegram-public-channel-scraper,sweet_stickball/bing-ddg-serp
一键复制安装命令
Claude CodeTerminal
Cursor.cursor/mcp.json
VS Code.vscode/mcp.json
Claude Desktopclaude_desktop_config.json
Windsurf~/.codeium/windsurf/mcp_config.json

命令在终端中运行;JSON 粘贴到对应客户端的 MCP 配置后重启。需要授权的服务会在首次连接时提示登录。

全部服务地址
Streamable HTTPhttps://mcp.apify.com/?actors=sweet_stickball/booking-scraper,sweet_stickball/airbnb-scraper,sweet_stickball/amazon-reviews-scraper,sweet_stickball/aliexpress-scraper,sweet_stickball/google-shopping-scraper,sweet_stickball/zillow-scraper,sweet_stickball/reddit-scraper,sweet_stickball/google-jobs-scraper,sweet_stickball/indeed-job-scraper,sweet_stickball/yelp-scraper,sweet_stickball/google-news-scraper,sweet_stickball/google-flights-scraper,sweet_stickball/shopify-store-scraper,sweet_stickball/telegram-public-channel-scraper,sweet_stickball/bing-ddg-serp需要授权

工具

详细介绍

CrawlKit 爬虫

Apify Store MCP License: MIT

24 个用于电商、旅游、房地产、招聘、社交媒体、金融等领域的生产级爬虫。 所有 Actor 均在 Apify 上运行——无需管理基础设施,按结果付费。

快速开始

pip install httpx
export APIFY_TOKEN="your_api_token_here"
python examples/booking.py

在 console.apify.com/account#/integrations 获取 API 令牌。

Actor

电商
Actor每条结果价格说明
AliExpress Scraper$0.0063商品搜索:标题、价格、折扣、评分、店铺
Amazon Reviews Scraper$0.0042商品评论:评分、文本、日期、已验证——覆盖 9 个市场
Google Shopping Scraper$0.0024购物结果:价格、卖家、评分——覆盖 12 个国家
Shopify Scraper$0.0007店铺商品:价格、变体、库存、图片、标签
Walmart Scraper$0.0031商品搜索/页面:价格、评分、卖家、库存情况
旅游
Actor每条结果价格说明
Airbnb Scraper$0.0028搜索结果:房源、价格、评分、评论、房间类型
Booking.com Scraper$0.0035酒店搜索:名称、价格、评分、星级、区、坐标
Google Flights Scraper$0.00017航班票价:价格、航空公司、时间、时长、中转次数
房地产
Actor每条结果价格说明
Realtor.com Scraper$0.0007房产列表:价格、卧室数、浴室数、平方英尺、坐标
Zillow Scraper$0.0016房源:价格、Zestimate、卧室数、浴室数、平方英尺
招聘
Actor每条结果价格说明
Google Jobs Scraper$0.0063职位列表:标题、公司、地点、薪资、申请链接
Indeed Jobs Scraper$0.0005职位列表:标题、公司、薪资——覆盖 6 个国家
Glassdoor Scraper$0.0023公司评论 + 按职位名称划分的薪资范围
社交媒体
Actor每条结果价格说明
Reddit Scraper$0.0028Subreddit 帖子/评论:标题、文本、作者、日期
Telegram Channel Scraper$0.0035公开频道消息:文本、日期、浏览量、媒体
YouTube Transcript Scraper$0.0035视频转录文本,包含时间戳 + 元数据 + 评论
评论
Actor价格/结果描述
App Store Reviews Scraper$0.00007iOS + Google Play 评论:文本、评分、日期、应用版本
Trustpilot Reviews Scraper$0.00048评论 + 公司 TrustScore、评论数量
Yelp Scraper$0.0035商家评论:名称、地址、评分、评论文本
金融
Actor价格/结果描述
SEC EDGAR & Yahoo Finance$0.00035SEC 文件(10-K、10-Q、8-K)+ 股票报价 + 财务数据
搜索与技术
Actor价格/结果描述
Bing & DuckDuckGo SERP$0.0031搜索结果:标题、URL、摘要、排名
Google News Scraper$0.0028新闻文章:标题、来源、日期、URL
Google Trends Scraper$0.0021随时间变化的关注度 + 相关查询,最多 5 个关键词
Tech Stack Detector$0.0016网站技术栈:CMS、框架、分析工具、CDN、托管服务

MCP 集成

所有 CrawlKit Actor 均可通过 Apify MCP server 使用,AI Agent(Claude、Cursor 等)无需编写代码即可调用。

端点:https://mcp.apify.com

请参阅 tutorials/mcp_integration.md 了解设置说明。

示例

文件功能
booking.py从 Booking.com 抓取巴黎的酒店
amazon_reviews.py获取 Amazon 上的商品评论
youtube.py提取 YouTube 视频字幕
google_trends.py获取关键词随时间变化的关注度数据
zillow.py从 Zillow 抓取房地产房源

所有示例均使用 httpx + Apify REST API。无需 SDK。

教程

  • 入门指南 — API 令牌、首次运行、读取结果
  • MCP 集成 — 将 CrawlKit 连接到 Claude、Cursor 和其他 AI Agent
  • 定价 — 按结果付费模式、等级、批量折扣

许可证

MIT

评论

支持 Markdown

第一次接触 MCP?

从协议是什么,到在客户端里装上第一个服务,这几条回答覆盖了大多数入门问题。

一个开放协议,规定了 AI 应用如何以统一方式连接外部工具与数据源。客户端负责与模型对话,MCP 服务负责提供工具、资源和提示模板,两者通过标准消息通信,同一个服务可以被不同客户端复用。