mcpField
T
twitter-scraping

twitter-scraping

github.com/nirholasデータ・データベース63145 回インストール1 日前に更新
リポジトリ

twitter-scraping について

Node.js のスクレイパー API、ブラウザー用スクリプト、対話型ツールボックスで X のデータを収集するスキルです。プロフィールや投稿、フォロワー、検索結果を取得し、エクスポートや MCP ツールも利用できます。

主な機能

  1. 01プロフィール、フォロワー、フォロー先を収集
  2. 02投稿、ハッシュタグ、スレッド、メディアを取得
  3. 03Node.js API とブラウザースクリプトを提供
  4. 04対話型パネルで収集を制御・フィルタリング
  5. 05JSON、CSV などにエクスポート
  6. 06MCP のスクレイピングツールを提供

活用シーン

  1. 01特定ユーザーの投稿とプロフィールを整理
  2. 02検索結果やハッシュタグ投稿を収集
  3. 03フォロワー、ブックマーク、メディアをエクスポート
  4. 04AI エージェントから X の収集機能を呼び出す

MCP 対応

MCP サーバーが、プロフィール、フォロワー、投稿、検索結果、スレッド、動画 URL を取得するツールを AI エージェントに公開します。

インストール

コマンドをコピーしてターミナルで実行します。

$npx skills add https://github.com/nirholas/xactions --skill twitter-scraping

インストール後、Claude Code で/twitter-scrapingを入力して読み込まれたか確認します。

同梱ファイルreferences/scraper-details.md

詳細

Twitter スクレイピング

認証の設定

すべてのスクレイパーには、x.com の auth_token Cookie が必要です(DevTools → Application → Cookies から auth_token の値をコピーしてください)。

Node.js スクレイパー API

npm install xactions -- src/scrapers/index.js のすべての関数を利用できます。

import { createBrowser, createPage, loginWithCookie, scrapeProfile } from 'xactions';

const browser = await createBrowser();
const page = await createPage(browser);
await loginWithCookie(page, AUTH_TOKEN);

const profile = await scrapeProfile(page, 'nichxbt');
await browser.close();
関数用途
scrapeProfile(page, username)プロフィールデータ(自己紹介、フォロワー数、フォロー数)
scrapeFollowers(page, username, {limit})フォロワーの一覧
scrapeFollowing(page, username, {limit})フォロー中のユーザーの一覧
scrapeTweets(page, username, {limit})ユーザーのツイート
searchTweets(page, query, {limit})検索結果
scrapeHashtag(page, tag, {limit})ハッシュタグのツイート
scrapeThread(page, tweetUrl)スレッドのツイート
scrapeMedia(page, username, {limit})メディアの URL
exportToJSON(data, path) / exportToCSV(data, path)ファイルへのエクスポート

ブラウザーコンソールスクリプト

単体で動作する IIFE です。x.com の DevTools コンソールに貼り付けてください。依存関係はありません。

スクリプトファイル移動先
動画をダウンロードsrc/scrapers/videoDownloader.js動画付きのツイート
ブックマークをエクスポートsrc/scrapers/bookmarkExporter.jsx.com/i/bookmarks
スレッドを展開src/scrapers/threadUnroller.js任意のスレッド
バズったツイートを検索src/scrapers/viralTweets.jsユーザープロフィール
フォロワーをスクレイピングscripts/scrapeFollowers.jsx.com/USER/followers
フォロー中のユーザーをスクレイピングscripts/scrapeFollowing.jsx.com/USER/following
プロフィールをスクレイピングscripts/scrapeProfile.jsユーザープロフィール
検索結果をスクレイピングscripts/scrapeSearch.js検索結果
ハッシュタグをスクレイピングscripts/scrapeHashtag.jsx.com/hashtag/TAG
いいねをスクレイピングscripts/scrapeLikes.jsx.com/USER/likes
いいねしたユーザーをスクレイピングscripts/scrapeLikers.js任意のツイート
返信をスクレイピングscripts/scrapeReplies.js任意のツイート
メディアをスクレイピングscripts/scrapeMedia.jsユーザーのメディアタブ
DM をスクレイピングscripts/scrapeDMs.jsx.com/messages
通知をスクレイピングscripts/scrapeNotifications.jsx.com/notifications
リストをスクレイピングscripts/scrapeList.js任意の X リスト
ブックマークをスクレイピングscripts/scrapeBookmarks.jsx.com/i/bookmarks
CSV にエクスポートscripts/exportToCSV.js任意のスクレイピングの後
リンクをスクレイピングscripts/linkScraper.js任意のタイムライン
引用リツイートscripts/scrapeQuoteRetweets.js任意のツイート

インタラクティブなブラウザーツールボックス(コンソールでのスクレイピングにおすすめ)

コンソールに貼り付けてスクレイピングする場合は、scripts/twitter/scraper-toolbox.js をおすすめします。ページ上にコントロールパネルが表示され(開始/一時停止/停止、リアルタイムフィルター、ユーザーの除外、キーワードルール)、X 独自の GraphQL レスポンスを取得するため、件数は正確な整数になり、長い投稿も途中で切り捨てられません。JSON/CSV/Markdown/TXT/HTML 形式でエクスポートし、クリップボードにコピーできます。プロフィール、検索、リスト、いいね、ブックマーク、ホームなど、あらゆるタイムラインで動作します。ドキュメント: scripts/twitter/README-scraper-toolbox.md。

MCP スクレイピングツール

すべてのスクレイパーは、AI エージェント向けに MCP サーバーから利用できます。

ツール説明
x_get_profileユーザープロフィールをスクレイピング
x_get_followersフォロワーの一覧を取得
x_get_followingフォロー中のユーザーの一覧を取得
x_get_tweetsユーザーのツイートを取得
x_search_tweetsツイートを検索
x_get_threadスレッドを展開
x_download_video動画 URL を抽出

注意事項

  • Node.js スクレイパーの使用後は、必ず browser.close() を呼び出してください
  • ブラウザースクリプトはページ遷移時に停止します。実行中はページを移動しないでください
  • すべてのスクリプトは JSON および CSV 形式でのエクスポートに対応しています
  • より多くのデータをスクレイピングするには、limit パラメーターを大きくしてください(デフォルト値は関数によって異なります)
  • レート制限が組み込まれています。待ち時間をデフォルト値より短くしないでください

コメント