x402-scraper について
x402-scraperは、Coinbase AgentKitとLangChainを利用する自律型AIエージェント向けウェブスクレイピングツールです。ページを簡潔なMarkdownに変換し、Base上でUSDCの少額決済を行います。
主な機能
- 01AIエージェント向けウェブスクレイピング
- 02HTMLからMarkdownへの抽出
- 03Base上で1リクエスト0.02 USDC
- 04非同期SQLiteキュー
- 05ERC-8004 ID登録
活用シーン
- 01エージェントのタスク中にページを取得
- 02LLMコンテキスト内のページ内容を圧縮
- 03Base上でスクレイピングごとに支払い
MCP 対応
`/mcp.json`のMCPマニフェストに対応し、MCPクライアントの設定方法を記載しています。MCP連携を通じてスクレイピング機能を提供します。
設定
リモートサーバーはインストール不要です。クライアントを選んで設定をコピーするか、ワンクリックで導入できます。
エンドポイント
https://your-domain.com/mcp.jsonインストールコマンドをコピー
Claude CodeTerminal
claude mcp add --transport http ihen404-x402-scraper https://your-domain.com/mcp.jsonCursor.cursor/mcp.json
{"mcpServers":{"ihen404-x402-scraper":{"type":"http","url":"https://your-domain.com/mcp.json"}}}Cursor で開くVS Code.vscode/mcp.json
{"servers":{"ihen404-x402-scraper":{"type":"http","url":"https://your-domain.com/mcp.json"}}}VS Code で開くClaude Desktopclaude_desktop_config.json
{"mcpServers":{"ihen404-x402-scraper":{"type":"http","url":"https://your-domain.com/mcp.json"}}}Windsurf~/.codeium/windsurf/mcp_config.json
{"mcpServers":{"ihen404-x402-scraper":{"serverUrl":"https://your-domain.com/mcp.json"}}}コマンドはターミナルで実行し、JSON は各クライアントの MCP 設定に貼り付けて再起動します。認可が必要なサーバーは初回接続時にログインを求めます。
ツール
詳細
@ihentrel/x402-scraper-langchain
Coinbase AgentKit、LangChain、およびx402 オンチェーンマイクロ決済を活用した、自律型 AI エージェント向けに設計されたプロトコルネイティブなウェブスクレイピングユーティリティツールです。
主な機能と戦略的な位置づけ
- API キー不要:エージェントは、未処理の API キー例外やレート制限を気にすることなく、タスクの実行中にスクレイピングリクエストを検出し、支払い、実行できます。
- 予測可能な運用コスト:Base 上でリクエストごとに一律 $0.02 USDC で決済でき、従量課金制のプロキシサービスに代わる透明性の高い運用コストを提供します。
- トークン最適化済みの Markdown:HTML、ナビゲーションの定型要素、DOM 要素を自動的に除去して、クリーンでトークン密度の高い Markdown に変換し、LLM のコンテキストウィンドウにかかるコストを削減します。
- 非同期キューによる耐障害性:疎結合な
better-sqlite3キューとPM2ワーカーメッシュを基盤としており、高い同時実行性の下でのペイロード障害を防ぎます。 - エコシステムに対応:Model Context Protocol (MCP) マニフェスト(
/mcp.json)と、Base 上の ERC-8004 アイデンティティ登録をネイティブにサポートします。
クイックスタート
1. インストール
npm install @ihentrel/x402-scraper-langchain @coinbase/agentkit @langchain/openai
2. 基本的なエージェントの使用方法
import { AgentKit, ViemWalletProvider, walletActionProvider } from "@coinbase/agentkit";
import { getLangChainTools } from "@coinbase/agentkit-langchain";
import { ChatOpenAI } from "@langchain/openai";
import { createReactAgent } from "@langchain/langgraph/prebuilt";
import { x402ActionProvider } from "@ihentrel/x402-scraper-langchain";
async function main() {
const agentKit = await AgentKit.from({
actionProviders: [walletActionProvider(), x402ActionProvider()],
});
const tools = await getLangChainTools(agentKit);
const agent = createReactAgent({
llm: new ChatOpenAI({ modelName: "gpt-4o-mini" }),
tools,
});
const response = await agent.invoke({
messages: [
{
role: "user",
content: "Use the x402 scraper tool to fetch data from https://api.example.com/x402-resource",
},
],
});
console.log(response.messages[response.messages.length - 1].content);
}
main();
Model Context Protocol (MCP) との統合
MCP クライアント(例:Claude Desktop、Cursor、CrewAI)ですぐに利用できます。
{
"mcpServers": {
"x402-scraper": {
"url": "https://raw.githubusercontent.com/ihen404/langchain-x402/main/mcp.json"
}
}
}
オンチェーン検証
- ネットワーク:Base Mainnet / Base Sepolia
- プロトコル標準:ERC-8004 エージェントアイデンティティ
- 決済資産:USDC($0.02 / リクエスト)
ライセンス
MIT © Ike Ambrose Hentrel II
コメント
Markdown 対応
AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。