agent-browser

agent-browser によるブラウザー自動化

基本的なワークフロー

ブラウザー自動化はすべて、次のパターンに従います。

1. 移動：agent-browser open <url>
2. スナップショット：agent-browser snapshot -i（@e1、@e2 のような要素参照を取得します）
3. 操作：参照を使ってクリック、入力、選択を行います
4. 再スナップショット：ページ移動または DOM の変更後に、新しい参照を取得します

agent-browser open https://example.com/form
agent-browser snapshot -i
# Output: @e1 [input type="email"], @e2 [input type="password"], @e3 [button] "Submit"

agent-browser fill @e1 "[email protected]"
agent-browser fill @e2 "password123"
agent-browser click @e3
agent-browser wait --load networkidle
agent-browser snapshot -i  # Check result

コマンドの連結

1 回のシェル呼び出しで、&& を使ってコマンドを連結できます。バックグラウンドデーモンを介してブラウザーの状態がコマンド間で維持されるため、連結して実行しても安全で、個別に呼び出すより効率的です。

# Chain open + wait + snapshot in one call
agent-browser open https://example.com && agent-browser wait --load networkidle && agent-browser snapshot -i

# Chain multiple interactions
agent-browser fill @e1 "[email protected]" && agent-browser fill @e2 "password123" && agent-browser click @e3

# Navigate and capture
agent-browser open https://example.com && agent-browser wait --load networkidle && agent-browser screenshot page.png

連結する場合： 中間コマンドの出力を確認してから次に進む必要がない場合（例：開く + 待機 + スクリーンショット）は、&& を使用します。最初に出力を解析する必要がある場合（例：スナップショットで参照を確認してから、その参照を使って操作する）は、コマンドを個別に実行します。

必須コマンド

# Navigation
agent-browser open <url>              # Navigate (aliases: goto, navigate)
agent-browser close                   # Close browser

# Snapshot
agent-browser snapshot -i             # Interactive elements with refs (recommended)
agent-browser snapshot -i -C          # Include cursor-interactive elements (divs with onclick, cursor:pointer)
agent-browser snapshot -s "#selector" # Scope to CSS selector

# Interaction (use @refs from snapshot)
agent-browser click @e1               # Click element
agent-browser click @e1 --new-tab     # Click and open in new tab
agent-browser fill @e2 "text"         # Clear and type text
agent-browser type @e2 "text"         # Type without clearing
agent-browser select @e1 "option"     # Select dropdown option
agent-browser check @e1               # Check checkbox
agent-browser press Enter             # Press key
agent-browser keyboard type "text"    # Type at current focus (no selector)
agent-browser keyboard inserttext "text"  # Insert without key events
agent-browser scroll down 500         # Scroll page
agent-browser scroll down 500 --selector "div.content"  # Scroll within a specific container

# Get information
agent-browser get text @e1            # Get element text
agent-browser get url                 # Get current URL
agent-browser get title               # Get page title

# Wait
agent-browser wait @e1                # Wait for element
agent-browser wait --load networkidle # Wait for network idle
agent-browser wait --url "**/page"    # Wait for URL pattern
agent-browser wait 2000               # Wait milliseconds

# Downloads
agent-browser download @e1 ./file.pdf          # Click element to trigger download
agent-browser wait --download ./output.zip     # Wait for any download to complete
agent-browser --download-path ./downloads open <url>  # Set default download directory

# Capture
agent-browser screenshot              # Screenshot to temp dir
agent-browser screenshot --full       # Full page screenshot
agent-browser screenshot --annotate   # Annotated screenshot with numbered element labels
agent-browser pdf output.pdf          # Save as PDF

# Diff (compare page states)
agent-browser diff snapshot                          # Compare current vs last snapshot
agent-browser diff snapshot --baseline before.txt    # Compare current vs saved file
agent-browser diff screenshot --baseline before.png  # Visual pixel diff
agent-browser diff url <url1> <url2>                 # Compare two pages
agent-browser diff url <url1> <url2> --wait-until networkidle  # Custom wait strategy
agent-browser diff url <url1> <url2> --selector "#main"  # Scope to element

よくあるパターン

フォームの送信

agent-browser open https://example.com/signup
agent-browser snapshot -i
agent-browser fill @e1 "Jane Doe"
agent-browser fill @e2 "[email protected]"
agent-browser select @e3 "California"
agent-browser check @e4
agent-browser click @e5
agent-browser wait --load networkidle

Auth Vault による認証（推奨）

# Save credentials once (encrypted with AGENT_BROWSER_ENCRYPTION_KEY)
# Recommended: pipe password via stdin to avoid shell history exposure
echo "pass" | agent-browser auth save github --url https://github.com/login --username user --password-stdin

# Login using saved profile (LLM never sees password)
agent-browser auth login github

# List/show/delete profiles
agent-browser auth list
agent-browser auth show github
agent-browser auth delete github

状態の永続化による認証

# Login once and save state
agent-browser open https://app.example.com/login
agent-browser snapshot -i
agent-browser fill @e1 "$USERNAME"
agent-browser fill @e2 "$PASSWORD"
agent-browser click @e3
agent-browser wait --url "**/dashboard"
agent-browser state save auth.json

# Reuse in future sessions
agent-browser state load auth.json
agent-browser open https://app.example.com/dashboard

セッションの永続化

# Auto-save/restore cookies and localStorage across browser restarts
agent-browser --session-name myapp open https://app.example.com/login
# ... login flow ...
agent-browser close  # State auto-saved to ~/.agent-browser/sessions/

# Next time, state is auto-loaded
agent-browser --session-name myapp open https://app.example.com/dashboard

# Encrypt state at rest
export AGENT_BROWSER_ENCRYPTION_KEY=$(openssl rand -hex 32)
agent-browser --session-name secure open https://app.example.com

# Manage saved states
agent-browser state list
agent-browser state show myapp-default.json
agent-browser state clear myapp
agent-browser state clean --older-than 7

データの抽出

agent-browser open https://example.com/products
agent-browser snapshot -i
agent-browser get text @e5           # Get specific element text
agent-browser get text body > page.txt  # Get all page text

# JSON output for parsing
agent-browser snapshot -i --json
agent-browser get text @e1 --json

並列セッション

agent-browser --session site1 open https://site-a.com
agent-browser --session site2 open https://site-b.com

agent-browser --session site1 snapshot -i
agent-browser --session site2 snapshot -i

agent-browser session list

既存の Chrome への接続

# Auto-discover running Chrome with remote debugging enabled
agent-browser --auto-connect open https://example.com
agent-browser --auto-connect snapshot

# Or with explicit CDP port
agent-browser --cdp 9222 snapshot

配色（ダークモード）

# Persistent dark mode via flag (applies to all pages and new tabs)
agent-browser --color-scheme dark open https://example.com

# Or via environment variable
AGENT_BROWSER_COLOR_SCHEME=dark agent-browser open https://example.com

# Or set during session (persists for subsequent commands)
agent-browser set media dark

ビジュアルブラウザー（デバッグ）

agent-browser --headed open https://example.com
agent-browser highlight @e1          # Highlight element
agent-browser record start demo.webm # Record session
agent-browser profiler start         # Start Chrome DevTools profiling
agent-browser profiler stop trace.json # Stop and save profile (path optional)

環境変数で AGENT_BROWSER_HEADED=1 を設定すると、ヘッドありモードが有効になります。ブラウザー拡張機能は、ヘッドありモードとヘッドレスモードのどちらでも動作します。

ローカルファイル（PDF、HTML）

# Open local files with file:// URLs
agent-browser --allow-file-access open file:///path/to/document.pdf
agent-browser --allow-file-access open file:///path/to/page.html
agent-browser screenshot output.png

iOS シミュレーター（モバイル Safari）

# List available iOS simulators
agent-browser device list

# Launch Safari on a specific device
agent-browser -p ios --device "iPhone 16 Pro" open https://example.com

# Same workflow as desktop - snapshot, interact, re-snapshot
agent-browser -p ios snapshot -i
agent-browser -p ios tap @e1          # Tap (alias for click)
agent-browser -p ios fill @e2 "text"
agent-browser -p ios swipe up         # Mobile-specific gesture

# Take screenshot
agent-browser -p ios screenshot mobile.png

# Close session (shuts down simulator)
agent-browser -p ios close

要件： Xcode を搭載した macOS、Appium（npm install -g appium && appium driver install xcuitest）

実機： 事前に設定されていれば、物理的な iOS デバイスでも動作します。xcrun xctrace list devices で確認できる UDID を使って、--device "<UDID>" を指定してください。

セキュリティ

すべてのセキュリティ機能はオプトインです。デフォルトでは、agent-browser は移動、操作、出力に制限を設けません。

コンテンツ境界（AI エージェントに推奨）

--content-boundaries を有効にすると、ページ由来の出力がマーカーで囲まれ、LLM がツールの出力と信頼できないページコンテンツを区別しやすくなります。

export AGENT_BROWSER_CONTENT_BOUNDARIES=1
agent-browser snapshot
# Output:
# --- AGENT_BROWSER_PAGE_CONTENT nonce=<hex> origin=https://example.com ---
# [accessibility tree]
# --- END_AGENT_BROWSER_PAGE_CONTENT nonce=<hex> ---

ドメイン許可リスト

信頼できるドメインへの移動を制限します。*.example.com のようなワイルドカードは、ベースドメインの example.com にも一致します。許可されていないドメインへのサブリソースリクエスト、WebSocket、EventSource 接続もブロックされます。対象ページが依存する CDN ドメインも含めてください。

export AGENT_BROWSER_ALLOWED_DOMAINS="example.com,*.example.com"
agent-browser open https://example.com        # OK
agent-browser open https://malicious.com       # Blocked

アクションポリシー

破壊的な操作を制限するには、ポリシーファイルを使用します。

export AGENT_BROWSER_ACTION_POLICY=./policy.json

policy.json の例：

{"default": "deny", "allow": ["navigate", "snapshot", "click", "scroll", "wait", "get"]}

Auth Vault の操作（auth login など）はアクションポリシーを回避しますが、ドメイン許可リストは引き続き適用されます。

出力制限

大きなページによるコンテキストの過剰な消費を防ぎます。

export AGENT_BROWSER_MAX_OUTPUT=50000

差分の確認（変更の検証）

操作を実行した後に diff snapshot を使うと、意図した効果が得られたかを検証できます。これは、現在のアクセシビリティツリーと、セッション内で最後に取得したスナップショットを比較します。

# Typical workflow: snapshot -> action -> diff
agent-browser snapshot -i          # Take baseline snapshot
agent-browser click @e2            # Perform action
agent-browser diff snapshot        # See what changed (auto-compares to last snapshot)

ビジュアルリグレッションテストやモニタリングには、次を使用します。

# Save a baseline screenshot, then compare later
agent-browser screenshot baseline.png
# ... time passes or changes are made ...
agent-browser diff screenshot --baseline baseline.png

# Compare staging vs production
agent-browser diff url https://staging.example.com https://prod.example.com --screenshot

diff snapshot の出力では、git diff と同様に追加を +、削除を - で示します。diff screenshot は、変更されたピクセルを赤で強調表示した差分画像と、不一致の割合を出力します。

タイムアウトと遅いページ

ローカルブラウザーの Playwright のデフォルトのタイムアウトは 25 秒です。環境変数 AGENT_BROWSER_DEFAULT_TIMEOUT（値はミリ秒）で変更できます。読み込みが遅いウェブサイトや大きなページでは、デフォルトのタイムアウトに頼らず、明示的な待機を使用してください。

# Wait for network activity to settle (best for slow pages)
agent-browser wait --load networkidle

# Wait for a specific element to appear
agent-browser wait "#content"
agent-browser wait @e1

# Wait for a specific URL pattern (useful after redirects)
agent-browser wait --url "**/dashboard"

# Wait for a JavaScript condition
agent-browser wait --fn "document.readyState === 'complete'"

# Wait a fixed duration (milliseconds) as a last resort
agent-browser wait 5000

読み込みの遅いウェブサイトが続く場合は、open の後に wait --load networkidle を使って、スナップショットを取得する前にページの読み込みが完全に終わるのを待ちます。特定の要素の描画に時間がかかる場合は、wait <selector> または wait @ref を使って、その要素を直接待ちます。

セッション管理とクリーンアップ

複数のエージェントや自動化を同時に実行する場合は、競合を避けるため、必ず名前付きセッションを使用してください。

# Each agent gets its own isolated session
agent-browser --session agent1 open site-a.com
agent-browser --session agent2 open site-b.com

# Check active sessions
agent-browser session list

プロセスが残らないよう、作業が終わったら必ずブラウザーセッションを閉じてください。

agent-browser close                    # Close default session
agent-browser --session agent1 close   # Close specific session

前のセッションが適切に閉じられていない場合、デーモンがまだ実行中の可能性があります。新しい作業を始める前に、agent-browser close を使用してクリーンアップしてください。

Ref のライフサイクル（重要）

Refs（@e1、@e2 など）は、ページが変わると無効になります。次の操作の後は、必ずスナップショットを再取得してください。

• リンクまたはボタンをクリックしてページ遷移したとき
• フォームを送信したとき
• 動的コンテンツを読み込んだとき（ドロップダウン、モーダルなど）

agent-browser click @e5              # Navigates to new page
agent-browser snapshot -i            # MUST re-snapshot
agent-browser click @e1              # Use new refs

注釈付きスクリーンショット（ビジョンモード）

--annotate を使うと、操作可能な要素の上に番号付きラベルを重ねたスクリーンショットを撮影できます。各ラベル [N] は ref @eN に対応します。この方法では refs もキャッシュされるため、別途スナップショットを取得せずにすぐ要素を操作できます。

agent-browser screenshot --annotate
# Output includes the image path and a legend:
#   [1] @e1 button "Submit"
#   [2] @e2 link "Home"
#   [3] @e3 textbox "Email"
agent-browser click @e2              # Click using ref from annotated screenshot

次の場合は、注釈付きスクリーンショットを使用してください。

• ラベルのないアイコンボタンや、視覚的にしか認識できない要素がページにある場合
• レイアウトやスタイルを視覚的に確認する必要がある場合
• Canvas やグラフ要素がある場合（テキストスナップショットでは認識できません）
• 要素の位置に関する空間的な推論が必要な場合

セマンティックロケーター（Refs の代替）

Refs を使用できない場合や、信頼性が低い場合は、セマンティックロケーターを使用してください。

agent-browser find text "Sign In" click
agent-browser find label "Email" fill "[email protected]"
agent-browser find role button click --name "Submit"
agent-browser find placeholder "Search" type "query"
agent-browser find testid "submit-btn" click

JavaScript の評価（eval）

eval を使うと、ブラウザーのコンテキストで JavaScript を実行できます。シェルのクォート処理によって複雑な式が壊れることがあります。問題を避けるには、--stdin または -b を使用してください。

# Simple expressions work with regular quoting
agent-browser eval 'document.title'
agent-browser eval 'document.querySelectorAll("img").length'

# Complex JS: use --stdin with heredoc (RECOMMENDED)
agent-browser eval --stdin <<'EVALEOF'
JSON.stringify(
  Array.from(document.querySelectorAll("img"))
    .filter(i => !i.alt)
    .map(i => ({ src: i.src.split("/").pop(), width: i.width }))
)
EVALEOF

# Alternative: base64 encoding (avoids all shell escaping issues)
agent-browser eval -b "$(echo -n 'Array.from(document.querySelectorAll("a")).map(a => a.href)' | base64)"

重要な理由： シェルがコマンドを処理すると、内側の二重引用符、! 文字（履歴展開）、バッククォート、$() によって、JavaScript が agent-browser に渡される前に壊れることがあります。--stdin と -b のフラグを使うと、シェルによる解釈を完全に回避できます。

目安：

• 1 行で、入れ子の引用符がない場合 → シングルクォートで囲んだ通常の eval 'expression' で問題ありません
• 入れ子の引用符、アロー関数、テンプレートリテラル、複数行のいずれかを含む場合 → eval --stdin <<'EVALEOF' を使用してください
• プログラムで生成したスクリプトの場合 → base64 とともに eval -b を使用してください

設定ファイル

プロジェクトのルートに agent-browser.json を作成すると、設定を保持できます。

{
  "headed": true,
  "proxy": "http://localhost:8080",
  "profile": "./browser-data"
}

優先順位（低い順）：~/.agent-browser/config.json < ./agent-browser.json < env vars < CLI flags。カスタム設定ファイルには --config <path> または AGENT_BROWSER_CONFIG env var を使用してください（ファイルがない場合や無効な場合はエラーで終了します）。すべての CLI オプションは camelCase のキーに対応します（例：--executable-path → "executablePath"）。ブール値のフラグには true／false を指定できます（例：--headed false は設定を上書きします）。ユーザー設定とプロジェクト設定の拡張機能は置き換えられず、統合されます。

詳細ドキュメント

リファレンス	使用する場面
references/commands.md	すべてのオプションを含むコマンドの完全なリファレンス
references/snapshot-refs.md	Ref のライフサイクル、無効化ルール、トラブルシューティング
references/session-management.md	並列セッション、状態の永続化、同時スクレイピング
references/authentication.md	ログインフロー、OAuth、2FA の処理、状態の再利用
references/video-recording.md	デバッグとドキュメント作成のための録画ワークフロー
references/profiling.md	パフォーマンス分析のための Chrome DevTools プロファイリング
references/proxy-support.md	プロキシ設定、地域テスト、ローテーションプロキシ

実験的機能：ネイティブモード

agent-browser には、Node.js と Playwright を完全にバイパスして CDP 経由で Chrome と直接通信する、実験的なネイティブ Rust デーモンがあります。この機能はオプトイン方式であり、現時点では本番環境での使用は推奨されていません。

# Enable via flag
agent-browser --native open example.com

# Enable via environment variable (avoids passing --native every time)
export AGENT_BROWSER_NATIVE=1
agent-browser open example.com

ネイティブデーモンは Chromium と Safari（WebDriver 経由）をサポートしています。Firefox と WebKit はまだサポートされていません。すべてのコアコマンド（navigate、snapshot、click、fill、screenshot、cookies、storage、tabs、eval など）は、ネイティブモードでも同様に動作します。同じセッション内でネイティブモードとデフォルトモードを切り替える前に、agent-browser close を実行してください。

すぐに使えるテンプレート

テンプレート	説明
templates/form-automation.sh	検証機能付きのフォーム入力
templates/authenticated-session.sh	一度ログインして状態を再利用
templates/capture-workflow.sh	スクリーンショットを使ったコンテンツ抽出

./templates/form-automation.sh https://example.com/form
./templates/authenticated-session.sh https://app.example.com/login
./templates/capture-workflow.sh https://example.com ./output