mcp-pyautogui-server について
mcp-pyautogui-serverは、GUI操作やテストを自動化するためのPyAutoGUIベースのMCPサーバーです。クライアントにマウス、キーボード、画面操作を提供し、Windows、macOS、Linuxに対応します。
主な機能
- 01マウスの移動、クリック、ドラッグ
- 02テキスト入力とキー操作
- 03スクリーンショットと画面サイズ取得
- 04画面上の画像とピクセル色の検索
活用シーン
- 01GUIテストの自動化
- 02マウスとキーボードによる画面操作
- 03画面内容やピクセル色の確認
MCP 対応
MCPサーバーとして、スクリーンショット、画像位置の検索、画面情報の取得を含むマウス、キーボード、画面操作ツールをMCPクライアントに提供します。
設定
ローカルサーバーの設定はどのクライアントでも共通です。コピーしてクライアントの MCP 設定ファイルに貼り付けてください。
このサーバーのパッケージやリモートエンドポイントはまだ取得できていません。プロジェクトの README の手順に従ってください。
ツール
ローカルサーバーのツールはマシン上で起動して初めて取得できます。メンテナーはまだツール一覧を提供していません。
詳細
mcp-pyautogui-server
PyAutoGUI を通じて、自動 GUI テストと制御機能を提供する MCP(Model Context Protocol)サーバーです。
機能
- マウスの移動とクリックを制御
- キーボード入力をシミュレート
- スクリーンショットを撮影
- 画面上の画像を検索
- 画面情報を取得
- クロスプラットフォームに対応(Windows、macOS、Linux)
ツール
このサーバーは次のツールを実装しています。
マウス制御
- 指定した座標にマウスを移動
- 現在の位置または指定した位置をクリック
- ドラッグ&ドロップ操作
- 現在のマウス位置を取得
キーボード制御
- テキストを入力
- 個々のキーを押す
- ホットキーの組み合わせ
画面操作
- スクリーンショットを撮影
- 画面サイズを取得
- 画面上の画像の位置を検索
- ピクセルの色を取得
インストール
前提条件
- Python 3.12+
- PyAutoGUI
- その他の依存関係は自動的にインストールされます
インストール手順
パッケージをインストールします。
pip install mcp-pyautogui-server
Claude Desktop の設定
MacOS の場合:
~/Library/Application\ Support/Claude/claude_desktop_config.json
Windows の場合:
%APPDATA%/Claude/claude_desktop_config.json
開発版/未公開サーバーの設定:
{
"mcpServers": {
"mcp-pyautogui-server": {
"command": "uv",
"args": [
"--directory",
"/path/to/mcp-pyautogui-server",
"run",
"mcp-pyautogui-server"
]
}
}
}
公開済みサーバーの設定:
{
"mcpServers": {
"mcp-pyautogui-server": {
"command": "uvx",
"args": [
"mcp-pyautogui-server"
]
}
}
}
開発
ビルドと公開
- 依存関係を同期し、ロックファイルを更新します。
uv sync
- パッケージの配布ファイルをビルドします。
uv build
- PyPI に公開します。
uv publish
注:環境変数またはコマンドフラグで PyPI の認証情報を設定します。
- トークン:
--tokenまたはUV_PUBLISH_TOKEN - ユーザー名/パスワード:
--username/UV_PUBLISH_USERNAMEおよび--password/UV_PUBLISH_PASSWORD
デバッグ
最適なデバッグ体験を得るには、MCP Inspector を使用してください。
npm で MCP Inspector を起動します。
npx @modelcontextprotocol/inspector uv --directory /path/to/mcp-pyautogui-server run mcp-pyautogui-server
Inspector に URL が表示されます。ブラウザーでその URL にアクセスすると、デバッグを開始できます。
ライセンス
このプロジェクトは MIT ライセンスの下でライセンスされています。詳細については LICENSE ファイルを参照してください。
コメント
AI アプリケーションが外部のツールやデータソースに統一的な方法で接続するためのオープンなプロトコルです。クライアントはモデルとの対話を担い、MCP サーバーはツール・リソース・プロンプトテンプレートを提供します。標準メッセージでやり取りするため、1 つのサーバーを複数のクライアントで再利用できます。