構造化されたUIアクセス、スクリーンショット、およびOCRを通じて、AIエージェントがmacOSアプリケーションの閲覧と操作を可能にします。
別名 wende/macbeth
- スター
- 4
- ツール
- —
- ダウンロード数(30日間)
- —
- 最新バージョン
- 0.2.4
- 最終コミット
- 2026年9月20日
- ライセンス
- MIT
Macbeth MCPとは
MacbethはMCPサーバーです。 構造化されたUIアクセス、スクリーンショット、およびOCRを通じて、AIエージェントがmacOSアプリケーションの閲覧と操作を可能にします。.
プロジェクトのREADMEから生成された概要
Macbeth MCP server について
Macbethは、構造化されたUIデータ、スクリーンショット、およびOCRを使用して、AIエージェントがmacOSアプリケーションと対話できるようにする制御レイヤーを提供します。これは、エージェントがネイティブおよびElectronベースのインターフェースの両方を認識し、操作するためのブリッジとして機能します。開発者は、npxを使用したローカルのstdio MCP server経由、または専用のTypeScript APIを介してこれを統合できます。このシステムはmacOS 14以降で動作するように設計されており、Node.js 20以上が必要です。
このサーバーは、視覚的な座標のみに依存するのではなく、アクセシビリティツリーを優先してロール、ラベル、値を照会します。メタデータが不足している、または不完全な場合は、ScreenCaptureKitとVision OCRを使用して画面を解釈するフォールバック機能が働きます。Logic Pro、システム設定、Mailなどの特定のアプリケーション向けの組み込みSKILLが含まれており、エージェントが複雑なワークフローをナビゲートするのを支援します。完全な対話機能を有効にするには、ユーザーがアクセシビリティと画面収録の権限を許可する必要があります。
できること
- 1複雑なクリエイティブソフトウェアの自動化Logic Proのようなプロフェッショナルなオーディオツールの設定を調整するようエージェントに指示します。
- 2システム構成の管理AIにmacOSのファイアウォール設定の現在の状態を検査し、報告させます。
- 3ウィンドウからのテキスト抽出OCRを使用して、Notesなどの特定のアプリケーションウィンドウから表示されているすべてのテキストを抽出します。
- 4Electronアプリケーションの操作公開されているインターフェースを使用することで、標準的なAPIを持たないアプリケーションを操作します。
プロジェクトの README から作成されています。すべてのユースケースは、その引用と照らし合わせて確認されています。
Macbeth MCPのインストール方法
フォーマット検証日 2026年11月10日Cursor に追加Gooseに追加Claude CodeにMacbeth MCPをインストール
$ claude mcp add macbeth -- npx -y macbethCursorにMacbeth MCPをインストール
~/.cursor/mcp.json
{
"mcpServers": {
"macbeth": {
"command": "npx",
"args": [
"-y",
"macbeth"
]
}
}
}VS CodeにMacbeth MCPをインストール
.vscode/mcp.json
{
"servers": {
"macbeth": {
"type": "stdio",
"command": "npx",
"args": [
"-y",
"macbeth"
]
}
}
}VS Code CLIにMacbeth MCPをインストール
$ code --add-mcp '{"name":"macbeth","type":"stdio","command":"npx","args":["-y","macbeth"]}'Claude DesktopにMacbeth MCPをインストール
claude_desktop_config.json
{
"mcpServers": {
"macbeth": {
"command": "npx",
"args": [
"-y",
"macbeth"
]
}
}
}CodexにMacbeth MCPをインストール
$ codex mcp add macbeth -- npx -y macbethCodex config.tomlにMacbeth MCPをインストール
~/.codex/config.toml
[mcp_servers.macbeth] command = "npx" args = ["-y", "macbeth"]
Gemini CLIにMacbeth MCPをインストール
$ gemini mcp add -s user macbeth npx -- -y macbethGemini settings.jsonにMacbeth MCPをインストール
~/.gemini/settings.json
{
"mcpServers": {
"macbeth": {
"command": "npx",
"args": [
"-y",
"macbeth"
]
}
}
}自動チェック
実行日 2026年11月14日完全なレポート →自動チェックに合格しました。これはセキュリティ監査ではありません。コードを読み、サーバーに必要最小限のアクセス権を与えてください。 チェックの仕組み
- ソースリポジトリがリンクされており、アクセス可能wende/macbeth is public and reachablegithub.com/wende/macbeth ↗合格
- パッケージがこのリポジトリをソースとして指定macbeth names wende/macbeth as sourcenpmjs.com/package/macbeth ↗合格
- ビルドの来歴 (Sigstore 証明)Sigstore attestation for macbethnpmjs.com/package/macbeth/v/0.2.4#provenance ↗合格
- オープンソースライセンス (OSI)MITspdx.org/licenses/MIT.html ↗合格
- 過去1年以内にコミットまたはリリースありLast commit or release 2026-09-20github.com/wende/macbeth ↗合格
- OpenSSF Scorecard未チェック
- パッケージ名が有名なパッケージに酷似していないNo popular package one edit away from macbeth合格
- パッケージおよびその依存関係に重大な勧告なし99 resolved dependencies checked; no critical advisoryosv.dev ↗合格
- モデルへの隠れた指示がない0 tool descriptions and the README read; no override phrases, credential paths or hidden characters合格
- 破壊的なツールがラベル付けされている未チェック
- リモートエンドポイントが MCP ハンドシェイクに応答未チェック
README
GitHubで見るQuickstart
Give Claude Code access to Macbeth:
claude mcp add macbeth -- npx -y macbeth
Then ask it to verify the connection:
Using Macbeth, list the running applications, connect to Finder, inspect its front window, and summarize the first few controls you can see. Do not perform any other actions.
Macbeth ships with a prebuilt, signed and notarized universal daemon. No Swift toolchain or manual service installation is required. If setup fails, run npx macbeth doctor; it prints a self-contained diagnostic prompt you can paste back into your agent.
Any MCP client that can launch a stdio server can use npx -y macbeth. See MCP setup for generic configuration, updates, and the complete tool list.
Add Macbeth as an MCP server using
npx -y macbeth. Runnpx macbeth doctor, guide me through granting only the permissions I need, and verify the setup by inspecting Finder. Do not take any unrelated actions.
Across your Mac
Work inside Unity, Logic Pro, and other complex tools
“In Logic Pro, set the project tempo to 128 BPM and start playback.”
Macbeth combines structured controls, menus, keyboard input, screenshots, OCR, and application-specific guidance. Logic Pro has a dedicated skill. Applications with thinner accessibility trees, including parts of Unity, can combine structured controls with keyboard, menu, screenshot, and OCR fallbacks.
Automate macOS itself
“Open System Settings, find the firewall controls, and report their current state without changing anything.”
Macbeth can inspect named controls and values, select native menu items, and use keyboard input when a semantic action is unavailable.
Use applications even when they have no API
“Open HEY, find the newest visible thread from the design team, and summarize it without sending or changing anything.”
Macbeth can work through exposed Electron interfaces even when the service does not provide the API your agent needs. HEY works through Macbeth's generic Electron support; results vary with the application's accessibility tree and version.
See what the accessibility tree misses
“Capture the frontmost Notes window and extract all visible text.”
ScreenCaptureKit screenshots and local Vision OCR provide a fallback for content that macOS does not expose as useful accessibility data.
Build repeatable scripts and tests
The same engine is available as a TypeScript API with lazy locators, auto-waiting actions, explicit state waits, screenshots, and application connections.
[!IMPORTANT] Macbeth can act inside applications on your behalf. Connect only trusted agents and require approval for consequential actions.
Why Macbeth?
- Use your own agent. Macbeth is a control layer, not a model or agent runtime.
- Structured when possible. Query roles, labels, values, enabled state, hierarchy, and stable handles instead of relying only on coordinates.
- Visual when necessary. Fall back to window capture and OCR when accessibility metadata is thin.
- Application-aware. Versioned skills preserve workflows, shortcuts, and known failure modes.
- Scriptable. Use the same primitives interactively over MCP or directly from TypeScript.
Structured before pixels
| Capability | Typical screenshot-driven agent | Macbeth |
|---|---|---|
| Find a labeled control | Visual inference | Accessibility query when exposed |
| Read role, value, and state | Inferred | Structured attributes |
| Wait for a UI change | Usually observed through repeated captures | Explicit waits and auto-waiting actions |
| Handle incomplete UI metadata | Vision/OCR | Accessibility first, screenshot/OCR fallback |
| Reuse application knowledge | Prompt-dependent | Bundled, versioned skills |
Accessibility information can itself be incomplete or misleading. Macbeth is a hybrid interface: it uses stronger structured primitives when macOS exposes them and keeps visual and system-level fallbacks available when it does not.
Security and limitations
- Macbeth requires macOS 14 or newer and Node.js 20 or newer.
- Accessibility permission is required for UI inspection and interaction. Screen Recording is required only for screenshots and window OCR.
- Application accessibility quality varies. Custom-rendered canvases, games, and some creative tools may require menus, screenshots, OCR, keyboard input, or application-specific guidance.
- Interface changes between application versions can break specialized workflows.
- The interaction glow makes Macbeth activity visible, but it is not an approval system or a complete audit log.
- Agents can make mistakes. Use human review for destructive, financial, publishing, or privacy-sensitive actions.
Macbeth uses a local stdio MCP server and a Unix-domain socket; it does not open a TCP listener. Screenshots requested through MCP are written to a temporary directory and are not automatically deleted. Read the security model for data flow, permission revocation, local-process risks, and safer operating practices.
TypeScript API
npm install macbeth
import { connect } from "macbeth";
const app = await connect("TextEdit");
await app.window("Untitled").textField().fill("Hello from Macbeth");
await app.pressKey("s", ["cmd"]);
See Developing with Macbeth for locators, screenshots, Electron behavior, lifecycle, and tests.
Teach Macbeth an application
A Macbeth skill is a SKILL.md file, optionally accompanied by runnable scripts, that teaches an agent reliable workflows and pitfalls. Call load_skill with no arguments for the core Macbeth guide. Bundled app skills cover Calendar, Contacts, Logic Pro, Mail, Maps, Messages, Music, Notes, Reminders, Safari, System Settings, and generic Electron applications.
You can add a skill without changing the Swift daemon. Start with the contribution guide and include a reproducible prompt, tested application version, expected result, and honest failure modes.
Documentation
| Guide | Contents |
|---|---|
| MCP server | Installation, smoke test, tools, skills, and updates |
| CLI | Every MCP tool as a macbeth <tool> subcommand |
| TypeScript API | Client API, locators, Electron, and tests |
| Architecture | Daemon, protocol, fallbacks, and design notes |
| Security | Trust boundaries, data handling, and permission revocation |
| Troubleshooting | Diagnostics and common setup failures |
| Contributing | Development workflow and application skills |
Requirements
- macOS 14 (Sonoma) or later
- Node.js 20+
- Swift 6.0+ only when building the daemon from source
License
MIT
Macbeth MCPのよくある質問
Macbeth MCPをClaude Codeに追加するには
ターミナルでclaude mcp add macbeth -- npx -y macbethを実行します。すべてのプロジェクトで利用するには--scope userを追加します。
Macbeth MCPをCursorに追加するには
~/.cursor/mcp.jsonを開き、上記のインストールセクションに示すCursor設定を使ってmcpServersの下にサーバーを追加します。
Macbethのシステム要件は何ですか?
MacbethにはmacOS 14 (Sonoma) 以降、およびNode.js 20以降が必要です。
Claude CodeにMacbethを追加するにはどうすればよいですか?
claude mcp add macbeth -- npx -y macbeth というコマンドを使用して追加できます。
Macbethには特別な権限が必要ですか?
はい、UIの検査と操作にはアクセシビリティの許可、スクリーンショットとウィンドウのOCRには画面収録の許可が必要です。
APIのないアプリケーションでもMacbethは動作しますか?
はい、公開されているElectronインターフェースを介して動作できるほか、アクセシビリティメタデータが利用できない場合は、スクリーンショットやOCRなどの視覚的なフォールバックを使用して動作します。