NVIDIA GPU kullanım oranı, bellek, sıcaklık ve güç tüketimi gibi gerçek zamanlı metrikleri Model Context Protocol aracılığıyla AI agent'lara sunar.
Ayrıca bilinen adı pmady/gpu-mcp-server, gpu-mcp-server
- Yıldızlar
- 15
- Araçlar
- 4
- İndirmeler, 30 gün
- —
- En son sürüm
- 0.1.0
- Son commit
- 14 Kas 2026
- Lisans
- Apache-2.0
GPU MCP nedir?
NVIDIA GPU kullanım oranı, bellek, sıcaklık ve güç tüketimi gibi gerçek zamanlı metrikleri Model Context Protocol aracılığıyla AI agent'lara sunar. 4 araç sunar; örneğin list_gpus, get_gpu_metrics, get_gpu_processes.
Özet, projenin README dosyasından oluşturuldu
GPU MCP sunucusu hakkında
Bu sunucu, NVIDIA donanım performansının bir AI agent içerisinden izlenmesini sağlar. Kullanım oranı, bellek kullanımı, sıcaklık ve güç tüketimi gibi GPU metriklerine gerçek zamanlı erişim sunar. Geliştiriciler, bu sunucuyu yerel bir stdio bağlantısı kullanarak Claude, Goose, Cursor veya Windsurf gibi uyumlu istemcilere bağlayabilir.
Bu araç, cgo aracılığıyla doğrudan NVML ile iletişim kuran yerel bir süreç olarak çalışır; böylece Prometheus veya dcgm-exporter gibi karmaşık metrik boru hatlarına olan ihtiyacı ortadan kaldırır. MIG instance'larının, ana donanımdan ortak metrikleri raporlamaya devam ederken ayrı cihazlar olarak göründüğü Multi-Instance GPU (MIG) yapılandırmalarını destekler.
Kullanıcılar; list_gpus, get_gpu_metrics, get_gpu_processes ve gpu_summary dahil olmak üzere belirli araçlar aracılığıyla donanımla etkileşime girebilirler. Sunucu, ana makinede gerekli NVIDIA sürücüleri ve Container Toolkit kurulu olması kaydıyla, derlenmiş bir Go binary'si veya Docker konteynerleri aracılığıyla dağıtılabilir.
Neler yapabilirsiniz
- 1Donanım kullanımını kontrol edinAI agent'ınızdan mevcut tüm GPU'ları ve bunların güncel bellek ile kullanım durumlarını listelemesini isteyin.
- 2Kaynak tüketen süreçleri belirleyinHangi spesifik işlem kimliklerinin (PID) şu anda GPU kullandığına dair bir döküm talep edin.
- 3Toplam sistem istatistiklerini alınBağlı tüm cihazlar genelindeki toplam bellek ve ortalama kullanımın bir özetini isteyin.
Projenin README dosyasından alınmıştır. Her kullanım durumu, oradaki bir alıntı ile kontrol edilir.
GPU MCP nasıl yüklenir
Biçimler 10 Kas 2026 tarihinde doğrulandıCursor'a ekleGoose'a ekleGPU MCP'yi Claude Code içine yükleyin
$ claude mcp add gpu-mcp-server -- docker run -i --rm ghcr.io/pmady/gpu-mcp-server:v0.1.0GPU MCP'yi Cursor içine yükleyin
~/.cursor/mcp.json
{
"mcpServers": {
"gpu-mcp-server": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/pmady/gpu-mcp-server:v0.1.0"
]
}
}
}GPU MCP'yi VS Code içine yükleyin
.vscode/mcp.json
{
"servers": {
"gpu-mcp-server": {
"type": "stdio",
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/pmady/gpu-mcp-server:v0.1.0"
]
}
}
}GPU MCP'yi VS Code CLI içine yükleyin
$ code --add-mcp '{"name":"gpu-mcp-server","type":"stdio","command":"docker","args":["run","-i","--rm","ghcr.io/pmady/gpu-mcp-server:v0.1.0"]}'GPU MCP'yi Claude Desktop içine yükleyin
claude_desktop_config.json
{
"mcpServers": {
"gpu-mcp-server": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/pmady/gpu-mcp-server:v0.1.0"
]
}
}
}GPU MCP'yi Codex içine yükleyin
$ codex mcp add gpu-mcp-server -- docker run -i --rm ghcr.io/pmady/gpu-mcp-server:v0.1.0GPU MCP'yi Codex config.toml içine yükleyin
~/.codex/config.toml
[mcp_servers.gpu-mcp-server] command = "docker" args = ["run", "-i", "--rm", "ghcr.io/pmady/gpu-mcp-server:v0.1.0"]
GPU MCP'yi Gemini CLI içine yükleyin
$ gemini mcp add -s user gpu-mcp-server docker -- run -i --rm ghcr.io/pmady/gpu-mcp-server:v0.1.0GPU MCP'yi Gemini settings.json içine yükleyin
~/.gemini/settings.json
{
"mcpServers": {
"gpu-mcp-server": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/pmady/gpu-mcp-server:v0.1.0"
]
}
}
}GPU MCP araçları 4
README dosyasından algılandılist_gpusget_gpu_metricsget_gpu_processesgpu_summary
| list_gpus | — | |
| get_gpu_metrics | — | |
| get_gpu_processes | — | |
| gpu_summary | — |
Otomatik kontroller
Çalıştırıldı 12 Kas 2026Tam rapor →Otomatik kontrollerimizden geçti. Bu bir güvenlik denetimi değildir: kodu okuyun ve sunucuya ihtiyaç duyduğu en dar erişimi verin. Kontroller nasıl çalışır
- Kaynak deposu bağlantılı ve erişilebilirGeçti
- Açık kaynak lisansı (OSI)Geçti
- Son bir yıl içinde commit veya sürüm mevcutGeçti
- Paket adı popüler bir pakete yakın değilKontrol edilmedi
- Uzak uç nokta HTTPS kullanıyorKontrol edilmedi
- Yıkıcı araçlar etiketlenmişGeçti
- Modele yönelik gizli talimat yokGeçti
- Pakette veya bağımlılıklarında kritik uyarı yokKontrol edilmedi
gpu-mcp-server
Note: the OpenSSF Best Practices questionnaire is in progress. Once the project entry is registered at https://www.bestpractices.dev/en, swap the static badge above for the live one:
[](https://www.bestpractices.dev/projects/<ID>)
An MCP server that exposes NVIDIA GPU metrics as tools. Any MCP-compatible AI agent (Claude, Goose, Cursor, etc.) can query real-time GPU utilization, memory, temperature, power, PCIe and NVLink throughput no Prometheus or dcgm-exporter required.
Built on the official Go MCP SDK and NVIDIA go-nvml.
Tools
| Tool | Description |
|---|---|
list_gpus |
List all GPUs with utilization and memory info |
get_gpu_metrics |
Detailed metrics for a GPU by index or UUID |
get_gpu_processes |
PID-level GPU process attribution |
gpu_summary |
Aggregate stats across all devices |
All tools support MIG (Multi-Instance GPU) - MIG instances appear as separate devices with their parent GPU's shared metrics (temperature, power, PCIe).
Sample output
Each tool returns structured JSON. The examples below show the shape of the data an agent receives from a node with two NVIDIA A100 GPUs.
list_gpus:
{
"count": 2,
"devices": [
{
"index": 0,
"uuid": "GPU-aaaa-1111",
"name": "NVIDIA A100-SXM4-80GB",
"gpu_utilization_percent": 85,
"memory_used_mib": 57344,
"memory_total_mib": 81920
},
{
"index": 1,
"uuid": "GPU-bbbb-2222",
"name": "NVIDIA A100-SXM4-80GB",
"gpu_utilization_percent": 20,
"memory_used_mib": 12288,
"memory_total_mib": 81920
}
]
}
get_gpu_metrics (with {"index": 0} or {"uuid": "GPU-aaaa-1111"}):
{
"index": 0,
"uuid": "GPU-aaaa-1111",
"name": "NVIDIA A100-SXM4-80GB",
"gpu_utilization_percent": 85,
"memory_utilization_percent": 70,
"memory_used_mib": 57344,
"memory_total_mib": 81920,
"temperature_celsius": 72,
"power_draw_watts": 300,
"power_limit_watts": 400,
"pcie_tx_kbps": 0,
"pcie_rx_kbps": 0,
"nvlink_tx_mbps": 0,
"nvlink_rx_mbps": 0
}
gpu_summary:
{
"device_count": 2,
"avg_gpu_utilization": 52.5,
"avg_memory_utilization": 42.5,
"total_memory_used_mib": 69632,
"total_memory_total_mib": 163840,
"max_temperature_celsius": 72,
"total_power_draw_watts": 375
}
MIG instances add is_mig, parent_gpu, and mig_profile fields to the
get_gpu_metrics and list_gpus payloads.
Quick start
# build (requires CGO + NVML headers on Linux)
make build
# run the server communicates over stdio
./gpu-mcp-server
Claude Desktop
Add to claude_desktop_config.json:
{
"mcpServers": {
"gpu": {
"command": "/path/to/gpu-mcp-server"
}
}
}
Goose
extensions:
gpu-metrics:
type: stdio
cmd: /path/to/gpu-mcp-server
Cursor
Add to .cursor/mcp.json for a project, or ~/.cursor/mcp.json for all
projects:
{
"mcpServers": {
"gpu": {
"type": "stdio",
"command": "/path/to/gpu-mcp-server"
}
}
}
Windsurf
Add to ~/.codeium/windsurf/mcp_config.json:
{
"mcpServers": {
"gpu": {
"command": "/path/to/gpu-mcp-server"
}
}
}
Build
Requires Go 1.23+, CGO, and NVIDIA drivers on the target machine.
make build # compile binary
make test # run tests (no GPU needed uses mock)
make lint # golangci-lint
make docker # container image
Tests use a mock collector, so they run anywhere no GPU hardware required.
Docker
Prebuilt multi-arch images (linux/amd64, linux/arm64) are published to GHCR on every release.
docker pull ghcr.io/pmady/gpu-mcp-server:latest
docker run --rm -i --gpus all ghcr.io/pmady/gpu-mcp-server:latest
The host needs the NVIDIA Container Toolkit
installed for --gpus all to work. The server speaks MCP over stdio, so the
-i flag is required — don't drop it.
{
"mcpServers": {
"gpu": {
"command": "docker",
"args": ["run", "--rm", "-i", "--gpus", "all", "ghcr.io/pmady/gpu-mcp-server:latest"]
}
}
}
Pin a specific version via tag instead of :latest, e.g. ghcr.io/pmady/gpu-mcp-server:v0.1.0.
Architecture
Agent (Claude/Goose) ─── MCP (stdio) ──→ gpu-mcp-server ──→ NVML ──→ GPU
│
Tools:
• list_gpus
• get_gpu_metrics
• gpu_summary
The server runs as a local process alongside the agent. It calls NVML directly through cgo — no sidecar, no network hops, no metric pipeline to configure.
Project info
- License: Apache 2.0
- Language: Go
- AAIF project alignment: MCP
- Related: keda-gpu-scaler (GPU autoscaling for Kubernetes)
- Whitepaper: GPU-Aware Autoscaling in Cloud Native AI Infrastructure — CNCF TAG Infrastructure initiative (TOC #2188)
Citing
If you use gpu-mcp-server in your research or writing, please cite it via its DOI. Full citation metadata is in CITATION.cff.
@software{madduri_gpu_mcp_server,
author = {Madduri, Pavan},
title = {gpu-mcp-server: NVIDIA GPU metrics for AI agents over the Model Context Protocol},
year = {2026},
publisher = {Zenodo},
doi = {10.5281/zenodo.22866670},
url = {https://doi.org/10.5281/zenodo.22866670}
}
Roadmap
See ROADMAP.md for the 12-month public roadmap.
Contributing
See CONTRIBUTING.md for how to get involved.
Contributors
Thanks to all our contributors! Add yourself via PR.
Governance
This project follows Linux Foundation Minimum Viable Governance.
Documentation
- Full documentation - hosted on Read the Docs
- ROADMAP.md - public roadmap
- GOVERNANCE.md - decision-making process
- DEPENDENCIES.md - external dependencies and licenses
- SECURITY.md - vulnerability reporting
- AGENTS.md - instructions for AI agents working on this repo
- CODE_OF_CONDUCT.md - community standards
Star History
GPU MCP soruları
GPU MCP'yi Claude Code'a nasıl eklerim?
Terminalinizde claude mcp add gpu-mcp-server -- docker run -i --rm ghcr.io/pmady/gpu-mcp-server:v0.1.0 komutunu çalıştırın. Her projede kullanılabilir olması için --scope user ekleyin.
GPU MCP'yi Cursor'a nasıl eklerim?
~/.cursor/mcp.json dosyasını açın ve yukarıdaki yükleme bölümünde gösterilen Cursor yapılandırmasını kullanarak sunucuyu mcpServers altına ekleyin.
GPU MCP hangi araçları sunar?
4 araç sunar; bunlar arasında list_gpus, get_gpu_metrics, get_gpu_processes, gpu_summary yer alır.
Prometheus veya dcgm-exporter gerektiriyor mu?
Hayır, sunucu bir Prometheus veya dcgm-exporter kurulumuna ihtiyaç duymadan NVIDIA GPU metriklerini doğrudan sorgular.
Multi-Instance GPU (MIG) desteği var mı?
Evet, tüm araçlar MIG desteğine sahiptir; bu modda instance'lar, sıcaklık ve güç gibi ortak ana metrikleri paylaşan ayrı cihazlar olarak görünür.
Docker kullanarak çalıştırabilir miyim?
Evet, ana makinede NVIDIA Container Toolkit kurulu olması şartıyla GHCR üzerinde önceden oluşturulmuş çoklu mimari Docker imajları mevcuttur.