Model Context Protocol를 통해 GPU 사용률, 메모리, 온도, 전력 소모와 같은 NVIDIA GPU 실시간 메트릭을 AI agent에 제공합니다.
다른 이름 pmady/gpu-mcp-server, gpu-mcp-server
- 스타
- 15
- Tools
- 4
- 다운로드, 30일
- —
- 최신 버전
- 0.1.0
- 마지막 커밋
- 2026년 11월 14일
- 라이선스
- Apache-2.0
GPU MCP란?
Model Context Protocol를 통해 GPU 사용률, 메모리, 온도, 전력 소모와 같은 NVIDIA GPU 실시간 메트릭을 AI agent에 제공합니다. 4개 도구를 제공합니다. 예: list_gpus, get_gpu_metrics, get_gpu_processes.
프로젝트 README에서 생성된 요약
GPU MCP server 정보
이 server는 AI agent 내부에서 NVIDIA 하드웨어 성능을 모니터링할 수 있게 해줍니다. GPU 사용률, 메모리 사용량, 온도, 전력 소모와 같은 GPU 메트릭에 대한 실시간 액세스를 제공합니다. 개발자는 로컬 stdio 연결을 사용하여 이 server를 Claude, Goose, Cursor 또는 Windsurf와 같은 호환 클라이언트에 연결할 수 있습니다.
이 tool은 cgo를 통해 NVML과 직접 통신하는 로컬 프로세스로 작동하므로 Prometheus나 dcgm-exporter와 같은 복잡한 메트릭 파이프라인이 필요하지 않습니다. Multi-Instance GPU (MIG) 구성을 지원하며, MIG 인스턴스는 상위 하드웨어의 공유 메트릭을 보고하면서도 별개의 장치로 표시됩니다.
사용자는 list_gpus, get_gpu_metrics, get_gpu_processes, gpu_summary를 포함한 특정 tool을 통해 하드웨어와 상호작용할 수 있습니다. 호스트 머신에 필요한 NVIDIA driver와 Container Toolkit이 설치되어 있다면, 이 server는 컴파일된 Go binary 또는 Docker container로 배포할 수 있습니다.
활용 사례
- 1하드웨어 사용률 확인AI agent에게 사용 가능한 모든 GPU와 현재 메모리 및 사용률 상태를 나열하도록 요청합니다.
- 2리소스 집약적 프로세스 식별현재 GPU를 사용 중인 특정 프로세스 ID의 상세 내역을 요청합니다.
- 3시스템 통합 통계 확인연결된 모든 장치의 총 메모리 및 평균 사용률 요약을 요청합니다.
프로젝트의 README를 바탕으로 작성되었습니다. 모든 활용 사례는 해당 내용의 인용문과 대조하여 확인합니다.
GPU MCP 설치 방법
형식 확인: 2026년 11월 10일Cursor에 추가Goose에 추가Claude Code에 GPU MCP 설치
$ claude mcp add gpu-mcp-server -- docker run -i --rm ghcr.io/pmady/gpu-mcp-server:v0.1.0Cursor에 GPU MCP 설치
~/.cursor/mcp.json
{
"mcpServers": {
"gpu-mcp-server": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/pmady/gpu-mcp-server:v0.1.0"
]
}
}
}VS Code에 GPU MCP 설치
.vscode/mcp.json
{
"servers": {
"gpu-mcp-server": {
"type": "stdio",
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/pmady/gpu-mcp-server:v0.1.0"
]
}
}
}VS Code CLI에 GPU MCP 설치
$ code --add-mcp '{"name":"gpu-mcp-server","type":"stdio","command":"docker","args":["run","-i","--rm","ghcr.io/pmady/gpu-mcp-server:v0.1.0"]}'Claude Desktop에 GPU MCP 설치
claude_desktop_config.json
{
"mcpServers": {
"gpu-mcp-server": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/pmady/gpu-mcp-server:v0.1.0"
]
}
}
}Codex에 GPU MCP 설치
$ codex mcp add gpu-mcp-server -- docker run -i --rm ghcr.io/pmady/gpu-mcp-server:v0.1.0Codex config.toml에 GPU MCP 설치
~/.codex/config.toml
[mcp_servers.gpu-mcp-server] command = "docker" args = ["run", "-i", "--rm", "ghcr.io/pmady/gpu-mcp-server:v0.1.0"]
Gemini CLI에 GPU MCP 설치
$ gemini mcp add -s user gpu-mcp-server docker -- run -i --rm ghcr.io/pmady/gpu-mcp-server:v0.1.0Gemini settings.json에 GPU MCP 설치
~/.gemini/settings.json
{
"mcpServers": {
"gpu-mcp-server": {
"command": "docker",
"args": [
"run",
"-i",
"--rm",
"ghcr.io/pmady/gpu-mcp-server:v0.1.0"
]
}
}
}GPU MCP 도구 4
README에서 감지됨list_gpusget_gpu_metricsget_gpu_processesgpu_summary
| list_gpus | — | |
| get_gpu_metrics | — | |
| get_gpu_processes | — | |
| gpu_summary | — |
자동 검사
2026년 11월 12일에 실행됨전체 보고서 →자동 검사를 통과했습니다. 이는 보안 감사가 아닙니다. 코드를 직접 읽고 서버에 필요한 최소한의 권한만 부여하십시오. 검사 방식
- 소스 저장소 연결 및 접근 가능통과
- 오픈 소스 라이선스 (OSI)통과
- 최근 1년 내 커밋 또는 릴리스통과
- 패키지 이름이 인기 패키지와 유사하지 않음검사되지 않음
- 원격 엔드포인트가 HTTPS 사용검사되지 않음
- 파괴적인 도구에 라벨 표시됨통과
- 모델에 대한 숨겨진 지침 없음통과
- 패키지 및 해당 종속성에 중요한 보안 권고 없음검사되지 않음
README
GitHub에서 보기gpu-mcp-server
Note: the OpenSSF Best Practices questionnaire is in progress. Once the project entry is registered at https://www.bestpractices.dev/en, swap the static badge above for the live one:
[](https://www.bestpractices.dev/projects/<ID>)
An MCP server that exposes NVIDIA GPU metrics as tools. Any MCP-compatible AI agent (Claude, Goose, Cursor, etc.) can query real-time GPU utilization, memory, temperature, power, PCIe and NVLink throughput no Prometheus or dcgm-exporter required.
Built on the official Go MCP SDK and NVIDIA go-nvml.
Tools
| Tool | Description |
|---|---|
list_gpus |
List all GPUs with utilization and memory info |
get_gpu_metrics |
Detailed metrics for a GPU by index or UUID |
get_gpu_processes |
PID-level GPU process attribution |
gpu_summary |
Aggregate stats across all devices |
All tools support MIG (Multi-Instance GPU) - MIG instances appear as separate devices with their parent GPU's shared metrics (temperature, power, PCIe).
Sample output
Each tool returns structured JSON. The examples below show the shape of the data an agent receives from a node with two NVIDIA A100 GPUs.
list_gpus:
{
"count": 2,
"devices": [
{
"index": 0,
"uuid": "GPU-aaaa-1111",
"name": "NVIDIA A100-SXM4-80GB",
"gpu_utilization_percent": 85,
"memory_used_mib": 57344,
"memory_total_mib": 81920
},
{
"index": 1,
"uuid": "GPU-bbbb-2222",
"name": "NVIDIA A100-SXM4-80GB",
"gpu_utilization_percent": 20,
"memory_used_mib": 12288,
"memory_total_mib": 81920
}
]
}
get_gpu_metrics (with {"index": 0} or {"uuid": "GPU-aaaa-1111"}):
{
"index": 0,
"uuid": "GPU-aaaa-1111",
"name": "NVIDIA A100-SXM4-80GB",
"gpu_utilization_percent": 85,
"memory_utilization_percent": 70,
"memory_used_mib": 57344,
"memory_total_mib": 81920,
"temperature_celsius": 72,
"power_draw_watts": 300,
"power_limit_watts": 400,
"pcie_tx_kbps": 0,
"pcie_rx_kbps": 0,
"nvlink_tx_mbps": 0,
"nvlink_rx_mbps": 0
}
gpu_summary:
{
"device_count": 2,
"avg_gpu_utilization": 52.5,
"avg_memory_utilization": 42.5,
"total_memory_used_mib": 69632,
"total_memory_total_mib": 163840,
"max_temperature_celsius": 72,
"total_power_draw_watts": 375
}
MIG instances add is_mig, parent_gpu, and mig_profile fields to the
get_gpu_metrics and list_gpus payloads.
Quick start
# build (requires CGO + NVML headers on Linux)
make build
# run the server communicates over stdio
./gpu-mcp-server
Claude Desktop
Add to claude_desktop_config.json:
{
"mcpServers": {
"gpu": {
"command": "/path/to/gpu-mcp-server"
}
}
}
Goose
extensions:
gpu-metrics:
type: stdio
cmd: /path/to/gpu-mcp-server
Cursor
Add to .cursor/mcp.json for a project, or ~/.cursor/mcp.json for all
projects:
{
"mcpServers": {
"gpu": {
"type": "stdio",
"command": "/path/to/gpu-mcp-server"
}
}
}
Windsurf
Add to ~/.codeium/windsurf/mcp_config.json:
{
"mcpServers": {
"gpu": {
"command": "/path/to/gpu-mcp-server"
}
}
}
Build
Requires Go 1.23+, CGO, and NVIDIA drivers on the target machine.
make build # compile binary
make test # run tests (no GPU needed uses mock)
make lint # golangci-lint
make docker # container image
Tests use a mock collector, so they run anywhere no GPU hardware required.
Docker
Prebuilt multi-arch images (linux/amd64, linux/arm64) are published to GHCR on every release.
docker pull ghcr.io/pmady/gpu-mcp-server:latest
docker run --rm -i --gpus all ghcr.io/pmady/gpu-mcp-server:latest
The host needs the NVIDIA Container Toolkit
installed for --gpus all to work. The server speaks MCP over stdio, so the
-i flag is required — don't drop it.
{
"mcpServers": {
"gpu": {
"command": "docker",
"args": ["run", "--rm", "-i", "--gpus", "all", "ghcr.io/pmady/gpu-mcp-server:latest"]
}
}
}
Pin a specific version via tag instead of :latest, e.g. ghcr.io/pmady/gpu-mcp-server:v0.1.0.
Architecture
Agent (Claude/Goose) ─── MCP (stdio) ──→ gpu-mcp-server ──→ NVML ──→ GPU
│
Tools:
• list_gpus
• get_gpu_metrics
• gpu_summary
The server runs as a local process alongside the agent. It calls NVML directly through cgo — no sidecar, no network hops, no metric pipeline to configure.
Project info
- License: Apache 2.0
- Language: Go
- AAIF project alignment: MCP
- Related: keda-gpu-scaler (GPU autoscaling for Kubernetes)
- Whitepaper: GPU-Aware Autoscaling in Cloud Native AI Infrastructure — CNCF TAG Infrastructure initiative (TOC #2188)
Citing
If you use gpu-mcp-server in your research or writing, please cite it via its DOI. Full citation metadata is in CITATION.cff.
@software{madduri_gpu_mcp_server,
author = {Madduri, Pavan},
title = {gpu-mcp-server: NVIDIA GPU metrics for AI agents over the Model Context Protocol},
year = {2026},
publisher = {Zenodo},
doi = {10.5281/zenodo.22866670},
url = {https://doi.org/10.5281/zenodo.22866670}
}
Roadmap
See ROADMAP.md for the 12-month public roadmap.
Contributing
See CONTRIBUTING.md for how to get involved.
Contributors
Thanks to all our contributors! Add yourself via PR.
Governance
This project follows Linux Foundation Minimum Viable Governance.
Documentation
- Full documentation - hosted on Read the Docs
- ROADMAP.md - public roadmap
- GOVERNANCE.md - decision-making process
- DEPENDENCIES.md - external dependencies and licenses
- SECURITY.md - vulnerability reporting
- AGENTS.md - instructions for AI agents working on this repo
- CODE_OF_CONDUCT.md - community standards
Star History
GPU MCP 질문
GPU MCP를 Claude Code에 추가하려면 어떻게 하나요?
터미널에서 claude mcp add gpu-mcp-server -- docker run -i --rm ghcr.io/pmady/gpu-mcp-server:v0.1.0를 실행합니다. 모든 프로젝트에서 사용할 수 있게 하려면 --scope user를 추가합니다.
GPU MCP를 Cursor에 추가하려면 어떻게 하나요?
~/.cursor/mcp.json를 열고 mcpServers 아래에 서버를 추가합니다. 위 설치 섹션에 표시된 Cursor 구성을 사용합니다.
GPU MCP는 어떤 도구를 제공하나요?
4개 도구를 제공합니다. 예: list_gpus, get_gpu_metrics, get_gpu_processes, gpu_summary.
Prometheus나 dcgm-exporter가 필요한가요?
아니요, 이 server는 Prometheus나 dcgm-exporter 설정 없이 NVIDIA GPU 메트릭을 직접 조회합니다.
Multi-Instance GPU (MIG)를 지원하나요?
네, 모든 tool은 MIG를 지원합니다. MIG 인스턴스는 온도 및 전력과 같은 상위 메트릭을 공유하는 별개의 장치로 표시됩니다.
Docker로 실행할 수 있나요?
네, 호스트에 NVIDIA Container Toolkit이 설치되어 있다면 GHCR에서 미리 빌드된 multi-arch Docker 이미지를 사용할 수 있습니다.