inference-host 플러그인
Inference host bring-up + tuning suite — Linux/GPU bare-metal host work that sits beneath any inference framework (vLLM, sglang, TensorRT-LLM). Two phases. Bring-up (nvidia-datacenter-bringup): Ubuntu 24.04 LTS from clean OS to gpu-operator cuda-validator passing — B300/B200/H100/A100/L40S/L4 driver + fabricmanager + NVLSM + DOCA-OFED install order, NVIDIA CUDA repo + DOCA repo + air-gap mirror, MOK + DKMS sign-on-build under Secure Boot, Dell PowerEdge XE9780/XE9785 baseboard firmware via iDRAC Redfish DellOemChassis.ExtendedReset, gpu-operator pre-installed-driver-mode integration. Tuning (gpu-host-tuning): read-only snapshot of CPU power state, C-states, NUMA topology, PCIe link state, GPU settings, kernel boot params, sysctl, ulimits, IRQ affinity, container runtime; optional pinned-host↔GPU memcpy bench (torch + numactl); per-lever cheat-sheets to flip settings (governor, EPP, cpuidle, persistence, ECC, hugepages, intel_iommu, NCCL env, tuned-adm profiles, BIOS guidance for Dell X
inference-host 플러그인 설치 방법
두 명령을 모두 Claude Code 안에서 실행하십시오. 첫 번째는 마켓플레이스를 한 번 추가하고, 두 번째는 플러그인을 설치합니다.
/plugin marketplace add air-gapped/skills
/plugin install inference-host@air-gapped-marketplaceinference-host 구성 요소
플러그인 파일에서 읽어온 2개의 항목입니다.
Skills 2
작업이 일치하면 Claude가 로드합니다- gpu-host-tuning
Audits and tunes Linux host configurations to optimize performance for GPU-based inference frameworks.
- nvidia-datacenter-bringup
Brings up NVIDIA HGX/DGX GPU hosts on Ubuntu 24.04 LTS, including driver, fabricmanager, and DOCA-OFED installation for air-gapped or connected environments.
Claude Code에서 inference-host 사용하기
Skills는 명령어가 필요하지 않습니다. 요청이 설명과 일치하면 Claude가 이를 읽습니다.
업데이트, 비활성화 또는 삭제
- 플러그인 업데이트 (shell)
- claude plugin update inference-host@air-gapped-marketplace
- marketplace 새로고침
- /plugin marketplace update air-gapped-marketplace
- 일시적으로 비활성화
- /plugin disable inference-host@air-gapped-marketplace
- 삭제
- /plugin uninstall inference-host@air-gapped-marketplace
inference-host의 스킬
- gpu-host-tuningair-gapped/skills
Audits and tunes Linux host configurations to optimize performance for GPU-based inference frameworks.
15개 파일6스타 - nvidia-datacenter-bringupair-gapped/skills
Brings up NVIDIA HGX/DGX GPU hosts on Ubuntu 24.04 LTS, including driver, fabricmanager, and DOCA-OFED installation for air-gapped or connected environments.
20개 파일6스타
inference-host 플러그인 질문
inference-host 플러그인은 어떻게 설치하나요?
Claude Code에서 /plugin marketplace add air-gapped/skills를 실행한 다음 /plugin install inference-host@air-gapped-marketplace을 실행하십시오.
inference-host 플러그인에는 무엇이 포함되나요?
inference-host은(는) 2개 스킬을(를) 묶습니다.
inference-host 플러그인을 어떻게 업데이트하거나 삭제하나요?
shell에서 claude plugin update inference-host@air-gapped-marketplace를 사용하여 업데이트하거나 /plugin의 Installed 탭에서 수행하세요. 삭제하려면 /plugin uninstall inference-host@air-gapped-marketplace을 사용하세요.
inference-host 플러그인의 라이선스는 무엇인가요?
플러그인 manifest에 명시된 대로 MIT입니다.