inference-host eklentisi
Inference host bring-up + tuning suite — Linux/GPU bare-metal host work that sits beneath any inference framework (vLLM, sglang, TensorRT-LLM). Two phases. Bring-up (nvidia-datacenter-bringup): Ubuntu 24.04 LTS from clean OS to gpu-operator cuda-validator passing — B300/B200/H100/A100/L40S/L4 driver + fabricmanager + NVLSM + DOCA-OFED install order, NVIDIA CUDA repo + DOCA repo + air-gap mirror, MOK + DKMS sign-on-build under Secure Boot, Dell PowerEdge XE9780/XE9785 baseboard firmware via iDRAC Redfish DellOemChassis.ExtendedReset, gpu-operator pre-installed-driver-mode integration. Tuning (gpu-host-tuning): read-only snapshot of CPU power state, C-states, NUMA topology, PCIe link state, GPU settings, kernel boot params, sysctl, ulimits, IRQ affinity, container runtime; optional pinned-host↔GPU memcpy bench (torch + numactl); per-lever cheat-sheets to flip settings (governor, EPP, cpuidle, persistence, ECC, hugepages, intel_iommu, NCCL env, tuned-adm profiles, BIOS guidance for Dell X
inference-host eklentisi nasıl yüklenir
Her iki komutu da Claude Code içinde çalıştırın. Birincisi pazaryerini bir kez ekler; ikincisi eklentiyi yükler.
/plugin marketplace add air-gapped/skills
/plugin install inference-host@air-gapped-marketplaceinference-host içinde ne var
Eklentinin kendi dosyalarından okunan 2 parça.
SKILL'ler 2
Görev eşleştiğinde Claude bunu yükler- gpu-host-tuning
Audits and tunes Linux host configurations to optimize performance for GPU-based inference frameworks.
- nvidia-datacenter-bringup
Brings up NVIDIA HGX/DGX GPU hosts on Ubuntu 24.04 LTS, including driver, fabricmanager, and DOCA-OFED installation for air-gapped or connected environments.
Claude Code içinde inference-host kullanımı
SKILL'ler komut gerektirmez. Claude, isteğiniz tanımladıkları şeyle eşleştiğinde onları okur.
Güncelleyin, kapatın veya kaldırın
- Eklentiyi güncelleyin (shell)
- claude plugin update inference-host@air-gapped-marketplace
- marketplace'i yenileyin
- /plugin marketplace update air-gapped-marketplace
- Şimdilik kapatın
- /plugin disable inference-host@air-gapped-marketplace
- Kaldırın
- /plugin uninstall inference-host@air-gapped-marketplace
inference-host içindeki beceriler
- gpu-host-tuningair-gapped/skills
Audits and tunes Linux host configurations to optimize performance for GPU-based inference frameworks.
15 dosya6yıldız - nvidia-datacenter-bringupair-gapped/skills
Brings up NVIDIA HGX/DGX GPU hosts on Ubuntu 24.04 LTS, including driver, fabricmanager, and DOCA-OFED installation for air-gapped or connected environments.
20 dosya6yıldız
inference-host eklentisi soruları
inference-host eklentisini nasıl yüklerim?
Claude Code içinde /plugin marketplace add air-gapped/skills, ardından /plugin install inference-host@air-gapped-marketplace çalıştırın.
inference-host eklentisi neleri içerir?
inference-host şunları içerir: 2 beceri.
inference-host eklentisini nasıl güncellerim veya kaldırırım?
Shell üzerinde claude plugin update inference-host@air-gapped-marketplace ile güncelleyin veya /plugin altındaki Yüklü sekmesinden yapın. /plugin uninstall inference-host@air-gapped-marketplace ile kaldırın.
inference-host eklentisi hangi lisans altındadır?
Eklentinin manifestosunda belirtildiği üzere MIT.