sglang Plugin
SGLang operator reference suite — HiCache (three-tier hierarchical prefix cache: GPU HBM → host DRAM → distributed L3 via Mooncake/3FS/NIXL/AIBrix/EIC/SiMM/file/LMCache) and the SGLang Model Gateway (`sgl-model-gateway`, formerly `sgl-router`) — Rust router fronting vLLM/SGLang inference workers on Kubernetes with cache-aware/prefix-hash/consistent-hash routing, K8s label-selector service discovery, PD-disaggregation, and `--enable-mesh` CRDT sync between gateway replicas. Pairs with the `vllm` suite for vLLM-side reference and `inference-cache` for engine-agnostic KV-cache transport.
So installierst du das sglang Plugin
Führe beide Befehle in Claude Code aus. Der erste fügt den Marketplace einmalig hinzu; der zweite installiert das Plugin.
/plugin marketplace add air-gapped/skills
/plugin install sglang@air-gapped-marketplaceWas ist in sglang enthalten
2 Teile wurden aus den eigenen Dateien des Plugins gelesen.
Skills 2
Claude lädt es, wenn die Aufgabe passt- sglang-hicache
Manages a three-tier hierarchical KV cache across GPU HBM, host DRAM, and distributed storage to accelerate long-context inference.
- sglang-model-gateway
A Rust-based router that provides cache-aware load balancing for vLLM and SGLang inference workers on Kubernetes.
Verwendung von sglang in Claude Code
Skills benötigen keinen Command. Claude liest sie, wenn deine Anfrage dem entspricht, was sie beschreiben.
Aktualisieren, deaktivieren oder entfernen
- Plugin aktualisieren (shell)
- claude plugin update sglang@air-gapped-marketplace
- marketplace aktualisieren
- /plugin marketplace update air-gapped-marketplace
- Vorerst deaktivieren
- /plugin disable sglang@air-gapped-marketplace
- Entfernen
- /plugin uninstall sglang@air-gapped-marketplace
Skills in sglang
- sglang-hicacheair-gapped/skills
Manages a three-tier hierarchical KV cache across GPU HBM, host DRAM, and distributed storage to accelerate long-context inference.
14 Dateien6Stars - sglang-model-gatewayair-gapped/skills
A Rust-based router that provides cache-aware load balancing for vLLM and SGLang inference workers on Kubernetes.
15 Dateien6Stars
Fragen zum sglang Plugin
Wie installiere ich das sglang Plugin?
Führe in Claude Code /plugin marketplace add air-gapped/skills aus, dann /plugin install sglang@air-gapped-marketplace.
Was enthält das sglang Plugin?
sglang bündelt 2 Skills.
Wie aktualisiere oder entferne ich das sglang Plugin?
Aktualisiere es mit claude plugin update sglang@air-gapped-marketplace in deiner shell oder über den Installed-Tab von /plugin. Entferne es mit /plugin uninstall sglang@air-gapped-marketplace.
Unter welcher Lizenz steht das sglang Plugin?
MIT, wie im Manifest des Plugins angegeben.