sglang eklentisi
SGLang operator reference suite — HiCache (three-tier hierarchical prefix cache: GPU HBM → host DRAM → distributed L3 via Mooncake/3FS/NIXL/AIBrix/EIC/SiMM/file/LMCache) and the SGLang Model Gateway (`sgl-model-gateway`, formerly `sgl-router`) — Rust router fronting vLLM/SGLang inference workers on Kubernetes with cache-aware/prefix-hash/consistent-hash routing, K8s label-selector service discovery, PD-disaggregation, and `--enable-mesh` CRDT sync between gateway replicas. Pairs with the `vllm` suite for vLLM-side reference and `inference-cache` for engine-agnostic KV-cache transport.
sglang eklentisi nasıl yüklenir
Her iki komutu da Claude Code içinde çalıştırın. Birincisi pazaryerini bir kez ekler; ikincisi eklentiyi yükler.
/plugin marketplace add air-gapped/skills
/plugin install sglang@air-gapped-marketplacesglang içinde ne var
Eklentinin kendi dosyalarından okunan 2 parça.
SKILL'ler 2
Görev eşleştiğinde Claude bunu yükler- sglang-hicache
Manages a three-tier hierarchical KV cache across GPU HBM, host DRAM, and distributed storage to accelerate long-context inference.
- sglang-model-gateway
A Rust-based router that provides cache-aware load balancing for vLLM and SGLang inference workers on Kubernetes.
Claude Code içinde sglang kullanımı
SKILL'ler komut gerektirmez. Claude, isteğiniz tanımladıkları şeyle eşleştiğinde onları okur.
Güncelleyin, kapatın veya kaldırın
- Eklentiyi güncelleyin (shell)
- claude plugin update sglang@air-gapped-marketplace
- marketplace'i yenileyin
- /plugin marketplace update air-gapped-marketplace
- Şimdilik kapatın
- /plugin disable sglang@air-gapped-marketplace
- Kaldırın
- /plugin uninstall sglang@air-gapped-marketplace
sglang içindeki beceriler
- sglang-hicacheair-gapped/skills
Manages a three-tier hierarchical KV cache across GPU HBM, host DRAM, and distributed storage to accelerate long-context inference.
14 dosya6yıldız - sglang-model-gatewayair-gapped/skills
A Rust-based router that provides cache-aware load balancing for vLLM and SGLang inference workers on Kubernetes.
15 dosya6yıldız
sglang eklentisi soruları
sglang eklentisini nasıl yüklerim?
Claude Code içinde /plugin marketplace add air-gapped/skills, ardından /plugin install sglang@air-gapped-marketplace çalıştırın.
sglang eklentisi neleri içerir?
sglang şunları içerir: 2 beceri.
sglang eklentisini nasıl güncellerim veya kaldırırım?
Shell üzerinde claude plugin update sglang@air-gapped-marketplace ile güncelleyin veya /plugin altındaki Yüklü sekmesinden yapın. /plugin uninstall sglang@air-gapped-marketplace ile kaldırın.
sglang eklentisi hangi lisans altındadır?
Eklentinin manifestosunda belirtildiği üzere MIT.