inference-cache Plugin
Inference KV-cache and transport suite — LMCache multiprocess (MP) standalone-server mode (DaemonSet + Deployment K8s pattern, ZMQ connector, L1 + L2 NIXL/POSIX/GDS/HF3FS/fs/s3/mooncake adapters) and NVIDIA NIXL transfer library (UCX/GDS/Mooncake/libfabric/HF3FS/S3 plugins, agent API, telemetry) used by Dynamo/vLLM/SGLang. Pairs with the vllm-caching skill in the `vllm` suite and sglang-hicache in the `sglang` suite.
So installierst du das inference-cache Plugin
Führe beide Befehle in Claude Code aus. Der erste fügt den Marketplace einmalig hinzu; der zweite installiert das Plugin.
/plugin marketplace add air-gapped/skills
/plugin install inference-cache@air-gapped-marketplaceWas ist in inference-cache enthalten
2 Teile wurden aus den eigenen Dateien des Plugins gelesen.
Skills 2
Claude lädt es, wenn die Aufgabe passt- lmcache-mp
Enables a standalone LMCache server in a separate process or pod that vLLM connects to via ZMQ for shared KV-cache and process isolation.
- nvidia-nixl
Provides a transport abstraction for point-to-point KV-cache and tensor transfers in distributed inference environments.
Verwendung von inference-cache in Claude Code
Skills benötigen keinen Command. Claude liest sie, wenn deine Anfrage dem entspricht, was sie beschreiben.
Aktualisieren, deaktivieren oder entfernen
- Plugin aktualisieren (shell)
- claude plugin update inference-cache@air-gapped-marketplace
- marketplace aktualisieren
- /plugin marketplace update air-gapped-marketplace
- Vorerst deaktivieren
- /plugin disable inference-cache@air-gapped-marketplace
- Entfernen
- /plugin uninstall inference-cache@air-gapped-marketplace
Skills in inference-cache
- lmcache-mpair-gapped/skills
Enables a standalone LMCache server in a separate process or pod that vLLM connects to via ZMQ for shared KV-cache and process isolation.
8 Dateien6Stars - nvidia-nixlair-gapped/skills
Provides a transport abstraction for point-to-point KV-cache and tensor transfers in distributed inference environments.
12 Dateien6Stars
Fragen zum inference-cache Plugin
Wie installiere ich das inference-cache Plugin?
Führe in Claude Code /plugin marketplace add air-gapped/skills aus, dann /plugin install inference-cache@air-gapped-marketplace.
Was enthält das inference-cache Plugin?
inference-cache bündelt 2 Skills.
Wie aktualisiere oder entferne ich das inference-cache Plugin?
Aktualisiere es mit claude plugin update inference-cache@air-gapped-marketplace in deiner shell oder über den Installed-Tab von /plugin. Entferne es mit /plugin uninstall inference-cache@air-gapped-marketplace.
Unter welcher Lizenz steht das inference-cache Plugin?
MIT, wie im Manifest des Plugins angegeben.