inference-cache プラグイン
Inference KV-cache and transport suite — LMCache multiprocess (MP) standalone-server mode (DaemonSet + Deployment K8s pattern, ZMQ connector, L1 + L2 NIXL/POSIX/GDS/HF3FS/fs/s3/mooncake adapters) and NVIDIA NIXL transfer library (UCX/GDS/Mooncake/libfabric/HF3FS/S3 plugins, agent API, telemetry) used by Dynamo/vLLM/SGLang. Pairs with the vllm-caching skill in the `vllm` suite and sglang-hicache in the `sglang` suite.
inference-cache プラグインのインストール方法
両方のコマンドを Claude Code 内で実行してください。最初のコマンドで marketplace を一度追加し、2 番目のコマンドでプラグインをインストールします。
/plugin marketplace add air-gapped/skills
/plugin install inference-cache@air-gapped-marketplaceinference-cache の内容
プラグイン自身のファイルから読み込まれた 2 個のパーツ です。
SKILL 2
タスクが一致したときに Claude が読み込みます- lmcache-mp
Enables a standalone LMCache server in a separate process or pod that vLLM connects to via ZMQ for shared KV-cache and process isolation.
- nvidia-nixl
Provides a transport abstraction for point-to-point KV-cache and tensor transfers in distributed inference environments.
Claude Code での inference-cache の使用方法
SKILL にコマンドは不要です。リクエストが説明と一致したときに Claude が読み込みます。
更新、オフ、または削除
- プラグインを更新 (shell)
- claude plugin update inference-cache@air-gapped-marketplace
- marketplace を更新
- /plugin marketplace update air-gapped-marketplace
- 一時的にオフにする
- /plugin disable inference-cache@air-gapped-marketplace
- 削除する
- /plugin uninstall inference-cache@air-gapped-marketplace
inference-cache のスキル
- lmcache-mpair-gapped/skills
Enables a standalone LMCache server in a separate process or pod that vLLM connects to via ZMQ for shared KV-cache and process isolation.
8件のファイル6スター - nvidia-nixlair-gapped/skills
Provides a transport abstraction for point-to-point KV-cache and tensor transfers in distributed inference environments.
12件のファイル6スター
inference-cache プラグインに関する質問
inference-cache プラグインをインストールするにはどうすればよいですか。
Claude Code で /plugin marketplace add air-gapped/skills を実行し、続いて /plugin install inference-cache@air-gapped-marketplace を実行します。
inference-cache プラグインには何が含まれていますか。
inference-cache には 2 件のスキル が含まれています。
inference-cache プラグインを更新または削除するにはどうすればよいですか？
shell で claude plugin update inference-cache@air-gapped-marketplace を使用して更新するか、/plugin の Installed タブから行ってください。削除するには /plugin uninstall inference-cache@air-gapped-marketplace を使用してください。
inference-cache プラグインのライセンスは何ですか？
プラグインのマニフェストに記載されている MIT です。