2 篇文档带有标签[inference]

Install HAMi on a GPU cluster and schedule SGLang inference services with GPU partitioning.

在已有 GPU 集群上安装 HAMi，并用 GPU 切分能力调度 vLLM 推理服务。