通过领先的 Multi-head Latent Attention Optimzation、Data Parallelism Router、Eagle Speculative Decoding 等等技术方案，SGLang 长期保持开源模型顶尖的推理速度和吞吐量。 但是，SGLang 的征程绝不止步于此。当 Agent 的工程师们用其部署智能体时，当开发者在 NVIDIA Triton 内核中融入其 ...