【实操实验】SGLang Diffusion：高性能图像与视频生成——现场运行开放扩散模型

扩散模型已成为现代图像和视频生成的基础，但高效地提供推理服务仍然具有挑战性。在本次实操实验中，我们将介绍 SGLang-Diffusion，一个专为可扩展扩散生成设计的高性能推理框架。我们将展示其系统架构和关键优化——包括高级并行化、分布式 VAE、算子融合和服务改进——使扩散模型能够高效且可用于生产环境的部署。我们还将演示 SGLang-Diffusion 如何加速流行的开源模型，并支持大规模多模态生成工作负载。