返回快讯列表
开源生态

SGLang 0.5.19 一次合了 786 个 PR,新支持九类模型

9 月 5 日发布的 SGLang v0.5.19 收了 786 个 PR、214 位贡献者的改动,新支持 Qwen3.8、小红书 dots3.note、Ling-3.0 系列、Spark2.5、Granite 4.2 等模型。

SGLang 发布 v0.5.19,发行说明第一行就是 786 个 PR、214 位贡献者。这个数字放在推理引擎里不算小,也说明上一个版本到现在积压了多少东西。

新支持的模型排了一张表。Qwen3.8 的 2.4T-A95B 和 27B 两档都进来了,小红书的 dots3.note、inclusionAI 的 Ling-3.0-flash 与 Ling-3.0-tiny、Spark2.5、MiniCPM-SALA、IBM 的 Granite 4.2 也在列。扩散模型那边加了 LongCat-Image-Edit 和它的 Turbo 版本。表里带星标的三条是 Qwen3.8、dots3.note 和 Spark2.5。

cookbook 同步更新,多了 GLM-5.3 和 PaddleOCR-VL 的部署指南。对自己搭推理服务的人来说 cookbook 比发行说明有用,它给的是能照抄的启动参数。

一个版本塞进这么多改动,升级前最好先在测试环境把自己在用的那几个模型跑一遍。

更多快讯