返回快讯列表
开源生态

Transformers 5.20 扩充原生模型支持,导出流程可直接量化

Ling 3.0 Flash、MiniCPM-V 4.7 和多种 OCR、语音模型加入支持;导出量化覆盖多个后端,升级包含兼容性变化。

Transformers 发布 5.20.0,新增 Muse Spark Open、Ling 3.0 Flash、Kolibri 1、MiniCPM-V 4.7、UnlimitedOcr、UltraBERT 和 MOSS-Transcribe-Diarize 等模型支持。Ling 3.0 Flash 以 BailingHybridForCausalLM 原生加载,不再需要 trust_remote_code=True;语音模型 MOSS 可在一次生成中输出转写、说话人标签和时间戳。

导出器加入统一量化接口,可在 Dynamo、ONNX、OpenVINO 和 ExecuTorch 导出时执行量化,接入 PT2E、ONNX Runtime 与 NNCF 量化器,覆盖静态、动态及 INT8、INT4 权重压缩。FSDP 与张量并行组合的模型和优化器检查点,也可以跨不同并行配置保存与加载。

这版同时移除已废弃的 cache_utils 方法,将 kernels 最低版本提高到 0.17.2,并引入 SubConfigSpec 管理嵌套配置。项目明确提示,专家并行推理仍存在速度回退,正在修复。Whisper 的 TPU 生成和批量时间戳解码则有优化与纠错,图像解码开始使用 torchcodec。

更多快讯