IBM 于 10 月 15 日介绍 Granite Switch 4.1,推出 8B 与 30B 两种预配置型号。新版把自然语言对话、通用决策、安全相关判断和语音转写组合到同一个托管端点中。模型预装 Decision aLoRA、Guardian aLoRA,以及 Granite Speech 5.0 Turbo CTC,让应用能够在交谈、分类判断与听写之间切换。
这套设计采用模块化适配器。Activated LoRA 可以复用基础模型生成时已经建立的 KV 缓存,后续做专门判断时无需把同一段输入重新计算一遍。IBM 表示,基础模型、适配器和共置的语音编码器组合后,所需显存与仅运行基础模型大致相当;实际收益仍与所采用的模型和工作流有关。
官方演示用 8B 型号实时转写音频、生成摘要、筛查有害内容,并检查另外 15 个用户定义的标记,所有环节都运行在一个端点上。开发者也可从 Granite Libraries 中选择适配器,组装自己的 Switch 模型。IBM 计划继续提供用于训练适配器的 SDK 和教程,当前可使用已发布的模型与演示。