MBZUAI 旗下的 Institute of Foundation Models 在阿布扎比发布 K2 Horizon,一次六个模型,从 0.9B 到 375B-A23B。许可证是 Apache 2.0,官方说法是权重、代码、训练数据和方法一起放出来,让外面的人能检查、复现和改。
六档的定位分得比较细。0.9B 面向手表、眼镜这类硬件,3.7B 好微调、适合手机,7B 主打端侧的软件工程和研究,32B 是给笔记本和本地服务器的稠密模型,36B-A4B 用了他们新提的 Mixture of Value Attention,375B-A23B 是旗舰。
分发走 Hugging Face、vLLM 和 SGLang,API 通过 Compass、Cerebras、AWS 和 Nebius 这几个推理伙伴。方法上还提了一个 diffusion distillation,官方说带来大约 3 倍速度且不掉回答质量,另有动态路由把任务分给最便宜的那一档。
各档最好的说法全是 IFM 自评,尤其 0.9B、3.7B 和 7B 三档号称同尺寸新的最好水平,外面还没有独立复现。训练数据到底放出来多少,得看模型卡。全流程开放这个承诺包含中间检查点、数据配比和训练日志,这类东西通常分批上传,卡上写了多少就只能算多少。