Microsoft AI 于 10 月 15 日公布 MAI-Base-2 预训练进展。这是一款总参数达 2.8 万亿、每次激活 800 亿参数的混合专家基础模型，训练在八月至九月间使用 1.6 万块 GB200，持续 38 天。模型当前仍在后训练，尚未面向公众开放下载，正式开放日期仍待公布。
技术报告把进展归于扩展规律、模型与基础设施协同设计，以及训练数据扩大三个方面。团队改进专家路由与内存管理，让全部层采用混合专家结构，并优化 Muon 的通信和矩阵计算。数据部分加入原生视觉预训练，采用不依赖独立视觉编码器的架构；微软称训练数据全部经自有流程处理，没有通过其他模型蒸馏获得基础能力。
评测使用与分词器无关的每字节比特数，比较模型对保留文本的预测能力。微软估算，在匹配 DeepSeek-V4-Pro-Base 对应评测损失时，新训练配方的计算效率高出 4.2 至 12.3 倍。这个数字来自扩展规律拟合，衡量达到相同预测水平所需的训练计算量，不能直接换算成推理速度。后续产品表现仍要等待后训练结果和更完整的任务评测。