Mirendil 于10月26日首次公布语言模型 Fern。官方称模型从零开始预训练,Fern 0.1 在基础模型上完成了一轮较短的后训练,面向高频、聚焦的智能体工作。它支持文本与代码输入,架构、训练与服务设计可处理最高1000万 token 的上下文。
长上下文是这次介绍的核心。Mirendil 将这一容量换算为约23 MB 代码,举例说明模型可以同时阅读大型代码仓库、多段完整智能体轨迹以及长训练日志。列出的任务包括排查训练运行、分析工具执行轨迹、检查数据重复与基准污染,以及在修改代码后运行命令和测试。
发布页面把 Fern 参数规模列在0.1万亿至0.5万亿的区间,同时展示更大模型仍在预训练的进度。现阶段访问栏标为 Coming soon,公共 API 尚未开放。官方展示了下一 token 预测与 RULER 长上下文测试,并说明更全面的长上下文结果将后续发布。