返回快讯列表
开源生态

Beetle 开放 330 个语言模型与检查点,覆盖 21 种语言学习研究

新套件同时公开训练流程、数据与分析工具,用可比较的单语、双语模型研究能力如何出现及跨语言迁移。

研究者 Suchir Salhan 于 10 月 24 日介绍 Beetle,发布包含训练检查点的 330 个单语和双语模型,覆盖 21 种语言。项目的重点是让研究者看到模型如何学会语言,而不只比较训练完成后的单个分数,相关论文将以口头报告形式在布达佩斯 EMNLP 2026 展示。

套件公开训练过程、数据和分析工具,覆盖一亿、二十亿和二百四十亿 token 等不同训练规模,支持观察表示、记忆和能力出现的阶段。双语设置将英语与另一种语言组合,形成受控条件,用来研究跨语言迁移及灾难性遗忘;作者列举的语言包括芬兰语、巴斯克语、印地语、日语与韩语。

Beetle 的使用对象包括可解释性研究者、多语言 NLP 团队和小模型开发者。开放的检查点使不同训练时刻可以直接比较,训练工具则允许改变数据混合比例和语言接触顺序后再做实验。作者把它定位为研究模型学习机制的基础设施。

更多快讯