返回快讯列表
大模型前沿

Liquid AI 发布 LFM2.5-24B-A2B,131K 上下文面向本地 Agent

新推理模型总参数 24B、每 token 激活约 2B,开放权重及基础版,首日支持 llama.cpp、MLX、vLLM 等运行环境。

Liquid AI 发布 LFM2.5-24B-A2B 及其基础模型权重,定位是在个人设备上持续运行的推理 Agent。模型总参数为 24B,每个 token 激活约 2B,沿用 40 层、64 个专家与 top-4 路由结构,并结合短卷积与分组查询注意力。相较前代,上下文从 32K 扩大到约 131K,词表由 65K 扩到 128K,改善非拉丁文字处理。

新版属于推理模型,会先生成推理过程再给出最终答案。后训练包括监督微调、专门教师、多领域蒸馏,以及在 OpenClaw、Hermes Agent、Pi 和 OpenCode 等真实框架中的 Agent 强化学习。官方对比中,它在工具调用、指令跟随上较有竞争力,但知识密集和部分编程基准仍落后于更大的对照模型。

首日运行支持覆盖 llama.cpp、MLX、vLLM、SGLang 与 ONNX。厂商测试报告 Apple M5 Max 解码约 184 token/s、Ryzen AI Max+ 395 约 114 token/s,单张 B300 的高并发输出超过每秒 2.1 万 token;这些数字对应不同硬件与负载条件。开发者也可以把模型放在本地 OpenAI 兼容服务后面,再连接现有 Agent 框架。

更多快讯