返回快讯列表
开源生态

llama.cpp 合进 Kimi-K3 的循环状态回滚,b10853 已出包

llama.cpp 9 月 8 日的 b10853 构建只带一条改动,模型侧支持 Kimi-K3 的 recurrent-state 回滚;往前两天的构建加了 AMD gfx90c 的 HIP 支持。

llama.cpp 的构建号跳到 b10853,这一版只带一条改动,模型侧支持 Kimi-K3 的 recurrent-state 回滚,对应 PR #28466。发行说明照旧只有提交标题和各平台二进制链接,没有基准数字,也没写哪些场景会受影响。

往前翻两天的构建,能看出这个项目的日常长什么样。b10842 加了 gfx90c 的 HIP 支持,把一批 AMD 集成显卡纳进来。b10850 更琐碎,测试里 L2_NORM 的批次数组没初始化,GCC 12 在 aarch64 Release 构建上把告警当错误,于是先把计数读进一个局部变量,再给数组补上初始化。

一天出好几个 tag 是 llama.cpp 的常态,本地跑模型的人没必要每个都跟。模型支持这类条目最好还是看一眼,它决定你手里那份权重能不能直接加载。Kimi-K3 权重开源之后,各家推理项目补支持的节奏并不一致,这次轮到 llama.cpp。

更多快讯