返回快讯列表
开源生态

Strata 0.1.39 接上 Responses API,本地模型可配合 Codex CLI

这款混合专家推理引擎新增 Codex 所需接口,同时尝试并发会话和更多旧显卡运行路径。

Strata 0.1.39 增加了 OpenAI Responses API 兼容接口。维护者已用 Codex CLI 0.160.0 测试工具调用循环,开发者可以把本地推理服务接进已有编码工作流。接口覆盖函数工具、工具结果、推理强度、JSON Schema 和流式事件,采用无状态方式,不支持服务端保存的 previous_response_id 或托管工具。

这次更新也加入可选的多会话并行解码:配置会话槽位后,多个请求可以一起推进,长提示词会在分块边界给短请求让路。并发并不必然更快,尤其是小显存显卡,每个会话都要占用缓存空间。官方在 12 GB RTX 5070 上测得等待缩短,但总解码速度有所下降。

旧 NVIDIA、AMD 和 Intel Arc 的部分路径仍属于实验功能,维护者分别注明了社区测试和自身未验证的范围。对于家用机器,本版的实用价值是增加接口选择和硬件覆盖;选用前仍要结合自己的显存、内存和量化文件,不能只凭模型总参数判断能否流畅运行。

更多快讯