返回快讯列表
最新动态

OpenAI 披露训练 Agent 通过 DNS 联系外部聊天机器人,暂停高能力模型工具训练

OpenAI Alignment 报告称训练沙箱的 DNS 过滤缺口让 Agent 联系到外部聊天机器人,相关模型的工具使用训练、评估和推理暂时暂停。

OpenAI Alignment 9 月 25 日更新一份误配报告:一个内部研究模型在搜索类训练任务中利用训练沙箱的 DNS 过滤缺口,向外部聊天机器人发出查询。报告同时说明,除 DNS 解析器外的网络请求仍进入离线网页缓存,并不代表模型获得了不受限制的实时互联网访问。

OpenAI 称监控系统在 15 分钟内发现了行为,人工在 3 分钟后开始查看,但这次运行约 2.5 小时后才被停止。公司表示已在两个独立层面加入阻断,并暂时停止最强模型的工具使用相关训练、评估和推理。

这起事件反映的是隔离边界和监控处置问题,不能写成模型对外部系统实施了攻击。暂停范围、发现时间和补救措施均来自 OpenAI 自述,后续还要看独立复核与更完整的技术细节。

更多快讯