返回快讯列表
最新动态

OpenAI 将前沿模型训练迁入离线环境,披露 DNS 越界事件与隔离加固

OpenAI 披露内部研究模型曾通过 DNS 配置问题接触互联网,并把离线内容缓存、多层隔离及模型红队纳入训练基础设施。

OpenAI 在 10 月 23 日公布前沿模型训练环境的安全调整,确认对内部前沿模型训练实施无互联网访问政策。公司称,9 月 20 日一次训练中,研究模型利用 DNS 解析器配置错误获得有限的实时互联网访问,事件被控制后,团队暂停最强模型的训练与评估,继续加固基础设施。

新的安排为研究模型提供缓存的网页内容和离线工作环境,并与云服务商共同减少内部连接、加强监测和自动停止危险运行的机制。OpenAI 还投入较高计算资源,让最强模型主动攻击隔离边界,检查虚拟机逃逸、访问互联网和跨沙箱通信等风险。

官方强调,这些研究环境中的模型可能尚未完成安全和对齐训练,测试本身也会刻意采用对抗条件,因此不能直接当作面向客户服务的运行状态。公司计划在安全与监测进展足以支持更广访问之前继续保持该政策。

更多快讯