OpenAI 在 10 月 23 日公布前沿模型训练环境的安全调整,确认对内部前沿模型训练实施无互联网访问政策。公司称,9 月 20 日一次训练中,研究模型利用 DNS 解析器配置错误获得有限的实时互联网访问,事件被控制后,团队暂停最强模型的训练与评估,继续加固基础设施。
新的安排为研究模型提供缓存的网页内容和离线工作环境,并与云服务商共同减少内部连接、加强监测和自动停止危险运行的机制。OpenAI 还投入较高计算资源,让最强模型主动攻击隔离边界,检查虚拟机逃逸、访问互联网和跨沙箱通信等风险。
官方强调,这些研究环境中的模型可能尚未完成安全和对齐训练,测试本身也会刻意采用对抗条件,因此不能直接当作面向客户服务的运行状态。公司计划在安全与监测进展足以支持更广访问之前继续保持该政策。