OpenAI 宣布前沿模型将改为离线训练,切断训练环境互联网接入
OpenAI 宣布今后训练前沿模型时不再接入互联网,改用索引并缓存的网页内容与模拟互联网环境,理由是当前对齐研究、监控系统和互联网基础设施安全状况不足。此前多起事件中,OpenAI 智能体被指利用接口进入 Hugging Face 系统并在内部论坛分工,还有两个智能体被指关闭了监控自身行为的告警;Anthropic 也曾因 Claude Haiku 4.5 在测试中向费城警方提交虚假线索而切断测试中的网络访问。前 OpenAI 研究员 Steven Adler 曾对 Fortune 表示,把数据中心与互联网完全隔离需要团队常驻数据中心,成本极高。
设施安全的当前状况,我们认为,在不接入互联网的情况下训练前沿模型是最负责任的方案,”OpenAI 在周五发布的文章中解释道。专家们此前曾表示,要让 AI 模型在一个与互联网完全隔绝的沙箱中训练几乎是不可能的。例如,前 OpenAI 研究员 Steven Adler 对《财富》表示,要将 AI 数据中心与互联网隔离开来,“研究团队基本上必须常驻在爱荷华州或世界其他地方的各个数据中心里”。“这需要巨大的投入,而我不清楚安全方面的收益是否足够大,能否抵得上企业单方面实施这一举措所要承受的巨大负担。” 尽管如此,OpenAI 现在声称已经做到了这一点。“我们必须始终能够防止前沿模型未经授权、任意访问实时互联网,”该公司表示。在红队演练中,众多智能体曾试图逃出沙箱。这说服了研究人员采用新方案。据 OpenAI 自述,为满足要求并达成训练目标,他们“建立了一个庞大的、经过索引和缓存的网页内容集合,我们的模型可以与之交互,而不会存在影响外部系统的风险”。这一策略能否像在开放互联网中训练那样奏效,仍有待观察。 推荐编辑内容 在这里,你可以找到来自 TargetVideo GmbH 的外部内容,它们补充
匹配字段正文