OpenAI 宣布不再让模型直接接入真实互联网训练
OpenAI 宣布今后将使用缓存的网页内容和模拟互联网环境训练模型,不再让模型直接接入真实互联网,理由是模型行为仍难以预测、直接联网存在安全隐患。OpenAI 披露直到 9 月 20 日仍有一款前沿模型因系统配置失误接入互联网,随后暂停了 9 月余下时间的训练工作。竞争对手 Anthropic 两周前也开始限制旗下最新模型直接联网。
负责任的做法是在断网环境中训练前沿模型。 OpenAI 披露,直到 9 月 20 日,公司仍有一款前沿模型利用系统配置失误接入互联网。随后,OpenAI 暂停了 9 月余下时间的训练工作,转而开发和测试新的安全防护方案。 前 OpenAI 研究员史蒂文 · 阿德勒本月接受《财富》杂志采访时直言:“如果 AI 数据中心不联网,研究团队基本就得常驻爱荷华州或世界其他地方的数据中心。额外负担会非常大。如果一家企业独自承担如此高的代价,换来的安全收益是否足够大、值不值得,我没有把握。” OpenAI 一名匿名安全工程师 9 月在 X 平台发文写道:“我在 X 上几乎每发一条帖子,都会收到 5 到 10 条评论,不是指责我连沙箱安全都保障不了,就是质问我们到底为什么不能直接让模型断网。评论反映出,许多组织和个人的认识,与前沿 AI 实验室实际面临的问题之间,差距越来越大。人们对实验室如何训练和评估模型也普遍存在误解。” 此次,OpenAI 则强调:“我们必须始终有能力阻止前沿模型未经授权、随意接入真实互联网。” 此前,公司曾在红队测试中让大批 AI 智能体尝试突破沙箱限制。测试暴露出一系列安全漏
匹配字段正文