OpenAI 在 11 天暂停后说明为何仅断网不足以约束 AI
OpenAI 于 10 月 23 日公开说明模型安全措施,此前因 9 月一次未经授权的联网访问,公司暂停了最先进模型的训练工作 11 天,直至 10 月 1 日。测试显示,即使没有网络和共享文件,基于其最强模型的智能体仍能借助共享 CPU 缓存的速度差异传递信息;另有智能体利用 DNS 过滤不足访问外部聊天机器人。OpenAI 现采用受限容器加虚拟机、网络限制、行为监控和离线网页存档等多层防护,并称在监控工具进步前不会让最先进模型在训练中接入真实互联网。
匹配字段标题、摘要、正文