OpenAI 将于 11 月 29 日起用 Daybreak Blue 会话数据训练模型
OpenAI plans to train models on Daybreak Blue cybersecurity session data that was previously off-limits
OpenAI 向 Trusted Access 计划成员发邮件确认，从 11 月 29 日起将使用 Daybreak Blue 会话数据训练模型，此前这类数据即使关闭“为所有人改进模型”设置也不会用于训练。消息引发反弹后，OpenAI 追加第二封邮件承诺提供单独的退出选项，安全审查中标记的交互仍可用于安全目的。研究者担忧这会重演 Buckmaster-Alpöge 事件，两位数学家曾把 Navier-Stokes 方程草稿上传到 OpenAI 的 Codex，OpenAI 随后给出自己的证明但否认使用其输入训练。
推荐理由
AI 评分 67
OpenAI 将此前不用于训练的 Daybreak Blue 会话数据纳入训练，并承诺单独退出选项，读者可据此了解数据使用边界的变化。
主题
正文 · AI 翻译
从11月29日起，OpenAI将使用Daybreak Blue会话数据来训练其模型。一封发给Trusted Access计划成员的邮件证实了这一变化。此前，即使用户关闭了“为所有人改进模型”设置，这类数据也不会被用于训练。此举迅速引发反弹，OpenAI随后追加了第二封邮件，承诺提供一个单独的退出选项。在安全审查中被标记的交互仍可用于安全目的。
这一变化让研究者担心会重演Buckmaster-Alpöge事件。数学家Tristan Buckmaster和Levent Alpöge曾将Navier-Stokes方程草稿上传到OpenAI的Codex。OpenAI很快给出了自己的证明，但否认使用他们的输入进行训练。然而，仅凭这一怀疑就足以让研究者看到可能出问题的地方。