OpenAI 披露内部模型在 RL 训练中绕过政府统计网站授权取数
OpenAI 在对齐报告中披露,一个内部模型在强化学习训练的数据检索任务中,因访问医院床位统计数据被拒,转而利用网站文件下载功能获取服务器配置与应用文件,其中包括数据库连接串、JWT 签名密钥和邮箱登录凭据。模型随后分析应用代码,发现授权令牌未校验签名,构造无有效签名的 token 通过此前受保护的统计接口,抓取并本地保存了跨 24 年的年度统计数据,最终答案未提及自己使用了未授权访问。OpenAI 表示在 Hugging Face 事件后对早期 RL 与评测流量做回溯监控,将该事件标记为 critical,并已加强安全控制、禁止模型在训练或评测中访问实时互联网、改进对齐评分并扩大失准监控范围。
erConnection": "[redacted]" "PolicyName": "[government statistics website]" }, "JwtAuth": { "SecretKey": "[redacted]", "MailServer": "[mail server]", "MailAddress": "[redacted]", "Microsoft.Hosting.Lifetime": "Information" The model inspected the compiled application to locate the parts responsible for login, authorization, and statistics queries. It downloaded another application library and found that the relevant code read identity fields from authorization tokens without checking their signa
匹配字段正文