别指望 AI 替你保守秘密:聊天数据、破产出售与模型记忆的隐私风险
DuckDuckGo 委托的调查显示,53% 的美国成年人不知道聊天机器人对话是否被用于训练,而实际上这些对话会被用于训练;仅四分之一受访者知道聊天记录可被传唤。Character.AI 本月申请破产并启动法院监管的资产出售,其经过用户交互训练的 LLM 可能连同用户数据一并被出售,而《破产法》没有专门条款规定训练模型的归属。2022 年一项研究中,GPT-Neo 仅凭姓名找回正确邮箱地址的比例最高为 1.24%,提供域名后升至 16.55%,给出五个示例后达 37.06%。
一名消费者隐私监察员,就用户隐私问题向法院提供建议。法官可以限制公司“记录”(包括用户数据)的出售。 但大多数人没有理解的一点是:《破产法》没有专门针对已训练模型的规定。LLM 及其训练数据的法律地位尚未在法律上确定。这意味着,用户输入 Character.AI 的数据完全有可能被出售给任何买家。 Character.AI 只是一个方便的例子。更大的风险在于其他所有 AI 公司。 关于 LLM 隐私的更令人惊讶的事实 核心问题是:在聊天中分享的个人或专有信息,最终是否会进入 LLM 内部,让任何人都可能套取出来? 答案是响亮的“呃,也许吧”。 首先,这取决于 AI 聊天机器人服务。各公司在处理聊天数据的方式上差异巨大,而这些差异归结为四个问题:基于聊天的训练是否默认开启、是否有真人审核员阅读聊天内容、聊天记录保存多久,以及是否用于投放广告。 大型聊天机器人公司通常试图让用户对隐私放心。它们发布隐私控制措施,但其自身政策承认,消费者聊天默认可能被用于训练、被真人审核员阅读,或两者兼有,而且细则因公司而异。 耐人寻味的是,其中一些公司提供企业或商业账户,可以私密处理聊天会话。例如,它们不会
匹配字段正文