先了解这件事
上海人工智能实验室AgentDoG团队联合电子科技大学、悉尼大学发布研究《工具调用能在多大程度上暴露你?来自工具调用轨迹的隐私泄露》,并构建PrivacyTrace基准。该研究用1,000个合成用户、25个真实MCP服务器产出4,000条轨迹、共67,950条工具调用记录,让DeepSeek-V4-Flash、GPT-5.5、Gemini-3-Flash、MiniMax-M3四个模型仅凭轨迹推断17项用户属性。结果显示,攻击成功率从盲猜的17.97%升至单域轨迹的26.25%,跨四个领域串联后达32.77%,其中国籍(57.73%)和宗教信仰(50.03%)泄露最严重。消融实验表明工具参数贡献最大,仅加参数即从14.53%升至27.71%。论文据此提出模糊化、最小化和切断跨服务关联三道防御方向,但称尚未经实验验证。
AI 根据公开报道生成
事件进展
1 个已确认进展
- 来源：钛媒体 · AGI
报道与讨论时间线
按时间查看正式报道与传播讨论；两类内容的证据等级保持独立。
11月4日
钛媒体 · AGI
上海人工智能实验室发布 PrivacyTrace 基准，量化 Agent 工具调用轨迹的隐私泄露
上海人工智能实验室联合电子科技大学、悉尼大学发布研究《工具调用能在多大程度上暴露你？》，构建 PrivacyTrace 基准，用 1,000 个合成用户、25 个真实 MCP 服务器产出 4,000 条轨迹共 67,950 条工具调用记录，让 DeepSeek-V4-Flash、GPT-5.5、Gemini-3-Flash、MiniMax-M3 四个模型仅凭轨迹推断 17 项用户属性。结果显示攻击成功率从盲猜的 17.97% 升至单域轨迹的 26.25%，跨四个领域串联后达 32.77%，其中国籍（57.73%）和宗教信仰（50.03%）泄露最严重。消融实验表明工具参数贡献最大，仅加参数即从 14.53% 升至 27.71%，论文据此提出模糊化、最小化和切断跨服务关联三道防御方向，但称尚未经实验验证。