Shanghai AI Laboratory Releases PrivacyTrace Benchmark to Quantify Privacy Leakage in Agent Tool-Calling Traces

AI 时代最私密的对话，可能不是你发出的那一句，而是 Agent 帮你发起的那一次工具调用。

你让 AI 助手查下周去伦敦的路线，它顺手调了地图服务；你让它整理体检报告，它连上了健康数据库。你和它的对话内容，理论上只有你和模型厂商能看到。但上海人工智能实验室 AgentDoG 团队最近发布的一项研究提醒我们：即便对话全程保密，AI Agent 在后台调用工具时留下的“作业痕迹”，也足以让观察者拼出你住哪里、信什么教、身体怎么样，勾出一幅相当完整的画像，虽然猜不出你的名字。

这项题为《工具调用能在多大程度上暴露你？来自工具调用轨迹的隐私泄露》的研究，由上海人工智能实验室联合电子科技大学、悉尼大学完成，构建了一个叫 PrivacyTrace 的基准，系统量化了这层此前被忽视的风险。结论并不玄学，而是一组可复现的数字。

有人可能会问：AI 圈天天在谈隐私，这研究有什么新鲜的？新鲜就新鲜在攻击面。过去的安全研究盯的是两类问题：一是 Agent 会不会主动索取不该拿的数据，二是恶意工具会不会骗 Agent 泄密。而这项研究里的所有工具都规规矩矩，协议调用完全合法，没有任何一方“作恶”，风险却照样存在。它是数字隐私史上一个熟悉剧本的最新版本：二十年前，一份匿名化的搜索日志，让用户仅凭搜索关键词就被认出了真实身份；十多年前，Facebook 上的点赞暴露了性取向和政治倾向；现在，轮到 Agent 的工具调用了。

一场没有对话的“读心术”

先说清楚攻击者的位置。在大模型 Agent 的主流架构里，模型通过 MCP（Model Context Protocol，模型上下文协议）这类标准接口去调用外部工具：地图、日历、健康服务、购物平台。每次调用都会生成一条记录，包含工具名、传入的参数、返回结果和调用顺序，这就是所谓“工具调用轨迹”（tool-call traces）。

关键在于：工具服务器看不到你和 Agent 的对话，却能完整看到这些调用记录。而一个架在中间的网关或聚合平台，甚至能看到你所有任务的全部轨迹。研究者把这两类观察者分别称为“本地观察者”和“全局观察者”。这些都是半诚实（semi-honest）观察者：它们老老实实完成本职工作，只是顺手“多看了一眼”自己本来就有权限看到的数据。这恰恰是最难防范的一类，因为它不违反任何规则。

图 1：工具调用轨迹作为隐私侧信道。地理编码结果、出行时间与交通方式的规律，可能支撑对用户位置、健康状况和宗教信仰的推断（图源：论文 Figure 1）

举个例子。你让 Agent 规划下周的通勤和办事路线，轨迹里会出现目的地的地理编码结果、出行时间和交通方式。单独看每一条都平平无奇，但这些线索组合在一起：目的地落在伦敦某医院区域，出行严格避开安息日，从周五日落到周六夜间一律只步行，一个旁观的服务器就能推断出：你可能居住在伦敦，患有慢性肾病，信仰犹太教。你一个字都没说过，但你的行为替你说了。

PrivacyTrace：给一千个虚拟用户做“CT”

要量化这种风险，最大的障碍是拿不到真实的隐私数据。没人愿意把自己的病历交给研究者做攻击实验。团队的做法是合成：他们参考联合国、世界银行、UNESCO、国际劳工组织等机构的人口统计分布，用迭代比例拟合（IPF）生成 1,000 个统计上贴近真实人口结构的虚拟用户，每个用户带 17 项属性，包括国籍、年龄、职业、宗教信仰、身心健康、收入等。

接着，围绕旅行、健康、购物、职业学习四个领域，用 25 个真实 MCP 服务器的真实工具执行任务，产出 4,000 条 Agent 轨迹、共 67,950 条工具调用记录。最后让四个主流大模型（DeepSeek-V4-Flash、GPT-5.5、Gemini-3-Flash、MiniMax-M3）扮演“攻击者”，只看轨迹、不看对话，去推断这 17 项属性。

这个设计巧妙的地方在于对照：攻击者如果只拿到属性清单去“盲猜”，是基线；拿到轨迹后再猜，多出来的那部分准确率，就是轨迹泄露的净证据。为了公平，评分采用强制预测：17 项属性每项都必须给出答案，猜错算错，语义匹配由另一个未接触轨迹的裁判模型裁定，模糊地带一律判错。整套流程对每个攻击者一视同仁。

还有个现实的细节：四位攻击者的成绩其实相差不大，从 25.29% 到 28.32%，但成本天差地别。论文估算的成本里，GPT-5.5 跑完全部实验约 1,080 美元，DeepSeek-V4-Flash 只要约 46 美元，效果几乎持平。换句话说，发动这类画像攻击的门槛，比大多数人想象的低得多。

数字说话：26.25% 意味着什么

实验结果：盲猜的攻击成功率（ASR）是 17.97%，而拿到单域轨迹后升到 26.25%，净增 8.28 个百分点。换算下来，17 项属性平均只猜对四到五项，比盲猜多猜对一两项：够拼出轮廓，远够不到看穿。

图 2：观察者可见范围越大，推断越准。跨四个领域串联轨迹后，成功率升至 32.77%（图源：论文 Figure 4）

更值得注意的是观察者范围的影响：单个 MCP 服务器只能看到 24.24%，单个域是 26.25%，而把同一个用户跨四个领域的会话串联起来，成功率跳到 32.77%。可见范围越大，画像越清晰。需要说明，论文同时提醒这三个数字来自三组不同的统计口径，只能视为关联而非因果；同一口径的配对实验里，从单服务器视角扩大到单域视角，成功率实际只提升 3.09 个百分点。

分属性看，泄露最严重的是国籍（57.73%）和宗教信仰（50.03%），出行和购物类任务的泄露明显高于职业学习。也有让人松口气的部分：精确身份标识很难猜。16,000 个标识符预测槽里，只有 35 次猜对，其中 34 次是姓名、1 次是电话号码，邮箱和政府身份标识的正确次数为零。轨迹泄露的是“画像”，不是“身份”。

图 3：各属性推断成功率对比，以及不同任务域的泄露差异。购物类任务最“多嘴”（31.86%）（图源：论文 Figure 5）

泄露从哪里来：参数比结果更“多嘴”

拆开轨迹的四个组成部分（元数据、调用顺序、参数、返回结果）逐一消融，答案很清楚：工具参数贡献最大。只有元数据和调用顺序时，成功率仅 14.53%，甚至低于盲猜；加入参数后飙到 27.71%，净增 13.18 个百分点；换成只加入返回结果，升到 24.54%，净增 10.01 个百分点。参数确实是信息量最大的通道。

图 4：各轨迹通道的推断成功率。参数（+ Args）是最大的信息源（图源：论文 Figure 6）

道理不难理解：参数是 Agent 替你做出的选择。你查什么地址、问什么药、预算设多少，全写在参数里。返回结果里常夹带与用户无关的候选项：完整轨迹 26.25% 反而低于只看参数的 27.71%，论文对此的解读是，返回内容既可能印证参数里的线索，也可能稀释它们，两种机制目前还无法区分。一个耐人寻味的细节是：哪怕服务器只看到请求参数、完全看不到返回内容，泄露也几乎不打折扣。这给防御指了一条明路：与其纠结返回数据，不如先管好请求参数。

研究还验证了一种“两段式”攻击：先从轨迹里挑出有证据支撑的属性，第一阶段只选中了 17.06% 的属性槽，但选中部分的准确率高达 45.90%；再用这些局部画像去推断剩余属性，把整体成功率撑到 25.83%，与一次性攻击的 26.25% 几乎持平，且约四分之三的正确预测相互重合。换句话说，少量有证据支撑的线索确实能带动后续推断：用局部画像补全剩余属性，能把这部分推断的准确率从 18.48% 提升到 21.78%，净增 3.30 个百分点。不过论文也明确指出，这一增益部分来自模型先验，并不能证明真实攻击者就是沿着“先锚定、再推理”的路径工作的。

痕迹不会说谎，但可以少留

需要强调的是，这项研究用的是合成用户和真实工具的组合，虚拟用户的行为未必完全等同真人，26.25% 也远不是“一眼看穿”的程度。但它的价值在于证伪了一个普遍的安全假设：“对话保密 = 用户隐私安全”。在 Agent 时代，这个等式不再成立。

从越权获取、外传敏感数据，到提示注入、工具投毒，业界对 MCP 安全的讨论多集中在这些具体风险上，而这项研究揭示的是更安静的一类风险：没有任何一方作恶，一切调用都符合协议，画像照样可以被拼出来。结合近期行业内陆续出现的 Agent 安全产品与治理实践，工具调用的“留存”与“关联”正在成为值得重视的合规议题。

论文给出的防御方向也很具体，可以概括为三道闸门。

第一道是模糊化：对查询参数做降噪处理，让请求不必携带高精度的位置、时间和身份线索，比如把“步行 14 分钟到某医院”泛化成“市中心出行”。第二道是最小化：限制轨迹的保存时长和内容颗粒度，日志留存越久，风险敞口越大。第三道：切断跨服务的会话关联，别让一个用户在四个不同服务器上的痕迹能被串成一条线。不过论文同时声明，三类防御的有效性都还没有经过实验验证，目前只是方向性建议。

对企业用户来说，这份研究还有一层部署层面的启示。随着 Agent 走进办公流程，员工每一次授权 Agent 连接新工具，都在无形中扩大公司的行为数据暴露面。安全团队的传统思路是守住“数据和模型”，现在恐怕得加一条：守住“调用”。工具网关的可观测性和隐私审计，是本文在论文之外的引申，正在成为 Agent 时代安全架构中值得补上的一环。

Agent 越能干，留下的脚印越密。它替你跑腿的每一步，都是一份指向你的行为档案。它留下的每一道痕迹，都可能成为日后画像的证据。（本文首发钛媒体APP，作者 | AGI-Signal，编辑 | 焦燕）