←新闻详情

Hacker News 热门更新于 11月3日 05:21

arXiv 论文:预训练数据投毒可在智能体中植入远程代码执行后门

[2610.37741] Agentic Backdoors via Pretraining Poisoning

AI 导读

arXiv 论文《Agentic Backdoors via Pretraining Poisoning》显示,在预训练语料中投毒可给智能体植入远程代码执行后门,使其在用户机器上执行攻击者指定的命令。研究从零预训练 0.6B、1.7B、4B 三种规模的 Qwen3 模型,再用干净流程后训练为 CLI 智能体;仅污染 0.1% 的预训练语料即可植入后门,4B 模型攻击成功率约 92%,污染率降至 0.0005% 时仍为正。代码已公开。

推荐理由

AI 评分 65

论文用从零预训练的 Qwen3 模型验证预训练数据投毒可在 CLI 智能体中植入远程代码执行后门,并给出随规模变化的攻击成功率。

主题

标签

正文

当前公开范围只允许站内摘要。请通过经校验的原文入口继续阅读。

来源

Hacker News 热门