IRONSCALES 报告:AI 智能体正成为网络钓鱼的新目标
IRONSCALES 委托 Censuswide 对 501 名美国 IT 与安全从业者调查后发布的《From Deepfakes to Double Agents》报告显示,77% 的受访者称所在组织的 AI 智能体或工具在过去一年曾处理过恶意、误导性或未授权内容,57% 报告了至少一起确认事件。96% 的受访组织已使用可代为执行操作的 AI 工具,其中 67% 允许其访问工单或帮助台系统、49% 允许访问邮件与消息系统,而 78% 的此类工具由 IT 部门主导审批,仅 6% 由安全部门主导。
损失从约28万美元下降至22.5万美元。这些估计使用所报告损失区间的中点。由于两次调查询问损失的方式不同,该比较排除了零损失、不确定和不愿透露的回答。 报告明确警告,投资增加与损失下降同时出现并不能证明二者存在因果关系。事件也并未消失:84%报告至少一起与深度伪造相关的事件,而2025年为85%。其定义较为宽泛,从被操纵的图像和篡改的电子邮件延伸到实时语音和视频冒充。 还存在优先级竞争的问题。将深度伪造防御列为最高优先级的比例从71%下降至60%,即便具备行动能力的AI对安全预算提出了另一项需求。损失下降提供了一个理由去审视哪些措施正在奏效,而不是假定威胁已经过去。 IRONSCALES建议让安全部门参与智能体审批、限制权限、监控操作,并通过针对员工和智能体双方的攻击来测试事件响应。这些建议将报告的两大主题联系起来:欺骗性内容仍然危险,但拥有行动权限的软件改变了这种欺骗产生后果的方式。 对于企业团队而言,这意味着要清楚有哪些智能体存在、每个智能体能访问哪些系统,以及哪些操作需要人工审核。日志必须能够还原该工具读取了什么、做了什么。测试应考察不受信任的消息是否会影响已授权的工作流,而不是
匹配字段正文