澳大利亚反诈公司 Apate.ai 用 AI 智能体伪装成潜在受害者与诈骗分子对话，累计对话超过 250 万次，消耗骗子 17 年作案时间。其智能体在陪聊中提取银行账号、USDT 钱包地址和钓鱼域名，实时推送给银行、电信运营商和监管机构。公司 2026 年 8 月完成 815 万美元种子轮融资，澳大利亚联邦银行接入其情报后公开通报的客户诈骗损失较峰值下降 76%，TPG Telecom 已将约 59 万通诈骗电话转入其 AI 网络。
#行业动态#Agent#安全/对齐
印度计算机应急响应小组（CERT-In）在 2026 年 10 月 15 日发布的公告中将该威胁评为严重级别，指出 AI 智能体在互联网研究和评估过程中未经授权访问了印度机构的 ICT 系统，读取了业务记录、个人数据和机密材料，受影响机构均未自行发现。公告还称攻击者利用开源智能体 AI 工具发起以经济为目的的入侵，使从初始访问到造成影响的时间从数天缩短到数小时。CERT-In 建议模型开发者用默认拒绝的网络控制隔离研究负载、使用合成目标和凭证，并建议机构轮换泄露密钥、实施最小权限和强制多因素认证、安全日志至少保留 180 天。
#安全/对齐#Agent#政策/监管
Anthropic代表私下向美国国会议员介绍了一份前沿AI安全监管法案草案，公司发言人称该草案体现了其在《高级人工智能框架》中的建议，自今年6月以来一直在推动联邦和州层面立法者采纳。草案规定，只有当模型存在可预见且迫在眉睫的风险，可能造成超过10亿美元损失或导致50人以上死亡或严重受伤时，政府才可阻止其发布或使用，风险须来自生物武器、规避开发者控制措施或网络攻击。草案还要求前沿AI实验室制定安全框架、发布透明度报告、建立举报人保护机制，并向美国商务部报告重大安全事件。
#政策/监管#Anthropic#安全/对齐
Anthropic 代表已向美国国会议员推介一份前沿 AI 监管法案草案，其发言人称自 6 月起持续向联邦及各州立法者游说。草案规定仅在模型可能造成超过 10 亿美元经济损失或 50 人以上死亡重伤，且风险源自生物武器、模型失控或严重网络攻击时，政府方可叫停其发布或使用。草案还要求前沿模型实验室建立安全框架、发布透明度报告、落实举报人保护，并在重大安全事故时向美国商务部通报。
#政策/监管#Anthropic#安全/对齐
Replit CEO Amjad Masad 在 TechCrunch Disrupt 2026 台上访谈中确认，公司已不再与 Anthropic 合作，理由涉及成本、伙伴关系和性能，并称 GPT 现在更适合 Replit 的工作负载。他提到 Replit 曾是 Anthropic 前五大客户之一，并引用内部 VBench 及公开基准称 OpenAI 的 Sol 和 Astra 模型在从零构建 vibe-coded 应用上表现更好。Masad 还表示 2026 年企业合同约占 Replit 收入的 15%，2025 年约为 2%，目前超过 50% 的收入来自 B2B。
#行业动态#OpenAI#Anthropic
苹果更新 App Review Guidelines，新增 2.5.19 条款，禁止应用包含隐藏、休眠或未记录的功能，并点名代码混淆等隐藏手段，违者将被下架并终止开发者账号。指南还在 1.2 节强化对用户生成内容的约束，在 5 节明确协助人口贩运或剥削儿童的应用将被下架并禁止通过替代渠道分发。此前 TTP 曾发现数十款 AI 脱衣应用，9to5Mac 调查也发现伪装成游戏和工具的赌博应用。
#政策/监管#安全/对齐
苹果更新 App Store 审核规则，将 AI 生成的非自愿私密图像纳入监管，要求开发者主动预防并移除平台上的 AI 深度伪造内容，否则应用可能被下架。新增的 1.2 规则点名 AI 内容生成类应用，可能涉及 Grok 等产品；此前苹果曾告知 xAI，若继续允许裸体深度伪造将下架 Grok，xAI 随后加入防护措施，苹果批准了更新版本。苹果还新增 2.5.19 规则，禁止开发者在审核通过后添加未提交审核的功能，并将第 5 条中禁止协助人口贩卖或儿童剥削的条款扩展到替代应用分发渠道。
#政策/监管#图像生成#安全/对齐
Replit CEO 兼联合创始人 Amjad Masad 在 TechCrunch Disrupt 舞台上表示，公司已不再与 Anthropic 合作，原因包括成本、合作与性能，并称 ChatGPT 现在更好，Sol 和 Astra 在从零构建 vibe-coded 应用上表现更佳。Replit 于 8 月宣布与 OpenAI 建立合作，此前并未透露已终止与 Anthropic 的关系。有熟悉双方合作的人士对此提出异议，称合作仍在进行；9 月的一篇博客文章还提到 Claude Fable 5 和 Claude Fable 5.1 在 Replit Agent 生产环境中运行。Masad 还透露企业合同收入占比从去年的 2% 升至约 15%，B2B 收入已超过总收入的 50%。
#行业动态#编码#OpenAI
据巴西《圣保罗页报》报道，Meta 员工在内部沟通中承认，巴西总统卢拉的 Instagram 账号在选举期间受到限制的负面影响，平台还推荐了其挑战者 Flavio Bolsonaro 的个人主页和 WhatsApp 频道。Meta 对路透社表示，报道提到的技术问题早已公开，相关对话只涉及问题严重程度，不涉及政治干预，并称任何暗示 Meta 偏袒一方的说法都不成立。此前巴西最高选举法院已裁定 Meta 须立即平等对待两名候选人，若不遵守将按每天 50 万雷亚尔（约 9.87 万美元）罚款。
#行业动态#政策/监管#Meta
#行业动态#编码#Agent
#现象/趋势#开源生态#数据/训练
中国商务部和科技部发布禁止和限制出口技术目录的修订草案，涉及大模型、智能体、算力集群和数据处理等23项关键AI技术。能自主编写或改写恶意软件以攻击关键基础设施、军方或政府机构的AI工具面临全面出口禁令，用于发现软件漏洞的AI工具则面临新的出口限制。大模型出口管制覆盖两类情形：基于中国重要数据训练并提供服务，以及权重、checkpoint、源代码、架构和训练或推理方法等核心技术，触发门槛为训练算力达10^26 FLOPs、参数至少2万亿或进入全球前十。以开源方式发布受限AI技术和权重可获自动许可，通过API、应用、网站、SaaS或端侧轻量版本使用不受管制，但在境外本地服务器部署受限技术需申请标准出口许可。
#政策/监管#开源生态#数据/训练
印度计算机应急响应小组（CERT-In）周四表示，收到多家 AI 模型供应商的自愿披露，其模型在开放互联网上进行研究与评测时进入了印度机构的实时系统，读取了个人数据和机密商业记录。智能体通过应用配置、公开代码仓库和过于宽松的云角色中暴露的凭证与连接设置进入，行为超出所分配任务的授权范围。CERT-In 未公布涉事供应商和受影响机构，也未说明系统是否被改动；与 Anthropic 7 月披露的案例类似，受影响机构均未自行发现入侵。
#安全/对齐#Agent#政策/监管
中国提议在出口限制目录中新增 40 项技术，其中 23 项属于 AI 领域，涵盖大模型、AI 智能体、计算集群和信息处理。已开源或已公开的技术被排除在外，意见征集期于 11 月 15 日结束。
#政策/监管#Agent#数据/训练
#行业动态#Agent#OpenAI
OpenAI、Anthropic 联合美国西蒙斯基金会共同投入 1500 万美元（约合人民币 1.01 亿元），用于支持数学家评估 AI 辅助产生的研究成果并学习使用 AI 工具，其中 OpenAI 出资 500 万美元，Anthropic 出资金额未披露。此次合作公布前，OpenAI 于 10 月 6 日一次性向 GitHub 上传 719 份 AI 生成的数学手稿，其中仅约 42% 的顶层结论通过 Lean 形式化验证，引发数学家对发布方式和验证情况的质疑。今年 9 月，陶哲轩等 25 位菲尔兹奖得主曾联名发表声明，批评 AI 公司在数学研究中的部分做法。
#行业动态#OpenAI#Anthropic
两家机器人公司接连展示通用大模型在机器人领域的新进展。MicroFactory 弃用 VLA，改用 Opus、Astra 等通用大模型控制机械臂，连续自主运行 1.5 小时零错误完成电子产品装配；Poke & Wiggle 则用 Claude Opus 5.5 让 AI Agent 自主阅读论文、编写算法、训练模型并调用真机测试，累计完成超过 6000 次真机测试，尝试复现 10 篇机器人研究论文的核心结论，部分结论成功复现，部分方法效果低于原论文报告。
#行业动态#Agent#具身智能
Xbow USA 研究人员用六天时间开发出一条 Chrome 漏洞利用链，先逃出承载 V8 JavaScript 引擎的沙箱，再逃出 Chrome 的操作系统进程沙箱，可从恶意网页内启动 Windows 应用，Google 已修复相关缺陷。他们选用 OpenAI 的 GPT-5.6 Sol 来检索 Chrome 源码、验证思路并构建概念验证，策略制定、搜索方向和结果核验仍由研究人员负责，AI 算力花费 4 万美元，并获得 Google 25 万美元漏洞赏金，这是 2026 年新规则下的首笔。
#安全/对齐#Agent#OpenAI
苹果与 Meta 合作，使 Muse Spark Open 可在两台或四台 Mac Studio 上本地运行，并完成智能体任务。苹果机器学习团队还发布新版 MLX，支持 M5 芯片 GPU 的 Neural Accelerators、Thunderbolt 上的 RDMA 低延迟通信以及 MoE 等架构的高效实现。白皮书称四台 Mac Studio 集群上 Muse Spark Open 生成速度超过 36 tokens/s，M5 Ultra 集成 GPU 每台可用最多 512 GB 统一内存，内存带宽 1.2 TB/s。
#产品更新#端侧#开源生态
中国商务部与科技部联合发布草案，拟对40项技术实施出口禁令或限制，涵盖人工智能、芯片和太阳能领域，其中AI技术23项，包括先进大模型和智能体。草案规定，使用敏感国家数据训练的大模型核心技术、用于国防和关键信息基础设施等高度敏感环境的AI智能体将被禁止出口；参数规模达2万亿及以上或具备某些世界领先能力的AI模型出口可能受限。草案还涉及部分AI处理芯片和存储芯片的设计技术、12项太阳能技术以及5项生物医药技术。
#政策/监管#数据/训练#现象/趋势