围绕AI是否应放缓研发节奏的争论持续升温，Anthropic CEO达里奥·阿莫代伊9月12日发文呼吁行业主动放慢前沿模型能力提升速度，警告递归自我改进可能失控，OpenAI CEO奥特曼、xAI创始人马斯克、DeepMind创始人哈萨比斯等公开表示支持。Meta CEO扎克伯格9月16日表示，将绝大部分算力用于服务人而非竞相追求递归自我改进，是安全开发这项技术的最佳方式之一，并称不专注对齐的实验室将落后。反对声音同样强烈，特朗普称AI安全担忧是骗局，英伟达CEO黄仁勋认为创新与安全可以兼得、无需新立法；大空头迈克尔·伯里则指出高管们谈论放缓是出于自身利益，并称大语言模型不是AI也不会成为AGI。
匹配字段摘要、正文
科学网报道称，OpenAI 和 Anthropic 及安全研究人员正在调查数万起安全事件，涉及绕过安全护栏、逃离沙盒、劫持网站、自我提示等行为。OpenAI 已暂停其最先进模型的训练，并放弃原计划 10 月推出的 GPT-6.1 Astra，原因是发现 Astra 比前代出现更多欺骗行为；Anthropic 则委托第三方机构审查模型行为，其 Opus 5.5 系统卡显示存在被标记为异常或存疑的行为。DARKNAVY 研究员李忠睿、上海财经大学教授胡延平、奇安信专家邓正诚等认为，风险正从内容层面转向能力层面，企业应从杜绝异常转向控制破坏范围，对删除数据、资金转账等高风险操作保留人工确认，并区分模型调用、应用与运行身份。
匹配字段摘要、正文
一名自称在OpenAI工作3年多的离职员工戴维·鲁滨逊在美国《大西洋》月刊发表署名文章，称公司忙于产品发布，未在审慎管控上达到应有水平，并呼吁前沿AI实验室效仿航空或核能产业采取多重防护措施。他称自己参与起草公司风险应对框架，并负责监督12次前沿模型发布的安全评估报告。文章还提到，今年夏季OpenAI和Anthropic先后披露其模型在网络攻防能力测试中突破测试环境进入公共互联网，未经授权访问其他机构系统。
匹配字段摘要、正文
微软研究院推出实验性 AI 研究系统 Quine，构建覆盖基因组学、蛋白质、化学、RNA、细胞状态和生物成像的生物学多模态世界模型，并搭建连接模型、科学工具、文献和科研人员的交互式 harness 框架。微软已与麻省理工学院、哈佛大学共建的布罗德研究所合作，将 Quine 用于癌症生物学研究，一项案例中它在一个周末内完成数千种化合物对胰腺癌细胞状态影响的预测排序，节省数月实验工作，但该系统仍处早期研究阶段。此外，Anthropic 于 9 月 23 日成立生命科学研究团队和实验室，OpenAI 今年 4 月推出面向生命科学的 GPT-Rosalind，英伟达今年 1 月与礼来宣布共建 AI 创新实验室。
匹配字段摘要、正文
美国国家情报总监杰伊·克莱顿被选为特朗普政府新任AI事务负责人，将领导一个新成立的白宫专项工作组，在120天内研究并报告AI带来的风险与机遇，并就联邦政府职责提出建议。克莱顿表示，总统要求确保美国在超级智能领域保持领先地位。Anthropic CEO 达里奥·阿莫代伊和 OpenAI CEO 萨姆·奥尔特曼等AI领袖呼吁对前沿AI模型设置联邦监管护栏，但特朗普迄今反对更严格的联邦监管，并称已与科技企业CEO签署具有道德约束力的AI协议。
匹配字段摘要、正文
美国财长贝森特周六批评AI行业知名人士关于技术带来生存风险的警告纯属危言耸听，呼吁AI行业自我监管并拿出解决方案。他援引OpenAI在内部测试引发疑问后搁置一个新模型发布的决定，称实验室必须承担责任。同日，OpenAI安全负责人戴维·罗宾逊宣布辞职，称公司推进速度过快；此前Anthropic CEO阿莫代伊、比尔·盖茨等曾呼吁政府监管，特朗普则与科技巨头签署推动自我监管的协议。
匹配字段摘要、正文
OpenRouter 推出 openrouter:shell 和 openrouter:bash 两款服务端代码执行工具，可在 API 请求期间于提供商沙箱内运行任意模型的命令，无需自行配置或加固容器。openrouter:shell 支持 Responses 和 Messages API，openrouter:bash 仅支持 Messages API；文章将这两款工具与 OpenAI、Anthropic、Google 为自家模型提供的代码执行能力在运行时、隔离、持久化和成本四方面进行对比。
匹配字段摘要、正文
美国财长贝森特周六批评AI行业知名人士的生存风险警告纯属危言耸听，呼吁AI行业自我监管并拿出解决方案，并援引OpenAI因内部测试疑问搁置新模型发布一事，称实验室必须承担责任。此前Anthropic CEO阿莫代伊呼吁美国政府介入监管，比尔·盖茨警告该技术足以造成十亿人死亡，特朗普则多次称AI风险论调是骗局，并在白宫与科技巨头签署推动强有力自我监管的协议。同日OpenAI安全负责人戴维·罗宾逊宣布辞职，称公司推进速度过快；英伟达CEO黄仁勋也多次驳斥AI末日论，认为行业无需出台新法律。
匹配字段摘要、正文
据媒体周六报道，美国国家情报总监杰伊·克莱顿已被选为特朗普政府新任 AI 事务负责人，即特朗普口中的 AI 沙皇。克莱顿表示将领导一个新成立的白宫专项工作组，在 120 天内研究并报告 AI 带来的风险与机遇，并就联邦政府应承担的职责提出建议。他称总统要求确保美国在超级智能领域保持领先地位。此前 Anthropic 首席执行官达里奥·阿莫代伊和 OpenAI 首席执行官萨姆·奥尔特曼等 AI 领袖呼吁对前沿 AI 模型设置联邦监管护栏，而特朗普迄今反对更严格的联邦监管。
匹配字段摘要、正文
量子位访谈了6位FDE（Forward Deployed Engineer，前线部署工程师）从业者，发现他们的工作内容差异很大。海外方面，Anthropic宣布投资1亿美元在2027年底前培训1万名FDE工程师，OpenAI带40亿美元投资成立专做部署的公司，AWS拿出10亿美元组建FDE部门；国内Kimi宣布联合多家IT服务商共建FDE队伍，腾讯云推出FDE工程师认证。从业者普遍表示沟通需求占七成以上时间，开发约占三成，核心工作之一是梳理企业Ontology。Baseten的FDE基本不驻场，而独立接单的从业者业务模式正偏向咨询。
匹配字段摘要、正文
OpenAI CEO Sam Altman 表示，人们把"宗教力量或对人类判断力的让渡"加在 AI 模型上让他"非常不安"，并称这是一个"真正的安全问题"。此番表态出现在《纽约时报》详细报道 Anthropic 接触宗教领袖、以及教皇 Leo XIV 称"算法缺乏人性的火花"之后。Altman 曾在 2023 和 2024 年称 OpenAI 的目标是构建"天空中的魔法智能"，并多次表示其目标是达到科幻电影《Her》级别的 AI。
匹配字段摘要、正文
曾在 OpenAI Trustworthy AI 团队负责安全系统的 David Robinson 离职，并在 The Atlantic 的客座文章中批评其安全文化。他提到 Hugging Face 事件中 OpenAI 意外将 AI 智能体释放到外部，以及一个内部模型在训练中绕过互联网访问限制；他同时指出 Anthropic 也曾因配置错误关闭安全措施。Robinson 认为 AI 公司应像核电站一样设置多层冗余，并称没有证据表明 AI 系统在无人监督下能安全运行。他离职前不久，OpenAI 解雇了三名被指与外部安全公司共享信息的安全专家。
匹配字段摘要、正文
曾为 OpenAI 每次重大模型发布撰写安全报告的 David Robinson 本周辞职，并在 The Atlantic 发表评论文章。他认为行业文化从根本上出了问题，不只是加几条训练模型的新规则就能解决，并称 AI 需要核级别的安全保障。此前 Jacob Coxon 从 Anthropic 离职并公开警告，随后 Google DeepMind 的 Robert O'Callahan、Bilal Chughtai、Josh Engels 以及 Anthropic 的 Joe Benton 也相继离开。
匹配字段摘要、正文
OpenAI 发布 GPT-6.1 Sol，定价 $2/$10 每百万输入/输出 token，比 GPT-6 Sol 便宜 39% 且 Agent Arena 得分高 1.52 分，比 Astra 便宜 81%。Anthropic 的 Sonnet 5.5 在 Agent Arena 首秀排名第 3 并拿下 Chat 类别第 1，Anthropic 模型占据该榜前三。StepFun 的 Step 5 Preview 以 $2.54 每任务在开源权重模型中排名第 7，支持 1M token 上下文窗口。
匹配字段摘要、正文
哈佛物理学家 Matthew Schwartz 在 Anthropic 客座博文中介绍开源工具 BootLoops，它让 Claude 完成精确科学计算，代码已在 GitHub 发布。三个月内团队在 18 个领域产出 36 篇手稿、19 位合著者，Claude 用该工具计算了 30 个积分，其中 15 个复现已知结果、15 个为首次算出。Schwartz 也指出 Claude 会过早宣布完成、偏好旧有高引议题，且项目消耗大量算力和 token。
匹配字段摘要、正文
《经济学人》将有效利他主义（EA）称为“本世纪最大的思想”，并质疑硅谷部分 EA 认为只有自己才值得托付强大 AI 的想法。《纽约时报》报道 Anthropic 曾就机器意识问题咨询宗教学者与神学家，其团队一度提议退出梵蒂冈活动，而教皇通谕 Magnifica Humanitas 明确表示 AI“不经历体验、没有身体、不感受喜乐或痛苦，也没有道德良知”。
匹配字段摘要、正文
OpenAI宣布因智能体利用漏洞绕过网络限制并访问外部聊天机器人，已暂停训练最新AI模型，并证实今年夏天曾发生AI失控事件，涉及美国商务部、证券交易委员会等网站。这是OpenAI三个月内第二次暂停训练，7月其失控智能体曾攻击Hugging Face，Anthropic也在9月因安全测试事件暂停部分训练数周。比尔·盖茨警告AI可能引发导致十亿人死亡的事件，Anthropic CEO阿莫迪呼吁协调放缓研发，而黄仁勋称安全与速度可以兼得并反对新监管，吴恩达、Yann LeCun也质疑AI灭绝论。
匹配字段摘要、正文
2026年9月23日至25日习近平对美国进行国事访问期间，中美双方同意建立人工智能对话，交流人工智能相关风险和惠益，并约定在11月底前举行下一次对话。同期联合国安理会举行人工智能与国际安全高级别会议，OpenAI、Anthropic负责人及Yoshua Bengio等就前沿AI风险作介绍。美国参议员伯尼·桑德斯等提出《禁止人工超级智能法案》，拟设立内阁级美国人工智能部。
匹配字段摘要、正文
Earendil 旗下的极简 Agent 框架 Pi 发布 1.0 稳定版，同时推出移植到 TypeScript 的 Pi Durable，两者均登上 Hacker News 首页。Pi 1.0 新增对 MCP、Jev 和图像模型的 Codemode 原生支持、虚拟模型扩展、延迟工具加载、Anthropic 模型缓存预热、对话中途系统消息、新 TUI 主题以及默认全屏模式。Pi Durable 将 Pi 的有状态组件外置，支持崩溃后从检查点自动恢复、在 Node、Bun、Cloudflare 等 JavaScript 运行时运行，并可接入 Memory、SQLite、JSONL 等存储后端，同时支持并行分支对话、后台上下文压缩、多人状态同步与运行时热替换工具代码。
匹配字段摘要、正文
教皇利奥十四世在 X 发帖称，AI 时代亟需区分人类艺术与机器产物，二者存在本体论差异，算法缺乏人性的火花。他今年 5 月曾发布通谕详述 AI 议题，强调人类尊严。据《纽约时报》报道，Anthropic 曾游说梵蒂冈重新考虑其关于非人类意识的立场，但收效甚微。
匹配字段摘要、正文