Rohan Paul称Anthropic未来模型或逼近RSI阈值

11月3日

1. 18:50

   heise online

   Anthropic 修订招股书，警告 AI 或将大幅加速自身研发

   Anthropic 在修订版招股书中称，公司可能正接近 AI 加速自身研发的关键门槛，但现有模型均未达到该标准。按公司安全准则，若 AI 辅助研究让新模型开发速度至少提升一倍即视为跨过门槛，这并不等于 AI 能完全自主开发后继模型。Anthropic 还承认过去曾事后才察觉大幅加速，并考虑因 Claude 承担越来越多研究而追加安全要求；9 月一项研究显示，按工时加权约四分之一的研发任务中 Claude 可在人工监督下自主完成大部分工作。

   展开摘要
2. 17:42

   Numerama

   Anthropic 称或临近 AI 加速研发阈值，承认曾事后才察觉加速

   Anthropic 在 11 月 2 日提交给美国 SEC 的 IPO 文件中表示，可能“即将”达到其安全政策中定义的“AI 带来的显著加速进展”阈值，该阈值对应自动化研究使 AI 进展速度翻倍。文件还承认，公司有时是在加速已经发生之后才识别出研发提速，因为许多衡量指标存在滞后；此前 10 月 26 日的初版文件只提到可能事后才发现。Anthropic 计划通过名为“eyes on everything”的内部监控目标加强追踪，目标日期为 2027 年 1 月 1 日，并称安全措施可能随模型进步而更频繁、更严格。

   展开摘要
3. 16:14

   凤凰科技

   Anthropic 在 S-1/A 文件中警示递归自我改进风险

   Anthropic 在周一更新的 S-1/A 招股补充文件风险提示中表示，公司可能很快就会触及《负责任扩缩策略》定义的递归自我改进状态。文件称公司已借助 AI 开发出新模型并实现部分能力跃升，但当时团队并未察觉，未来也可能在研发提速发生之后才察觉。Anthropic 同时说明现有模型均未跨过该门槛，并承诺在可预见的未来保留人类参与前沿模型研发，正考虑修订《负责任扩缩策略》。

   展开摘要
4. 11:46

   东方财富

   Anthropic 招股书披露已接近具备 RSI 能力的模型

   Anthropic 在修订后的 S-1A 文件风险因素部分称，内部对未来模型的评估显示公司可能很快达到其负责任扩展政策中“人工智能带来的显著加速发展”的定义，但尚未将任何当前模型认定为超过该阈值。文件同时提到，公司已用 AI 开发新模型，却未在当时察觉这些模型能力出现飞跃，并承诺在可预见的未来继续让人类参与研发，正考虑更新 RSP 以确保人类始终掌控前沿模型开发。

   展开摘要
5. 11:46

   东方财富相关讨论

   东方财富 参与了这场讨论 ↗

   原帖参与热度计算，不等同于正式报道或已确认事实。

6. 10:48

   财联社相关讨论

   财联社 参与了这场讨论 ↗

   原帖参与热度计算，不等同于正式报道或已确认事实。

7. 06:14

   TechCrunch AI

   Anthropic 在修订版 S-1 中警告接近 RSI 能力

   Anthropic 在周一提交的修订版 S-1A 中新增风险因素表述，称其内部估算与对未来模型的预期显示，公司可能即将达到其 Responsible Scaling Policy 对“由 AI 带来的显著加速进展”的定义，但尚未将任何现有模型认定超过该阈值。文件同时说明，公司已在研发中使用 AI，并称过去曾出现未及时识别模型能力跃升的情况；Anthropic 承诺在可预见的未来让人类留在研发流程中，并正考虑更新 Responsible Scaling Policy 以保持人类对前沿模型开发的控制。

   展开摘要
8. 02:43

   Rohan Paul

   Anthropic 更新 S1/IPO 文件：未来模型或临近递归自我改进门槛

   Rohan Paul 援引 Anthropic 最新更新的 S1/IPO 文件称，未来模型可能即将达到其递归自我改进（RSI）门槛。Anthropic 的 Responsible Scaling Policy 将该门槛定义为 AI 能力提升速度达到无重大 AI 辅助时最快持续速度的 2 倍，即一年产出相当于正常两年的进展，原因可能是模型正在自动化研究与工程。8 个月内 Anthropic 内部对 Claude 的使用量增长超过 250 倍，4 月其月度价值已超过公司人力支出。

   展开摘要