Anthropic 修订招股书，警告 AI 或将大幅加速自身研发

Anthropic认为，人工智能可能很快就会大幅加速新AI模型的开发。在修订版招股书中，该公司援引内部估算以及对未来模型的预期。据此，Anthropic可能正接近AI加速进展的关键门槛。迄今为止，其现有模型均未被评定为达到该等级。

广告后继续阅读

Claude已经在帮助开发新的Claude模型，例如编写代码、进行实验和测试。能力更强的后继模型则可能承担更多开发工作，从而进一步加速进展。在极端情况下，AI甚至可能完全无需人类帮助即可开发出自己的后继者。Anthropic将这一情景称为递归式自我改进。

Anthropic可能过晚察觉AI进展

Claude参与自身迭代开发的程度越高，人类就越难理解和控制各个开发步骤。与此同时，新模型能力的增长速度可能快于相应安全措施的制定速度。在修订版招股书中，Anthropic明确承认，过去曾多次在重大加速已经发生之后才予以察觉。

招股书中提到的门槛源自Anthropic自身的安全准则。根据该准则，若AI辅助研究使新AI模型的开发速度至少达到无AI辅助时的两倍，即视为达到该门槛。不过，这并不意味着AI能完全自主开发其后继模型。由于Claude承担着越来越大比例的AI研究工作，Anthropic在招股书中表示正考虑追加安全要求。

Anthropic已警告数月

广告后继续阅读

Anthropic在9月的一项研究中量化了Claude参与其后继模型开发的程度：在按工时加权的研究与开发工作中，约四分之一的任务里Claude可在人类监督下自主完成大部分工作。在所有受调查领域中，均未发现完全自主的情况。

早在6月，Anthropic就警告称，未来AI编写代码的速度可能快于人类审查代码的速度。当时，该公司与大多数其他大型AI企业一样，支持国际协调放缓或暂停AI开发的可能性。在8月的一份风险报告中，Anthropic已认为该门槛有可能在一年内达到。修订版招股书如今在时间上进一步收紧了这一预测。

不过，在Anthropic这里，目前也必须始终强调：该公司早已宣布的上市很可能即将到来。可以推断，Anthropic目前在许多表态中，也格外追求自身的公关利益。

(tobe)