Import AI 459:AI 监管困难、蛋白质折叠模型的缩放定律与 AI 灭绝风险定价
弗吉尼亚大学、Anthropic 与加拿大银行的经济学家估算,美国 AI 经济 2025 年名义规模约 2500 亿美元,按质量调整后的实际增速约每年 2600%,但这一增长在常规 GDP 统计中几乎不可见。文章还讨论了 AI 监管为何困难、蛋白质折叠模型的缩放定律,以及为 AI 系统灭绝风险定价。
明度、技术专长和协调对于这项任务至关重要。” 认真对待它:“经济学家已经擅长分析公平与效率。我们现在需要把同样的严肃态度带到存续性上。” 为什么这很重要——意识是准备的第一步:眼下,AI的进步不断为世界带来切实的好处,从全球所有软件工程师身上可感知的加速,到人机半人马科学团队的形成——这些团队比没有AI的同行取得了更多进展。但也存在一个更难看见的阴影世界——编码进步所造就的隐形黑客大军,以及科学进步所造就的末日装置工厂。因为人类总体上是善良的,我们尚未遇到AI发展所固有的许多负面能力——但它们确实存在。我们必须作为一个社会更好地思考这一点,以便能够有效地为这些重大风险定价并加以缓解。“一个在拓展可能性边界的同时保全未来的文明,比一个将安全视为事后之想的文明更有雄心。真正的选择不是在活力与谨慎之间。而是在不断累积的进步与自我抵消的进步之间,”Leigh说。“思考这一点的一种方式是将韧性视为一种资本。正如社会投资于物质资本、人力资本和社会资本,我们也可以投资于生存资本:降低不可逆崩溃概率的制度、监测系统、规范、冗余、科学保障和国际安排。”读到一位在任政治家对AI安全形势如此详尽的分析,真是
匹配字段正文

