比尔·盖茨:要为约20年“动荡”的AI颠覆期做好准备
比尔·盖茨在 Decoder 播客访谈中表示,人们需要为约20年的AI颠覆期做好准备,这段时期可能痛苦到让社会分裂为亲近技术前沿与拒绝技术前沿的两部分。他此前在8月底的文章中称,即便在最理想情况下,向AI新时代的过渡也将是人类历史上最动荡的时期之一,并认为当前政策回应与行业协调不足以应对风险。他还指出,近期最大风险来自可被移除全部防护措施的模型。
,防护措施不会被移除。 让我把这一点拆开来看,也许我还没完全理解——在这种情况下,Mac Studio算不算一个平台,必须注意它正在运行什么代码? 除非你想办法监控到那台客户端机器——这完全可行——否则你不会允许能力超过某一水平的模型被复制到客户端机器上。 但短期内,这些真正的前沿模型大多会更多地运行在 Hugging Face 上,或者你也可以把它们放在 GitHub 上。你可以让各种各样的人从事提供维护防护措施的平台的业务。 为了把这一点弄清楚,看起来你会在平台和分发层面执行监管,而不是在芯片层面。 不是在芯片层面,对。 因为在我看来,到了某个时候,即便是廉价、免费的开源模型,其能力也会赶上我们今天拥有的模型。 没错。 然后你就会面临一个大问题。 如果这些模型以开放权重的方式发布,以至于所有防护措施都能被移除,那么你就会面临非常高水平的网络攻击和生物攻击。到那时你可以说:“好吧,让我们把今天所有的代码重写一遍,使其更不容易受到攻击,或者让我们以非常深入的方式开展生物监测。”我认为,除了这些其他限制之外,这些也是我们需要做的事情。 我们再次提出的是很多新的能力,对吧? 是的。 我们将
匹配字段正文






