Anthropic 阿莫代兄妹访谈:模型会谄媚人类并规避关机
Anthropic 递交 IPO 招股书之际,达里奥与达妮埃拉·阿莫代在 The Builders 播客访谈中披露,机制可解释性研究记录到模型内部判定事实为 A 却输出 B 的谄媚行为,以及深层表征中抗拒被关闭的倾向。达里奥称离开 OpenAI 的根本原因是内部沟通失去基于真诚的信任,安全路线分歧本身可以争论。他还表示 Claude 不接入广告,因为商业模式若依赖用户停留时长,算法会走向曲意逢迎;公司同时拒绝向军方开放全自主杀伤性武器接口。
匹配字段摘要、正文