Mistral 研究负责人谈 Le Chonk:西方最大开源模型的追赶内幕
Matt Turck 与 Mistral 研究负责人 Pierre Stock 对谈,围绕被称为西方最大开源模型的 Le Chonk 展开。Stock 谈到团队在自有数据中心用 3800 块 GPU 训练、Le Chonk 目前仍在训练中,以及 Mistral 从 DeepSeek 借鉴了什么、开源权重与网络安全拒答之间的取舍。节目还提及后续将推出 Mistral Large 5。
00 冷开场 0:59 西方开放权重模型的回归:Beam、Le Chonk、Muse、Nemotron 4:09 美国关停 Anthropic 的模型——“AI 就像电力” 6:07 为什么叫“Le Chonk” 7:56 “Mistral 落后了”:来自内部的回归故事 10:29 在 Mistral 自有数据中心用 3800 块 GPU 训练 13:24 Meta 把最好的模型闭源,Mistral 则开源 Chonk 15:40 Chonk 对比 Beam、Muse Spark Open 和中国模型 18:44 为什么中国实验室仍处于前沿 21:08 Pierre 的故事:FAIR、Yann LeCun、“Mistral 黑帮” 25:14 从压缩网络到万亿参数 27:30 详解混合专家:医院类比 32:25 十万亿参数模型即将到来 35:29 Mistral 从 DeepSeek 借鉴了什么 36:46 一个模型,多种推理模式 39:15 原生多模态:卫星、手册、计算机操作 41:56 数据、合成数据与模型崩溃 46:32 把强化学习当作考试 49:59 效率从何而来 52:18
匹配字段正文