Cerebras 以最高 750 tokens/s 服务 GPT-5.6 Sol
Cerebras 宣布 OpenAI 正在预览运行在 Cerebras 上的 GPT-5.6 Sol Ultrafast 模式,输出速度最高达 750 tokens/s。该版本未做蒸馏或量化,模型架构、权重、精度、上下文配置和推理设置与 OpenAI 标准端点上的 GPT-5.6 Sol 一致,仅运行硬件由 GPU 换为 Cerebras WSE-3。在质量匹配的 GDP-Val 任务上,Ultrafast 完成同样任务比标准端点快 5.6 倍;在 Humanity's Last Exam 匹配问题上快 6.9 倍,原本一小时的任务可在不到九分钟内完成。

#产品更新#推理#部署/工程
