Amazon 发布 TorchNeuron:面向 AWS Trainium 的 PyTorch 后端
Amazon 本周宣布开源 TorchNeuron,这是一个把 PyTorch 代码转换为可在 AWS Trainium 上执行的操作的后端,已在其他加速器上运行的 PyTorch 代码几乎无需改动即可迁移。它提供可选的 adaptive eager 模式,将操作分组编译并多级缓存 NEFF,在跨加速器的大语言模型测试中把首个训练步的时间缩短约三分之一。团队还用 AI 智能体扫描 Hugging Face 仓库,筛出 841 个代表性模型和数万个张量 shape,构建分层测试流程。
匹配字段摘要、正文
