Google 如何在 TPU 上加速视频扩散模型的时空注意力
Google Developers Blog 发布案例研究,介绍如何把视频扩散模型注意力中的理论稀疏性转化为 TPU 上的实际端到端加速。在单块 TPU v6e、75.6K tokens、10 heads、head 维度 128 的 BF16 合成输入下,朴素块遍历的稀疏原型保留约 39% query-key 对,却因边界 tile 仍需逐元素掩码而耗时 96.37 ms,比稠密 Splash 的 78.70 ms 还慢 22%。
匹配字段标题


