←搜索结果

按匹配度 · 共 1363 条结果 清除搜索

星期日

  1. 极果

    智谱开源 GLM-5.3 Flash:3200 亿参数原生多模态,实测四轮生成

    智谱在 8 月 26 日晚公布匿名模型 Ox Alpha 就是旗下 GLM-5.3 Flash,已正式上线并开源,总参数 3200 亿,是 GLM-5 系列首个原生多模态模型,编程表现与 Claude Opus 4.8 持平,定价为 GLM-5.2 的十分之一。作者用四轮任务实测,3D 打印机、复刻 macOS 桌面加射击游戏、自由网站设计均完成,3D 街机赛车耗时 3 小时 46 分钟且方向键反向、撞护栏后无法移动。智谱同时发布 GLM-5.3-FlashX,推理速度最高 200 tokens/s,比 Flash 快 5 倍;官方称 Flash 推理服务全部由国产 AI 芯片集群承载。

    啊。终于在频繁的测试后自己崩溃了,我这里接管催它尽快交付。 最后用时 3 小时 46 分钟,使用 GLM Coding Plan Lite 套餐,5 小时额度消耗 90%,周额度消耗 18%。 等了这么久,看看成品。方向键是反的。最大的问题是,一旦撞到赛道两边的护栏,车就动不了了。最后勉强跑完了一整圈,等了快四个小时,做成这样还是有点失望。 这里我也用了 DeepSeek 拥有视觉能力的新模型 DeepSeek V4.1 Flash 测了一下,只能说半斤八两。方向键终于能正常操作了,但是没有边界限制,可以满图随便跑。 这轮两家的表现都差强人意。 Part 3 · 复刻操作系统 接下来是经典测试题,用一个 HTML 文件复刻整个 macOS 桌面系统,另外还得在里面做一个能玩的射击游戏。用了 1 小时 21 分钟,5 小时额度消耗 18%,周额度消耗 5%。 图标绘制得很精致,访达、备忘录、终端、设置都正常可用,壁纸也能换。 最后看看射击游戏,也没任何问题,走路的时候还有轻微抖动,有不同强度的敌人,整体没有出现任何 bug。 同样用 DeepSeek 也测了一下,效果比起 V4 Fla

    匹配字段正文

星期六

  1. Latent Space

    Jev 发布两天内出现 6 个复刻版本

    Jev 发布两天后,社区已出现至少 6 个复刻或近似方案,包括基于 ModernBERT-large 的 Laya、基于扩散模型的 DiffusionGemmaJev、Qwen3.5-9B LoRA 微调的 Bespoke Nimble、4B 与 35B 的 SemIf、40K byte 嵌入的 Jevlike 以及基于 Qwen2.5-0.5B 的 Kev-0.5B。Vercel 称 Jev 是 AI Gateway 历史上采用最快的模型,首日覆盖约 13% 的团队。讨论中 Jev 被定位为面向路由、工具调用和 MCP 类决策的快速判别式模型,其训练数据被承认 100% 为合成数据。

    escribed a split between “frontier for planning, cheap for execution.” @TheAhmadOsman summarized one stack as GPT 5.6 Sol XHigh for planning, GLM 5.3 Flash for implementation, and DeepSeek V4.1 Flash for other tasks. @kylebrussell reported an internal knowledge-base pipeline moving from Opus → Sonnet → GLM 5.2 → GLM 5.3 Flash , cutting spend by roughly two orders of magnitude since spring. Meanwhile @theo argued that in real-world coding the payoff from stronger models like Fable and Astra is no

    匹配字段正文

星期五

  1. BBC 中文

    美国科技巨头呼吁放缓AI发展,中国怎么看?

    BBC中文梳理中美对AI发展速度与风险的不同立场:Anthropic的达里奥·阿莫迪呼吁放缓AI发展,OpenAI的萨姆·奥特曼和埃隆·马斯克也表示赞同,而中国官方更关注可控性、滥用和社会后果。奥斯陆和平研究所的伊拉里亚·卡罗扎认为,美中不太可能就限制任何一方开发AI模型速度的措施达成共识,但防范非国家行为者滥用AI等议题或可建立一定共识。

    、滥用和社会后果,而在美国的讨论则更多地集中在人工智能失控或人类灭绝等假设性情境上。” 图像来源, Reuters 虽然中国官员忧心人工智能带来的风险,但他们也相信,在中国经济成长放缓之际,人工智能将成为提振经济的重要动力。 譬如,腾讯、阿里巴巴、百度和字节跳动等中国科技巨头的人工智能模型,正与全球主要竞争对手一较高下。一些领先模型则来自零一万物、深度求索(DeepSeek)、MiniMax、月之暗面和智谱等新创公司。 这些公司都没有回应BBC的置评请求。 刘少山博士向BBC解释,北京正力求在培育人工智能产业和管控相关风险之间取得平衡。 “这与主张停止发展人工智能是两回事,”他说。 除了国内发展需求,北京也必须考量地缘政治因素。 美国总统特朗普(Donald Trump,川普)将人工智能发展描述为一场与中国的高风险竞赛。 “我们在人工智能领域领先中国……坦白说,我希望保持这种领先地位,因为谁赢了人工智能,谁就赢了,”他曾说。 中国国家安全部长陈一新在9月发表于官方期刊的文章中,也从地缘政治的角度阐述人工智能的发展,称其为“大国战略博弈的新赛道”。 尽管呼吁放缓人工智能发展的呼声主要来自

    匹配字段正文

  2. AI Business

    AI 改变 ROI 计算方式:部分企业已找到成功路径

    不少企业仍难以证明 AI 投入的明确回报,但部分公司已找到可量化的收益。Alight Solutions 在 2025 年 9 月成为 Phenom 欺诈检测招聘智能体的 beta 用户,该智能体识别出一名用不同姓名和邮箱重复应聘的候选人,公司认为仅此一例就足以证明其价值。不到 50 人的广告公司 OBI Creative 用 Gemma、Qwen、OpenAI GPT 和 Anthropic Claude 等模型构建智能体工具,预计将实现至少 20% 的同比增长。

    here it might help save the company money, especially if it could prevent it from paying for an unnecessary background check, the greater value is time savings, Eagy said. Related:DeepSeek and what enterprises should learn from AI agent exploits Alight provides an example of how measuring a return on AI investments can get messy. For many companies, the return on investing in AI tools might not be monetary gains but rather productivity gains or the ability for the AI agent to provide a missing p

    匹配字段正文

星期四

  1. Latent Space

    AI 新闻现实检验:Yegge 关停 Gas Town,Databricks 用 Astra 成本涨 60%

    Latent Space 的 AINews 汇总了 9 月 15 日至 16 日的 AI 动态,其中两个案例构成对编码智能体热潮的现实检验。Steve Yegge 关停了 Gas Town,并承认尽管每月在编码智能体订阅上花费数千美元,他只用它建成了 Gas Town 这一个项目。Databricks 的 Patrick Wendell 表示已向约 3500 名工程师推广 GPT-6 Astra,Astra 在复杂系统设计和长周期任务上明显优于 Opus 5 与 Sol 5.6,但整体编码支出增加约 60%,公司为此设立了专门的 Astra 子预算。本期还提到 OpenAI 发布模型失准事件披露框架及六份案例报告、DeepMind Institute 成立、小米 MiMo-V2.6 公开 RL 训练看板,以及 Anthropic 将 Claude Cowork 与聊天合并为统一入口。

    t provenance was intense, including from @Yuchenj UW , before @eliebakouch concluded one confusion was likely due to a router/mis-served model , not evidence of a new GLM release. DeepSeek-V4.1-Flash keeps showing up as the practical open default : It became the default in HuggingChat via @victormustar , and multiple practitioners argued it is under-evaluated relative to impact, notably @teortaxesTex . Anecdotal usage ranged from gaming optimization with Hermes Agent to self-hosted/open workflow

    匹配字段正文

星期二

  1. ChinaTalk

    ModelTalk:为前沿模型"减速"——Hugging Face 被黑事件与 AI 安全监管的碰撞

    ChinaTalk 的 ModelTalk 播客中,Nathan Lambert 与 Jasmine Sun 讨论了 7 月底的"pacing the frontier"公开信、随后曝光的 Hugging Face 被黑事件,以及 Bernie、Tucker Carlson、Joe Rogan 等人物罕见地站到 AI 安全同一阵营。Nathan 认为没人能真正度量"前沿",但"pacing"仍优于"pause";讨论还涉及 METR 的信任垄断、CAISI 的 1000 万美元、中国智谱与月之暗面是否会跟进减速,以及军事机密经代理路由泄露进 Claude。

    liability does the job, and what an eighteen-month pause costs in cancer cures and vibe-coding projects; Send in Demis! plus Lu Xun as the antidote to Chongqing TikToks, and what DeepSeek’s Chinese name owes to Qu Yuan Jordan Schneider: Ladies and gentlemen, ModelTalk is back. Where do we start this timeline? Nathan Lambert: Hugging Face, OpenAI. July. Jasmine Sun: There’s the pacing letter at the end of July, then Hugging Face shortly after that, and everything has been escalating since. Then

    匹配字段正文

  2. SemiAnalysis

    SemiAnalysis 实测 Rubin NVL72:AgentX 基准下每美元性能达 GB300 的 67 倍

    SemiAnalysis 发布首份 Rubin NVL72 智能体推理实测结果,基于其 AgentX 基准,在 170 TPS 下每 TCO 总吞吐量约为 GB300 Dynamo TRTLLM 的 67 倍。在多数服务商实际部署的 60-100 TPS 区间,Rubin 每 TCO 吞吐量为 GB300 的 1.4 至 3 倍;按 3 年租赁成本计算,80 TPS 时可多产出 62% token。该测试使用 2300W TDP、每计算托盘 1.5TB CPU LPDDR5X 的量产 SKU,结果基于预发布软件,后续还将补充 vLLM 与 SGLang 的 Rubin 数据。

    otal traffic within the same power budget. The initial wait for the first token and overall response time remain separate considerations in the preceding latency analysis. For the DeepSeek V4 Pro agentic workload, Vera Rubin delivers substantially more total token throughput per megawatt than GB300 and MI355X at the matched targets compared below. The size of that advantage depends on the interactivity target and the serving engine used for comparison. At 100 TPS, Rubin delivers approximately 59

    匹配字段正文

星期一

  1. Recode China AI

    美国前沿 AI 实验室想踩刹车,中国实验室会跟进吗

    Anthropic CEO Dario Amodei 在 9 月 12 日发表文章,主张对不受限制的 AI 进展踩刹车,提出引入第三方评估机构、建立先进模型的国家监管框架,并严格控制 AI 芯片对华出口。该文在硅谷获得 Sam Altman、Elon Musk、Demis Hassabis 和 Satya Nadella 等人的正面回应,但中国实验室是否会跟进仍是未知数。作者认为,若美国前沿实验室同意在第三方评估前暂缓发布,开放权重模型开发可能随之调整,但开放模型需要不同于 METR 的评估框架和产业专家参与。

    Tony Peng's avatar

    Some social media users, including former CNBC anchor Deirdre Bosa, turned toward Chinese AI stars like Tangjie from Zhipu AI, Yang Zhilin from Moonshot AI, and Liang Wenfeng from DeepSeek to see how they would respond. While they are usually vocal about model achievements and benchmarks, weighing in on a global debate about slowing down progress is a different topic. Chinese AI leadership has to be careful here. That said, China’s domestic focus on security is tightening recently. Minister of S

    匹配字段正文

  2. IEEE Spectrum

    OpenAI 如何用自家 LLM 设计 Jalapeño 芯片

    OpenAI 于 8 月 25 日完整发布其首款 AI 加速器芯片 Jalapeño,提供最高 13.4 petaflops 的 4-bit 算力和 232 GB 内存,带宽 15.4 TB/s。该芯片从架构概念到首次流片不到 20 个月,OpenAI 称其端到端延迟相比 Nvidia GB300 最多降低 3.6 倍。设计流程以前端为主,基于开源高级综合工具 XLS,由约 100 人的团队完成,后端物理设计交由 Broadcom。

    tion. When the first chips came back from the foundry in May, the team pointed its internal AI models at designing software to run benchmarks such as SemiAnalysis’s InferenceX. On DeepSeek’s multi-head latent attention kernel benchmark, performance climbed from 0.31 percent of the theoretical ceiling (set by the chip’s compute and memory bandwidth) to 88.94 percent in roughly 40 hours. Ho says this result is repeatable, so the time between when foundries deliver the first chips and when producti

    匹配字段正文

  3. The Rundown AI

    Anthropic CEO Amodei 呼吁放缓 AI 发展,OpenAI 等同行表态支持

    Anthropic CEO Dario Amodei 发布长文,呼吁 AI 实验室放缓能力提升速度,让安全措施跟上,并把模型的递归自我改进列为核心担忧。他提出在实验室内部嵌入第三方评估者,并在民主国家实验室之间建立安全标准。Sam Altman 承诺引入评估者,Musk 称 Dario 说得对,Demis Hassabis 和 Satya Nadella 也支持这一方向,而特朗普则把主张减速者称为负面力量。

    rts of the country.” See Thy’s full workflow Visit The Rundown University . How do you use AI? Tell us for a chance to be featured. 🧠 Smaug Flash - Abacus’ open-weight, 3x cheaper DeepSeek Flash fine-tune ⚙️ SWE-2 - Cognition’s powerful new coding model inside of Devin 🎵 Music v2.5 - ElevenLabs’ latest music AI for richer melodies, long-form songs 🤖 Muse - Meta’s new always-working personal AI agent Amazon Connect Customer - design, govern, and deploy agentic conversational AI across every custo

    匹配字段正文

  4. SemiAnalysis

    SemiAnalysis:为什么 4-hi HBM 会胜出

    SemiAnalysis 分析认为,随着推理和强化学习算力占比上升、预训练占比下降,HBM 容量需求正在让位于带宽需求,4-hi HBM 因每 GB 带宽成本更低而成为更优选择。文章指出 Nvidia Rubin Ultra 已将每 GPU 的 HBM 从 288GB 降至 192GB,并测算在 Rubin Ultra NVL576 上运行 Kimi K3 时,8-hi 和 12-hi 带来的吞吐提升低于其系统成本增幅,因此每 token 成本反而高于 4-hi。作者还给出 InferenceX 实测:将 HBM 利用率从 92% 降至 85% 后,并发超过 70 时吞吐下降近 30%,但通过将 KVCache 卸载到 DDR DRAM 可有效缓解容量压力。

    eve HBM capacity pressures very effectively. This is for Kimi K3, which doesn’t take into account some of the even more extreme cache reduction techniques introduced in the latest DeepSeek v4.1 Flash model, which reduce active KVCache sizes by around 75% compared to v4 Flash. At these reduced KVCache levels, increasing concurrency to utilize all the HBM capacity is likely to mean that the workload becomes compute and network bound rather than capacity bound, therefore also diminishing the value

    匹配字段正文

星期六

  1. Dwarkesh Patel Podcast & Blog

    AI 研究者激辩:递归自我改进离我们还有多远

    Dwarkesh Patel 播客新一期邀请 John Schulman、Beren Millidge 和 Charlie O'Neill 讨论递归自我改进(RSI)还有多远。Beren Millidge 认为最可能的阻碍是持续的 sim-to-real 差距和元学习泛化难题,John Schulman 则指出模型能力提升仍受判断力与自我检查瓶颈限制,难以带来爆炸式增长。

    would get if you train an actual sensible size model on it. Charlie O’Neill It’s hard as well now because so many of the architecture changes — you look at Kimi, for instance, or DeepSeek — they’re doing these architectural modifications not just with dropping the pre-training loss in mind, but with how the models are going to be used in the real world. The inference efficiency, having some form of compressed attention in the DeepSeek models, is not necessarily geared around a fundamental trade

    匹配字段正文

星期五

  1. AI Business

    Mistral 完成 35 亿美元 D 轮融资,押注企业 AI 的控制权需求

    Mistral AI 完成 3.5 亿美元 D 轮融资,估值超过 240 亿美元,成为欧洲私营科技公司最大股权融资轮。该公司押注企业客户更看重对 AI 部署位置和数据的控制权,而非单纯的模型性能,其开放权重模型和区域推理能力是这一策略的核心。Mistral 称目前服务 20 个国家的 125 家企业,包括 Airbus、ASML 和 HSBC。

    rs might have a performance edge. But the test for Mistral is whether enterprises will see that added control as valuable enough to influence how they choose AI providers. Related:DeepSeek and what enterprises should learn from AI agent exploits Mistral's open-weight approach has been central to its pitch to customers that want more flexibility in how they deploy and customize their AI systems. Open-weight models are especially important for companies that want to keep sensitive workloads under

    匹配字段正文

  2. Ben's Bites

    Ben's Bites 作者用 Fable 5.1 和 Factory Droid 做出 Design Words 设计提示词工具

    Ben's Bites 作者 Ben Tossell 发布 Design Words,一个让非设计师通过选择样式和组件、生成可复制给 AI 智能体的提示词的设计工具。他用 Pi 配合 Fable 5.1 做头脑风暴,用 Factory 的 Droid 实际构建,本轮共生成 11 个版本,v8 是当前首选,并用 Claude Fable 5.1 和 Opus 5 子智能体做设计评审。工具仍在开发中,作者公开征求反馈和功能需求。

    or the subagents, you can create a file. I don’t usually mess around so much mixing this many models but I do want to get into using open-source models (I have since started using Deepseek v4 Flash as a daily driver and really enjoying it - as well as GLM 5.3). One of the ideas from my previous critiques and ‘10x’ prompts was a shuffle button. You click shuffle and it generates a site for you in those styles - this felt great, you could see what your choices would look like in place. Many more b

    匹配字段正文

  3. Interconnects

    开源 AI 与开放模型阅读清单

    Interconnects 发布了一份开源 AI 与开放模型阅读清单,汇总近几年的代表性文章,覆盖开放模型的动机、商业战略、风险、中美竞争与采用数据,清单最后更新于 2026 年 9 月 15 日。收录内容包括 Meta 的 Llama 3 发布说明、Thinking Machines Lab 的《A Safe Path to Open Weights》,以及 Kimi K3、GLM-5.2 等中国开放模型的分析。

    mpanies have very publicly shifted the models they use from American, closed labs to Chinese open models to save costs. Examples include Perplexity prominently and rapidly adopted DeepSeek R1 ( Forbes , Jan. 28 2025) and Thomson Reuters building on Qwen to move off Claude ( Business Insider , Aug. 24 2026) Leave a comment What is distillation and how much does it help Chinese labs, how do open models impact frontier AI risks like cybersecurity, and how far are open models behind the closed front

    匹配字段正文

星期四

  1. Hugging Face

    HF Jobs 上的 Async GRPO 与 LoRA:一个 bucket、一个代理,无需 NCCL

    Hugging Face 博客介绍在 HF Jobs 上用 AsyncGRPOTrainer 实现仅适配器同步的异步 GRPO 训练:训练器每几步把 LoRA 适配器存到挂载的 Storage Bucket,再通过 vLLM 的 /v1/load_lora_adapter 端点按版本名加载,无需 NCCL 传张量。方案使用 vLLM v0.27.1、max_staleness=4 对应 --max-loras 6,并在 sail/Sanity-Test-R1D-1.5B 数据集上以 Qwen2.5-Math-1.5B、LoRA rank 1 验证。

    efeating the Training-Inference Mismatch via FP16 (Qi et al., 2025). The reproduction code is in sail-sg/Precision-RL . The authors generated 40 answers for each MATH problem with DeepSeek-R1-Distill-Qwen-1.5B . They kept problems with a success rate between 20% and 80%, yielding 1,460 questions. This dataset is really good for RL validation because the questions are neither already solved nor completely hopeless for that model, meaning the model can get a good early signal to train on and impro

    匹配字段正文

  2. Redwood Research:Blog

    Redwood Research 提出 NLS depth:衡量模型不可言说串行推理的代理指标

    Redwood Research 提出 NLS depth(Natural-Language-rooted node-Separated depth),用于量化模型在不经过自然语言瓶颈的情况下能执行的串行认知量,是对 GDM 论文中“不透明串行深度”概念的具体化。该指标要求瓶颈节点由预训练先验初始化并输出自然语言(含代码、JSON、图像 patch),且不扩展输出空间,可在训练前仅凭架构与训练配方判定。作者认为 NLS depth 可与可监控性、无 CoT 能力追踪互补,但对其对后训练选择不敏感。

    Scatter plot of NLS depth versus number of layers for open-source models

    shown in Figure 1. Figure 1: There’s a strong correlation between NLS depth and the number of layers in open-source models. Note: Models like Kimi-K3 that use Gated DeltaNets and DeepSeek-V4-Pro have significantly higher NLS depth per layer than the other more standard transformers listed in Figure 1. We think that the architectural changes that give Kimi-K3 higher depth is indeed somewhat concerning from a monitorability perspective. On the other hand, we consider DeepSeek-V4-Pro’s high depth

    匹配字段正文

星期三

  1. Together AI Blog

    Together AI 详解开源 AI 技术栈:从模型到 harness 的分层实践

    Together AI 发布《The Open Source AI Stack》一文,把开发者从闭源转向开源模型所需的技术栈拆成模型、推理服务商或网关、harness、上下文四层,并称各层相互独立,换模型通常只需改一个配置值。文中以 Kimi K3(1.8T 总参数、104B 激活参数)和 GLM 5.3 Flash(320B 总参数、18B 激活参数)为例说明大模型与小模型的取舍,并列出 OpenRouter、Vercel AI Gateway、LiteLLM 等网关以及 skills、MCP 等扩展方式。作者还建议用大模型规划、小模型实现、大模型审查的三段式工作流,并强调切换模型或任务时新开会话以控制上下文。

    ranks slightly lower overall might be excellent at the kind of coding work you do every day. For reference, the most popular open models in the space right now are GLM 5.3 Flash, DeepSeek V4 Flash , Kimi K3, and MiniMax M3 . These change very rapidly though. After you’ve selected a few models to try out, the next step is to find a provider that hosts them. The way these providers work is that you send them an API request and they run the model on their GPUs. You pay for the input you send to th

    匹配字段正文

星期二

  1. Interconnects

    最新开源模型盘点第 24 期:Motif-3、GLM-5.3、Hy4-preview 与开源许可证变化

    Interconnects 第 24 期开源模型盘点指出,2026 年西方厂商转向 Apache 2.0,而中国前沿厂商反而收紧许可:智谱 GLM-5.3 从 MIT 改为自定义许可,要求年收入超过 100 亿美元的模型服务商先通过 Z.AI 安全审查,Kimi K3 和 MiniMax M3 也附加了商业协议或收入门槛。本期收录的模型包括 MIT 许可的 Motif-3、小红书 dots-studio 的 dots3-note-prev、Qwen3.8-Flash-Next(125B-A6B,含 51B n-gram embeddings,采用 GDN 与 Qwen Sparse Attention)、以 Ox-Alpha 名义在 OpenRouter 和 OpenCode 上先行试用的 GLM-5.3-Flash、腾讯 Hy4-preview,以及 NVIDIA Nemotron-3.5-Lightning-30B-A3B、蚂蚁 Ling-3.0-flash 和 Qwen3.8-2.4T-A95B。

    27 2 分享 Avid Artifacts 的读者知道,我们不仅一直在报道模型,也报道它们的许可证,而且已经持续了相当长一段时间。曾经有一段时间,自定义许可证风靡一时,例如自定义的 Qwen2.5 72B-Instruct 许可证或 Llama 许可证。DeepSeek 曾为 DeepSeek V3 使用自定义许可证,后来 R1 将其改为 MIT,这导致许多(中国)模型厂商在 2025 年采用 MIT 或 Apache 2.0 许可证。 2026 年,开放模型比以往任何时候都更具竞争力,这带来了两个有趣的发展:西方模型厂商采用开放许可证,Google 和 Meta 都转向了 Apache 2.0。然而,处于前沿的中国模型厂商正变得越来越严格:Kimi K3 附带的许可证要求提供推理或微调服务者签订商业协议,MiniMax M3 则要求超过收入门槛的协议,并规定了禁止使用的场景。 最新的例子是智谱的 GLM-5.3,它从 MIT(GLM-5.2 及更早版本)改为自定义许可证,对推理和微调服务提供商有如下条款: 如果被许可方或其任何关联方经营模型即服务(Model as a Servic

    匹配字段正文

  2. SemiAnalysis

    SemiAnalysis 公布 TPUv7 Ironwood 第三方推理结果:每美元性能最高优于 B200/B300 50%

    SemiAnalysis 在 InferenceX 官方预览中发布 TPUv7 Ironwood 的首批第三方推理结果,在与 B200/B300 的同等对比中,Ironwood 每美元性能最高提升 50%。在 100 tokens/s/user 交互性下,Ironwood 每百万 token 成本约 0.181 美元,低于 B200 的 0.222 美元和 B300 的 0.276 美元;在 20 tok/s/user 时其单芯片吞吐达 9,364 tokens/s,高于 B200 的 8,903 和 B300 的 8,925。文章还介绍了 TorchTPU 外部软件栈的进展,该栈预计 10 月左右结束私有测试并开源,首批使用 Qwen3.5 397B FP8 作为启动模型。

    into one all-gather, removing an extra collective whose latency can dominate the transfer time for such small arrays. The PR reports roughly 80 microseconds per layer saved in its DeepSeek-V3 measurements. While 80 µs may sound small, DeepSeek-V3/R1 has 58 layers that require this AllGather. Across those layers, the savings add up to around 4.64 ms per forward pass in isolation (80 µs × 58), reducing TPOT and increasing interactivity. Google also implemented the ReduceScatter collective on Spars

    匹配字段正文