←搜索结果

按匹配度 · 共 2042 条结果 清除搜索

星期五

  1. OpenRouter:Announcements

    OpenRouter 推出 Model Router Benchmarks 路由器评测页

    OpenRouter 上线 Model Router Benchmarks 页面,用跨领域基准对各家模型路由器按质量、速度和成本打分,并列出单模型作为对照基线。页面引入 Router Index,默认按质量 60%、每任务耗时 20%、成本 20% 合成 0 到 10 分,权重可用滑块调整。被评测的路由器包括 OpenRouter 的 Auto Router、Unbiased 的 Pareto、Sakana 的 Fugu、Jev Router 和 NVIDIA 的 Switchyard,均可在 OpenRouter 上直接替换模型调用。

    匹配字段摘要、正文

  2. PyTorch Blog

    PyTorch 用 TLX 优化 Jagged Flash Attention:迈向 Blackwell 上的 SOTA FA4

    PyTorch 博客展示了用 TLX(Triton Low-level Extensions)在 NVIDIA Blackwell(B200)上优化 Meta 生成式广告模型 GEM 的 Jagged Flash Attention 内核。该内核约 3.2K 行 Triton 级代码,比约 10K 行的 CuteDSL 版 FlashAttention-4(FA4)少约 3 倍,在 GEM 关注的 jagged 形状上前向快约 13%、反向快约 50%。

    匹配字段摘要、正文

  3. The Decoder

    Tavus 推出实时视频对话模型 Griffin,48% 测试者误认其为真人

    Tavus 推出名为 Griffin 的 Human Interaction Model,可在实时视频通话中同时接收和生成语音、面部表情、语气、手势与停顿。Tavus 研究显示,48% 的参与者在一次一分钟视频通话后认为 Griffin 是真人,此前系统最高为 2%。在 Tavus 称为 Nvidia 独立测试的拟人度评分中,Griffin 得 3.83 分,真人为 3.92 分,此前最佳 AI 模型为 2.80 分。名为 Griffin-Lite 的预览版已向部分测试者开放,能力更强的版本将在安全问题解决后推出。

    匹配字段摘要、正文

星期四

  1. Ai2 Blog

    Ai2 发布 Olmo-core 3:面向大规模 MoE 的开源可扩展训练基础设施

    Ai2 发布 Olmo-core 3,这是其大语言模型开发框架的一次重大升级,核心是重新设计的开源 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数级别并保持计算效率。在八块 NVIDIA B300 GPU 的初步测试中,470 亿参数 MoE 达到每 GPU 每秒 52,000 tokens,约为此前 FSDP 实现 19,400 的 2.7 倍;该基础设施已在超过 1 万亿总参数规模上完成基准测试。Olmo-core 3 从 FSDP 转向基于 DDP 的系统,让专家常驻 GPU 并把数据路由过去,同时采用 rowwise expert parallelism、GPU-resident routing、grouped GEMM 和 MXFP8 低精度格式,其中 MXFP8 在四块 B300 上的端到端吞吐比 BF16 高约 21%,峰值活动显存从 103 GiB 降至 95 GiB。Ai2 表示下一代 Olmo 将采用 MoE 架构,Olmo-core 3 完全开源,研究者可用于训练自己的 MoE。

    匹配字段摘要、正文

  2. Hugging Face

    AI2 发布 Olmo-core 3:面向大规模 MoE 的开源可扩展训练基础设施

    AI2 发布 Olmo-core 3,一套面向大规模 MoE 模型的开源训练基础设施,从早期基于 FSDP 的实现改为基于 DDP 的系统,让专家常驻 GPU 并把数据路由到对应专家。在八块 NVIDIA B300 GPU 的初步测试中,470 亿参数 MoE 达到每 GPU 每秒 52,000 tokens,约为旧实现 19,400 的 2.7 倍;在四块 B300 上启用 MXFP8 后吞吐比 BF16 高约 21%,峰值活跃显存从 103 GiB 降至 95 GiB。该栈支持专家并行、流水线并行、分布式优化器、行级专家并行、GPU 常驻路由与分组 GEMM,并已在 512 块 GPU 上测试 1.2 万亿参数模型,最高观测吞吐 858 TFLOP/s/GPU。

    匹配字段摘要、正文

  3. The Decoder

    Ataraxos 在 Stratego 上击败人类最强选手,训练成本不到 8000 美元

    卡内基梅隆、纽约大学、斯坦福和 MIT 团队在 Nature 发表论文,提出 Stratego AI 系统 Ataraxos,在 20 局正式系列赛中以 15 胜 1 负 4 平击败荷兰选手 Pim Niemeijer,作者称这是首个在该棋类达到超人水平的 AI。训练仅用 16 块 Nvidia H100 GPU 一周加 4 块 GPU 四天,按 2025 年价格算不到 8000 美元,约为 DeepMind DeepNash 算力成本的 1/500。该方法还用于 Barrage Stratego、Hanabi 和斗地主,代码已公开。

    匹配字段摘要、正文

  4. A6 a6-051 · Cerebras:Blog

    Cerebras:快速推理找到节奏

    Cerebras 回顾 2025 年:DeepSeek R1 Llama 70B 在其芯片上以超过 1500 tokens/秒运行,约为 GPU 的 57 倍;Artificial Analysis 独立测试显示其推理性能超过 NVIDIA Blackwell 的纪录。Cognition 的 SWE-1.5 与 SWE-grep 系列实现前沿级编码性能,速度最高达通用模型的 13 倍。Cerebras 在俄克拉荷马州启用 40+ exaflop 数据中心,并在北美和欧洲布局超过 7 个数据中心。

    匹配字段摘要、正文

  5. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客新闻汇总:与 OpenAI 合作、GLM-5.2 Fast 上线

    Baseten 宣布与 OpenAI 建立合作,并推出 GLM-5.2 Fast。其博客还列出多项动态:用 Baseten Loops 基于 LangSmith traces 微调、LangChain 为 LangSmith Engine 训练定制模型、Blaxel 加入 Baseten 共建智能体基础设施,以及 NVIDIA OpenShell 与 Blaxel 沙箱、Sheila Vashee 出任 CMO、完成 Series F 融资。

    匹配字段摘要、正文

  6. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客 AI 模型文章列表

    Baseten 工程博客的 AI 模型栏目汇集多篇模型与推理工程文章,包括 NVIDIA Nemotron 3 Diarization 实现每音频小时一美分的实时说话人标注、DeepSeek-V4.1-Flash 面向编码智能体的更高效 prefill,以及 NVIDIA Nemotron 3.5 Lightning、Nemotron 3.5 ASR Streaming、Nemotron 3 Embed 等新模型介绍。此外还涵盖 GLM-5.3 后训练扩展、GLM 5.2 视觉能力、Laguna S 2.1 与开源后训练模型推荐等主题。

    匹配字段摘要、正文

  7. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客社区文章汇总

    Baseten 工程博客社区栏目汇集多篇文章,涵盖为 You.com 提供开源推理、Notion 与 Gamma 的 AI 模型选择经验、持续学习时代的推理、模型微调与好莱坞对谈、NVIDIA Dynamo Day 上的 Baseten 推理栈,以及用 LangChain Agent Builder + GLM 4.7 在 Baseten 上构建智能体等内容。

    匹配字段摘要、正文

  8. UCSD Hao AI Lab

    Hao AI Lab 发布 FastVideo FastH3,基于 MiniMax H3

    UCSD Hao AI Lab 发布 FastVideo FastH3,基于 MiniMax H3 构建,并感谢 MiniMax 开源其权重与代码。在 8× GB200 上,5 秒 1344×768 带音频片段 3.1 秒输出成品 MP4,10 秒片段 6.3 秒(NVFP4 下 5.4 秒),负载下每天约 11,000 条视频,8× RTX PRO 6000 上约 3,400 条。UniServe 还作为 NVIDIA Dynamo 的实验后端,通过 uniserve-dynamo-worker 嵌入其 Rust 调度器与引擎。

    匹配字段摘要、正文

  9. The Decoder

    Meta 将 AI 数据中心归为试点模型,2025 年省税 39 亿美元

    Meta 利用一项联邦研究税收抵免,把 AI 数据中心归类为试点模型、把 Nvidia 芯片列为实验材料,2025 年因此省下 39 亿美元,高于前一年的 20 亿美元和 2023 年的 7 亿美元,成为该抵免额度最大的受益上市公司。这一说法与 Meta 对外宣称的数百亿美元算力投入和 Prometheus、Hyperion 等多吉瓦集群计划并不一致。Meta 在 SEC 文件中提示相关节税可能被挑战,其不确定税务头寸准备金上升 45% 至 187.4 亿美元;审计机构 EY 批准了该策略,并正把类似做法推荐给其他公司。

    匹配字段摘要、正文

  10. The Verge AI

    AI 高管回应特朗普新安全计划:六家公司签署自律承诺

    特朗普在周二与科技领袖会面后回应记者提问,称其此前关于 AI 安全担忧是民主党骗局的言论已不再适用,因为该技术已被重新命名为 Super Intelligence。他不再推动联邦 AI 监管,而是让 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang 这六位科技领袖签署了 Joint Commitment on Frontier Responsibilities,这是一份道德约束性的安全承诺,要求各公司以常识性准则自我监管 AI 技术,且似乎没有违约后果。六位签署人均应特朗普要求发表评论,称赞这一自律计划有助于推进 AI 技术、创造就业并缓解公众对 AI 安全的负面看法。

    匹配字段摘要

  11. PyTorch Blog

    PyTorch Conference North America 2026 的 Ray 专题参会指南

    PyTorch Conference North America 2026 将在 San Jose 举行,官方发布了一份以 Ray 为核心的参会指南。Ray 是分布式计算框架,可覆盖从多模态数据整理、多节点训练到生产部署的完整 AI 生命周期,已成为 Cursor、Microsoft AI 和 NVIDIA 等机构做后训练与强化学习的标准底座。指南重点推荐 Ray 联合创始人 Ion Stoica 关于 Kubernetes 与 Ray 协同演进的 keynote,以及 LinkedIn、Uber、Pinterest 等团队基于 Ray 的训练与后训练实践分享。

    Ray logo

    匹配字段摘要、正文

星期三

  1. Data Center Knowledge

    CoreWeave 推出 Forge 平台,从 GPU 基础设施转向全栈 AI 云

    CoreWeave 在旧金山 Fully Connected 活动上发布 CoreWeave Forge,一个用于开发、运行和持续改进 AI 模型与智能体的集成软件平台,即日起提供 Free、Pro、Enterprise 三个版本。Forge 把训练、推理、评估、可观测性和智能体开发整合为围绕 AI 循环的软件栈,并推出包含 VAST Data、CrowdStrike、ClickHouse 的合作伙伴网络。硬件方面,Nvidia Vera Rubin NVL72 已在其云平台上线,Cognition 成为首个客户并在两天内跑起负载;Nvidia Vera CPU 面向 AI 智能体处于早期开放阶段。

    匹配字段摘要、正文

  2. AWS Machine Learning

    在 Amazon Bedrock AgentCore Runtime Instances 上构建多智能体音乐制作流水线

    AWS 发布教程,演示如何在 Amazon Bedrock AgentCore Runtime Instances 上部署三智能体音乐制作流水线:作曲智能体用 Claude Sonnet 4.6 生成音乐简报并在实例自带的 NVIDIA L4 上运行 ACE-Step 模型渲染音频,交付智能体读取共享文件并做 EQ、压缩、限幅处理,合规智能体独立复测并筛查与曲库的谐波相似度。三个智能体通过同一 runtimeSessionId 共置在同一 EC2 实例上共享文件系统,会话最长可保持 14 天,各团队可独立部署自己的智能体。

    匹配字段摘要、正文

  3. The Verge AI

    特朗普 AI 安全协议细节公布,多家科技公司高管签署自监管承诺

    特朗普昨日宣布的“具有道德约束力”AI 安全协议《前沿责任联合承诺》全文公布,由 David Sacks 在线上分享,签署者包括 Google 的 Sundar Pichai、Anthropic 的 Dario Amodei、Meta 的 Mark Zuckerberg、OpenAI 的 Greg Brockman、xAI 的 Elon Musk 和 Nvidia 的 Jensen Huang,特朗普本人也署名。协议要求各公司自行安全开发技术,并定期会面制定标准和最佳实践,列出四条确保前沿模型按预期运行、问题能被快速发现和解决的规则,但未提及违约惩罚。特朗普同日还下令美国政府今后将 AI 称为“Super Intelligence”。

    匹配字段摘要、正文

  4. The Decoder

    特朗普与科技 CEO 签署仅具道德约束力的 AI 行为准则

    特朗普与多家科技公司 CEO 签署一份 AI 行为准则,要求由独立第三方审计机构核实 AI 模型是否按预期运行,并设立独立委员会监督防止模型入侵系统的内部安全检查。据路透社报道,签署者包括 Meta CEO Mark Zuckerberg、OpenAI 的 Greg Brockman、Nvidia 的 Jensen Huang 和 Elon Musk。Zuckerberg 称该准则是起点而非最终方案。

    匹配字段摘要、正文

星期二

  1. Inception Labs Blog

    Inception 发布 Mercury 2,面向搜索流水线每步延迟最快

    Inception Labs 发布 Mercury 2,称其在标准 NVIDIA GPU 上解码速度超过 1000 tokens/秒,在 WideSearch 基准的搜索流水线每一步都最快,查询规划比 Gemini 3.1 Flash Lite 快近 2 倍、比 Claude Haiku 4.5 快 4.7 倍、比 GPT-5 Mini 快 10 倍。定价为 $0.25/M 输入、$0.75/M 输出,作者称更深的流水线运行成本约为前沿速度优化模型的 2 倍便宜。在 FRAMES 上四款模型得分接近,DeepSearchQA 上 GPT-5 Mini 以 0.44 高于 Mercury 2 的 0.34,但 Mercury 2 完成 FRAMES 查询耗时 10.8 秒、单次正确回答成本最低。作者还发现 WideSearch 任务可被模型凭记忆作答,重建为训练截止后事件的任务后,Gemini 得 0.929、Mercury 2 得 0.923。API 已在 platform.inceptionlabs.ai 上线。

    匹配字段摘要、正文