←搜索结果

按匹配度 · 共 305 条结果 清除搜索

星期二

  1. OpenAI:Alignment 研究博客

    OpenAI 开源思维链可监控性评测数据集与代码

    OpenAI 开源其思维链可监控性评测的数据集与参考代码,仓库地址为 https://github.com/openai/monitorability-evals,并同步发布计算 g-mean2 指标的代码和模拟评测脚手架。OpenAI 表示已在 GPT-5.4 thinking、GPT-5.2 thinking、GPT-5 thinking 和 o3 的系统卡中回填完整可监控性评测结果,未来前沿推理模型系统卡也会报告该结果。部分依赖私有或受限数据的评测未纳入开源,包括 Health Queries、FrontierMath、Math Diamond、OAI-Repo-Sabotage、Anti-Scheming 等。

    puting our monitorability metric, g-mean2, along with a scaffold that simulates running evaluations. The scaffold is a high-level orchestration layer that loads dataset and prompt metadata, samples and grades rows using mocked model and monitor outputs, computes intervention, process, and outcome metrics, and writes samples and summaries to disk. We will not be supporting this scaffold because it is only meant to be an illustration of how to run our evaluations rather than a full evaluation fram

    匹配字段正文

  2. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 Awex:RL 训练到推理的权重同步框架

    蚂蚁 inclusionAI 在 GitHub 开源 Awex,一个面向 RL 工作流的高性能训练到推理权重同步框架,目标是实现秒级参数更新。在千卡规模集群上,Awex 使用 NCCL 传输可在 1 秒内交换 10B 规模模型权重、20 秒内交换 1T 规模模型权重,改用 RDMA 传输后 1T 模型权重交换时间可降至 6 秒。框架支持 NCCL、RDMA 和共享内存多种传输模式,兼容 Megatron、SGLang、vLLM,并提供 NPU 实验性支持。

    ning and inference engines Architecture The Awex weight exchange framework consists primarily of three components: WeightWriter: Runs within each training process, responsible for metadata collection and reporting of weight shards for the current training process, weight convert, resharding transfer plan construction, weight transmission, and other functions; WeightReader: Runs on the control process of each inference instance, which starts a WorkerWeightsReader on each GPU managed by the infere

    匹配字段正文

  3. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 开源 AWorld 智能体框架

    蚂蚁 inclusionAI 在 GitHub 开源 AWorld 智能体框架,提供 AWorld-CLI,可编排 Developer、Evaluator 等子智能体自动构建、评估并迭代其他智能体。框架引入 CAST(Code Abstract Syntax Tree)压缩代码结构以突破上下文窗口限制,并支持自动评估与人工反馈两种评估方式。v2.0 加入后台子智能体执行,官方称典型工作负载下执行速度提升 3 倍。

    enyi Zhuang, Jinjie Gu; Don’t Just Fine-tune the Agent, Tune the Environment arxiv, 2025. paper Siyuan Lu, Zechuan Wang, Hongxuan Zhang, Qintong Wu, Leilei Gan, Chenyi Zhuang, etc Meta Learning Profile-Aware Maneuvering: A Dynamic Multi-Agent System for Robust GAIA Problem Solving by AWorld. arxiv, 2025. paper, code Zhitian Xie, Qintong Wu, Chengyue Yu, Chenyi Zhuang, Jinjie Gu; Recon-Act: A Self-Evolving Multi-Agent Browser-Use System via Web Reconnaissance, Tool Generation, and Task Execution.

    匹配字段正文

  4. The Elec

    Kakao 宣布将 KakaoTalk 转型为 AI 智能体平台

    Kakao 在 if(kakao)26 活动上宣布把 KakaoTalk 从通讯应用转型为 AI 智能体平台,计划今年年底前推出可在 KakaoTalk 内随时唤起的 AI 助手 Kanana Space 和让用户自建智能体的 PC 服务 Canvas。Kanana Space 通过双指滑动唤起 AI 角色 Ryan,可发消息、管理日程、搜索网页、预订和支付,Kakao 已于 10 月 13 日开始接受预约申请,12 月起面向选定用户测试。Kakao 还计划在 2027 年上半年开放智能体市场,接入外部开发者与企业的智能体。

    such as scheduling, splitting bills, gifting, and sharing content. “Now, we will use AI technology to build the next 10 years of connections,” she said. Kanana Space is similar to Meta's AI agent, Muse. Swiping the KakaoTalk screen with two fingers brings up Ryan, Kakao's AI character. Users can ask Ryan to send messages, manage schedules, search the web, make reservations, and process payments. They can also engage in everyday conversations with the assistant. Kakao plans to develop Kanana Spac

    匹配字段正文

星期日

  1. OpenAI Developers精选

    OpenAI 发布 Rosalind Workbench 生命科学工作台

    OpenAI 发布 Rosalind Workbench,为生命科学用户提供统一环境,可调用科研工具、探索专业生物学模型并定义常用数据分析流程,目前以研究预览形式在 ChatGPT 应用中开放。该工作台基于生命科学专用模型 GPT-Rosalind,覆盖药物化学、基因组学、湿实验辅助等场景,其 NGS Workbench 可从 FASTQ 输入走到质控、bulk RNA-seq 或单细胞分析,并输出可追溯结果。工作台提供 Explore 和 Research 两种模式,Research 模式需经认证机构成员代表组织申请访问,个人访问即将开放。

    rkflows for your genomic studies Sequencing analysis often requires many connected decisions and datasets before a biological result can be interpreted. Files must be matched with metadata, quality must be assessed, the correct biological replicate must be identified, and an appropriate statistical design must be selected. Rosalind NGS Workbench helps connect those steps in one reviewable process. From sequencing data to a research decision From FASTQ inputs to quality control, bulk RNA-seq, or

    匹配字段正文

星期六

  1. 财联社

    谷歌发布企业级 Gemini agent,提出同事智能体概念

    谷歌在 Gemini at Work 2026 大会上正式推出企业级 Gemini agent,可解答业务问题、处理文档知识、生成图像媒体并编写运行代码。谷歌首次提出 Coworker Agent 概念,该智能体可拥有独立企业身份、专属邮箱、日历与企业账号,充当项目经理、财务分析师等岗位角色,并支持在谷歌自有模型与 Anthropic Claude 等第三方模型间选择。谷歌云 CEO 托马斯・库里安称其内置成本管控能力,会根据任务自动匹配最优模型。

    《科创板日报》10月10日讯 Meta Muse掀起的Agent热潮尚未褪去,不到一个月,谷歌便携全新Gemini Agent框架登场,推动智能体赛道竞争再度升级。 当地时间10月8日,谷歌在Gemini at Work 2026大会上正式推出Gemini agent。其定位企业级产品,可独立完成多类知识工作:解答业务问题、处理文档知识、生成图像媒体、编写并运行代码。 这些能力对智能体而言已不足为奇,真正吸引眼球的,是谷歌首次提出的“Coworker Agent(同事智能体)”概念。 谷歌表示,Gemini agent既可以作为个人私人助理,也能够作为团队成员,充当项目经理、财务分析师等组织内特定岗位角色,代表团队与组织执行工作。其可以拥有独立企业身份,配备专属邮箱、日历与企业账号,成为一名“AI同事”。 作为同事智能体,Gemini agent不仅拥有更完整的记忆机制,还支持在谷歌自有模型以及Anthropic Claude等第三方模型中进行选择。谷歌云首席执行官托马斯・库里安(Thomas Kurian)强调:“基于内置成本管控能力,它会根据任务自动匹配最优模型。” 更值得玩味的,

    匹配字段正文

星期五

  1. LlamaIndex 产品、工程与评测

    LlamaIndex 发布 LlamaSheets,把杂乱表格转为 AI 可用数据

    LlamaIndex 发布 LlamaParse 新 API LlamaSheets,输入任意 .xlsx 文件,输出可供智能体和下游应用使用的 parquet 文件,目前处于免费 Beta 阶段。其多阶段流程为每个单元格提取 40 多项特征并聚类,再经区域分类、自适应表格分割和层级结构保留,输出带类型的表格数据、额外数据、单元格元数据以及可选的表格标题与描述。该 API 提供 Playground UI、Python SDK 和 REST API 三种接入方式,Beta 期间将聚焦性能优化、准确率提升和更多输出格式。

    ExtractBench Pro: common patterns give way to exceptional cases in a dotted long-tail distribution.

    lumn names are intelligently extracted from header rows; Extra data: Data in your spreadsheet that doesn't explicitly belong in a structured data table (notes, titles, etc.); Cell metadata: 40+ features per cell including formatting (font bold , background color rgb ), position (row number , coordinate ), data types (is date like , is percentage ), and layout (is merged cell , horizontal alignment ); Sheet context: Optional LLM-generated titles and descriptions for each worksheet and extracted t

    匹配字段正文

  2. AI Business

    Google 发布职场智能体 Gemini Agent,接入 Workspace 工作流

    Google 在 Gemini at Work 2026 大会上推出首个职场个人智能体 Gemini Agent,它可加载企业业务上下文,在单一提示框中完成问答、内容创作和编码,并接入 Docs、Drive、Sheets 等 Google Workspace 应用。企业使用时可选择 Gemini 模型或 Anthropic Claude,但分析师指出跨 SAP、Salesforce、Oracle 等系统的组织级权限,以及模型调用成本管理,仍是落地难点。该智能体支持网页、iOS 和 Android 设备,运行在云端,提供统一的记忆、上下文和个性化图谱,并可创建执行特定任务的子智能体。

    is the first frontier AI provider to release an agent that connects to enterprise workflows, illustrating how the cloud provider is differentiating itself in the AI race. Related:Meta joins enterprise agent race with Muse Wonder, facing a trust gap Digital workspace “This is a play on digital workspace,” said Mark Beccue, an analyst at Omdia, a division of Informa TechTarget. “It’s an everyday use of a personal assistant in your everyday work.” While Google is the first frontier AI developer wi

    匹配字段正文

  3. Computerworld

    Google 在 Gemini at Work 2026 发布通用企业智能体

    Google 在 Gemini at Work 2026 活动上发布 Gemini 中的“单一通用智能体”及 API,可从提示词窗口启动,接入技能、工具和企业系统,能回答问题、生成媒体、编写并运行代码,并通过文档、收件箱和开发环境交付成果。该智能体在云端运行,具备跨 iOS、Android、Windows、Mac 的访问能力,可通过 CLI、Google Workspace、Microsoft 365、Slack 及第三方应用接入,必要时以无界面方式运行。它拥有独立身份和 @agents.company.com 邮箱及持久存储,可自主创建子智能体编排多步骤任务,并能按工作流选择 Gemini 系列或 Claude 等模型驱动,Google 称后续将扩展至更多私有和开源模型。

    on’ Mahmoud Ramin , a research director at Info-Tech Research Group, noted that Google’s announcement does not create a whole new category, since OpenAI, Anthropic, Microsoft, and Meta have already positioned multiagent capabilities in their platforms. What is interesting with Gemini, though, is that not only can it operate directly in multiple Google products like Gmail, Drive, Sheets, and Slides, it also connects to external systems. It is, of course, a good fit for those already using the Goo

    匹配字段正文

  4. 财联社

    谷歌发布 Gemini 智能体,可写代码并自主推进任务

    谷歌发布面向职场的 Gemini agent,可解答问题、处理知识工作、创建图像和媒体、编写和运行代码,用户只需设定目标再查看最终成果。该智能体可通过网页、移动设备、Windows 和 Mac 访问,支持 Google Workspace、Microsoft 365 及第三方应用,并能以无头代理形式运行。谷歌称其拥有独立企业身份,可围绕一个目标持续工作数天,设计目标更像同事而非聊天机器人。

    队中的项目经理),或者代表组织中的特定角色工作(例如财务部门的分析师)。” 最新的Gemini可通过多种设备访问,包括网页、移动设备、Windows和Mac,Google Workspace、Microsoft 365等,还可以集成到第三方应用程序和界面中,并以无头代理的形式运行,这意味着它不需要专用的用户界面。 谷歌表示,这款新智能体的设计目标是让它更像一名同事,而不是聊天机器人。它拥有独立的企业身份,并能够围绕一个目标持续工作数天。 相比之下,谷歌此前推出的智能体在很多情况下主要是响应用户指令,或在单一应用中执行预设任务。 谷歌云首席执行官Thomas Kurian在文章中表示:“它会为任务选择最合适的模型,具备内置的成本控制机制,更重要的是,它拥有企业所需的安全、管理和治理能力。” 当下,谷歌正与微软、OpenAI、Anthropic以及亚马逊展开激烈竞争,希望通过高利润的企业合同将这些投资转化为收入。 纽约联储报告:若无特朗普关税,许多日常商品价格本应下降 收起; 特朗普8月证券交易流水出炉:大手笔押中Meta智能体行情 收起; 达利欧警告:美债收益率高企 美股缓冲空间正在缩小

    匹配字段正文

  5. TechCrunch AI精选

    Google 为 Gemini 引入智能体能力,先从企业场景落地

    Google 在 Cloud 活动上宣布为 Gemini 推出统一智能体,可接受目标而非仅指令,自行规划任务、调用自定义技能与工具并连接企业内部系统。该智能体默认自动选择模型,也允许用户手动切换,首批支持 Anthropic 的 Claude 模型,未来将扩展至开源和私有模型。它可接入 Google Workspace、Microsoft 365、Slack、Jira、Git、BigQuery、Snowflake 等系统以及任意 MCP 服务器,并拥有独立的 Workspace 账号和审计记录,初期面向企业客户,之后再推向消费者。

    those that can take ownership of assigned tasks, generate code, schedule meetings, book appointments and travel, and more. It also follows the rise of consumer-facing agents like Meta’s Muse and those that operate over messaging, like Instinct and others, as well as the recent debut of ChatGPT’s Dots. The company still has a good shot at achieving scale for its agentic efforts: as Google CEO Sundar Pichai pointed out at the event’s start, Gemini today has over 1 billion monthly active users. He

    匹配字段正文

星期四

  1. MarkTechPost

    Unsloth Studio 公布四道加载前安全检查机制

    Unsloth 发布 Unsloth Studio 与 Unsloth Desktop 的安全概览,说明模型从下载转入执行时会触发四道检查:代码指纹绑定审批、独立的权重文件拦截、操作系统沙箱探测和包内容扫描。代码指纹变化后需重新授权,Hugging Face 的恶意扫描结论会拦截加载路径中被标记的权重文件,工具则在 bubblewrap、Seatbelt、MXC 等系统级沙箱中运行。文中提到 deepseek-ai/deepseek-ocr 与 moonshotai/Kimi-VL-A3B-Instruct 在加载时会弹出审批并列出发现项,Unsloth 也在其适配仓库中移除了 eval 调用等问题代码。

    ed. A trusted publisher gets no blanket exemption; a first-party repository can still be stopped. The scanner looks for concrete behaviors: opening a reverse shell, reaching cloud-metadata endpoints or stealing credentials. Studio invokes the gate from its inference, training and export workers. The scan is not a sandbox. Once approved, remote model code runs unconfined as the Studio user. The source notes static patterns can be evaded. The gate already fires on popular models. deepseek-ai/deeps

    匹配字段正文

  2. The Verge AI

    微软 Surface Laptop Ultra 发布,搭载 Nvidia RTX Spark 芯片

    微软在旧金山 Windows 与 Surface 发布会上公布 Surface Laptop Ultra 的上市信息,这款搭载 Nvidia RTX Spark Arm 芯片的笔记本起售价 2,599 美元,10 月 16 日发售,配备 15 英寸 HDR 触控屏、最高 2,000 尼特亮度和支持触觉反馈的更大触控板。面向开发者的 Surface RTX Spark Dev Box 迷你主机同步开启预售,售价 5,999 美元,11 月发货,搭载 128GB 统一内存,可本地运行超过 120B 参数的模型。Windows 方面推出名为 Hybrid Intelligence 的功能,让 Copilot 访问本地文件并跨系统执行操作,同时新增可从搜索栏直接执行快捷操作的新搜索体验。

    till works for video, data, and other USB-C connectivity like you’d expect. Microsoft is calling it Magnetic Connect, and I’m surprised the company hasn’t shortened that to Mag-C. Meta’s new AI agent will be getting a native app on Windows, Windows and Surface chief Pavan Davuluri announced at today’s event. No timeline on when, though. Meta launched a Mac Muse app in September . We’re in San Francisco today to hear what’s next for Windows and Surface. Microsoft CEO Satya Nadella, Nvidia CEO Jen

    匹配字段正文

星期三

  1. The Decoder

    Google 推出 Playground,用 Gemini 让美国用户纯文本生成游戏

    Google 发布浏览器端 AI 平台 Playground,面向美国成年用户,无需编程即可通过文本输入创建游戏,并可与 AI 反复对话调整游戏规则、物理、角色和环境,随后即时测试。该平台基于 Google 的 Gemini、Nano Banana 和 Lyria 模型运行。Google 同时与 Unity 宣布面向专业开发的 AI 工具 Unity Spark,可使用 Unity Asset Store,封闭测试计划于 2026 年启动。

    ano Banana, and Lyria models, according to Google spokesperson Nia Carter (via The Verge ). Alongside Playground, Google and Unity announced Unity Spark , an AI tool aimed at professional development with access to the Unity Asset Store. Unity CEO Matt Bromberg says Spark targets gamers and artists who have creative ideas but lacked the technical skills to build them. The closed beta is set to launch sometime in 2026. The announcement follows similar AI game-building tools from Meta and Roblox .

    匹配字段正文

  2. TechCrunch AI

    Google 上线 SynthID 网站,向所有人开放 AI 生成媒体检测

    Google 周二上线新网站,任何人都可以验证图片、视频或音频是否由 AI 生成。该工具此前在 Google I/O 上仅向部分记者、媒体从业者和研究人员开放测试,现面向所有人开放。网站支持 JPG、PNG、GIF 等图片格式,MP4、MOV、WEBM 视频格式,以及 WAV、MP3、FLAC 等音频格式,检测基于 Google 2023 年推出的 SynthID。Nano Banana、Veo、Lyria 以及 Gemini、Flow、ProducerAI、Vids 等生成工具都会用 SynthID 为生成内容加水印,OpenAI、Nvidia、Kakao 也支持 SynthID,Apple 据称将很快加入。Google 已将 SynthID 验证嵌入 Gemini 应用和 Chrome,目前每天有 100 万次内容验证请求。

    I, Nvidia, and Kakao also support SynthID, and OpenAI maintains its own site for checking content. Apple is said to be adding support soon, too. Google has baked SynthID verification into the Gemini app and Google Chrome. The company said people currently make 1 million requests to verify content every day. Microsoft and Meta have their own standards for watermarking and verifying content. However, these tools are not infallible, often failing to identify content created by their makers’ models.

    匹配字段正文

星期二

  1. TechCrunch AI

    Instinct 将 AI 智能体引入群聊,好友无需注册账号

    估值 100 亿美元的 AI 智能体 Instinct 宣布支持将智能体加入好友群聊,用于旅行规划、抢票、组队活动或节日分工等场景,好友即使没有注册 Instinct 也能参与。该功能今日起向早期访问用户开放,之后将扩展到全部用户。创始人 Noah Shinn 表示,个人智能体在连接群组智能体前会先征求用户许可,群组智能体与个人账号隔离且无法访问,用户可随时选择信任或取消信任某个群组。

    AI agent will work even if a user’s friends haven’t joined Instinct, the company said. With the launch, Instinct moves ahead in its battle with top competitors in the space, like Meta’s Muse. The latter doesn’t yet offer the group chat functionality, though Meta’s older app, Meta AI, can be added to group chats on WhatsApp, Messenger, Instagram, and Facebook. Instinct in group chats Starting today, early access users can add Instinct to group chats. A new Instinct joins and works for the whole

    匹配字段正文

星期一

  1. TechCrunch AI

    OpenAI 在 ChatGPT 图像生成结果旁上线视觉广告

    OpenAI 为 ChatGPT 广告产品线新增视觉展示广告,广告将出现在用户要求 ChatGPT 生成的图像旁边,本月晚些时候先在美国面向一组初始测试广告主上线,广告会明确标注且不会影响 ChatGPT 给出的回答。OpenAI 同时扩充广告测量工具与合作伙伴生态,新增点击归因方案及 AppsFlyer、Adjust、Branch 等多家测量伙伴,并与 DoubleVerify、Integral Ad Science 合作开展品牌适配评估试点。OpenAI 今年早些时候推出广告以支持免费和低价订阅档位,8 月扩展至印度,未来全球铺开后广告主可触达 ChatGPT 的 12 亿周活用户。

    from an initial test group of advertisers. The ads will also be clearly labeled and won’t influence the answers ChatGPT provides, the company notes. The move follows the launch of Meta’s Muse, an agentic AI app which is free to everyone and a growing competitor for leading AI chatbots, like ChatGPT. OpenAI introduced ads earlier this year to support its free and low-cost subscription tiers, and expanded them to India in August. Now, the plan is to woo online advertisers who want to appeal to the

    匹配字段正文

星期六

  1. MarkTechPost

    NVIDIA 发布 64GB 版 DGX Spark 桌面 AI 系统

    NVIDIA 发布 DGX Spark 的 64GB 配置,由 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 出货,搭载 GB10 Grace Blackwell 超级芯片,提供最高 1 petaFLOP 的 FP4 AI 算力,10 月 23 日上市。该版本把统一内存从 128GB 降为 64GB LPDDR5x,NVIDIA 称足以运行当前 30–35B 级开源模型,两台 64GB 机器可通过 ConnectX-7 集群为 128GB 内存,官方称性能最高达单台 128GB 版的 1.7 倍。系统预装 DGX OS 与 PyTorch、Jupyter、Ollama,并支持 NemoClaw、OpenShell 和 Nemotron 模型,面向常驻智能体、QLoRA 微调、模型评测等本地场景。

    half is that 30B-class open models got good enough for agent work. Footprints are weight-only estimates; KV cache and runtime overhead come on top. Muse Glimmer is the main model. Meta distilled it from Muse Spark, the model family behind the Meta AI assistant. It targets local agents: reliable tool calls, long multi-step tasks, and recovery from failures. Meta reports 51.2 on SWE-Bench Pro and 75.5 on MCP Atlas. Context runs to 131K tokens. It is also available as an NVIDIA NIM. Full BF16 Glimm

    匹配字段正文

星期四

  1. Ai2 Blog

    Ai2 发布 Olmo-core 3:面向大规模 MoE 的开源可扩展训练基础设施

    Ai2 发布 Olmo-core 3,这是其大语言模型开发框架的一次重大升级,核心是重新设计的开源 MoE 训练系统,目标是把 MoE 训练扩展到万亿参数级别并保持计算效率。在八块 NVIDIA B300 GPU 的初步测试中,470 亿参数 MoE 达到每 GPU 每秒 52,000 tokens,约为此前 FSDP 实现 19,400 的 2.7 倍;该基础设施已在超过 1 万亿总参数规模上完成基准测试。Olmo-core 3 从 FSDP 转向基于 DDP 的系统,让专家常驻 GPU 并把数据路由过去,同时采用 rowwise expert parallelism、GPU-resident routing、grouped GEMM 和 MXFP8 低精度格式,其中 MXFP8 在四块 B300 上的端到端吞吐比 BF16 高约 21%,峰值活动显存从 103 GiB 降至 95 GiB。Ai2 表示下一代 Olmo 将采用 MoE 架构,Olmo-core 3 完全开源,研究者可用于训练自己的 MoE。

    omputations. Rowwise expert parallelism places routed data directly into expert input buffers, minimizing the extra work needed to rearrange it. GPU-resident routing keeps routing metadata on the GPUs, so the CPU can queue work without waiting for that information to be copied back. And grouped GEMM combines many small expert computations so GPUs can execute them more efficiently. Finally, Olmo-core 3 supports MXFP8 , a lower-precision number format that represents some values with fewer bits. T

    匹配字段正文

  2. Hugging Face

    AI2 发布 Olmo-core 3:面向大规模 MoE 的开源可扩展训练基础设施

    AI2 发布 Olmo-core 3,一套面向大规模 MoE 模型的开源训练基础设施,从早期基于 FSDP 的实现改为基于 DDP 的系统,让专家常驻 GPU 并把数据路由到对应专家。在八块 NVIDIA B300 GPU 的初步测试中,470 亿参数 MoE 达到每 GPU 每秒 52,000 tokens,约为旧实现 19,400 的 2.7 倍;在四块 B300 上启用 MXFP8 后吞吐比 BF16 高约 21%,峰值活跃显存从 103 GiB 降至 95 GiB。该栈支持专家并行、流水线并行、分布式优化器、行级专家并行、GPU 常驻路由与分组 GEMM,并已在 512 块 GPU 上测试 1.2 万亿参数模型,最高观测吞吐 858 TFLOP/s/GPU。

    omputations. Rowwise expert parallelism places routed data directly into expert input buffers, minimizing the extra work needed to rearrange it. GPU-resident routing keeps routing metadata on the GPUs, so the CPU can queue work without waiting for that information to be copied back. And grouped GEMM combines many small expert computations so GPUs can execute them more efficiently. Finally, Olmo-core 3 supports MXFP8 , a lower-precision number format that represents some values with fewer bits. T

    匹配字段正文