←搜索结果

按匹配度 · 共 1363 条结果 清除搜索

星期六

  1. MarkTechPost

    决策 AI 模型解析:TypeSafe Jev 与 Fastino GLiDE、GLiNER2.5-Decide 及开源竞品对比

    决策 AI 模型是一类返回选择、分数或概率而非生成文本的模型,TypeSafe 在隐身两年后推出 Jev,Fastino Labs 三周内跟进两款竞品。Jev 支持 Choice、Score、Noul 三种原语,定价为每百万输入 token 0.042 美元、输出免费,TypeSafe 称端到端响应为 70 至 500 毫秒。在 TypeSafe 的 4 项工作流评测中,Jev 以 67.8% 平均准确率、每例 0.4 秒追平 Claude Sonnet 5,但落后最强前沿配置 6.3 个百分点。

    G edge network orchestration A new arXiv paper used Jev to interpret service contracts at the network edge. At matched correctness, Jev cut median decision latency by 22.4% versus DeepSeek and 61.9% versus Gemini. 5. Real-time game agents TypeSafe’s Doom demo ran Jev at 10 queries per second. The team estimated the cost at roughly $7 per hour. Competitor Landscape: 7 Decision Models Compared The table below covers Jev, its closest commercial rival, and the leading open-weight options. All specs

    匹配字段正文

  2. 智慧城市行业分析

    CNNIC 发布《生成式人工智能应用发展报告(2026)》:用户规模突破7亿人

    中国互联网络信息中心政策与国际合作所在第七届中国互联网基础资源大会上发布《生成式人工智能应用发展报告(2026)》,显示截至2026年上半年我国生成式人工智能用户规模突破7亿人,普及率超过50%。报告称76.0%的用户用其回答问题,处理图片/视频、文本、工作总结/会议纪要/PPT的占比分别为47.8%、37.6%和32.5%;截至2026年6月我国智能算力规模达2185EFLOPS,同比增长177%,2026年上半年人工智能相关投融资事件1255起、金额约2501.4亿元。

    的能力持续增强,应用场景覆盖工业生产、医疗手术、生活服务等多个领域。2026年上半年我国人形机器人整机产品超400款,预计全年整机产量将突破10万台。 《报告》显示,我国已构建起全球领先的人工智能产业生态,政策端立体护航、技术端全栈突破、融资端量质齐升。 一是政策体系持续完善。我国生成式人工智能顶层设计持续完善,政策重心从“技术攻关”转向“场景落地”与“规范治理”并重。以《国务院关于深入实施“人工智能+”行动的意见》为总牵引,多部委协同发力,密集出台了一系列配套政策,构建起覆盖宏观战略、行业应用、基础设施与国际合作的立体化政策矩阵。 二是关键技术实现突破。我国人工智能相关底层算力供给持续优化,国产人工智能芯片与算力集群加速突破;核心算法架构加速迭代,模型推理能力与效率大幅提升;开源生态蓬勃发展,以DeepSeek、千问为代表的中国开源模型的影响力逐步提升。 三是融资规模屡创新高。数据显示,2026年上半年我国发生1255起与人工智能相关的投融资事件,已达到2025年全年的78.0%;合计金额约2501.4亿元,已达到2025年全年的182.0%。 来源:中国互联网络信息中心 CNNIC

    匹配字段正文

  3. 智慧城市行业分析

    CNNIC 发布《生成式人工智能应用发展报告(2026)》:用户规模突破 7 亿人

    中国互联网络信息中心政策与国际合作所在第七届中国互联网基础资源大会上发布《生成式人工智能应用发展报告(2026)》,显示截至 2026 年上半年我国生成式人工智能用户规模突破 7 亿人,普及率超过 50%。报告称 76.0% 的用户用其回答问题,处理图片/视频、文本、工作总结/会议纪要/PPT 的占比分别为 47.8%、37.6% 和 32.5%;截至 2026 年 6 月我国智能算力规模达 2185EFLOPS,同比增长 177%,已建成高质量数据集超过 12 万个。报告还提到 2026 年上半年我国发生 1255 起人工智能相关投融资事件,合计金额约 2501.4 亿元。

    的能力持续增强,应用场景覆盖工业生产、医疗手术、生活服务等多个领域。2026年上半年我国人形机器人整机产品超400款,预计全年整机产量将突破10万台。 《报告》显示,我国已构建起全球领先的人工智能产业生态,政策端立体护航、技术端全栈突破、融资端量质齐升。 一是政策体系持续完善。我国生成式人工智能顶层设计持续完善,政策重心从“技术攻关”转向“场景落地”与“规范治理”并重。以《国务院关于深入实施“人工智能+”行动的意见》为总牵引,多部委协同发力,密集出台了一系列配套政策,构建起覆盖宏观战略、行业应用、基础设施与国际合作的立体化政策矩阵。 二是关键技术实现突破。我国人工智能相关底层算力供给持续优化,国产人工智能芯片与算力集群加速突破;核心算法架构加速迭代,模型推理能力与效率大幅提升;开源生态蓬勃发展,以DeepSeek、千问为代表的中国开源模型的影响力逐步提升。 三是融资规模屡创新高。数据显示,2026年上半年我国发生1255起与人工智能相关的投融资事件,已达到2025年全年的78.0%;合计金额约2501.4亿元,已达到2025年全年的182.0%。 来源:中国互联网络信息中心 CNNIC

    匹配字段正文

星期五

  1. Hugging Face

    AutoSynthData:为企业级智能体生成训练数据

    Hugging Face 博客介绍 AutoSynthData,一种面向企业级智能体的训练数据生成方法:先在环境中用诊断任务评估目标模型、定位其能力缺口,再由更强的教师模型示范成功轨迹,生成包含系统规范、用户提示词和验证器的新任务。生成分 target 与 multiply 两阶段,后者基于已验收样本扩展变体且不允许二次派生,以限制漂移。

    Gym Hybrid, the environment used for this experiment. ITSM We also applied AutoSynthData to the ITSM domain of EnterpriseOps Gym, using Gemma-4-26B-A4B-it as the target model and DeepSeek-V4.1-Flash as the teacher. AutoSynthData generated 1,994 synthetic training samples in 66 hours. Generation took longer than in the subsequent Hybrid run described above, primarily because the ITSM run used a larger teacher model and preceded pipeline optimizations that improved throughput. On ITSM, synthetic

    匹配字段正文

  2. AI Business

    AI 正在抽走企业职业阶梯的踏板

    AI 接手越来越多初级员工的工作,而这些工作原本是员工积累经验、形成判断力并晋升到高级岗位的途径。Teikametrics CFO Brian Beaupre 称 AI 已能完成他早年做的大量财务建模工作,他担心年轻员工会错过识别错误答案的学习过程;一项安全运营中心员工调查也发现 AI 可能取代部分初级 SOC 岗位。PwC 对近 5 万名员工的调查显示,56% 属于缺乏专业技能、AI 学习滞后的“engine room”群体,其中仅一半对工作保障有信心。

    tions center employees found that AI is likely to eliminate some entry-level SOC roles, even as it creates opportunities for workers to move into more strategic positions. Related:DeepSeek and what enterprises should learn from AI agent exploits That creates a challenge for employers: developing workers for more strategic jobs when some of the work that once provided that experience disappears. AI skills are also becoming another dividing line in the workforce. A new PwC survey of nearly 50,000

    匹配字段正文

  3. 虎嗅

    arXiv 因 AI 论文暴增实施全学科限投,每人每月最多 2 篇

    arXiv 于 10 月 1 日宣布,自 2026 年 10 月 1 日起每位实际提交者每自然月最多提交 2 篇论文,适用于计算机科学、数学、物理等全部学科,被拒稿也占用当月额度。平台称 2026 年 9 月投稿量达 40363 篇创 35 年新高,cs.AI 分类月投稿量两年增长超六倍,审核工单积压近 9000 份。由于配额只计实际提交人,OpenAI、DeepMind 等合著者众多的大团队可换人提交,缺乏合著者的独立学者受影响更大。

    核资源。 当地时间10月1日,arXiv正式宣布实施最新投稿限制:每位提交者每自然月最多只能提交2篇论文,适用于计算机科学、数学、物理等全部学科分类。即便论文最终被拒绝,也会占用当月的投稿额度。 作为拥有超过300万篇论文、每月服务数百万用户的科研基础设施,arXiv早已成为AI研究者抢先公开成果的重要渠道。从OpenAI、Google DeepMind,到DeepSeek、阿里千问等大模型团队,研究论文经常通过arXiv率先进入公众视野,接受同行检验与讨论。 如今,这条科研成果快速传播的通道,第一次向所有学科统一设置了明确的月度投稿上限。 1单月涌入4万篇,arXiv被迫限流 arXiv在10月1日发布的官方博客《Fair Moderation,Equitable Access,and AI》中,开篇便指出,科研出版正在经历一场快速变化,研究者交流成果的方式也在发生重大转变。 过去,一名研究者能够独立完成多少篇论文,存在相对清晰的现实上限。因此,arXiv的志愿审核员主要需要关注少数投稿频率明显反常的用户,必要时限制其提交速度。 随着生成式AI工具愈发强大、使用门槛不断降低,研究者能

    匹配字段正文

  4. OpenRouter:Announcements

    OpenRouter 推出 Model Router Benchmarks 路由器评测页

    OpenRouter 上线 Model Router Benchmarks 页面,用跨领域基准对各家模型路由器按质量、速度和成本打分,并列出单模型作为对照基线。页面引入 Router Index,默认按质量 60%、每任务耗时 20%、成本 20% 合成 0 到 10 分,权重可用滑块调整。被评测的路由器包括 OpenRouter 的 Auto Router、Unbiased 的 Pareto、Sakana 的 Fugu、Jev Router 和 NVIDIA 的 Switchyard,均可在 OpenRouter 上直接替换模型调用。

    ng decisions. In recent months, many routers launched that use the differing strengths across the model landscape to optimize performance. Cost differences: For example, comparing DeepSeek v4 Flash with GPT-6 Astra, GPT-6 Astra’s average price paid per token is over 48x higher, and it’s 21x more expensive to run an average 10 to 49 turn session in Codex. Routers can switch parts of a task to a lower-cost model to save on cost. Task diversity: For example, the model that performs best on legal re

    匹配字段正文

星期四

  1. 财联社

    Meta 的 Muse 推高 CPU 需求,交货周期延长至 25-30 周

    Trend Force 报告指出,CPU 交货周期已从通常的 16-20 周延长至 25-30 周,原因是 Muse 等个人 AI 智能体推高了 CPU 需求。Meta 的 Muse 上线十天内用户规模达 70 万人,Meta 承诺为每位用户提供一台配备 2 个虚拟 CPU、8GB 内存和 100GB 固态硬盘的专属虚拟机。Altimeter 合伙人 Freda Duan 测算,若 Muse 日活达 1 亿、人均使用 2 小时,需 833 万台虚拟机,高峰时最多 2080 万台,在 2500 万台活跃虚拟机下 Meta 可能需要 1250 万个 CPU 核心,但她也指出虚拟机常出现资源超配、实际 CPU 利用率接近零,围绕这一需求规模的假设仍存变数。

    Altimeter风投的合伙人Freda Duan指出,Meta不需要严格为每位用户配置承诺的硬件。实际上,AI代理沙箱或是虚拟机经常出现资源超配的情况,且当虚拟机处于运行状态并保持其内存和执行状态时,其实际CPU利用率通常接近于零。 Duan假设Muse的日活用户数为1亿,且每个典型用户的平均使用时长为2小时,在这种情况下,需要833万台虚拟机来满足平均工作负载。而在高峰时段,工作负载假设为平均值的2.5倍,这意味着当前情景下的最大虚拟机数量为2080万台。 与此同时,她又探讨了每台虚拟机需要的物理CPU核心数量。她以DeepSeek为例,但考虑到Meta的运行效率不可能比肩DeepSeek,最后得出结论,在2500万台活跃虚拟机的情况下,Meta可能需要1250万个CPU核心。 而随着推理速度的提升,分配给每个虚拟机的物理核心数量也会进一步减少。不过,另一个方面来看,随着一项技术的效率提高,其需求也会增加,因此CPU的总体需求未必会因技术升级而放缓。 总而言之,尽管围绕Meta的Muse等个人AI代理所引发的CPU需求的假设存在诸多变数,但市场都认为CPU制造商已迎来结构性的利好。

    匹配字段正文

  2. MIT Tech Review

    The Download:AI“读心”工具与小型电池的创意应用

    一款新 AI 工具仅凭分析脑部扫描就能猜出你正在看什么,并以极高精度重建该图像,还能反向根据所见预测脑活动。研究者希望它帮助闭锁综合征患者沟通,甚至重建梦境内容,但其他科学家警告类似方法可能在未经同意的情况下暴露人的内心想法与心理意象。此外,面对社区对大型储能电池火灾的反对,一些初创公司转向把小型电池用于电磁炉灶、餐车等场景。

    ropic employee. ( CNN ) + They targeted experts in military AI and export controls. ( Reuters $) + OpenAI has accused China’s Moonshot AI of copying its models. ( CNBC ) + China’s DeepSeek and Huawei have teamed up on chip software. ( NYT $) + Could China win the AI race? ( MIT Technology Review ) 3 After months of delays, Google has unveiled Gemini 4 Argon The new model aims to re-establish Google at the frontier of AI. ( Reuters $) + Google says the model beats OpenAI’s Astra on many benchmark

    匹配字段正文

  3. BBC 中文精选

    中国实施全球最广AI陪伴聊天机器人监管,BBC 中文解析争议

    中国于7月15日实施全球范围内针对类人AI聊天机器人的最广泛监管措施,要求AI助手标明非人类身份、每两小时提醒在线时长,不得造成情感依赖或成瘾,14岁以下使用需父母同意,18岁以下禁止接触虚拟伴侣等亲密关系,违规企业最高罚款20万元人民币。报道引用牛津中国政策实验室、乔治城大学等专家观点,并对比美国加州《亚当法》与英国拟禁止18岁以下使用恋爱型陪伴AI的做法,同时呈现用户绕过限制的方式。

    而这种情况确实存在。 不过,看来真正的监管目标是“角色聊天机器人”这类服务。这些产品专门被设计成一种拟真的关系形式。目前有数以百计的此类应用程式,允许用户创建AI男友、女友、朋友,甚至家人。 对于未成年人而言,法规要求则更为明确。14岁以下人士若要使用任何以人类方式进行对话的AI,都必须获得父母同意,其中可能包括类似ChatGPT的中国AI助手,如深度求索(DeepSeek)。 所有18岁以下人士均被禁止接触虚拟伴侣、虚拟配偶,甚至虚拟亲属,以及任何其他形式的虚拟“亲密关系”。 图像来源, AFP via Getty Images 对成年人而言,这并非全面禁止,但限制相当严格,尽管部分措辞仍有模糊之处。AI助手必须向所有年龄层用户明确表示自己并非人类,并且每隔两小时发送通知,提醒用户已在线多久。 聊天机械人不得造成“情感依赖或成瘾”,也不得诱导人们作出“不合理决定”。 它们不得鼓励、甚至不得暗示自残或自杀,也不得使用“言语暴力”。 企业若违反规定,可能面临20万元人民币(2.2万英镑)罚款,或被政府“通报批评”,实际上即是遭到公开点名谴责。 敏(Min)与她的AI女友之间的关系,或许正

    匹配字段正文

  4. Latent Space精选

    Google DeepMind 发布 Gemini 4 Argon,输出上限提至 1M token

    Google DeepMind 发布前沿模型 Gemini 4 Argon,面向编码、企业知识工作和网络安全防御,今日起通过 Fairwind Program 向受信任测试者开放,并承诺尽快扩大访问。Google 称其输出上限达 1M token,较此前的 64K 大幅提升,标准定价为每 1M 输入/输出 token 4 美元/20 美元,另有 50% 的限时折扣。Google 称 Argon 在 19 项公开基准中的 13 项排名第一,DeepSWE 得分 77.9%,高于 Opus 5.5 的 74.2% 和 Astra 的 74.1%;Artificial Analysis 测得其在 Intelligence Index 上得 53 分,与 GPT-6 Astra 持平。

    ction) at equal batch size and throughput ( @ekzhang1 , @cHHillee ). Implication : It helps prefill-heavy workloads, not decode-bound low-latency serving. Compilers and hardware : DeepSeek on Huawei : DeepSeek released an open-source Ascend toolkit with TileLang optimized for Ascend 950 ( @kimmonismus ). AI as compiler : A model translates Triton directly to PTX, with a verifier checking correctness, races and deadlocks. Speedups on B200 reach 1.37x on FlashAttention ( @Azaliamirh ). Vera Rubin

    匹配字段正文

  5. A6 a6-051 · Cerebras:Blog

    Cerebras 以最高 750 tokens/s 服务 GPT-5.6 Sol

    Cerebras 宣布 OpenAI 正在预览运行在 Cerebras 上的 GPT-5.6 Sol Ultrafast 模式,输出速度最高达 750 tokens/s。该版本未做蒸馏或量化,模型架构、权重、精度、上下文配置和推理设置与 OpenAI 标准端点上的 GPT-5.6 Sol 一致,仅运行硬件由 GPU 换为 Cerebras WSE-3。在质量匹配的 GDP-Val 任务上,Ultrafast 完成同样任务比标准端点快 5.6 倍;在 Humanity's Last Exam 匹配问题上快 6.9 倍,原本一小时的任务可在不到九分钟内完成。

    r second on its public endpoints: For dedicated enterprise endpoints, Cerebras also supports Kimi K2.6 , GLM 5.1 , MiniMax M2.5 , Qwen3 Coder 480B , Llama 4 Maverick , Mistral Large 3 , DeepSeek V3.2 , and many additional model families . Performance comparisons are based on third-party benchmarking or internal testing. Observed inference speed improvements versus GPU-based systems may vary depending on workload, configuration, date and models being tested. 1237 E. Arques Ave Sunnyvale, CA 94085

    匹配字段正文

  6. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客:pyannote 说话人分离模型提速 9.6 倍

    Baseten 让 pyannote 的说话人分离(diarization)模型推理速度提升 9.6 倍。该博客还介绍了面向托管 RL rollout 的 delta 权重同步优化、Baseten 在 Coval 语音 AI 基准测试中领先,以及供编码智能体使用 Baseten 的新 MCP 与技能。

    博客 推理工程 模型性能 Baseten 如何让 pyannote 的说话人分离模型提速 9.6 倍 Matte Lim 另有 1 人 模型性能 为托管式 RL rollout 优化 delta 权重同步 Paras Stefanopoulos 模型性能 Baseten 在 Coval 语音 AI 基准测试中领先 Ansel Erol 另有 1 人 AI 工程 供编码智能体使用 Baseten 的新 MCP 与技能 Marius Killinger 另有 1 人 AI 模型 最适合后训练的开源模型 Chloe Florit 模型性能 LLM 推理的高效前沿 Philip Kiely 模型性能 生产环境中的智能体内核 Brian Li 另有 2 人 AI 模型 GLM-5.3:以直观方式解读后训练扩展 Chloe Florit 另有 1 人 AI 工程 如何在 DeepSeek Harness 中运行任意开放模型 Alex Ker 1 2 3 ... 27 requestAnimationFrame(function(){$RT=performance.now()}); 热门模型

    匹配字段正文

  7. Stanford HAI News

    斯坦福 HAI:开放权重模型还不够,科学与社会需要真正的开源 AI

    斯坦福 HAI 的 James Landay 指出,开放权重只是“开放分发”,不等于开源 AI:外界仍看不到训练数据、训练代码和构建方式。他主张以 Linux 基金会 Model Openness Framework 最高档“Open Science”为标准,要求代码、训练数据(或可审计的完整说明)与工具链一并公开。他以 Moonshot AI 的 Kimi K3(2.8 万亿参数、百万 token 上下文)和阿里 Qwen3.8-Max(2.4 万亿参数)为例,称中美实验室目前都只回答了“能否运行”,远未回答“能否信任、改进并在此基础上继续构建”。

    I's James Landay says it's the right conversation framed the wrong way. Chinese open-weight models have made stunning progress in recent months, with offerings from companies like DeepSeek and Alibaba closing the performance gap with American counterparts. Stanford HAI’s own AI Index found the U.S.-China performance gap narrowing to a few percentage points last year. Two new Chinese models narrow this gap even more. Moonshot AI’s Kimi K3, a 2.8-trillion-parameter model with a million-token conte

    匹配字段正文

星期三

  1. The Decoder

    Anthropic 分析称智谱开源 GLM-5.3 的漏洞利用能力接近 Claude Mythos Preview

    Anthropic 前沿红队发布分析称,智谱开源模型 GLM-5.3 能自主构建完整网络漏洞利用程序,能力接近 Claude Mythos Preview。在 ExploitBench 上,GLM-5.3 在 410 次尝试中成功构建 50 次可用漏洞利用,Mythos Preview 为 56 次;在基于 Google OSS-Fuzz 的内部二进制利用基准中,GLM-5.3 在 4% 的任务中完全控制目标程序,Mythos Preview 为 6%。Anthropic 还称用 abliteration 剥离拒绝行为约需 2200 GPU 小时、成本约 4400 美元,有害请求拒绝率从 90% 以上降至 2% 至 12%。

    ull control of the target program in 4 percent of tasks, compared to 6 percent for Mythos Preview. Older models like GLM-5.2 and Claude Opus 4.6 failed both tests, and Kimi K3 and DeepSeek V4.1-Flash barely got off zero. Anthropic also paired GLM-5.3 with a human expert. Within a single day and with little human attention, the model found several previously unknown vulnerabilities in the JavaScript engine of a widely used browser. It then chained them into a web page that can read any file on a

    匹配字段正文

  2. ChinaTalk

    Logan Wright 谈中国经济为何“失灵”

    Rhodium Group 合伙人 Logan Wright 在新书《Broken China》中提出,中国过去二十年依赖金融体系驱动的增长模式已经失灵,金融系统本身反而成为增长约束。Rhodium 年初预计中国增速为 1%–2.5%,但认为实际趋势远低于此,二、三季度投资收缩可能带来负增长。他认为中国在电动车、AI、机器人等新工业领域的投入无法单独替代房地产与投资带来的增长,并主张对华已不存在系统性经济竞争,只剩军事与产业韧性竞争。

    hat we’re stuck. Take that as a premise: we’re in a low-growth universe, and it’s unclear where the jobs come from. Logan, is AGI going to give us the jobs? Can humanoid robots or DeepSeek V7 save China’s economy? Logan Wright: You’re asking rhetorical questions. The entire purpose would be to displace manufacturing labor. Jordan Schneider: Fewer jobs as robots take over, AI doing more work for fewer people. Logan Wright: Marginal labor productivity can increase while overall labor force partici

    匹配字段正文

  3. Latent Space

    OpenAI DevDay 2026 发布 dots、GPT-6.1 Sol、Ultrafast 与 Decisions API

    OpenAI 在 DevDay 2026 上发布 dots 常驻智能体、GPT-6.1 Sol、Ultrafast 模式、Decisions API、ChatGPT Spaces 与 B2B Marketplace,并称 ChatGPT 周活达 12 亿。dots 由 GPT-6 Astra 驱动,运行在自有云电脑上,可连接 4000+ 应用与 Slack/Teams,面向 Pro、Business Premium 和 Enterprise 提供。GPT-6.1 Sol 定价为每百万 token 输入 2 美元、输出 10 美元,缓存输入 0.10 美元,OpenAI 称其在 AutomationBench 上以三分之一成本超过 Opus 5.5。Ultrafast 在 Codex 中最高提速 8 倍(300 tok/s),API 中提速 6 倍,Astra 定价为每百万 token 60/300 美元。

    ert pushes back on the “open dangerous, closed safe” framing. Monitoring gaps : METR found coding agents self-approving flagged actions . Agent Infrastructure and Systems Research DeepSeek DSec : DeepSeek published its sandbox infra for agent RL , which has handled all sandbox workloads from V3.2 through V4.1. Backends and storage : four backends (FnCall, Container, MicroVM, Full VM) with composable EROFS/OverlayFS layers. Image loading : on-demand loading from 3FS matters because only 4–13% of

    匹配字段正文

星期二

  1. A6 a6-003 · 面壁智能 OpenBMB

    清华NLP与OpenBMB提出One-Shot OPD:单条query达全量数据87%增益

    清华NLP(OpenBMB成员)联合中科院大学、东北大学、UIUC和约翰霍普金斯大学提出 One-Shot OPD,将 on-policy distillation 训练集压缩到一条 query:数学任务上从 59.1 提升到 68.5(第 300 步),达到全量数据 OPD 69.8 的 87% 增益,并在代码、指令遵循和智能体工具使用上跨 Qwen、Llama、OLMo 成立。单条 query 覆盖全量数据 OPD 71.5% 的状态,16 条多样化 query 达 98.9% 并追平全量数据;作者认为 OPD 的瓶颈不在数据量,而在学生模型吸收对齐信号的速度。

    on-policy distillation (OPD) to hand a student the teacher's full next-token distribution at every prefix it visits: the student samples its own rollouts, and Qwen3, MiMo, GLM-5, DeepSeek-V4 and Kimi K3 all pair it with SFT and RL. Yet work on OPD has almost all stood on the algorithm side, treating the training set as given—so how much of OPD's gain does the data account for? Introducing One-Shot OPD, from @TsinghuaNLP (OpenBMB member) with the University of Chinese Academy of Sciences, Northe

    匹配字段正文

  2. Ahead of AI

    从词袋到 Jev:文本分类模型的技术演进与 Jev 实测

    Sebastian Raschka 撰文梳理文本分类从词袋模型、RNN、CNN 到 BERT 与 GPT 式 LLM 的演进,并分析近期走红的 Jev 模型。他用 Jev 的 Choice 与 Noul API 在 IMDb 2.5 万条测试集上实测,准确率分别为 96.47% 和 96.20%,总成本约 0.65 美元、耗时约 22 分钟,与微调 ModernBERT 的准确率接近。作者认为 Jev 的价值在于无需针对每个任务微调即可跨任务使用,并推测其架构接近 ModernBERT、训练数据为合成数据、训练方法为 TypeSafe AI 自研的 RLCD。

    s over e.g., BERT variants is that there are so many modern open-weight architectures out there to adopt. Anything between the small Qwen 3 0.6B models to the latest Kimi, GLM, or DeepSeek models. (Of course, using such 1B parameter models for classification could be a bit overkill from an efficiency perspective, but hey, it’s possible.) Figure 20: On the aforementioned IMDb movie review dataset, a relatively small GPT-2 124M model gets approximately 92% accuracy; a larger and newer LLM (like a

    匹配字段正文

  3. SemiAnalysis

    GLM-5.3 解析:稀疏注意力如何影响 DRAM 内存 TAM

    SemiAnalysis 分析 Z.ai 的 GLM-5.3 系列:稀疏注意力通过 top-k 选择降低 SDPA 阶段的 KV cache 内存与带宽需求,但 top-k 选择仍需完整上下文驻留 HBM,因此并未消除内存容量瓶颈。SGLang 团队的 HiSparse 将 KV cache 从 HBM 卸载到主机 DRAM,按 LRU 策略换入换出,并把第 N 层加载与第 N-1 层执行重叠以降低 miss 延迟。在 InferenceX 基准中,150 tokens/s 下 GB200 约 $0.044/百万总 token,比 MI355X ATOM 的 $0.049 低约 12%。

    GLM-5.3, KV Cache Offloading, HiSparse, AgentX TileRT, InferenceX DeepSeek Sparse Attention, IndexShare, Single-rollout Asynchronous Optimization, Cybersecurity How does sparse attention affect the TAM of memory, including HBM and NAND? Sparse attention selects top-k most relevant tokens to attend to, reducing the memory consumption and bandwidth requirements during the core Scaled Dot-Product Attention (SDPA) operation. However, the efficiency improvement doesn’t directly translate to overall m

    匹配字段正文