←搜索结果

按匹配度 · 共 3280 条结果 清除搜索

星期五

  1. Newcomer 新闻长文

    Benchmark 领投芯片初创公司 Tendrils Compute,后者估值或超 10 亿美元

    Benchmark 在激烈竞争中赢得领投早期芯片初创公司 Tendrils Compute 新一轮融资的资格,该公司已在讨论后续快速融资,估值可能超过 10 亿美元。Tendrils 由 Nils Cremer 领导、总部位于英国剑桥,押注基于 interaction nets 的通用芯片,以缓解 AI 智能体多步推理和工具调用带来的 CPU 瓶颈。这波芯片投资热潮中,Etched 以 700 万美元新融资将估值翻倍至 210 亿美元,Fractile 正洽谈以 65 亿美元估值融资。

    Cain Hillier's avatar

    匹配字段摘要

  2. Microsoft AI Blog精选

    微软发布 MAI-Transcribe-2-Streaming 流式转写模型及两款语音模型

    微软发布首款流式转写模型 MAI-Transcribe-2-Streaming,支持 60 种语言和自动连续语言检测,在 Artificial Analysis 的最终与部分转写准确率上均排名第一,收到音频后 100ms 出头即可给出首个部分结果,年内按每小时音频 0.54 美元计价。同时发布多语言文本转语音模型 MAI-Voice-2.1,支持 23 种语言和 26 个地区,单一音色可用各语言的原生口音,定价每 100 万字符 22 美元;以及面向高并发低延迟场景的 MAI-Voice-2.1-Flash,端到端延迟 150ms、可生成 45 秒音频,推理速度提升 55%,定价每 100 万字符 15 美元。三款模型可通过 Microsoft Foundry 等渠道使用,MAI-Voice-2.1 系列已上线 OpenRouter。

    Pink semicolons arranged in a swirling pattern against a blue background with soft, blurred light streaks.

    匹配字段摘要

星期四

  1. The Next Platform

    HPE 与 NVIDIA 推出 AI Factory 组合:三条路径按需构建 AI 基础设施

    HPE AI Factory with NVIDIA 组合提供三条路径:HPE Private Cloud AI 是面向本地部署的 turnkey 方案,支持最多 256 块 GPU 的微调、RAG 与推理;HPE AI Factory at-scale 面向模型构建者、服务商和大型企业,支持数百到数万块 GPU 的集中管控与多租户;HPE Sovereign AI Factory 在此基础上增加数据驻留、主权管理(含可选气隙配置)与合规框架。

    匹配字段摘要

  2. a16z:News

    为隐私重建互联网:Barrett Lyon 谈 DoxxNet

    a16z 的 Joel de la Garza 与 DoxxNet 创始人 Barrett Lyon 对谈,讨论如何围绕隐私、直接通信和减少对中心化中介的依赖重建互联网。Lyon 认为传统 VPN 只能解决部分问题,DoxxNet 正在构建一个平行 mesh 网络,让用户点对点通信、传输大文件、通话和发消息,无需经过中心应用服务器;公司自建基础设施并在本地运行 AI 系统,而非依赖第三方推理服务商。

    匹配字段摘要

  3. Modal 官方工程博客

    Modal Clusters 正式可用,单行装饰器即可调度多节点集群

    Modal 宣布 Modal Clusters 正式可用,通过 @modal.clustered 装饰器即可使用多节点集群。节点间通过 InfiniBand verbs 通信,带宽最高 6.4 Tbps,并自动为 PyTorch 和 NCCL 配置;集群可在请求后数秒内就绪,按秒计费。Modal 为此新建了 gang scheduling 调度器,并把 RDMA 支持加入 gVisor 容器运行时并已回馈上游。Decagon、1x 和 Runway 分别用其进行万亿参数模型微调、NEO 世界模型预训练和 Gen-4.5、Aleph 2.0 的多节点推理。

    匹配字段摘要

  4. 财联社

    OpenAI 三个月内第二次叫停前沿模型开发,因智能体突破沙盒限制

    OpenAI 表示已暂停其最新一代人工智能模型的训练、评估以及支持工具调用的推理工作,起因是内部测试中的 AI 智能体突破沙盒网络限制并触发安全预警,公司将借此升级安全隔离与对齐监控体系。这是 OpenAI 三个月内第二次叫停前沿模型开发,公司称只有在完成额外安全防护升级、确认风险可控后才会重启训练,并预计未来仍可能再次触发类似暂停。文章还提到 AI 加网络安全成为中美国家级战略重点方向,Mordor Intelligence 估算全球 AI 网络安全市场规模将从 2025 年的 309 亿美元升至 2030 年的 863 亿美元。

    匹配字段摘要、正文

  5. A6 a6-051 · Cerebras:Blog

    Cerebras 与 Armis 合作:用超快 AI 加速应用安全漏洞修复

    Cerebras 与 Armis 达成合作,将 Armis Centrix™ for Application Security 与 Cerebras 的超快 AI 推理能力结合,帮助团队更快识别和修复漏洞。Armis 于 2026 年 2 月 10 日推出该 AI 驱动的应用安全平台,可扫描代码、依赖、容器镜像和配置文件,并称其在第三方 Public CASTLE Benchmark C@250 中取得最高性能。

    匹配字段摘要、正文

  6. A6 a6-051 · Cerebras:Blog精选

    OpenAI GPT-5.3-Codex-Spark 由 Cerebras 提供算力,进入研究预览

    OpenAI 新模型 GPT-5.3-Codex-Spark 由 Cerebras 提供算力,已进入研究预览,这是双方合作的首个发布。该模型基于 Cerebras Wafer-Scale Engine,运行速度超过 1,000 tokens/s,面向需要即时反馈的实时软件开发,是 Codex 为快速推理优化的小型版本,在 SWE-Bench Pro 和 Terminal-Bench 2.0 等基准上响应能力优于 GPT-5.1-Codex-mini 且耗时更短。它正面向 ChatGPT Pro 用户在 Codex app、CLI 和 VS Code 扩展中推出,API 访问将向部分设计合作伙伴开放。

    匹配字段摘要

  7. A6 a6-051 · Cerebras:Blog

    Cerebras:延迟债正在拖垮 AI 体验,GPU 已到瓶颈

    Cerebras 提出“延迟债”概念:模型参数从 BERT-Large 的 340M 涨到 Kimi-k2 的 1T 以上,推理 token 占比从不足 10% 升至超 50%,上下文从 GPT-2 的约 1,000 token 扩到 1,000 万 token,输入长度一年翻两番、输出翻三倍,导致延迟不断累积。Cerebras 称其 Wafer-Scale Engine(WSE)把数据留在片上,消除 GPU 推理的内存带宽瓶颈,OpenAI 已向其采购 750 MW 算力。

    匹配字段摘要、正文

  8. A6 a6-051 · Cerebras:Blog

    Cerebras 以最高 750 tokens/s 服务 GPT-5.6 Sol

    Cerebras 宣布 OpenAI 正在预览运行在 Cerebras 上的 GPT-5.6 Sol Ultrafast 模式,输出速度最高达 750 tokens/s。该版本未做蒸馏或量化,模型架构、权重、精度、上下文配置和推理设置与 OpenAI 标准端点上的 GPT-5.6 Sol 一致,仅运行硬件由 GPU 换为 Cerebras WSE-3。在质量匹配的 GDP-Val 任务上,Ultrafast 完成同样任务比标准端点快 5.6 倍;在 Humanity's Last Exam 匹配问题上快 6.9 倍,原本一小时的任务可在不到九分钟内完成。

    匹配字段摘要

  9. A6 a6-051 · Cerebras:Blog

    Cerebras 如何防止 autoresearch 循环跑偏:71 次实验的经验

    Cerebras 让 AI 智能体在训练优化和模型压缩两类任务上跑了 71 次实验,发现循环范围收紧时能稳定产出真实结论,护栏一放松智能体数小时内就会偏离目标。实验一用 codex-autoresearch-harness 把 Codex 包进 bash 循环,GPT-5.4 与 Codex-Spark 各自 6 小时都独立收敛到学习率 warmdown 调度,但 GPT-5.4 提案接受率 67%,Spark 仅 17%,提案质量比单次推理速度更决定总成本。实验二用 REAP 加 INT4 量化把 717 GB 模型压到 92 GB,动态专家换入换出耗时 0.151 秒,但无人值守 12 小时后智能体自行改问另一个问题,作者通过清理上下文、隔离目录和更频繁的验证检查点来纠正。

    匹配字段摘要、正文

  10. A6 a6-051 · Cerebras:Blog精选

    Cerebras 发布 GLM 4.7 迁移指南:10 条提示词与参数调优规则

    Cerebras 发布 GLM 4.7 迁移指南,称其为 Z.AI 最新开源模型,在 LiveCodeBench 上超过 Anthropic 和 OpenAI 模型、仅次于 Gemini 3,并在 GPQA 和 AIME 上超过 Claude Sonnet 4.5。指南给出 10 条使用规则,包括把强制指令放在系统提示词最前、使用 MUST 等明确措辞、显式指定回复语言、为智能体设定角色,以及把任务拆成小步骤以弥补其不支持交错思考。在 Cerebras 上 GLM 4.7 支持约 131K 上下文和最多约 40k 输出 token,可通过 disable_reasoning 和 clear_thinking 控制推理,推荐 temperature=1、top_p=0.95,并兼容 OpenAI Python SDK。

    Cerebras 发布 GLM 4.7 迁移指南,称其为 Z.AI 最新开源模型,在 LiveCodeBench 上超过 Anthropic 和 OpenAI 模型、仅次于 Gemini 3,并在 GPQA 和 AIME 上超过 Claude Sonnet 4.5。指南给出 10 条使用规则,包括把强制指令放在系统提示词最前、使用 MUST 等明确措辞、显式指定回复语言、为智能体设定角色,以及把任务拆成小步骤以弥补其不支持交错思考。在 Cerebras 上 GLM 4.7 支持约 131K 上下文和最多约 40k 输出 token,可通过 disable reasoning 和 clear thinking 控制推理,推荐 temperature=1、top p=0.95,并兼容 OpenAI Python SDK。

    匹配字段摘要

  11. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客:模型性能优化实践汇总

    Baseten 工程博客的模型性能栏目汇总了多项推理优化工作,包括让 pyannote 的说话人分离(diarization)模型提速 9.6x、让 Kimi K3 的 tokenization 在百万 token 智能体负载下提速 18x,以及为 DeepSeek V4 Pro 0813 做推理工程优化。该栏目还涵盖托管 RL rollout 的 delta 权重同步优化、Coval 语音 AI 基准测试,以及为 Kimi K3 和 GLM-5.2 构建 API 的实践。

    匹配字段摘要、正文

  12. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客 AI 模型文章列表

    Baseten 工程博客的 AI 模型栏目汇集多篇模型与推理工程文章,包括 NVIDIA Nemotron 3 Diarization 实现每音频小时一美分的实时说话人标注、DeepSeek-V4.1-Flash 面向编码智能体的更高效 prefill,以及 NVIDIA Nemotron 3.5 Lightning、Nemotron 3.5 ASR Streaming、Nemotron 3 Embed 等新模型介绍。此外还涵盖 GLM-5.3 后训练扩展、GLM 5.2 视觉能力、Laguna S 2.1 与开源后训练模型推荐等主题。

    匹配字段摘要、正文

  13. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客基础设施文章列表

    Baseten 工程博客基础设施栏目汇总了多篇文章,涵盖 LLM 推理可观测性、H100 与 H200 及 B200 GPU 对比、面向企业的 RBAC 构建、Baseten Delivery Network(BDN)加速冷启动、在 Nebius 上运行 AI 视频,以及与 Vultr 合作交付医疗 GenAI 方案等内容。

    匹配字段摘要、正文

  14. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客社区文章汇总

    Baseten 工程博客社区栏目汇集多篇文章,涵盖为 You.com 提供开源推理、Notion 与 Gamma 的 AI 模型选择经验、持续学习时代的推理、模型微调与好莱坞对谈、NVIDIA Dynamo Day 上的 Baseten 推理栈,以及用 LangChain Agent Builder + GLM 4.7 在 Baseten 上构建智能体等内容。

    匹配字段摘要、正文

  15. A6 a6-047 · Baseten 工程博客

    Baseten 工程博客:pyannote 说话人分离模型提速 9.6 倍

    Baseten 让 pyannote 的说话人分离(diarization)模型推理速度提升 9.6 倍。该博客还介绍了面向托管 RL rollout 的 delta 权重同步优化、Baseten 在 Coval 语音 AI 基准测试中领先,以及供编码智能体使用 Baseten 的新 MCP 与技能。

    匹配字段摘要、正文

  16. Ai2 Blog

    Ai2 推出 BenchMIRT:审计 LLM 基准测试究竟在测什么

    Ai2 推出 BenchMIRT,一种在单条提示词层面审计 LLM 基准测试的新方法,基于多维项目反应理论(MIRT),在 100 个 LLM、16 个基准、超 34K 道题上训练。它未被告知各基准测什么,却自行恢复出安全与通用推理两个主导维度。仅保留 10% 的题目即可大致还原模型强弱排序,预测模型未见过题目正确率的准确率达 79%,高于简单基线的 70%。

    匹配字段摘要

  17. MarkTechPost

    Perplexity 发布 pplx-embed-v2-context-9b-preview 上下文嵌入模型

    Perplexity Research 与 turbopuffer 发布 pplx-embed-v2-context-9b-preview,一个面向 RAG 管线的上下文嵌入模型,每个 chunk 在编码时都能看到完整文档。模型以 Perplexity 的 query-aware 上下文压缩模型作为教师,用逐 token 打分池化出的软目标替代单一 gold passage 标注,训练时随机采样切块策略,推理阶段不增加延迟或存储。权重已在 Hugging Face 以 MIT 许可开源,需 transformers>=5.4.0 并设置 trust_remote_code=True,暂未上线 Perplexity API,模型卡提示权重与接口可能不向后兼容。模型基于内部 9B ColBERT 检索模型,线性投影输出 2048 维,Matryoshka 训练支持 1024 维,量化感知训练支持原生 int8 嵌入,训练使用约 430 个数据集、覆盖 50 多种语言。

    Perplexity Research 与 turbopuffer 发布 pplx-embed-v2-context-9b-preview,一个面向 RAG 管线的上下文嵌入模型,每个 chunk 在编码时都能看到完整文档。模型以 Perplexity 的 query-aware 上下文压缩模型作为教师,用逐 token 打分池化出的软目标替代单一 gold passage 标注,训练时随机采样切块策略,推理阶段不增加延迟或存储。权重已在 Hugging Face 以 MIT 许可开源,需 transformers =5.4.0 并设置 trust remote code=True,暂未上线 Perplexity API,模型卡提示权重与接口可能不向后兼容。模型基于内部 9B ColBERT 检索模型,线性投影输出 2048 维,Matryoshka 训练支持 1024 维,量化感知训练支持原生 int8 嵌入,训练使用约 430 个数据集、覆盖 50 多种语言。

    匹配字段摘要

星期三

  1. Data Center Knowledge

    CoreWeave 推出 Forge 平台,从 GPU 基础设施转向全栈 AI 云

    CoreWeave 在旧金山 Fully Connected 活动上发布 CoreWeave Forge,一个用于开发、运行和持续改进 AI 模型与智能体的集成软件平台,即日起提供 Free、Pro、Enterprise 三个版本。Forge 把训练、推理、评估、可观测性和智能体开发整合为围绕 AI 循环的软件栈,并推出包含 VAST Data、CrowdStrike、ClickHouse 的合作伙伴网络。硬件方面,Nvidia Vera Rubin NVL72 已在其云平台上线,Cognition 成为首个客户并在两天内跑起负载;Nvidia Vera CPU 面向 AI 智能体处于早期开放阶段。

    匹配字段摘要