←搜索结果

按匹配度 · 共 1375 条结果 清除搜索

星期六

  1. 量子位

    纯C推理框架Colibrì走红GitHub:25GB笔记本跑744B GLM-5.2,SSD当显存用

    GitHub 开源项目 Colibrì 用纯 C 实现分层推理,把 MoE 模型不常用的路由专家放在 NVMe SSD 上按需读取,让 744B 的 GLM-5.2 在最低 16GB、推荐 24GB 左右 RAM 的机器上运行,GPU 不是必需品,项目已获 32k Star。作者最初的开发机只有 12 核 CPU 加 25GB RAM,冷缓存时速度约 0.05~0.1 token/s,靠 LRU 缓存、专家使用频次统计和提前一层预测专家(可预测性 71.6%)把速度提上来,128GB RAM 纯 CPU 桌面机约 1.8 token/s,6 张 RTX 5090 可达 5.8~6.8 token/s。目前它已覆盖 9 个模型家族,从 GLM-5.2/5.3、DeepSeek V4 Flash、Qwen 到 975B 的 Inkling 和 2.8T 参数的 Kimi K3,后者约需 1.6TB 存储、RAM 32GB 起步。

    匹配字段摘要、正文

星期五

  1. 量子位

    平头哥公布 T-Head SAIL 软件栈开源进展,扩大真武芯片框架与加速库开放范围

    平头哥在云栖大会公布 AI 软件栈 T-Head SAIL 的最新开源进展,已开源 PyTorch-for-sail 框架适配、sailify 源码迁移工具、Triton-for-sail 算子开发工具,以及 DeepGEMM-for-sail、FlashAttention-for-sail 等计算加速项目。SAIL 是围绕真武 AI 芯片打造的类 CUDA 软件栈,连接 PyTorch 等上层框架与底层硬件,负责模型迁移、编译执行、计算加速和开发调试。据现场披露,真武 AI 芯片已服务 20 多个行业的 650 多家客户,截至 2026 年 9 月在 ModelScope 上提供 39 个量化模型,覆盖 Qwen、DeepSeek、Kimi 等系列,累计下载超过 34.8 万次。

    匹配字段摘要、正文

  2. BBC 中文

    中美AI竞赛:世界变得更危险还是更安全?

    Anthropic 一名顶尖 AI 安全研究人员警告,AI 技术正以惊人速度发展,未来十年内“可能导致全人类灭绝”的概率高达 10%。这引发美国是否应放缓 AI 发展、设置监管“护栏”的争论,特朗普认为放慢步伐可能把主导地位让给竞争对手。DeepSeek、月之暗面等中国 AI 服务显示,中国竞争者能力可能已与美国前沿 AI 实验室相当。

    匹配字段摘要、正文

  3. gihyo.jp

    Debian 推出免费 AI 推理门户 Debian Inference Portal

    Debian 项目在 Scaleway 赞助下推出 Debian Inference Portal,持有 Salsa 账号的 DD 和 DM 可免费通过 API 调用 DeepSeek V4 Flash 与 GLM-5.2 两个模型。默认预算为 DD 每周 25 美元、DM 每周 10 美元,支持任何兼容 OpenAI API 格式的编辑器或工具接入,用途限于打包、缺陷分类修复、工具开发与文档撰写等贡献工作。

    匹配字段摘要、正文

星期三

  1. 德国之声中文网

    德语媒体:莫把AI比核弹

    《法兰克福汇报》评论认为,将中美人工智能对话与美俄核武谈判相提并论看似合理实则荒谬,因为管控核武器的一直是国家领导人,而AI风险来自大大小小的高科技企业。评论指出,真正的挑战是如何把地缘政治层面的协定转化为各国运作机制,有效控制Anthropic、OpenAI、Meta、Alphabet等巨头以及DeepSeek、Moonshot AI、Minimax、Zhipu AI等中国初创企业的研发进度。

    匹配字段摘要、正文

  2. BBC 中文

    特朗普与习近平会面在即,中国的AI雄心正在乌兰察布高歌猛进

    在特朗普与习近平会面讨论人工智能安全之际,中国正于乌兰察布、宁夏、甘肃和贵州等地兴建数以百计的数据中心,服务华为、字节跳动和 DeepSeek 等企业,目标是到 2030 年把人工智能融入 90% 的行业和社会领域。北京鼓励企业开发更具成本效益的开源模型,以应对无法取得先进晶片的挑战,同时中国每年培养约 500 万名科学与技术领域毕业生,而美国约为 50 万名。

    匹配字段摘要、正文

  3. NVIDIA Developer · Generative AI

    NVIDIA 机密计算如何让 TensorRT LLM 在 Blackwell 上保持生产级推理性能

    NVIDIA 机密计算(CC)通过内存加密的机密虚拟机、机密 GPU 和加密 NVLink,让生产级 AI 推理运行在可信硬件上。在 8 块 NVIDIA B200 GPU 上运行 DeepSeek-R1 的受控对比中,CC 开启后保留了基线 96.1%–98.2% 的输出 token 吞吐,单 token 延迟(TPOT)仅增加 1.2%–4.3%(并发 1–16)。TensorRT LLM 为此改用可分页内存、异步 token 回读,并以 GPU %globaltimer 替代 CUDA events 做内核自动调优。

    匹配字段摘要、正文

星期二

  1. Thomas Wolf

    Thomas Wolf 列出约十周内三十余个开源模型发布,回应开源正在消亡的说法

    Hugging Face 的 Thomas Wolf 在 X 上列出 Dylan Patel 访谈之后约十周内发布的开源模型清单,包括 Moonshot Kimi K3、Qwen3.8-Max、DeepSeek V4-Pro、腾讯 Hy4、GLM-5.3 和上海 AI Lab Atria Dawn 等三十余项,并指出其中多个达到前沿规模,如 Kimi K3 的 2.8T、Qwen3.8-Max 的 2.4T、DeepSeek V4-Pro 的约 1.6T。该推文引用的访谈中,Dylan Patel 称有中国模型实验室告知推理厂商下一代模型将不再开源、改为授权,并称开源正在快速消亡。

    匹配字段摘要、正文

星期一

  1. Fireworks AI

    Fireworks 分析:按任务路由模型可让编码智能体从 74.1% 升至 97.6%

    Fireworks AI 在 DeepSWE v1.1 的 113 个编码任务上测试 18 个模型,单一最佳模型 GPT-6 Astra 通过率 74.1%、每任务成本 6.52 美元,而按任务事后挑选最优模型可达 97.6%、每任务 1.88 美元。仅用开源模型池(DeepSeek V4 Flash 与 Pro、GLM-5.3 与 GLM-5.3 Flash、Kimi K3、Qwen3.8 Max)也能达到 90.3%、每任务 1.45 美元。作者指出该结果是事后视角的上限,真实路由需在任务开始前预测模型,并称 FireRouter 在其四周生产编码流量中把 2334 个会话的成本从 15.81 美元降至 7.42 美元。

    匹配字段摘要、正文

  2. A6 a6-052 · Fireworks AI

    Fireworks 研究:多模型路由在 DeepSWE 编码任务上达 97.6% 通过率

    Fireworks 基于 DeepSWE v1.1 的 113 个智能体编码任务、18 个模型各四次 rollout 分析发现,单一最佳模型 GPT-6 Astra 通过率 74.1%、每任务成本 6.52 美元,而事后为每个任务挑选最优模型可达 97.6%、每任务 1.88 美元。仅限开源权重模型(DeepSeek V4 Flash 和 Pro、GLM-5.3 和 GLM-5.3 Flash、Kimi K3、Qwen3.8 Max)时仍达 90.3%、每任务 1.45 美元。Fireworks 称其 FireRouter 在四周 2334 个生产编码会话中把成本从单用 Opus 5 的 15.81 美元降至 7.42 美元,降幅 53%。

    匹配字段摘要、正文

星期日

  1. Recode China AI

    华为加速追赶 Nvidia 至 2027,北京称 Amodei 的 AI 减速论是“散布恐慌”,Manus 估值翻倍

    华为在 HUAWEI CONNECT 2026 上发布 Peerium 计算架构、面向 10 万亿参数模型的 Atlas 960E SuperPoD 及 AI Cluster Service,并计划到 2027 年推出两款 Ascend 级芯片对标 Nvidia。北京将 Anthropic CEO Dario Amodei 的“放缓”前沿 AI 呼吁斥为散布恐慌,特朗普则淡化对 AI 发展的限制。Manus 寻求 40 亿美元估值融资 5 亿美元,Z.ai 目标再融约 50 亿美元并将 ARR 目标上调 25% 至约 30 亿美元,DeepSeek 聘请高瓴交易人出任 CFO 筹备 IPO。

    Tony Peng's avatar

    匹配字段摘要、正文

星期五

  1. SemiAnalysis

    SemiAnalysis 复现 Engram 架构并实测 DRAM/SSD 卸载

    SemiAnalysis 复现了 DeepSeek 的 Engram 架构,在 fineweb-edu 上以约 6E18 FLOPs 每轮训练,观察到与原文一致的 U 型扩展规律,Engram 优于纯 MoE 基线。其 DeepSeek-V4.1-Flash 配置中 Engram 约占 189 GiB 内存,改用 mmap 文件并卸载到 SSD 后,B200 上 DRAM 方案在约 125 tokens/s/user 时每美元可产出 1.21 亿 token,SSD 仅 5200 万,作者认为生产环境中 SSD 卸载并不划算。在 B300 上启用 Engram 卸载可从 TP4 切到 TP2,帕累托曲线提升最多 1.6 倍。

    匹配字段摘要、正文

星期三

  1. 澎湃新闻

    人工智能史学思维——从范式变革到文明边界的探索

    澎湃新闻刊发肖馥莲、高晞文章,系统梳理人工智能对史学研究在材料处理、文本分析与知识建构方面的影响,并探讨其对历史研究范式与学科框架的深层重构。文章指出,DeepSeek、Kimi、豆包等本土大语言模型的崛起为中国史学研究者加入人工智能与历史研究提供了契机,同时讨论了“幻觉”等风险及2025年《历史研究》发布的技术使用规范。

    匹配字段摘要、正文

星期二

  1. Ben's Bites

    Ben's Bites:Dario 呼吁放缓前沿 AI,OpenAI 发布 GPT-Live-1 与 Agents API

    Anthropic CEO Dario Amodei 发文《Pace the frontier》呼吁领先实验室为安全放慢速度,Sam Altman 表示认同,但特朗普在 All-In Summit 上称美国不会输掉 AI 竞赛。OpenAI API 新增 GPT-Live-1(ChatGPT 新语音模式背后的模型)和 Agents API,后者让开发者把任务交给类 Codex 智能体而无需配置基础设施。Claude Code 现可对比测试插件是否真正有效,Bolt Forge 免费提供 GLM、DeepSeek 和 Kimi 至 10 月 14 日。

    匹配字段摘要、正文

星期五

  1. The Rundown AI

    Anthropic 发布威胁报告,披露 Claude 全球滥用案例

    Anthropic 发布最新威胁报告,梳理过去八个月中其处置的 Claude 滥用案例,涵盖生物武器风险、间谍活动以及中国 AI 实验室用 Claude 做蒸馏。报告点名七家中国实验室通过数千个欺诈账号进行蒸馏,其中 Moonshot 和 DeepSeek 在部分场景下把 Claude 当作自家模型提供给客户,并用其回复做训练。报告还提到五起生物领域案例被标记为可能涉及武器用途,Anthropic 称不认定其有伤害意图;也门一起行动用 Claude Code 为火箭编写制导软件,另有顾问为马里情报机构搭建监控 2500 万条电话线的系统。

    匹配字段摘要、正文

星期三

  1. OpenRouter:Announcements

    OpenRouter 推出美国区域路由,与 EU 路由形成端到端数据驻留

    OpenRouter 在去年 10 月上线的 EU 路由之外新增美国 In-Region Routing,请求发往 us.openrouter.ai 后在美国境内解密,并只路由到美国境内的供应商端点,eu.openrouter.ai 对欧盟同理。API key、请求体和模型 ID 不变,供应商偏好、回退和隐私设置沿用账户配置;若区域内没有可服务该模型的供应商,请求会返回 404 而不会路由到区域外。该功能面向 Business 和 Enterprise 套餐,可用模型包括 GPT-5.6、Claude Opus 5、Gemini 3.6 Flash、Grok 4.6、DeepSeek V4 Pro、Kimi K3、GLM 5.2 等,GLM 5.2 也可在 EU 路由下由 Mistral 的欧盟数据中心提供。

    In-Region Routing: Keep your data in the US or EU

    匹配字段摘要、正文

  2. OpenRouter:Announcements

    OpenRouter 推出美国 In-Region Routing,与 EU 路由一起保证数据驻留

    OpenRouter 在去年 10 月上线的 EU 路由基础上新增美国 In-Region Routing,请求发往 us.openrouter.ai 后在美国境内解密并只路由到美国供应商端点,全程不出境。该功能面向 Business 和 Enterprise 套餐,可用 Guardrails 按工作区、团队或 API key 强制指定数据区域;若区域内无供应商支持该模型,请求会返回 404 而非路由到区域外。DeepSeek V4 Pro、Kimi K3、GLM 5.2 等中国开源权重模型已可通过美国区域路由使用。

    匹配字段摘要、正文

星期二

  1. Pydantic AI 官方文章

    Pydantic AI 谈前沿模型的“语言漂移”:Claude 让“seam”一词泛滥

    Pydantic AI 官方文章指出,Anthropic Claude 系列模型(Opus 4.6 为源头,4.7、4.8 放大)在描述软件组件连接点时大量使用“seam”一词,并扩散到 GPT 5.6 Sol、DeepSeek v4 Flash 0731、Qwen 3.8 27b、Z.AI GLM 5.3 Flash 等模型。作者抓取 GitHub PR 发现含“seam”的约 70 万条中约 68.5 万条来自 2026 年,并用 4,319 份 2025 年前与 1,047 份 2026 年 README 做 TF-IDF、SVD、t-SNE 可视化。文章提出用 Pydantic AI Capability 应对这一现象。

    匹配字段摘要、正文

星期五

星期五

  1. LMSYS Blog精选

    LMSYS 公开 infer-forge:围绕 SGLang 的 Harness、Loop 与 Graph 工程方法

    LMSYS 发布 infer-forge 方法论文,介绍围绕 SGLang 的推理工程系统,由 MonoRepo、Harness、Task Loop 和 Task Graph 四层结构组成,用于让跨仓库的推理优化工作可复现、可验证。该系统为内部工程系统,并非 SGLang 或 LMSYS 官方组件,目前不开源,文章公开的是构建方法论,供团队交给 AI 编码工具并结合自身系统上下文搭建适配实现。文中给出使用记录:一位工程师 4 月至 7 月的在飞任务峰值从 2 个升至 9 个,DeepSeek-V4-Pro 服务项目中 38 个可独立验证的任务节点被组织成任务图。

    The inference deployment space stacks five layers of static configuration. Model shows Ling, Qwen, DeepSeek, Kimi, GLM, and MiniMax. Serving Scenario runs Modality (text, image, video) into Traffic Shape (input and output length, media count, resolution, QPS, concurrency, cache reuse) into SLO (TTFT, TPOT, throughput, E2E latency). Serving Topology separates Deployment Architecture—Colocated PD, PD Disaggregation, and EPD Disaggregation, each listing the node roles it is built from — Prefill and Decode together, then Prefill and Decode as separate roles, then Encoder alongside them — from Parallelism—TP, PP, DP, and EP—because the two are chosen independently. Versioned Runtime Profiles is a stack of tabbed cards labelled Service A rev. 12, Service B rev. 7, and Service C rev. 21, plus a fourth paler card behind them all, blank and showing only its top edge, whose narrow tab carries an ellipsis for the profiles not drawn, the front card holding an Engine Configuration and a Container I

    匹配字段摘要、正文