←搜索结果

按匹配度 · 共 1542 条结果 清除搜索

星期三

  1. AWS Machine Learning

    在 Amazon SageMaker HyperPod 上微调 GPT-OSS-20B 实现多语言推理

    AWS 团队在 Amazon SageMaker HyperPod 上用 SFT 与 GRPO 微调 GPT-OSS-20B,解决其只用英文推理的问题:基座模型在 50 例多语言推理测试中仅 22% 用对目标语言(英语 100%、法语 0%、德语 10%、西班牙语 0%、意大利语 0%)。结论是 SFT 承担大部分工作,GRPO 在模型已有一定概率产出目标行为时才能带来可测量的增益。训练使用 LoRA,数据为 HuggingFaceH4/Multilingual-Thinking(约 949 条训练、50 条验证)。

    End-to-end fine-tuning architecture on Amazon SageMaker HyperPod

    匹配字段摘要、正文

  2. SiliconANGLE

    智能体正在打破 AI 经济性,解法要从数据层开始

    Couchbase 扩展 AI Data Plane,推出原生 Amazon Bedrock 集成与语义缓存、AWS 上全托管的 Agent Memory 和 MCP server,以及分析引擎 Operational Insights 中的向量搜索。Couchbase 称语义缓存可减少 40% 至 60% 的 LLM 调用,Agent Memory 在 LoCoMo 基准上比替代方案少用 33% 至 45% token,向量检索让提示词缩小约 70%。其 AI 高级副总裁 Tim Finley 指出,智能体每任务产生的流量比人类高 450%,客户在规模化后常为账单而降级模型。

    匹配字段摘要、正文

星期二

  1. 智东西

    亚马逊AI基建内幕:GB300机架因供电不足滞留仓库,2026年资本开支预计2200亿美元

    据Business Insider 10月19日报道,亚马逊采购的部分英伟达GB300服务器机架因数据中心供电不足,只能暂存在仓库中等待部署。亚马逊2026年资本开支预计达2200亿美元,截至第二季度末过去12个月自由现金流为负76亿美元,AWS第二季度收入同比增长37%,积压订单规模达4960亿美元。

    匹配字段摘要、正文

  2. AWS Machine Learning

    Eon 如何在 Amazon Bedrock AgentCore 上构建 MCP Gateway 实现多云调查

    Eon 基于 Amazon Bedrock AgentCore 搭建统一的 MCP Gateway,把跨 AWS、GCP、Azure 的调查工具接入同一个认证网关,新工程师配置全部调查工具的时间从约 2 天缩短到约 2 分钟。该方案用 AgentCore Gateway、Policy、Runtime 和 Identity 替代了逐工具凭证与本地 MCP 进程,并通过 Cedar 策略在 ENFORCE 模式下按主体限制可调用的工具,生产工具保持只读。开发者用 Claude Code、Cursor 或 OpenAI Codex 连接同一个 MCP URL,运行 Claude 的自主 SRE 智能体则以不同身份接入同一网关。

    Eon’s centralized gateway architecture: clients and an SRE agent reach one AgentCore gateway that routes tool calls to Runtimes across multiple AWS accounts

    匹配字段摘要、正文

  3. heise online

    Amazon 明年将在德国投资 160 亿欧元用于云与 AI

    Amazon 计划明年在德国投资超过 160 亿欧元,其中约 48 亿欧元用于扩建法兰克福周边的 AWS 云与 AI 基础设施,其余投向物流现代化和 Prime Video 自制内容。物流领域目前新增逾 3000 个岗位,Bad Hersfeld、多特蒙德和 Werne 的改造将于明年完成,Könnern 新中心在建;投资还涉及卫星互联网项目 Amazon Leo。

    匹配字段摘要、正文

  4. SiliconANGLE

    Kantata 推出 Expertise Insights,用自然语言回答专业服务公司的业务问题

    Kantata 在 Expertise Engine 平台上线生成式商业智能产品 Expertise Insights,用户用自然语言提问即可获得交互图表、计算结果或执行摘要。该产品运行在 AWS 的 Amazon Quick 之上,并叠加语义层把数据库字段名转成企业日常用语,自带财务、交付、时间和资源四类仪表盘,另可通过 Ask Insights 按需生成分析。Kantata 称过去需经 BI 分析师、等待可达一周的请求,现在几分钟即可拼出完整董事会材料,产品已可用。

    匹配字段摘要、正文

  5. SiliconANGLE

    AuxoAI 完成超 2000 万美元 A 轮融资,将 AI 专业能力带入企业

    企业工程与咨询公司 AuxoAI 宣布完成 2070 万美元 A 轮融资,由 NTT Venture Capital 领投,用于加速增长并扩展其企业 AI 咨询模式。其核心平台 Damia 是面向“前置部署工程师”的工具包,可将企业数据转化为应用,并把业务流程知识编码为可长期协作的 AI 智能体。公司已与 Global 2000 企业合作超过三年,并与 Google、AWS、Snowflake、Databricks 和 Microsoft 等平台建立合作。

    匹配字段摘要、正文

  6. cnBeta

    亚马逊宣布180亿美元德国投资计划,柏林将新增机器人与人工智能研究中心

    亚马逊10月20日宣布计划于2027年在德国投资超过160亿欧元(约合180亿美元),其中48亿欧元投向AWS法兰克福云计算区域及AI基础设施。亚马逊将在柏林设立第二座机器人与人工智能研究实验室,使其在德国首都的研发布局规模翻倍,并新增应用科学家、机器人硬件与软件工程师等岗位。物流设施升级与新建配送中心预计创造超过3000个就业岗位,Amazon Leo卫星宽带已预订24次阿丽亚娜航天火箭发射任务。

    匹配字段摘要、正文

  7. Rohan Paul

    FT:AI 算力已成战略基础设施,数据中心面临物理打击风险

    FT 指出 AI 算力已成为战略基础设施,对手开始把数据中心当作电厂和燃料库对待,导弹防御与防爆建筑可能成为 AI 基础设施的常规预算项。文中举例称,伊朗的打击同时命中 AWS 多个可用区,导致巴林区域客户数据永久无法恢复,数据本地化并未提供保护;俄罗斯对 Yandex 的国家控制也未能阻止乌克兰无人机使存放该公司 3 台 AI 训练超算中 2 台的站点停摆,故障还波及跑在 Yandex Cloud 上的网约车、支付等业务。

    匹配字段摘要、正文

  8. Rohan Paul

    摩根士丹利称英伟达风险回报最佳,但2027年91.7%收入依赖基础设施需求

    摩根士丹利认为英伟达在AI板块中风险回报最佳,但其2027年收入的91.7%依赖基础设施需求。该行预计超大规模云厂商和AI云服务商2027年支出达1.58万亿美元、增长约60%,其中近7000亿美元流向英伟达,而SpaceX与AWS约占其2027年超大规模客户收入的54%和增长的72%。摩根士丹利按2028财年15倍市盈率认为股价便宜,但其电力模型预计到2028年美国数据中心电力缺口达32GW,需求为97GW。

    匹配字段摘要

  9. AWS Machine Learning

    vLLM 双向 KV 传输如何改善多轮智能体工作负载的 TTFT

    vLLM 新增双向 KV 传输,让 decode 节点在后续轮次把已算好的 KV 缓存回传给 prefill 节点,避免重复计算对话历史。在 Amazon EC2 P5en 的 1P1D 部署上,该机制使 Qwen3-32B 的 TTFT 最高改善 1.6 倍、zai-org/GLM-5-FP8 最高改善 3.3 倍。该能力最初在 AWS Trainium 集群上验证并贡献给 vLLM,作为与加速器无关的特性,需配合 KV-cache-aware 路由器协调跨轮复用。

    Flow diagram contrasting the standard prefill-to-decode KV path (blue) with the bi-directional additions numbered one through six (red)

    匹配字段摘要、正文

  10. AWS Machine Learning

    vLLM 推出基于 push 的 KV 传输,提升分离式推理的 TTFT 与 TPOT

    vLLM 新增基于 push 的 NIXL connector,把 prefill 后的传输协调与建立过程移出关键路径,在 1P1D 的 Amazon EC2 P5en + EFA 部署上,Qwen3-32B 的 TTFT 最高提升 3 倍、TPOT 最高提升 30%。该功能先在 AWS Trainium 集群上构建验证,随后作为与加速器无关的特性贡献给 vLLM,pull 模式下由 decode 实例发起 NIXL READ 的串行步骤被改为由 prefill 侧后台线程发起 NIXL WRITE。

    Pull-mode timeline: router relay, decode-side allocation, and NIXL READ run serially on the path to first token.

    匹配字段摘要、正文

  11. 钛媒体 · AGI

    Edge AI Daily 早报:Anthropic 450 亿美元算力交易与亚马逊 TorchNeuron

    Anthropic 正洽谈第二笔约 450 亿美元算力交易,涉及西弗吉尼亚 Monarch 园区 460 兆瓦设施与英伟达 Vera Rubin 芯片。AWS 同日发布开源工具 TorchNeuron,改一行配置即可把 PyTorch 代码从英伟达 GPU 迁至 Trainium2 与 Trainium3,以 Apache 2.0 开源并于 10 月 20 日公测。谷歌还开源运行期脚手架 Harness²,不改权重即让 GLM-5 在 WorkBuddy-Bench 上从 64.2 分升至 75.7 分。

    匹配字段摘要、正文

  12. Fortune Tech

    摩根士丹利称英伟达 2027 年 91.7% 收入依赖 AI 基建支出

    摩根士丹利 10 月 15 日发布的报告估算,英伟达 2027 年 91.7% 的收入来自 AI 基础设施需求,在其覆盖公司中占比最高,高于 Vertiv 的 90% 和 Broadcom 的 81%。报告预计超大规模云厂商与 AI 云服务商 2027 年将支出 1.58 万亿美元,其中近 7000 亿美元流向英伟达,而 SpaceX 与 AWS 合计约占英伟达超大规模客户收入的 54%。报告同时列出风险:2027 年将出现预测期内最大的现金流缺口,美国数据中心到 2028 年面临 32 吉瓦电力缺口,数据中心限制也成为中期选举议题。

    匹配字段摘要、正文

星期五

  1. Pydantic AI 官方文章

    Pydantic 如何用 RunsOn 把 CI 成本从 18200 美元降到 5700 美元

    Pydantic 于 9 月 1 日将 Logfire 的 GitHub Actions 工作流迁移到 RunsOn,由其在自己 AWS 账户中启动临时 EC2 runner。迁移后 9 月 CI 总成本降至 5700 美元(含 RunsOn 许可与全部 AWS 费用),而 8 月为 18200 美元,同期 runner 分钟数从 1230264 增至 1617654。此前其 CI 账单从 6 月的 3990 美元一路涨到 8 月的 18200 美元。

    Bill Easton avatar

    匹配字段摘要、正文

  2. SiliconANGLE

    Meta 开放 816B 参数模型 Muse Spark Open,面向编码与智能体任务

    Meta 发布 Muse Spark Open 的开放权重,该模型自 4 月首发以来一直闭源,此次面向编码和长时间运行的智能体任务开放。模型总参数 816B,每个 token 仅激活 42B,提示词可混合文本、图像、音频或视频,上下文窗口最高 100 万 token。在 Meta 自己的基准表中,Muse Spark Open 在 JobBench 智能体测试得 61.8 分,高于 Thinking Machines Lab 的 Inkling(31.1)和 Nvidia Nemotron 3 Ultra(27.2);编码测试 Terminal-Bench 2.1 得 76.4,低于 Kimi K3 的 85、GLM 5.3 和 Qwen3.8;工具调用 MCP-Atlas 得 89.2,高于 Meta 列出的所有对手。权重采用新的 Muse Model License,开发者适配或内置到自有软件中不收费,但将其作为托管服务出售且 12 个月总收入超过 2000 万美元的公司需另签协议,产品需标注 Built with Muse Spark Open,禁止军事和关键基础设施用途。发布时有 7 家推理服务商提供托管访问,权重可从 Hugging Face 及 AWS、Google、Microsoft 的模型目录下载。

    放。模型总参数 816B,每个 token 仅激活 42B,提示词可混合文本、图像、音频或视频,上下文窗口最高 100 万 token。在 Meta 自己的基准表中,Muse Spark Open 在 JobBench 智能体测试得 61.8 分,高于 Thinking Machines Lab 的 Inkling(31.1)和 Nvidia Nemotron 3 Ultra(27.2);编码测试 Terminal-Bench 2.1 得 76.4,低于 Kimi K3 的 85、GLM 5.3 和 Qwen3.8;工具调用 MCP-Atlas 得 89.2,高于 Meta 列出的所有对手。权重采用新的 Muse Model License,开发者适配或内置到自有软件中不收费,但将其作为托管服务出售且 12 个月总收入超过 2000 万美元的公司需另签协议,产品需标注 Built with Muse Spark Open,禁止军事和关键基础设施用途。发布时有 7 家推理服务商提供托管访问,权重可从 Hugging Face 及 AWS、Google、Microsoft 的模型目录下载。

    匹配字段摘要、正文

  3. AWS Machine Learning

    Meta 的 Muse Spark Open 上线 Amazon SageMaker JumpStart

    Meta 的编码优化开源权重模型 Muse Spark Open 现已在 Amazon SageMaker JumpStart 上线,支持 100 万 token 上下文窗口,可在自己的 AWS 账户中部署到 SageMaker AI 端点。该模型采用 MoE 架构,总参数 816B、每 token 激活 42B,提供 BF16(Muse-Spark-Open-816B-A42B)和 NVFP4 量化(Muse-Spark-Open-816B-A42B-NVFP4)两个变体,分别运行在 ml.p6-b300.48xlarge 和 ml.p5e.48xlarge 实例上。文章给出了通过 SageMaker Studio 和 SageMaker Python SDK 部署、发送首次推理请求以及清理端点的步骤。

    Muse Spark Open model detail card in SageMaker JumpStart with the Deploy option

    匹配字段摘要、正文

星期四

  1. Analytics India Magazine

    Tech Mahindra 第二季度新签合同额达 10 亿美元,利润增长 23.2%

    Tech Mahindra 2026 财年第二季度税后利润同比增长 23.2% 至 1.66 亿美元,新签合同额 10.23 亿美元、同比增长 25.4%,营收按固定汇率增长 7.2% 至 16.93 亿美元。CEO Mohit Joshi 称几乎所有大单都包含 AI 集成,公司还推出面向 2–12 年级学生的 300 亿参数教育语言模型 Indus Terra,由 NVIDIA 和 AWS 在 IndiaAI Mission 框架下合作开发。

    匹配字段摘要、正文

  2. Tech.eu

    Tech Race Summit 与会者警告:AI 试点难以转化为利润

    在 SOFTSWISS 于华沙举办的首届 Tech Race Summit 上,AWS、Oracle 和 Cloudflare 等公司的技术负责人指出 AI 落地正卡在组织与数据环节。AWS 的 Sergey Khurson 称 88% 组织已在至少一个业务环节使用 AI,但仅 8% 达到 AI 在生产环境全面运行的高级成熟度。Oracle 的 Georgios Chatzimilioudis 引用 Gartner 报告称 63% 组织缺乏 AI 所需的数据管理实践,Cloudflare 则通过内部工具 Cloudflare OS 和模型路由来降低成本并推动采用。

    匹配字段摘要、正文

  3. Unite.AI

    OpenAI 计算战略与 GPT-Infra 副总裁 Sachin Katti 宣布离职

    OpenAI 计算战略与 GPT-Infra 副总裁 Sachin Katti 于 10 月 14 日宣布离职,最后工作日为 11 月 15 日,之后将以顾问身份继续支持 OpenAI。他称过去一年帮助推进了“史上最大规模的 AI 计算基础设施扩建之一”,拿下两位数吉瓦新增算力,涉及 Ohio、Portsmouth、Georgia 和 Trainium 等项目,合作方包括 NVIDIA、Broadcom、AMD、Oracle、Microsoft、Google、AWS、Cerebras 和 CoreWeave。

    匹配字段摘要、正文