HPE AI Factory with NVIDIA 组合提供三条路径:HPE Private Cloud AI 是面向本地部署的 turnkey 方案,支持最多 256 块 GPU 的微调、RAG 与推理;HPE AI Factory at-scale 面向模型构建者、服务商和大型企业,支持数百到数万块 GPU 的集中管控与多租户;HPE Sovereign AI Factory 在此基础上增加数据驻留、主权管理(含可选气隙配置)与合规框架。
a16z 的 Joel de la Garza 与 DoxxNet 创始人 Barrett Lyon 对谈,讨论如何围绕隐私、直接通信和减少对中心化中介的依赖重建互联网。Lyon 认为传统 VPN 只能解决部分问题,DoxxNet 正在构建一个平行 mesh 网络,让用户点对点通信、传输大文件、通话和发消息,无需经过中心应用服务器;公司自建基础设施并在本地运行 AI 系统,而非依赖第三方推理服务商。
CoreWeave 在旧金山 Fully Connected 活动上发布 CoreWeave Forge,一个用于开发、运行和持续改进 AI 模型与智能体的集成软件平台,即日起提供 Free、Pro、Enterprise 三个版本。Forge 把训练、推理、评估、可观测性和智能体开发整合为围绕 AI 循环的软件栈,并推出包含 VAST Data、CrowdStrike、ClickHouse 的合作伙伴网络。硬件方面,Nvidia Vera Rubin NVL72 已在其云平台上线,Cognition 成为首个客户并在两天内跑起负载;Nvidia Vera CPU 面向 AI 智能体处于早期开放阶段。