←搜索结果

按匹配度 · 共 179 条结果 清除搜索

星期二

  1. 蚂蚁 inclusionAI:GitHub 新仓库

    蚂蚁 inclusionAI 在 GitHub 发布 sglang_ling_v3 仓库

    蚂蚁 inclusionAI 在 GitHub 上线 sglang_ling_v3 仓库,内容基于开源推理框架 SGLang,该框架面向大语言模型、视觉语言模型和扩散模型,针对智能体负载、大规模服务与 RL rollout 优化。仓库 README 显示 SGLang 支持 GPU、TPU、NPU、CPU 与 Apple Silicon,并内置图像视频生成引擎 SGLang Diffusion。

    PyPI version

    以进行 rollout 生成的训练框架。 部署与编排 SMG, RBG, llm-d, Ray Serve, NVIDIA Dynamo 通过路由、负载均衡和集群编排来部署和扩展 SGLang 推理服务。 教育 Mini-SGLang, zero-to-sglang, DeepLearning.AI 课程 通过代码和动手课程学习推理引擎设计以及高效的文本和图像生成。 开发与贡献 欢迎贡献,包括缺陷修复、文档、模型支持和性能改进。 开发环境设置 从 lmsysorg/sglang:dev Docker 镜像开始,它提供开发工具和大多数依赖项。在容器内克隆或挂载你的 SGLang 检出,然后从仓库根目录以可编辑模式安装它,以便测试使用你本地的 Python 更改: pip install -e "python" 在已激活的虚拟环境中,你可以使用 uv pip install --prerelease=allow -e "python" instead. See the development guide for container setup and testing. Contribut

    匹配字段正文

  2. AWS Machine Learning

    Amazon SageMaker JumpStart 2026 年进展回顾

    2026 年 1 月至 9 月,Amazon SageMaker JumpStart 新增来自 30 家提供商的 100 多个模型,其中 Alibaba(Qwen)贡献 29 个、NVIDIA 17 个、Mistral 7 个、Google 6 个 Gemma 4 变体、IBM 4 个、Cohere 4 个。新增模型覆盖多模态、语音、图像与视频生成,并引入 GLM-5.2 FP8、JetBrains Mellum2-12B 等量化与紧凑模型以降低推理成本。

    翻译。Mistral Voxtral-Mini 支持实时语音理解。这些新增意味着客户可以避免为多模态工作负载串联单独的预处理模型。 让创意 AI 触手可及 图像和视频生成在 2026 年从利基走向主流。我们新增了来自 Black Forest Labs 的 FLUX.2 Small Decoder 和 FLUX.2-klein-base-4B 用于快速文本到图像生成,Meta Muse-Glimmer-30B 用于多模态智能体工作流,以及 NVIDIA Cosmos3 用于视频生成。借助这些模型,你可以使用与语言模型相同的一键部署体验来访问创意 AI 能力。 优先考虑高效和量化模型 并非所有工作负载都需要前沿规模的模型,许多客户在转向生产时专注于优化推理成本。我们上线了多个量化和紧凑模型:智谱AI GLM-5.2 FP8在降低内存占用的同时提供强劲性能。JetBrains Mellum2-12B采用混合专家架构,仅用25亿活跃参数进行代码生成。OpenBMB MiniCPM5-1B将多模态能力封装进10亿参数之中。Microsoft Phi-4-mini-instruct和IBM Gr

    匹配字段正文

星期一

  1. 智东西

    GPT-Image-3要来了?OpenAI API 曝光 aurora 三个神秘代号

    三个名为 aurora-red-alpha、aurora-green-alpha 和 aurora-blue-alpha 的模型条目短暂出现在 OpenAI API 模型列表中,随后在 Arena 平台以同名图像模型接受测试。测评博主 Lumina 推测这可能是 GPT-Image-3,实测红版生成更快但画质稍逊,绿版速度较慢效果更好,蓝版尚未测试。OpenAI 未公布这三个模型的身份及发布安排。

    一、API里先露面,外网博主用Aurora新模型画猫 此次新模型的线索最初来自开发者社区。 TestingCatalog称,其通过开发者社区Dev Mode的一则提醒,发现OpenAI API中新增了三个Aurora模型名称。这些条目随后被移除,该媒体据此猜测,这可能是OpenAI新模型的一次意外上线。 Lumina随后发帖称,三个同名模型正在Arena接受图像生成测试。在其公布的截图中,aurora-red-alpha生成了一张近距离猫咪肖像,猫的眼睛、胡须和毛发清晰可见;aurora-green-alpha同样画了一只猫,但取景更宽,背景也更明亮。 ▲Lumina测评red和green模型(图源:X) 两张图风格上有细微的差异。Lumina形容,红版更像精心构图的肖像,绿版则接近日常拍摄的室内照片。 从已经公开的两只猫来看,新模型的细节表现不错,不过还没有展现出代际间的巨大差距。TestingCatalog对这些样例的评价是:画面干净、细节丰富,但暂时谈不上惊艳。 二、Images 2.5已有两款模型,匿名测试也有先例 三个颜色代号,是否意味着三个独立模型? Lumina猜测,Op

    匹配字段正文

星期日

  1. 钛媒体 · AGI

    Edge AI Daily 早报:OpenAI 浏览器扩展升级、Anthropic IPO 估值下调

    OpenAI 于 2026 年 10 月 15 日升级 ChatGPT 浏览器扩展(版本 1.26.1005.11759),Chrome 用户数达 700 万,支持读取标签页上下文并由 ChatGPT Work 接管填表、发消息等操作,覆盖 Chrome、Edge、Brave、Opera、Vivaldi。Anthropic IPO 估值预期从约 2 万亿美元下调至约 1.5 万亿美元,因三季度营收环比增速从翻倍级降至 45%。微软自研基座模型 MAI-Base-2 为 2.8 万亿总参数、800 亿活跃参数的稀疏 MoE,宣称以四分之一算力对标 OpenAI Spud。

    记陈吉宁,从中央到部委再到地方密集沟通;苹果将自身定位为中美经贸中的“桥梁纽带”,此行核心围绕AI合规落地、供应链加码、生态盈利三条主线。 2.Apple Intelligence中国获批:库克10月15日在上海确认已获监管批准,测试版10月底上线,首批功能含实时翻译、写作工具、照片消除,不含AI版Siri;国行云侧由阿里通义千问(核心语言处理)与通义万相(图像生成)提供,百度负责Siri本地化,因合规要求原定2025年5月上线被推迟至2026年10月。 3.供应链与生态构成基本盘:库克确认首款折叠屏iPhone Duo全部在中国生产、10月23日开售,苹果对Duo加单30%、对iPhone 18 Pro砍单10%至15%;第二期中国清洁能源基金增至2.12亿美元,中国逾95%的直接生产制造已采用可再生能源;2025年中国App Store交易额达4万亿元,2026财年第三季度(截至6月27日)大中华区营收188亿美元、同比增长22%。 十、Flyme Auto已出海,吉利海外座舱为何还是绕不开谷歌GAS 1.事件与安排:2026年10月16日,吉利控股集团与谷歌达成全球战略合作,将在

    匹配字段正文

星期五

  1. 半导体产业纵横

    摩尔线程与 EvoPhys 发布白皮书:EvoPhys-World 在 MTT S5000 完成原生全流程训练

    摩尔线程与 EvoPhys 团队联合发布《国芯国模:世界模型在 MTT S5000 上的原生全流程训练实践》白皮书,披露自演化 5D 世界模型 EvoPhys-World 在 MTT S5000 智算卡与 MUSA 软件栈上完成从多模态基座到世界模型的原生全流程训练。该模型在斯坦福大学 WorldScore(ICCV 2025)“世界生成”维度登顶并连续 37 天蝉联榜首,训练从单机扩展至数十节点时吞吐保持近线性增长。

    ,单卡通信缓冲区峰值降至约0.451 GiB,多机微调稳定运行。 多机扩展效率稳定:训练从2节点/16卡扩展至14节点/112卡,扩展效率保持在83.921%—96.456%区间。 媒体组件就位:注意力计算接入MATE FA3,视觉、音频、视频组件分别完成图像处理、音频重采样与视频解码。 Wan2.2:视频DiT训练与多机扩展 Wan2.2面向文本生成视频、图像生成视频等应用。本次实践以TI2V-5B为基础,在MTT S5000与MUSA软件栈上完成模型计算迁移与多机训练,为视频生成模型的定制训练、以及以其为基座的世界模型训练提供实践参考。 对以视频DiT为基座的世界模型而言,若要在同一平台上开展训练,需具备两项基础条件:核心算子可迁移至MUSA,训练规模可随集群扩展。Wan2.2的算子迁移与多机扩展实践,分别对应这两项条件。 核心工程要点: 核心算子迁移:注意力、位置编码和归一化等算子完成在MUSA上的迁移,视频生成主干可在MUSA上运行。 多机训练稳定扩展:训练从2节点/16卡扩展至14节点/112卡,扩展效率达92.526%以上,单卡显存占用保持稳定。 高卡数场景验证:补充测试覆

    匹配字段正文

  2. 36氪 · AI

    投毒字节AI被开除后,田柯宇的公司估值2亿美元

    10月12日,因干扰字节同事训练任务被开除两年后,田柯宇公开讲述事件经过,承认干扰过同事训练任务,将动机解释为不成熟的朴素的正义。他已是NeurIPS最佳论文第一作者,其AI实验室获五源资本、IDG资本近3000万美元投资,投后估值2亿美元,方向是能预测未来的多模态基础模型。随后一份以受影响人员名义发布的长文反驳其讲述,将干扰起点提前到2024年3月并涉及LlamaGen、Goku等项目,并向其合作方和投资机构提出核查请求。一审判赔约50万元,字节已上诉。

    称报警是为了查出网上帖子的作者,此前与公司确认过。他承认违规,也表示应当赔偿,但不接受外界对行为范围及人品的描述。 对于当年的否认说法,他给出的回答是:「我从来没否认过我的行为。」这句话与当年内部人士向媒体描述的情况直接冲突,却仍然只有他自己的保证。 投毒风波+获奖,成了创业的双buff 2024年4月3日,田柯宇与北大、字节研究者合作的视觉自回归(VAR)图像生成论文公开初稿。同年12月,这篇论文获得NeurIPS最佳论文奖,田柯宇是第一作者,论文同时署名北大与字节。 NeurIPS是AI领域的重要学术会议,这篇论文提出了从粗到细生成图像的方法。获奖时,他已被开除,也卷入诉讼。 大会12月10日的说明称,评奖委员会对所有被接收论文一视同仁,依据科学价值独立评选,不单独考虑作者身份等因素。 VAR论文原始首页。 田柯宇回忆说,获奖时自己正面对舆情和诉讼,第一反应是或许还能在行业里找到工作。他也提到,一家原本想去的大模型公司取消了录用机会。 后来,他选择创业,并将五源资本合伙人孟醒称为自己的第一个投资人。也有一家他很喜欢的基金,在最后一次线上会议里反复追问字节事件,那晚他回去哭了一场。

    匹配字段正文

星期三

  1. 钛媒体 · AGI

    国内外大厂疯抢Muse入口,但个人Agent在国内仍是伪命题

    钛媒体刊文分析Meta推出个人智能体Muse后国内外大厂的跟进潮,字节被曝整合出“小豆”、腾讯三线卡位、阿里10月13日放出“千问Go!”、蚂蚁内测灵光2.0、Manus推出Cue。文章引用TickerTrends数据称Muse日均净新增用户已从9月峰值的19.8万人降至7.4万人,降幅62.4%,上线满一月DAU仍未突破300万。作者认为国内超级App已把生活需求压缩到极短路径,个人Agent面临效率、决策、权限三道悖论,加上摩根士丹利测算的每用户每月3至130美元服务成本与国内付费意愿偏低,通用Agent难以走通,更可能被超级App内化为自家围墙里的管家。

    Power档20美元/月,Maximum档100美元/月,但绝大多数用户使用的仍然是免费档。 Meta面临的问题,国内厂商只会更严重。 订阅?美国用户尚有为工具付费的习惯,但国内互联网用户早已被免费模式惯坏。摩根士丹利调研数据显示,国内仅35%的受访者曾为AI付费,仅21%偏好订阅模式,平均每月最高支付意愿约为41元,且付费主要集中在通用AI助手、办公写作、图像生成等生产力场景。 个人Agent作为更偏向生活服务的功能,想让用户掏钱难上加难——总不能跟用户说“每个月花几十块,我帮你订外卖省五块”吧?投入和产出不成正比,用户自然不会买账。 抽佣?Muse一边喊“帮你省钱”、一边要从交易里抽成,两者天然打架。大摩分析指出,Muse的真正商业化最早要等到2027年底至2028年,目前的交易佣金比例“微乎其微”。 广告?这才是最致命的——Agent的使命是消灭停留、直达交易,而抖音的信息流、淘宝的首页推荐、微信的朋友圈广告,全部建立在用户停留之上。用户直接跟AI说“买箱牛奶”,那些推广位瞬间作废。消灭了停留,也就废掉了广告;废掉广告,等于砸了平台自己的基本盘。 一边是成本居高不下,一边是收入端

    匹配字段正文

星期二

  1. 虎嗅

    国内外大厂疯抢Muse入口,但个人Agent在国内仍是伪命题

    Meta的Muse上线满月DAU仍未突破300万,日均净新增用户从9月峰值19.8万人降至7.4万人,降幅62.4%。文章认为国内个人Agent受超级App生态、用户习惯和商业模式三重制约,效率与决策价值有限,跨平台权限壁垒难破,摩根士丹利测算Muse每用户年成本445美元已超过Meta平均每用户年收入约70美元。更现实的路径是微信、支付宝、淘宝等超级App把Agent能力内化为自家围墙内的管家。

    Power档20美元/月,Maximum档100美元/月,但绝大多数用户使用的仍然是免费档。 Meta面临的问题,国内厂商只会更严重。 订阅?美国用户尚有为工具付费的习惯,但国内互联网用户早已被免费模式惯坏。摩根士丹利调研数据显示,国内仅35%的受访者曾为AI付费,仅21%偏好订阅模式,平均每月最高支付意愿约为41元,且付费主要集中在通用AI助手、办公写作、图像生成等生产力场景。 个人Agent作为更偏向生活服务的功能,想让用户掏钱难上加难——总不能跟用户说“每个月花几十块,我帮你订外卖省五块”吧?投入和产出不成正比,用户自然不会买账。 抽佣?Muse一边喊“帮你省钱”、一边要从交易里抽成,两者天然打架。大摩分析指出,Muse的真正商业化最早要等到2027年底至2028年,目前的交易佣金比例“微乎其微”。 广告?这才是最致命的——Agent的使命是消灭停留、直达交易,而抖音的信息流、淘宝的首页推荐、微信的朋友圈广告,全部建立在用户停留之上。用户直接跟AI说“买箱牛奶”,那些推广位瞬间作废。消灭了停留,也就废掉了广告;废掉广告,等于砸了平台自己的基本盘。 一边是成本居高不下,一边是收入端

    匹配字段正文

  2. 集微网

    从iPhone 18看端侧AI发展趋势:苹果、高通、联发科、Intel、AMD五强路径对比

    2026年6月WWDC上,Apple发布与Google合作构建的第三代Apple Foundation Models(AFM 3)五模型家族,其中AFM 3 Core Advanced将完整20B参数模型存于闪存、按需加载路由专家,突破DRAM物理限制;iPhone 18 Pro搭载首款2nm芯片A20 Pro,端侧AI算力翻倍。高通、联发科、Intel、AMD则分别以Hexagon NPU、双NPU与CIM存算一体、OpenVINO、XDNA 2架构推进端侧布局,稀疏MoE与Agentic AI成为五强共同方向。

    边缘计算,是最全面的端侧AI解决方案。2025-2026年战略重心已从"回答问题的AI工具"转向"能够协同工作的智能伙伴"(Agentic AI)。高通还在加速业务多元化,减少对移动业务的依赖,汽车和AI PC成为新增长引擎。 Dimensity 9500:双NPU架构与CIM存算一体 BitNet 1.58bit模型 功耗降低50%,减少存储需求 4K端侧图像生成 文本生成4K分辨率图像 128K上下文 可处理约10小时录音(上代32K/2.5小时提升4倍) 2025年12月,Google与联发科联合推出LiteRT NeuroPilot Accelerator,将LiteRT运行时直接接入MediaTek NeuroPilot NPU栈。开发者可通过单一API接口部署LLM和嵌入模型,无需针对不同芯片编写定制代码。覆盖Dimensity 7300至9400系列SoC。 支持的端侧模型包括:Qwen3 0.6B(面向中国大陆市场)、Gemma-3-270M/1B、Gemma-3n E2B(多模态)、EmbeddingGemma 300M。实测性能:Gemma-3n E2B在4K上下文

    匹配字段正文

星期一

  1. 邵猛

    Lee Robinson 斯坦福 CS146S 讲座拆解 Grok Bot 常驻 Agent 四层机制

    邵猛整理 Lee Robinson 在斯坦福 CS146S 讲座中分享的 Grok Bot 常驻 Agent 内部构造,归纳为四层机制。第一层是休眠与唤醒,服务器和云电脑平时休眠,由消息或事件触发后从数据库加载会话日志、记忆和例程重建状态,用完回写再休眠;第二层是唤醒源,除直接发消息外还包括 Slack、电话、会议和后台例行任务,所有触发汇入统一路由做去重与会话合并;第三层是是否打扰用户的独立判断链,位于通知层而非执行层;第四层是专用云电脑,采用 Firecracker microVM,具备隔离执行、可视化接管、虚拟桌面和池化共享四个特性。作者还补充了 server 与 computer 必须分离的三点原因:更新独立、重算力任务在服务器上更快、VM 打补丁时可独立重建。

    可视化接管:用户可以连入这台机器,实时观看甚至亲手控制,“看它工作”既是信任机制也是调试手段; · 虚拟桌面:同时跑五个十个 bot 时,每个 bot 有自己的屏幕和浏览器,互不干扰; · 共享基础设施:这些电脑是池化资源,由 bot 们按需调用。 补充:server 与 computer 为什么必须分离 架构图把系统划为三段:触发源(左)→ 服务器(中)→ 云电脑(右)。服务器内是消息队列 + agent 循环(即上周课上的“模型调工具”循环)。 而 agent 循环绝不能放进 VM,原因有三: · 更新独立:改 agent 代码只需推服务端,不必走应用商店审核; · 重算力任务(转写、图像生成)在服务器上跑更快,且服务器扩缩容是成熟工程; · 最关键:VM 需要打零日漏洞补丁时可以直接重建,而 agent 状态在服务器上安全无虞,VM 与 agent server 必须能各自独立关停,互不拖垮。 一个常驻 agent 的存在形态,是被状态机(休眠→加载→工作→持久化→休眠)、事件驱动(多源触发 + 路由去重 + 打扰判断)、资源分层(服务器持状态、微虚机持计算)三条线索共同定义的。

    匹配字段正文

星期一

  1. 科学网

    从清华毕业做科普10年,我如何对抗AI

    清华生命科学学院毕业生刘艾奇(网名“laq是只仓鼠”)做科普10年,全网粉丝逾百万,音频节目《科学大白话》累计播放量超500万。他提到2025年苏黎世大学团队在Reddit投放34个AI机器人,说服效率是人的3到6倍;另一项1682名成年人参与的实验显示,AI写的故事得分高于人类,但标注“人写的”后打分变高。他的抵抗方式是:把文学性还给读者、把表达还给自己、把人还给面对面。

    作的信心。 当时,清华门口有片拥挤的“城中村”,名叫水磨社区。因为租金便宜,非常拥挤,住的多是技术员、来做毕设的学生和博士后。我和一个朋友合租,一个月1200块。 好在那时我在知乎上逐渐有了些名气,那些“科学怪谈”给我带来了广告机会,每月的收入可以养活自己。 反复 2022年下半年,美国科罗拉多州博览会的一场艺术比赛上,一幅借助Midjourney(人工智能图像生成工具)生成的绘画,拿下了数字艺术/数字修饰照片赛道的冠军。这个结果直接惹恼了网上的一众艺术家。 我那时的观点其实是对技术发展乐观,而对个人创作悲观的。 ChatGPT出现之后,我整个人忽然变得空虚起来。创作能让我证明自己的存在感,如果写作都被AI取代,我的价值感将彻底消失。那时,我的创作到底是为了什么。 像堂吉诃德一般,我拿着长矛冲向风车,但风车不在乎。 于是,我加入了科普中国。疫情结束后,我负责科学辟谣板块的内容,后来做了一段时间账号运营和活动策划,随后主导录制了科普中国创作学院的课程,教大家如何讲科普,一做就是两年半。 渐渐地,我看到了AI的另一副面孔。随着AI出现,谣言反而更多了。家族群里到处是“AI如何说……”实则是

    匹配字段正文

星期二

  1. AWS Machine Learning

    在 SageMaker AI 上用 vLLM-Omni 构建实时语音应用(上)

    AWS 发布教程,演示如何用 vLLM-Omni Deep Learning Container 在 Amazon SageMaker AI 上部署 Qwen3-TTS,通过 SageMaker 双向流式连接实现文本流入、24 kHz PCM 音频分块流出,并配套 Gradio 应用。该 DLC 基于 vLLM-Omni v1.5,新增 SageMaker AI 所需的双向流式能力标签与路由中间件,示例使用 v1/audio/speech/stream 原生 WebSocket 路由。

    致的基于镜像的路径,通往 AWS 计算和托管推理服务。 vLLM-Omni 将 vLLM 从以文本为中心的自回归生成扩展到处理并生成多种模态的模型。其异构管道抽象协调多阶段模型工作流,包括自回归阶段和扩散阶段。它还提供流式输出和 OpenAI 兼容 API。 该运行时并不限于 TTS。其支持的模型包括统一全模态模型、自动语音识别(ASR)、TTS、音频生成、图像生成和视频生成。本文以 Qwen3-TTS 作为一个聚焦示例,因为流式语音提供了一种直接方式来演示双向音频输出。 之前的 vLLM 文章介绍了输入路径:麦克风音频进入 Voxtral 模型,转录事件返回给应用。语音应用可以将该转录传递给其对话逻辑,然后使用本示例将响应文本转换为流式语音。两个端点之间的编排不在本演练范围内。 完整示例位于 03-features/bidirectional-streaming-vLLM-Omni。克隆该仓库,以便一起使用部署脚本、共享流式传输层和 Gradio 客户端。 SageMaker 双向流式传输暴露一个通过 HTTP/2 传输的全双工 WebSocket。客户端连接到 SageMaker

    匹配字段正文

  2. AWS Machine Learning

    在 SageMaker AI 上用 vLLM-Omni 生成图像与视频(第二部分)

    在 Amazon SageMaker AI 上,用同一个 AWS vLLM-Omni DLC 镜像部署两个端点:实时端点跑 FLUX.2-klein-4B 生成图像,异步端点跑 Wan2.1-VACE-1.3B 做图像条件视频生成。文本提示词先生成 PNG,再连同运动提示词送入视频端点,生成的 MP4 从 Amazon S3 取回,示例还提供命令行流程和可选的 Streamlit 界面。

    在本文中,你将文本提示词转换为图像,然后在 Amazon SageMaker AI 上将图像动画化为短视频。你从同一个 AWS vLLM-Omni 深度学习容器(DLC)部署两个端点:一个用于 FLUX.2-klein-4B 图像生成的实时端点,以及一个用于 Wan2.1-VACE-1.3B 视频生成的异步端点。该工作流发送文本提示词以生成静态图像,然后将图像和运动提示词传递给视频端点。它从 Amazon Simple Storage Service(Amazon S3)检索 MP4,并提供可选的 Streamlit 界面。 AWS 深度学习容器为 AWS 上的训练和推理打包框架与依赖项。AWS vLLM-Omni DLC 打包了跟踪的 vLLM-Omni 版本,并为 SageMaker AI 添加了路由中间件。vLLM-Omni 将 vLLM 从文本生成扩展到通过 OpenAI 兼容 API 处理或生成文本、音频、图像和视频的模型。 本文是关于专用 AWS DLC 系列文章的延续。第 1 部分使用 vLLM-Omni 和 SageMaker AI 双向流式传输实现实时语音。第 2 部

    匹配字段正文

星期一

  1. TechCrunch AI

    Modal Labs 接近完成 7.5 亿美元融资,估值达 157.5 亿美元

    据知情人士消息,AI 推理基础设施提供商 Modal Labs 正接近完成由 Accel 领投的 7.5 亿美元融资,估值达 157.5 亿美元,较四个月前 4.65 亿美元的估值增长两倍以上。Modal Labs 拒绝置评。这轮融资发生在推理服务需求高涨之际,Baseten、Fireworks、Fal 等推理初创公司也在洽谈以更高估值融资。Modal 成立于 2021 年,总部位于纽约,员工约 150 人,客户包括 Cognition、Suno、Ramp 和 Substack,截至 5 月其年化收入已超过 3 亿美元。今年 7 月,Modal 曾披露一名客户的数据在一次针对 Hugging Face 的恶意 OpenAI 智能体攻击活动中被泄露,其 CTO 称问题源于客户自身代码的漏洞,平台未被攻破。

    交易达成之际,推理服务需求正急剧上升。推理服务是指运行一个已经训练好的 AI 模型以生成输出,尤其是来自依赖开源模型的客户的需求。其他推理初创公司也在洽谈以高得多的估值筹集新资金。据彭博社报道,Baseten 即将完成一轮融资,估值达 260 亿美元,是其 6 月估值的两倍。与此同时,据 The Information 报道,Fireworks 和提供视频与图像生成推理服务的初创公司 Fal 也已与投资者就新一轮融资进行了洽谈,这些融资将大幅提升它们的估值。 尽管这些公司的收入增长迅速,但它们的利润率很薄,主要原因是获取或租赁算力的成本仍然非常高。Fireworks 在 7 月宣布其年化收入已达到 10 亿美元,较上年增长五倍。据我们的消息人士称,多家专注于推理的初创公司预计将在年底前达到同样的收入里程碑。 Modal 由首席执行官 Erik Bernhardsson 和首席技术官 Akshat Bubna 于 2021 年创立。Bernhardsson 是瑞典人,曾在包括 Spotify 和在线抵押贷款机构 Better.com 在内的多家公司用超过 15 年时间组建数据团队。在 S

    匹配字段正文

星期二

  1. Ben's Bites

    GPT-6 家族首个模型 Astra 发布,作者实测消耗 40 亿 token

    OpenAI 发布 Astra,作者称其为 GPT-6 家族的开端,在 ARC-AGI-3 上表现突出,并在 Zapier 的 AutomationBench 上得分最高,定价与 Fable 5.1 相同。作者周末试用时消耗了 40 亿 token,认为它能力波动明显,是展示型而非稳定干活的模型。Codex 中的 Astra 现在可以在不等待回答的情况下继续推进任务,OpenAI 还称已达成自动化研究实习生目标,下一个目标是 2028 年 3 月前做出自动化 AI 研究员。

    自己就这么把各种请求(长任务和短任务)一股脑丢给它感到很恼火。 我还不确定它对我来说是否像是一次巨大的能力飞跃,但每次有新模型出来,我总觉得一定是我的技术问题。我在 X 上看到过一些很棒的演示,人们做出了看起来疯狂的东西(好像每个人都在做 3D 世界和游戏?)。 有两样我一次就做出来的东西想分享,因为我还不知道拿它们怎么办: “被遗忘的设备”——这些图片是由图像生成工具创建的(这玩意儿相当疯狂!)。我的想法是弄一堆这样的东西,然后你可以点击并操作每一个(如果我还有 token 的话)。 p.s. 你可以在左下角看到我的智能体做出的 3 个版本(我在开始一个想法时总是会创建 3 个版本,这样我能感觉出自己最喜欢哪个方向)。 “世界电台”——一个老式 iPod 界面,可以实时播放来自世界各地的电台。不确定我原本打算在这里做什么,但它运行得相当不错(有些粗糙的地方,比如顶部按钮,搞什么鬼?!😂) 这周我打算花些时间,试着找出一些更好地使用 Astra 的方法(而不是让它消耗大量 token),然后我会告诉你们我的体验。 Astra 是 GPT-6 家族的开端。它在 ARC-AGI-3 上表现

    匹配字段正文

星期五

  1. One Useful Thing

    Ethan Mollick 提前试用 GPT-5.5:能力提升仍在加速

    Ethan Mollick 提前获得 GPT-5.5 试用权限,认为其能力提升明显,其中 GPT-5.5 Pro 完成同一 3D 港口城镇模拟任务用时 20 分钟,上一代 GPT-5.4 Pro 为 33 分钟。他用 Codex 配合 GPT-5.5 处理自己积压十年的众筹数据,仅用四个提示词就生成了一篇含真实文献综述和统计方法的论文,他认为质量相当于博士二年级项目成果。他还提到 OpenAI 新的图像模型(有时被称为 GPT-imagegen-2)能渲染高质量文字和图像,但 AI 在长篇虚构写作上仍存在文风浮夸、对话同质等粗糙之处。

    ,它有一个新的图像模型 这个新模型现在可以渲染高质量的文字,并创建几乎任何你能描述的图片。老读者知道我的水獭测试,它要求 AI 制作一张水獭在飞机上用 wifi 的图片。与其再描述一遍,不如让新的图像模型(有时被称为 GPT-imagegen-2)替我解释:“一张照片,一位水獭科学家在展示 Ethan Mollick 的水獭测试结果,该测试展示了一个 AI 图像生成器能多好地生成一张水獭坐在飞机上用 wifi 的图片” 也许你想看看关于它的学术论文?“给我看看关于水獭测试的学术论文的第一页,格式精美,放在桌子上”(可以随意放大文字) 或者也许我们应该直接把它做成艺术?“现在展示一个精致的艺术画廊,墙上的每一幅图像都是一只水獭在飞机上用笔记本电脑,风格分别采用克里姆特、罗斯科、马蒂斯、莫奈、毕加索、提香、伦勃朗和奥基夫。每幅下面都应该有可读的标签。”(这个值得放大看) 所有这些都非常酷,几个月前还不可能做到,但它也很有用。一个能生成详细文字和图像的图像生成器可以用来制作 PowerPoint 幻灯片、产品模型、示例网站或任何你要求的东西。但这只是一个工具,真正的魔力发生在你把工具框架、应

    匹配字段正文

星期二

  1. 智慧城市行业分析

    每日AI快讯:智谱开源GLM-4.7,MiniMax、智谱通过港交所聆讯

    智谱AI上线并开源GLM-4.7,在SWE-bench Verified上取得73.8%的SOTA分数,工具调用任务τ²-Bench得分87.4,超越Claude Sonnet 4.5。MiniMax与智谱先后通过港交所聆讯,前者2024年收入同比增长782%至3050万美元,后者估值244亿元、11月日均token消耗量达4.2万亿。同期OpenAI发布GPT-5.2-Codex,Google推出Gemini 3 Flash,响应速度提升3倍。

    。核心更新包括:上线基于Seedance 1.5 Pro的“视频3.5 Pro”模型,支持音视频联合生成及方言口型匹配;智能多帧2.0实现“视频+视频”拼接与片段精细化编辑,支持最长20个素材的一镜到底;图片4.1与4.5模型分别强化平面设计能力与人像美观度。来源:即梦AI OpenAI最强AI生图模型GPT Image 1.5登场 OpenAI发布全新旗舰图像生成模型GPT Image 1.5,模型在提示词遵循、细节保留和文本渲染方面实现重大突破,能精准生成或编辑图像并保持原图光线、构图等核心特征。来源:IT之家 小米正式发布并开源新模型MiMo-V2-Flash 小米正式发布开源大模型MiMo-V2-Flash,模型采用MoE架构,总参数3090亿,活跃参数150亿。在多项基准测试中表现优异,其编程能力尤为突出,在SWE-bench测试中以73.4%的解决率超越所有开源模型。模型通过混合滑动窗口注意力、多Token预测等技术创新,实现了150 tokens/秒的高推理速度及极低的推理成本。来源:APPSO 腾讯混元世界模型1.5发布,国内首个开放实时体验 腾讯正式发布混元世界模型1

    匹配字段正文

星期一

  1. One Useful Thing

    Ethan Mollick:当下使用 AI 的一份有主见指南

    Ethan Mollick 发布了一份当下使用 AI 的有主见指南,建议按 OpenAI 公布的真实使用数据判断何时用免费模型、何时升级付费。他指出最先进的四套系统是 Claude、Gemini、ChatGPT 和 Grok,付费档为每月 20 美元或约 200 美元,前者适合大多数人,后者面向复杂技术与编程需求。做正经工作时建议手动选择 Agent 模型,例如 GPT-5 Thinking Extended 或 GPT-5 Thinking Heavy。

    型的变体合计占据了前 35 名。你使用的任何其他提供前沿 AI 的服务,从 Microsoft Copilot 到 Perplexity(两者都提供一定的免费使用),都是以这九种 AI 中的一个或多个为基础驱动的。 你应该如何在它们之间做选择?一些免费系统(如 Gemini 和 Perplexity)擅长网络搜索,而另一些则完全无法搜索网络。如果你想要免费的图像生成,最佳选择是 Gemini,ChatGPT 和 Grok 紧随其后。但归根结底,这些 AI 在许多细微之处存在差异,包括隐私政策、访问级别、能力、它们处理伦理问题的方式,以及“个性”。而所有这些都会随时间波动。因此,基于这些因素选择一个你喜欢的模型并使用它。不过,如果你正在考虑可能升级到付费账户,我建议从 Anthropic、Google 或 OpenAI 的免费账户开始。如果你只想使用免费模型,开放权重模型和 Microsoft Copilot 之类的聚合服务有更高的使用限额。 现在说难的部分。 如果你想认真使用高级 AI,你需要付费,每月 20 美元或约 200 美元,取决于你的需求(不过各公司现在正在世界一些地区试验其

    匹配字段正文

星期一

  1. The Gradient

    AI 中的性别偏见研究综述

    AI 模型会反映甚至放大现实世界中的性别偏见,量化这些偏见是缓解问题的前提。文章梳理了词嵌入中的性别刻板类比、面部识别系统对深肤色女性错误率高达 34.7%(浅肤色男性仅 0.8%),以及指代消解模型倾向将职业与男性代词关联等研究。

    见很重要,但由于文化差异,将数据直接翻译成另一种语言往往不够(例如,沃尔玛、优步和W-4等概念可能不存在于非美国文化中)。CBBQ和KoBBQ等数据集分别对BBQ数据集进行了中文和韩语语言与文化的文化翻译。 为何重要:虽然这一单一基准远非全面,但将其纳入评估很重要,因为它提供了一种可自动化(例如无需人工评估者)的方法来测量生成式语言模型中的偏见。 简要总结:图像生成模型(如DALL-E 2、Stable Diffusion和Midjourney)包含社会偏见,并持续对边缘化身份表现不足。 详细总结:AI图像生成模型倾向于生成看起来大多是白人和男性的图像,尤其是在被要求生成处于权威职位的人物的图像时。例如,对于“CEO”等提示词,DALL-E 2有97%的时间生成白人男性。作者创建了若干工具,通过职业与性别/族裔视角下的一组定向提示词,帮助审计(或理解模型行为)此类AI图像生成模型。例如,这些工具允许对不同职业所生成性别的差异进行定性分析,或查看平均面孔的样子。它们可在此HuggingFace空间获取。 为何重要:AI图像生成模型(以及如今的AI视频生成模型,如OpenAI的Sora和R

    匹配字段正文