Manus 推出 Manus Flex，支持自带 API key 接入
Manus 推出 Manus Flex，允许用户自带 API key 接入 Manus，在 Manus 的 agent harness、工具和执行环境中使用受支持的模型服务商。同时启动 Manus Flex Inference Partner Program，首批推理合作伙伴为 OpenRouter、Fireworks AI 和 Modal，提供更广泛的模型选择。详情见官方博客。
匹配字段摘要
←搜索结果
搜索“推理”
Inception 的 Mercury 扩散 LLM 上线 Azure AI Foundry
Inception 宣布 Mercury 扩散大语言模型在 Azure AI Foundry 上线，面向企业开发者提供商用规模的 dLLM。该模型通过扩散架构并行生成多个 token，推理速度最高可达同类自回归模型的 10 倍，在知识、编码、指令遵循和数学基准上与 Gemini 2.5 Flash、Claude 4.5 Haiku 相当。它支持 128K token 上下文窗口、原生工具调用和 JSON schema 结构化输出，API 兼容 OpenAI，目前在美国和加拿大区域提供，软件许可费用为 $0.78/小时，计算费用另计。
匹配字段摘要
xAI 的 Grok 4.7 上线 Amazon Bedrock
xAI 的 Grok 4.7 已在 Amazon Bedrock 上线，支持 500K token 上下文窗口和 low、medium、high、xhigh 四档可配置推理强度，通过 bedrock-runtime 的跨区域推理配置文件提供服务，支持 Responses、Chat Completions 和 Converse API。xAI 称这是其编码与知识工作能力最强的模型，训练中加大了长耗时任务的强化学习比重，因此更擅长自我校验并更有效利用长上下文。Artificial Analysis 的独立评测显示其在长周期智能体知识工作和编码智能体上提升最大，但每任务输出 token 约为原来的两倍。
匹配字段摘要
Eleven v4 Turbo 上线 ElevenAgents
ElevenLabs 宣布 Eleven v4 Turbo 已在 ElevenAgents 中可用，为实时对话提供更具表现力的语音。该模型中位推理延迟约 100 ms，支持 90 多种语言，并在日语、巴西葡萄牙语、普通话和粤语上改进最大；通话中可随用户切换语言，并保持同一音色或切换为母语级音色。ElevenLabs 称 Eleven v4 在 Artificial Analysis 排名第一，在盲测中约 75% 的听众更偏好它。
匹配字段摘要
华为开源 openPangu 2.0 预训练、微调与强化学习后训练代码
华为开源了 openPangu 2.0 的预训练、监督微调和强化学习后训练代码，进一步扩展其开源 AI 模型计划。该计划围绕昇腾硬件上的原生训练与推理构建，相关模型组件正逐步加入开源平台。
匹配字段摘要
Google 发布 Gemini 3.8 Flash，展示四个开发者用例
Google 发布 Gemini 3.8 Flash，称其在软件工程、智能体任务和跨多步推理上较 3.7 Flash 有明显提升，性能接近成本更高的前沿模型。官方称提升来自设计取向上的更肯下功夫，即在复杂任务中执行更多推理步骤并迭代调用工具。文中展示了四个用例，包括用 Google Antigravity 绘制卫星与空间站实时轨道、把青海波图案转成动态水墨画、生成霸王龙骨架，以及构建自动变速箱交互模型，用户可在 Google AI Studio 等工具中试用。
匹配字段摘要
费米宇宙推出全链路量子增强大模型 FermiQLLM 1.0
费米宇宙推出全球首个全链路量子增强大模型 FermiQLLM 1.0，基于 Qwen 开源基座模型改造，不依赖容错量子计算机，可在现有 GPU 基础设施上训练和部署。内测显示，对标同等参数量级传统大模型，其推理性能提升超过 15%，持续强化学习环节训练成本下降 25% 以上；在 MATH-500、GPQA-Diamond、BBH 等基准上综合性能提升 10%～20%。该公司成立于今年 5 月，种子轮累计融资 1 亿元，投后估值约 10 亿元，近一半员工有清华背景。
匹配字段摘要、正文
开源 AI-SQL 引擎 Quail 发布，29 条查询基准比 vLLM 快 1.84 倍
Full Stack Data Lab 的 Shreya Shankar 等人与 Modal 共同发布开源 AI-SQL 引擎 Quail，可在 SQL 中用自然语言条件让 LLM 判定数据的筛选与连接，代码以 MIT 许可证在 GitHub 公开。Quail 将查询计划与 LLM 推理统一优化，通过批处理流水线和 KV 缓存复用来减少 GPU 等待与重复计算。在 29 条查询的 QUAIL-B 基准上（Qwen3 4B FP8、单卡 H100），Quail 有 27 条快于 vLLM 基线，几何平均加速 1.84 倍；医疗报告查询 BIO-4 上为 29.26 分钟对 6.84 小时，快 14.04 倍，但 AGENT-1 上 vLLM 反而快 2.32 倍，因为 Quail 尚不支持跨行前缀缓存。
匹配字段摘要
Baseten 上线 NVIDIA Nemotron 3 Diarization，单卡可跑 500 路实时说话人分离
Baseten 在 Model Library 上线 NVIDIA Nemotron 3 Diarization，提供预录、流式和实时转写三种预设，单次推理即可标注最多 8 位说话人，间隔最低 320ms。该模型约 100M 参数，基于 NVIDIA Streaming Sortformer，同一 checkpoint 支持 0.32 至 30.4 秒四档算法延迟；在 RTX PRO 6000 上可维持 500 路以上并发分离流，加入转写后为 190 路。AISHELL-4 低延迟档 DER 为 9.8%，对比 Streaming Sortformer v2.1 的 27.2%，模型已在 Hugging Face 和 Baseten Model Library 开放。
匹配字段摘要
NVIDIA 发布 Isaac ROS 5.0，为机器人开发引入智能体工作流
NVIDIA 在 ROSCon 发布 Isaac ROS 5.0，为基于 ROS 的机器人开发引入智能体工作流与新的平台支持，并新增用于环境搭建和操作的 Isaac 技能。该版本支持 ROS Lyrical 和 Ubuntu 24.04，FoundationPose 的智能体推理库让机器人感知和跟踪物体位姿的速度最高提升 5.5 倍，抓取放置流程也作为独立技能开放。Isaac ROS 5.0 支持从 Jetson Orin Nano 到 Jetson Thor 的可扩展算力，Mentee Robotics、Universal Robots、ROBOTIS 等公司已将其用于各自机器人平台。
匹配字段摘要
GPT-6 Sol 与 GPT-6 Luna 在 Amazon Bedrock 正式可用
OpenAI 的 GPT-6 Sol 和 GPT-6 Luna 现已在 Amazon Bedrock 正式可用，两者 API 定价均明显低于前代 GPT-5.6。GPT-6 Sol 面向开发与运维中反复出现的复杂任务，可写功能、调试、重构与审查代码、分析数据并完成跨工具的多步流程；OpenAI 内部事实性评测显示其事实性错误约为 GPT-5.6 Sol 的一半。GPT-6 Luna 面向高频重复任务，如从大规模文档中抽取信息、摘要、分类和定向问答，并支持按请求调整推理投入。两者均支持显式提示词缓存，推理数据不用于模型训练。
匹配字段摘要
Transformers 现已支持运行 llama.cpp 的 GGUF 量化模型
Hugging Face 宣布 transformers 现已支持直接加载 llama.cpp 的 GGUF 量化权重，只需在 from_pretrained 中传入 gguf_file 即可，无需额外配置。在 MacBook Pro M2 Max 上对三个 GGUF checkpoint 的测试显示，transformers 的生成速度接近 llama.cpp，但前者包含 prefill 而 llama-bench 只统计解码吞吐。当前打包推理路径仅支持 MPS，覆盖 Qwen3.5 稠密与 MoE 架构，填充批处理性能仍有待改进。
Hugging Face 宣布 transformers 现已支持直接加载 llama.cpp 的 GGUF 量化权重，只需在 from pretrained 中传入 gguf file 即可，无需额外配置。在 MacBook Pro M2 Max 上对三个 GGUF checkpoint 的测试显示，transformers 的生成速度接近 llama.cpp，但前者包含 prefill 而 llama-bench 只统计解码吞吐。当前打包推理路径仅支持 MPS，覆盖 Qwen3.5 稠密与 MoE 架构，填充批处理性能仍有待改进。
匹配字段摘要
Baseten 发布 Hosted Tools，首推网页搜索 Grounded Inference
Baseten 发布 Hosted Tools，首个工具为网页搜索 Baseten Grounded Inference，首批接入 Exa、Keenable、Parallel 和 You.com 四家搜索服务商。开发者只需在 Messages、Chat Completions 或 Responses 请求中加一项配置即可启用，搜索在 Baseten 推理栈内服务端执行，模型按原生工具调用能力自行决定是否检索并迭代。Baseten 称其基准测试中端到端延迟比客户端工具方案降低 15%，该功能目前以 playground 预览形式开放，限速 25 RPM 并赠送 2 美元额度。
匹配字段摘要
Google 在 Gemini Enterprise Agent Platform 上线 Agent Anomaly Detection 私密预览
Google 在 Gemini Enterprise Agent Platform 上推出 Agent Anomaly Detection 私密预览，通过分析智能体的推理轨迹、工具调用和执行流程来识别越界行为、可疑意图与策略违规。该功能异步运行不增加请求延迟，检测结果带严重等级、说明和处置建议并同步到 Security Command Center，内置检测器覆盖 OWASP Agentic Top 10 中的工具滥用、身份与权限滥用、级联失败和失控智能体等风险。用户还可通过 API 读取会话异常，在 ADK 回调或插件中按严重等级和概率阈值拦截后续工具调用。
匹配字段摘要
OpenAI 推出 ChatGPT for Financial Services
OpenAI 推出 ChatGPT for Financial Services，将内置金融数据与 GPT-6 Astra 的推理能力结合。银行团队可使用 Daloopa、Pitchbook 和 LSEG 等数据开发研究、构建金融模型并制作定制客户材料。
匹配字段摘要
DeepSeek 支持开源并扩展 V4.1-Flash 部署选项
DeepSeek 将与开源社区合作支持 V4.1-Flash 推理，并探索更多部署选项。团队还面向计划使用 2,000 GPUs 和存储集群进行大规模部署的用户提供沟通渠道。
DeepSeek 将与开源社区合作支持 V4.1-Flash 推理，并探索更多部署选项。团队还面向计划使用 2,000 GPUs 和存储集群进行大规模部署的用户提供沟通渠道。 · DeepSeek will work with the open-source community to support V4.1-Flash inference and explore additional deployment options. The team is also inviting discussions with users planning large-scale deployments involving 2,000 GPUs and a storage cluster.
匹配字段摘要
Google 用 Gemini 3.8 Flash 与 ThreeJS 构建交互式 3D 拆解可视化
Google AI Developers 展示了用 Gemini 3.8 Flash 与 ThreeJS 在 Google AI Studio 中构建的交互式 3D 可视化工具，用于测试该模型的复杂推理能力。该模型能为硬件设备生成比例真实的拆解图，自动把设备分解成多个图层，用户可通过拆解滑块展开并查看各层结构。官方同时给出了开始使用 3.8 Flash 的链接。
匹配字段摘要
Cursor 推出自托管机器，让云智能体在自有基础设施上运行
Cursor 发布 Self-Hosted Machines，允许团队在自己的网络内运行云智能体，执行环境由用户管理，智能体循环、推理和规划仍在 Cursor 云端。团队可通过 Cursor CLI 启动 worker 连接基础设施，支持 My Machines 和 Pools 两种配置，Pools 能按需扩缩容并服务任意仓库。该功能与 AWS Lambda、Cloudflare、Coder、Daytona、E2B、Modal、Namespace 和 Vercel 等沙箱提供商合作，Linux 和 Mac 均支持浏览器控制。
匹配字段摘要
Google DeepMind 为 Gemini 3.7 Flash 等模型推出智能体视频理解功能
Google DeepMind 为 Gemini 3.7 Flash、3.6 Flash 和 3.5 Flash-Lite 推出智能体视频理解功能，模型可动态扫描视频片段，token 消耗最多降低 88%、成本最多降低 66%、准确率最多提升 7%。该功能已在 Google AI Studio 和 Gemini Enterprise Agent Platform 的 Gemini API 中上线，支持视频上传和 YouTube 视频，按标准 token 计费且不额外收费。相比固定 1 FPS 的静态处理，它结合模型推理与原生视频工具，按需检索画面、音频和转录文本，后续还将接入 Gemini 应用和 YouTube 的 Ask YouTube 功能。
匹配字段摘要
NVIDIA 在 GB300 NVL72 上实测 Qwen3.8-Flash-Next 智能体编码
阿里发布 Qwen3.8-Flash-Next 权重，作为 Qwen4 架构预览供开发者实验评估，这是一个 125B 参数、每 token 激活 6B 的多模态 MoE 模型，原生上下文窗口 262,144 token，借助 YaRN 可扩展至 1M token。NVIDIA 提供 SGLang、vLLM 和 TensorRT LLM 的 Day 0 功能支持，并在 GB300 NVL72 上验证推理，单 GPU 吞吐超过 16K token/秒、单用户超过 200 token/秒。开发者可用 NVIDIA NeMo AutoModel 微调、用 NeMo RL 做强化学习，权重可从 Hugging Face 或 ModelScope 下载。
匹配字段摘要