搜索“推理”

Together AI 与 Adaption 合作，将 Together Fine-Tuning 集成到 Adaptive Data，使用户可优化训练数据、以建议的超参数直接执行微调，并部署模型进行评估和推理。该工作流支持 LoRA 和全量微调、超过 100B 参数的开放模型、训练前成本估算、运行 ETA 跟踪，以及向 Hugging Face Hub 导出模型。 · Together AI has partnered with Adaption to integrate Together Fine-Tuning into Adaptive Data, enabling users to optimize training datasets, run fine-tuning directly with suggested hyperparameters, and deploy models for evaluation and inference. The workflow supports LoRA and full fine-tuning, open models with ove

匹配字段摘要

Together AI 现已提供 DeepSeek-V4 Pro，Serverless Inference 支持 512K-token 上下文，Dedicated Inference 可提供完整 1M 上下文、预留容量和工作负载隔离。该模型支持三种推理模式，价格为每 1M tokens 输入 $2.10、缓存输入 $0.20、输出 $4.40。 · Together AI now offers DeepSeek-V4 Pro with a 512K-token context window on Serverless Inference, while Dedicated Inference can provide the full 1M context, reserved capacity, and workload isolation. The model supports three reasoning modes and costs $2.10 per 1M input tokens, $0.20 per 1M cached input tokens, and $4.40 per

匹配字段摘要

匹配字段摘要

匹配字段摘要

匹配字段摘要

Together AI 已上线 NVIDIA Nemotron 3 Nano Omni，为开发者提供托管式生产级多模态推理服务。该开放模型采用混合 Transformer-Mamba MoE 架构，总参数量为 30B、每个 Token 激活约 3B 参数，并支持最高 256K Token 的共享多模态上下文。开发者可通过 API 部署，也可在云端、本地或隔离环境中自行部署。 · Together AI has made NVIDIA Nemotron 3 Nano Omni available to developers as a managed, production-grade multimodal inference service. The open model uses a hybrid Transformer-Mamba MoE architecture with 30B total parameters, activates about 3B parameters per token, and supports up to 256K tokens of shared mu

匹配字段摘要

小米 MiMo 宣布 SGLang 与 vLLM 已支持 MiMo-V2.5 系列，开发者可在开源当天用这两个推理框架启动该系列模型。官方感谢 SGLang 项目（来自 lmsysorg）与 vllm project 快速跟进。该系列此前已以 MIT 协议开源，包含 MiMo-V2.5-Pro 和原生全模态的 MiMo-V2.5，两者均支持 1M-token 上下文窗口。

匹配字段摘要

Together AI 提出分布感知推测解码（DAS），在不改变模型输出或奖励质量的情况下，将强化学习后训练的 rollout 加速最高 50%。DAS 以近期轨迹构建自适应后缀树，并通过长度感知调度平衡 GPU 负载和推测预算。在数学推理的 DSR-sub 数据集上，rollout 时间减少超过 50%；采用单元测试奖励信号的代码生成任务中减少约 25%。 · Together AI introduced distribution-aware speculative decoding (DAS), accelerating RL post-training rollouts by up to 50% without changing model outputs or reward quality. DAS builds an adaptive suffix tree from recent trajectories and uses length-aware scheduling to balance GPU workloads and speculation budgets. It

匹配字段摘要

匹配字段摘要

匹配字段摘要、正文

匹配字段摘要

匹配字段摘要

匹配字段摘要

匹配字段摘要

匹配字段摘要

匹配字段摘要

匹配字段摘要

LG AI Research 发布 EXAONE 4.5，这是 LG 首个以开源权重方式发布的视觉语言模型（VLM），在 EXAONE 4.0 基础上集成自研 Visual Encoder，采用原生多模态预训练同时学习文本与图像。模型引入 Multi-Token Prediction（MTP）模块，推理速度较此前方法提升 1.5 倍以上，并采用自研 AGAPO 强化学习算法提升逻辑推理能力。官方称其在 MMMU-Pro、MathVision、CharXiv、OCRBench v2 等基准上优于或接近 Qwen 3 VL 32B、GPT-5-mini、Claude Sonnet 4.5，在韩语视觉基准 k-viscuit 和 KRETA 上表现领先，模型已在 Hugging Face 发布并附技术报告。

匹配字段摘要

匹配字段摘要

匹配字段摘要