Vapi 盘点了 Vosk 在医疗语音识别场景下的五个替代模型：Mozilla DeepSpeech、Wav2Vec 2.0、SpeechBrain、ESPnet 和 OpenAI Whisper，其中 Whisper 基于 68 万小时多语言监督数据训练。这五个模型均可通过自定义 STT 配置接入 Vapi 的语音 AI 流水线，由 Vapi 负责编排、延迟与 HIPAA 合规。文章按医学术语理解、噪声环境、减轻医护负担和安全性四项标准评估各模型。
匹配字段摘要、正文
vLLM 集成 Transformers 建模后端，让兼容模型在沿用 Transformers 实现的同时获得 vLLM 的吞吐量与延迟优化。该后端现已支持视觉语言模型，并可通过 model_impl="transformers"、OpenAI 兼容 API 或 LLM API 部署；对于 vLLM 尚未原生支持的兼容模型，系统也可自动切换到 Transformers 实现。
vLLM 集成 Transformers 建模后端，让兼容模型在沿用 Transformers 实现的同时获得 vLLM 的吞吐量与延迟优化。该后端现已支持视觉语言模型，并可通过 model impl="transformers"、OpenAI 兼容 API 或 LLM API 部署；对于 vLLM 尚未原生支持的兼容模型，系统也可自动切换到 Transformers 实现。
匹配字段摘要、正文
METR 发文主张 AI 系统的推理过程应当既「可读」（人类能读懂）又「忠实」（真实反映模型的决策过程），认为这有助于发现 AI 错误、检测隐藏议程、监控欺骗行为和识别能力造假。文章指出 OpenAI、Anthropic、xAI、Google DeepMind 和 DeepSeek 都在过去四个月里发布了推理模型，其当前产出的推理已具价值、值得保留。
匹配字段摘要、正文
Cartesia 发布教程，介绍如何用其 API 与 Sonic 模型构建语音 AI 智能体。工作流包括语音转文本、自然语言处理、信息检索、响应生成和文本转语音。教程建议使用 WebSocket 或流式端点以降低延迟，并提到可用 Whisper API 或 Google Speech to Text 等做语音识别，用 Claude Sonnet 或 OpenAI O1/4O 生成响应。
匹配字段摘要、正文
斯坦福 Hazy Research 实验室等研究者提出 Minions 方法，让 Llama 3.2 等本地小模型与 GPT-4o 等云端大模型协作，把部分 LLM 负载转移到消费级设备，以降低云端成本。其中 Minion 协议让云端模型与单个本地模型自由对话直至达成结果，远程成本降低 30.4 倍，同时保留 87% 的云端模型性能；MinionS 协议由云端模型把任务拆成小块子任务、由小模型并行处理，远程成本降低 5.7 倍，保留 97.9% 的性能。论文附带开源代码，可通过 Ollama 和 OpenAI API Key 运行 demo。
匹配字段摘要、正文
Benedict Evans 以 OpenAI 官方产品页上的智能手机市场示例报告为对象，检查 Deep Research 的数据来源与具体数字。他发现该表格引用 Statcounter 和 Statista，但 Statcounter 衡量的是流量而非采用率，且并未给出报告所称的日本市场 69% iOS 数据；Statista 背后的 Kantar Worldpanel 实际给出的是 63% Android 和 36% iOS，与报告结论相反。他认为问题在于向模型提出的是概率性问题，却要求确定性的数字答案，而只要表格中存在错误，用户就无法信任整份报告；不过在有领域专长、只需把数天工作压缩到数小时的场景下，这类工具仍有价值。
匹配字段摘要、正文
安全研究者 Johann Rehberger 实测发现，ChatGPT Operator 可被网页上的提示注入劫持，先跳转到用户已登录的站点读取邮箱、住址、电话等个人信息，再粘贴进第三方页面直接外传，且无需点击提交按钮。他在 Booking.com、The Guardian、YC Hacker News 等站点上均复现成功，并观察到 OpenAI 的缓解措施包括用户监控、对话内确认请求和提示注入监控，但这些防御是概率性的，通常在危险动作发生前才触发。作者约三周前已向 OpenAI 披露相关绕过细节，并表示该攻击场景目前已不再生效。
匹配字段摘要、正文
Sam Altman 提出 AI 经济学的三项观察，认为模型智能随训练与推理资源投入增长，同等智能水平的使用成本约每 12 个月下降 10x，而智能提升带来的社会经济价值呈超指数增长。OpenAI 正开始推出最终可充当虚拟同事的 AI 智能体，但仍需大量人工监督和指导。文章还讨论了 AGI 对科学进步、商品价格、就业形态及资本与劳动权力平衡的潜在影响，并主张扩大个人对技术的控制与收益分配。
匹配字段摘要
吴恩达就 DeepSeek-R1 发布撰文，认为中国在生成式 AI 上正快速缩小与美国的差距，开源权重模型正在把基础模型层商品化。他给出价格对比：OpenAI o1 每百万输出 token 收费 60 美元，DeepSeek R1 为 2.19 美元，相差近 30 倍。他还提到 DeepSeek 团队因芯片限制在 H800 上做优化，最终以不到 600 万美元算力成本完成训练，并认为扩大规模并非唯一路径。
匹配字段摘要
Llama Stack 引入两种 vLLM 推理 Provider，分别通过 OpenAI 兼容服务器远程调用，以及与 Llama Stack 服务器并行运行。官方以 Llama-3.2-1B-Instruct 演示本地容器和 Kubernetes 部署，并通过 Llama Stack Client 测试推理请求。
匹配字段摘要、正文
Cartesia 发布 2024 语音 AI 现状报告，总结语音交互新架构、企业级 API 进展与语音代理平台兴起。报告指出，OpenAI 语音模式、Kyutai Moshi 等推动语音到语音模型发展，Cartesia 基于状态空间模型的 Sonic TTS 实现高效部署。Deepgram Nova-2 词错率降低 30%，LLM 成本从 GPT-4 的 45 美元/百万 tokens 降至 Llama 3.1 70B 的 2.75 美元/百万 tokens。
匹配字段摘要、正文
The Audacious Project 为 Canary 项目促成约 3800 万美元资助，该项目由 METR 与 RAND 合作，聚焦开发并部署用于监测 AI 系统危险能力的评估方法，其中约 1700 万美元将支持 METR 的工作。METR 表示将用这笔资源开发评估前沿 AI 系统作为自主智能体能力的方法，并支持企业、政府及其他研究伙伴运行这些测试。METR 是一家研究非营利机构，近期工作包括测量前沿 AI 系统的自主能力、评估 OpenAI o1-preview 等系统。
匹配字段摘要、正文
Ollama 宣布支持工具调用，模型可借助已知工具回答提示词，从而完成更复杂的任务或与外部世界交互。在 Ollama API 的 tools 字段中提供可用工具列表后，受支持模型会返回 tool_calls 响应，工具结果可通过 tool 角色的消息回传。支持模型包括 Llama 3.1、Mistral Nemo、Firefunction v2 和 Command-R +，其 OpenAI 兼容端点也已支持工具，并支持流式工具调用与强制指定工具。
Ollama 宣布支持工具调用，模型可借助已知工具回答提示词，从而完成更复杂的任务或与外部世界交互。在 Ollama API 的 tools 字段中提供可用工具列表后，受支持模型会返回 tool calls 响应，工具结果可通过 tool 角色的消息回传。支持模型包括 Llama 3.1、Mistral Nemo、Firefunction v2 和 Command-R +，其 OpenAI 兼容端点也已支持工具，并支持流式工具调用与强制指定工具。
匹配字段摘要、正文
Replit 发布首版 Replit Guides，提供端到端学习新技能和构建应用的内容，并与多家科技公司合作推出首批指南。指南分两类：15 分钟内完成的 Quickstarts，以及从第一行代码到构建 AI 聊天机器人等应用的较长教程。首批 Quickstarts 覆盖 Gemini 1.5 Flash、Groq、GPT-4o、Slack 和 Streamlit，应用指南则涉及 Groq、Airtable、Llama、LangChain、Neon、OpenAI、Anthropic 和 Gradio。
匹配字段摘要、正文
Vapi 官方博客给出语音 AI 助手性能优化清单：在 Advanced 设置中把默认 0.1 秒的 Response Delay 和 LLM Request Delay 调为零，模型上 OpenAI 的 GPT-3.5 明显快于 GPT-4，转写推荐 Deepgram 而非 Talk Scribe，语音供应商中 Rhyme AI 与 Azure 响应最快。此外应减少自定义函数调用、让 transient 助手服务器与 Vapi 同区域部署，并通过精简提示词结构降低延迟。
匹配字段摘要、正文
Jakub Pachocki 向即将离开的 Ilya 致谢，称其多年来既是导师，也是重要合作伙伴。他表示，Ilya 对深度学习前景的远见为 OpenAI 和当今 AI 领域奠定了基础，并将怀念与他共事。
Jakub Pachocki 向即将离开的 Ilya 致谢，称其多年来既是导师，也是重要合作伙伴。他表示，Ilya 对深度学习前景的远见为 OpenAI 和当今 AI 领域奠定了基础，并将怀念与他共事。 · Jakub Pachocki thanked the departing Ilya for years of mentorship and collaboration. He said Ilya’s vision for deep learning was foundational to OpenAI and today’s AI field, and that he would miss working with him.
匹配字段摘要、正文
OpenAI 将 GPT-4o 免费提供给 ChatGPT 用户，并推出具有人类级响应速度和表现力的新语音及视频模式。Sam Altman 表示，这种交互快速、自然且实用，未来还将加入可选的个性化、信息访问和代用户执行操作等能力。
匹配字段摘要、正文
Ollama 现已支持嵌入模型，让开发者能构建将文本提示与已有文档结合的 RAG 应用。用户可拉取模型后通过 REST API、Python 或 JavaScript 库生成向量嵌入，并已集成 LangChain 和 LlamaIndex。Ollama 还预告将支持批量嵌入、OpenAI 兼容的 /v1/embeddings 端点，以及 ColBERT、RoBERTa 等更多嵌入模型架构。
匹配字段摘要、正文
Vapi 博客文章借 OpenAI Sora 发布引发的恐慌，逐一回应 ChatGPT 列出的八条“人类害怕 AI”的理由，上篇讨论失业与控制权丧失。文章指出 Sora 本质是结合 Transformer 架构的扩散模型，扩散模型 2015 年由斯坦福研究者提出、Transformer 2017 年由 Google 研究者提出，生成式 AI 的基础技术已存在数十年，真正变化的是可生成对象的复杂度和训练规模。
匹配字段摘要、正文
Ollama 在 Windows 上推出预览版，可在原生 Windows 环境中拉取、运行和创建大语言模型。该版本内置 GPU 加速，支持 NVIDIA GPU 以及 AVX、AVX2 等 CPU 指令集，无需配置或虚拟化；同时提供完整模型库（含 LLaVA 1.6 等视觉模型，图片可拖入 ollama run）和后台运行的 Ollama API（http://localhost:11434），并保持与其他平台一致的 OpenAI 兼容性。
匹配字段摘要、正文