Mac version of Ollama adds offline text-to-speech, up to 35% faster than the original solution
English text is being prepared.
Ollama announced on October 24 that its Mac app officially supports text-to-speech generation, with Windows and Linux versions to follow. The first supported speech model is the Phonon series developed by Gradium, which users can run offline on Apple Silicon Macs without cloud services. Official tests show that on a MacBook Pro with the M5 Max chip, Phonon, while achieving a word error rate comparable to the Hugging Face Transformers reference implementation, generates speech 35% faster than Gradium's own implementation.
Why read this
AI score 58
Ollama brings a local TTS model to Mac, and provides word error rate and speed comparisons with the reference implementation, which can be used to judge the usability of offline speech generation.
Topics
Body
Mac 版 Ollama 新增离线生成 AI 语音:数据不出门,速度比原方案最高快 35%
2026-10-27 09:00 IT之家 - 故渊
IT之家 10 月 27 日消息,本地运行 AI 模型的开源平台 Ollama 于 10 月 24 日宣布,其 Mac 应用正式支持文本转语音(TTS)生成,Windows 和 Linux 版本也将随后跟进。
科技媒体 9to5Mac 认为这是 Ollama 首次加入语音生成能力,让本地 AI 从“能读会写”进一步迈向“能开口说话”。
首个支持的语音模型是 Gradium 开发的 Phonon 系列。该模型体积较小、技术指标先进,用户无需依赖云端服务,可通过 Ollama 直接下载并在 Apple Silicon Mac 上运行,更适合注重隐私、需要离线使用的场景。
在 macOS 上,Ollama 采用苹果开源机器学习框架 MLX,充分利用 Apple Silicon 的统一内存架构来提升运行效率。
官方测试显示,在搭载 M5 Max 芯片的 MacBook Pro 上,Phonon 在保持了与 Hugging Face Transformers 参考实现相当的词错误率前提下,语音生成速度比 Gradium 自身实现快 35%。
IT之家援引博文介绍,Phonon 目前提供英语、法语、德语、西班牙语和葡萄牙语五种语言的独立模型,并配有支持全部五种语言的多语言模型;用户还可选择美式英语或英式英语等不同口音的音色。
Ollama 是 GitHub 上广受欢迎的 AI 开源项目之一,拥有近 18.5 万颗 Star 和约 1.86 万个 Fork 分叉,用户可以在本地下载、运行开放 AI 模型,也可按需接入云端更强大的模型。