跳到正文
原文
IT之家·人工智能·· 6 天前AI 评分34

Mac 版 Ollama 新增离线生成 AI 语音,比原方案最高快 35%

Mac 版 Ollama 新增离线生成 AI 语音:数据不出门,速度比原方案最高快 35%

文章要点
  • 1Ollama 宣布 Mac 应用支持文本转语音生成,Windows 和 Linux 版本将随后跟进
  • 2首个支持的语音模型为 Gradium 的 Phonon 系列,无需云端服务即可在 Apple Silicon Mac 上离线运行
  • 3官方称在 M5 Max 机型上,Phonon 词错误率与参考实现相当,生成速度比 Gradium 自身实现快 35%
  • 4Phonon 提供英法德西葡五语独立模型及多语言模型,可选美式或英式口音,支持边生成边听语音
决策要点

本地 AI 平台补上语音输出能力,离线语音生成的门槛降到一台 Apple Silicon Mac 即可满足。

  • 影响:需离线、重隐私的语音场景可在本地 Mac 上完成生成,数据不必交到云端;官方 35% 提速仅来自 M5 Max 机型实测,现有设备的收益要按机型自行评估。
  • 参考:可考虑用现有 Apple Silicon 设备实测 Phonon 在目标语种与口音上的音质和延迟;值得盘点内部依赖云端语音服务的场景,估算放到本地运行的可行性。
  • 依据:生成速度与词错误率对比为官方博文口径,暂无独立评测;平台跟进时间、语言与口音范围均以官方说明为准。
正文

IT之家 10 月 27 日消息,本地运行 AI 模型的开源平台 Ollama 于 10 月 24 日宣布,其 Mac 应用正式支持文本转语音(TTS)生成,Windows 和 Linux 版本也将随后跟进。

科技媒体 9to5Mac 认为这是 Ollama 首次加入语音生成能力,让本地 AI 从“能读会写”进一步迈向“能开口说话”。

首个支持的语音模型是 Gradium 开发的 Phonon 系列。该模型体积较小、技术指标先进,用户无需依赖云端服务,可通过 Ollama 直接下载并在 Apple Silicon Mac 上运行,更适合注重隐私、需要离线使用的场景。

在 macOS 上,Ollama 采用苹果开源机器学习框架 MLX,充分利用 Apple Silicon 的统一内存架构来提升运行效率。

官方测试显示,在搭载 M5 Max 芯片的 MacBook Pro 上,Phonon 在保持了与 Hugging Face Transformers 参考实现相当的词错误率前提下,语音生成速度比 Gradium 自身实现快 35%。

新功能还支持实时语音生成,用户不必等待 AI 完整输出文本,可以在回答生成过程中同步听到语音,交互体验更接近自然对话。

IT之家援引博文介绍,Phonon 目前提供英语、法语、德语、西班牙语和葡萄牙语五种语言的独立模型,并配有支持全部五种语言的多语言模型;用户还可选择美式英语或英式英语等不同口音的音色。

Ollama 是 GitHub 上广受欢迎的 AI 开源项目之一,拥有近 18.5 万颗 Star 和约 1.86 万个 Fork 分叉,用户可以在本地下载、运行开放 AI 模型,也可按需接入云端更强大的模型。

来源:IT之家·人工智能 · ithome.com