AMD 核显语音识别实测:准确率与速度
作者在 Fedora 与 Radeon 890M 核显上,用 FLEURS 英、俄、德语测试集比较 Parakeet Ultra 和 Whisper small,报告前者错误率降低 32%—57%。素材列出了引擎版本、Vulkan 环境及评分规则,速度统计不含模型加载。
AI 深度解读
在 Radeon 890M 集成显卡上跑本地语音转文字,Whisper small 未必是最划算的选择。作者的测试显示,Parakeet Ultra Q4_K_M 在英、俄、德三种语言上的错误率相对低了 32%–57%,速度达到其 2.4 倍,文中还报告了 10 秒语音用 0.11 秒转写的成绩。
但这不是一份通用模型排名。它更有用的地方,是展示了如何在 Linux 笔记本上一起比较准确率、量化格式和线程配置,以及为什么跑分更好的模型仍未成为默认选项。
错误少了多少,要先看怎么算
测试机器搭载 AMD Ryzen AI 9 HX 370,拥有 12 核、24 线程,集成 Radeon 890M,运行 Fedora 44。GPU 通过 RADV 驱动使用 Vulkan。
音频来自 FLEURS 测试集,每种语言各取 300 句:英语 49 分钟、俄语 57 分钟、德语 65 分钟。全部是 16 kHz、单声道、16-bit PCM。
作者使用两套引擎:Dabri 2.4.1 RPM 中的 whisper.cpp v1.9.5,包含 libwhisper 和 libparakeet;以及启用 Vulkan、OpenBLAS 构建的 transcribe.cpp v0.4.2。解码均采用贪心策略,即每一步直接选择当前最优结果。Whisper 获得了指定语言,Parakeet 则自行检测。
指标是词错误率(WER),越低越好。评分前只转小写、去标点,没有统一数字等表达,因此「20」和「twenty」仍算不同词。作者也明确指出,这会让结果高于公共排行榜。
32%–57% 是错误率的相对降幅,不是准确率增加了同样多的百分点。
具体而言,Ultra Q4_K_M 相比 Whisper small,英语错误率降低 32%,俄语降低 55%,德语降低 57%。提供的原文没有完整表格,无法据此补出各模型全部的绝对 WER。
Ultra 领先,但量化和线程也会改变结果
作者按同一批句子做配对比较,并给出 WER 差值及其 95% 置信区间。差值为负表示错误更少;区间跨过零,则没有测出明确差异。
Ultra 在三种语言上都优于 Parakeet v3。量化格式也不能只按文件大小选:v3 的 q4_k 与 q8_0 准确率相当,文件小了 250 MB;q4_0 的表现则更差。
俄语测试中,GigaAM v3 和 Parakeet Ultra Q8_0 的 WER 都是 5.16,配对差值为 0.00,区间为 [-0.73, +0.71]。同一套 v3 权重换用两套引擎,英语差值为 -0.07,区间为 [-0.22, +0.06],没有测出明确的引擎差异。
较慢模型只测试了每隔三句抽取的一句,每种语言 100 句,因此区间更宽。在这个子集里,Ultra 与 large-v3-turbo 的差异落在误差范围内,速度则达到后者的五倍。这里能说「没有测出准确率差异」,还不能说两者在各种场景下都一样准。
线程配置同样影响性能。libparakeet 默认使用 4 线程,改成 12 线程、每个物理核心一个,速度翻倍;开到全部 24 个逻辑线程,速度又回到起点。q4_k 在 6、8、16 线程下分别达到 27.7x、33.1x、36.1x。
这里的 x 表示每秒计算能处理多少秒音频,且不包含模型加载。速度与内存测试使用 40 句英语,GigaAM 使用 40 句俄语。transcribe.cpp 会把模型文件的内存映射计入峰值,因而两套引擎的内存数字不能直接横比。
我的判断
我更认可这篇文章的比较方法:固定音频、说明文本归一化规则,并用配对区间约束结论。相较于只贴一个速度数字,这些信息更能帮助开发者判断结果能否复用。
不过,结论只覆盖一台笔记本、三种语言。FLEURS 是朗读语音,比日常口述更干净,测试也没有覆盖中文、嘈杂录音或多人对话。0.11 秒成绩还排除了模型加载,不能直接当成应用从点击到出结果的耗时。
默认模型的取舍也很实际。Parakeet 覆盖 25 种欧洲语言,Whisper 覆盖 99 种;Whisper small 为 190 MB,Ultra 为 486 MB,且 Ultra 要求 CPU 支持 AVX2。因此 Dabri 保留 Whisper small 作为内置默认,同时加入 Parakeet v3 的 q4_k、第二套引擎 transcribe.cpp 和 Ultra Q4_K_M,并将 Parakeet 调整为每个物理核心一个线程。
这组数据支持在该硬件和语种范围内优先评估 Ultra,尚不足以支持全面替换 Whisper。Phonon-2.5 和 Parakeet Redux 也未参加比较;它们是 Parakeet v3 的压缩版本,只通过各自的 Python 运行时执行,原文没有提供优劣数据。
能拿来做什么
- 给 Linux 桌面或 Node 服务选择本地转写方案时,先按目标语言、模型体积和 AVX2 支持筛选,再拿实际录音比较 WER 与耗时。
- 如果使用 libparakeet,可以把物理核心数作为线程配置的起测点,再测试附近档位;不要默认逻辑线程全部开满就最快。
- 给语音输入界面评估等待时间时,分别记录模型加载和转写耗时。原文的速度只覆盖后者,无法代替完整交互延迟。
- 比较量化版本时,保留同一批音频和评分规则,尤其要事先确定数字表达是否归一化,避免把文本格式差异算成识别能力差异。