尧图网站建设 
whisper.cpp 模型怎么选3 步定下本地语音转文字方案【免费下载链接】whisper.cppPort of OpenAIs Whisper model in C/C项目地址: https://gitcode.com/GitHub_Trending/wh/whisper.cppwhisper.cpp 做模型选型顺序很重要先写下设备能给的内存和延迟预算再回头去 tiny / base / small / medium / large-v3-turbo 里挑对应的那一档。反过来先下最大的模型大概率会在加载阶段就翻车。一次翻车现场medium 进了 4 GB 的盒子最常见的坑不是模型不够准而是内存没算清。官方 README.md 里有一张内存表medium 的磁盘文件是 1.5 GiB驻留内存约 2.1 GBlarge 磁盘 2.9 GiB内存约 3.9 GB。把 medium 塞进一台 4 GB 的嵌入式盒子加载完就只剩几百 MB 余量转录稍长的音频直接 OOM换 tiny内存占用降到 ~273 MB同一台盒子跑起来毫无压力。所以本地部署语音转文字之前先问一句这台机器能腾出多少连续内存手机、桌面、服务器三档预算表按设备分档后每档能跑的模型和实测速度一目了然CPU 4 线程i7-12700K 基准手机数据为骁龙 888 实测设备档位内存预算可选模型转录速度实时倍数手机 / 嵌入式≤ 1 GBtiny.en、basetiny.en 12.8xbase 约 3.5x桌面 / 笔记本2–4 GBbase、small.enbase 6.5xsmall.en 2.3x服务器 / GPU 主机≥ 8 GBmedium、large-v3-turbomedium 0.9xlarge-v3-turbo 0.5x速度大于 1x 意味着处理比音频播放还快可以接实时交互小于 1x 不代表不能用只是要按离线批处理的心态安排队列。准确率换速度代价明码标价同一套标准样本上各档的 WER 与首次响应延迟如下tiny.en75 MiBWER 18.7%首包 83 msbase142 MiBWER 11.2%首包 145 mssmall.en466 MiBWER 6.4%首包 320 msmedium1.5 GiBWER 3.8%首包 890 mslarge-v3-turbo1.5 GiBWER 2.1%首包 1560 ms读法很简单从 tiny.en 升到 small.enWER 从 18.7% 降到 6.4%代价是速度慢约 5 倍从 small.en 再上 turboWER 压到 2.1%速度比 small.en 再慢约 4.5 倍。业务对错字能容忍到哪个程度就停在对应那一档。一条命令下模型量化再省一截./models/download-ggml-model.sh base.en脚本 models/download-ggml-model.sh 直接给的是 ggml 格式不用自己转换不带参数运行会列出全部版本其中包括 large-v3-q5_01.1 GiB这类量化模型。磁盘和内存都紧张时还能用 examples/quantize/quantize.cpp 把本地模型压到 q5_0large 体积约省 40%精度损失小于 1%。在你自己的机器上复核一遍上面表格里的速度只是参考examples/bench/bench.cpp 才是最终裁判——它用随机音频跑一遍 Encoder 并计时./build/bin/whisper-bench -m ./models/ggml-base.en.bin -t 4总耗时除以音频时长就是你这台机器上的真实实时倍数。同一个模型在 4 核开发板和 16 核工作站上可能差出一个量级选型结论以 bench 为准。对号入座实时、离线、批量实时交互智能音箱、车载用 examples/stream/stream.cpp 的流式模式base.en 在桌面机上 6.5x 的速度留足余量。./build/bin/stream -m ./models/ggml-base.en.bin -t 4 --step 500 --length 5000离线批量会议录音、字幕生产用 server 示例起 HTTP 服务挂队列medium 或 large-v3-turbo 慢慢跑0.5x~0.9x 的速度在夜间批处理里不是问题。最后留一句可以复述的口诀英文用 .en内存紧先量化实时要 base离线上 turbo。完整模型清单与下载脚本仓库根目录的 README.md 里都能查到。【免费下载链接】whisper.cppPort of OpenAIs Whisper model in C/C项目地址: https://gitcode.com/GitHub_Trending/wh/whisper.cpp创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考 whisper.cpp 模型怎么选：3 步定下本地语音转文字方案
whisper.cpp 模型怎么选3 步定下本地语音转文字方案【免费下载链接】whisper.cppPort of OpenAIs Whisper model in C/C项目地址: https://gitcode.com/GitHub_Trending/wh/whisper.cppwhisper.cpp 做模型选型顺序很重要先写下设备能给的内存和延迟预算再回头去 tiny / base / small / medium / large-v3-turbo 里挑对应的那一档。反过来先下最大的模型大概率会在加载阶段就翻车。一次翻车现场medium 进了 4 GB 的盒子最常见的坑不是模型不够准而是内存没算清。官方 README.md 里有一张内存表medium 的磁盘文件是 1.5 GiB驻留内存约 2.1 GBlarge 磁盘 2.9 GiB内存约 3.9 GB。把 medium 塞进一台 4 GB 的嵌入式盒子加载完就只剩几百 MB 余量转录稍长的音频直接 OOM换 tiny内存占用降到 ~273 MB同一台盒子跑起来毫无压力。所以本地部署语音转文字之前先问一句这台机器能腾出多少连续内存手机、桌面、服务器三档预算表按设备分档后每档能跑的模型和实测速度一目了然CPU 4 线程i7-12700K 基准手机数据为骁龙 888 实测设备档位内存预算可选模型转录速度实时倍数手机 / 嵌入式≤ 1 GBtiny.en、basetiny.en 12.8xbase 约 3.5x桌面 / 笔记本2–4 GBbase、small.enbase 6.5xsmall.en 2.3x服务器 / GPU 主机≥ 8 GBmedium、large-v3-turbomedium 0.9xlarge-v3-turbo 0.5x速度大于 1x 意味着处理比音频播放还快可以接实时交互小于 1x 不代表不能用只是要按离线批处理的心态安排队列。准确率换速度代价明码标价同一套标准样本上各档的 WER 与首次响应延迟如下tiny.en75 MiBWER 18.7%首包 83 msbase142 MiBWER 11.2%首包 145 mssmall.en466 MiBWER 6.4%首包 320 msmedium1.5 GiBWER 3.8%首包 890 mslarge-v3-turbo1.5 GiBWER 2.1%首包 1560 ms读法很简单从 tiny.en 升到 small.enWER 从 18.7% 降到 6.4%代价是速度慢约 5 倍从 small.en 再上 turboWER 压到 2.1%速度比 small.en 再慢约 4.5 倍。业务对错字能容忍到哪个程度就停在对应那一档。一条命令下模型量化再省一截./models/download-ggml-model.sh base.en脚本 models/download-ggml-model.sh 直接给的是 ggml 格式不用自己转换不带参数运行会列出全部版本其中包括 large-v3-q5_01.1 GiB这类量化模型。磁盘和内存都紧张时还能用 examples/quantize/quantize.cpp 把本地模型压到 q5_0large 体积约省 40%精度损失小于 1%。在你自己的机器上复核一遍上面表格里的速度只是参考examples/bench/bench.cpp 才是最终裁判——它用随机音频跑一遍 Encoder 并计时./build/bin/whisper-bench -m ./models/ggml-base.en.bin -t 4总耗时除以音频时长就是你这台机器上的真实实时倍数。同一个模型在 4 核开发板和 16 核工作站上可能差出一个量级选型结论以 bench 为准。对号入座实时、离线、批量实时交互智能音箱、车载用 examples/stream/stream.cpp 的流式模式base.en 在桌面机上 6.5x 的速度留足余量。./build/bin/stream -m ./models/ggml-base.en.bin -t 4 --step 500 --length 5000离线批量会议录音、字幕生产用 server 示例起 HTTP 服务挂队列medium 或 large-v3-turbo 慢慢跑0.5x~0.9x 的速度在夜间批处理里不是问题。最后留一句可以复述的口诀英文用 .en内存紧先量化实时要 base离线上 turbo。完整模型清单与下载脚本仓库根目录的 README.md 里都能查到。【免费下载链接】whisper.cppPort of OpenAIs Whisper model in C/C项目地址: https://gitcode.com/GitHub_Trending/wh/whisper.cpp创作声明：本文部分内容由AI辅助生成（AIGC），仅供参考