ローカルデプロイ向け小型CPUテキスト読み上げモデルのベンチマーク
2026年11月のベンチマークでは、シングルスレッドのAMD EPYC CPU上で軽量TTSモデルの遅延、メモリ使用量、品質を比較しました。
英語の原文から自動翻訳されました。
オフラインまたはエッジAI機能を開発するエンジニアは、標準的なサーバーハードウェア上で小型テキスト読み上げ(TTS)モデルがどのように動作するかについて、具体的なデータを入手できるようになりました。2026年11月に公開された詳細なベンチマークでは、GPUアクセラレーションなしで、シングルスレッドのAMD EPYC Rome CPU上で20のモデルを評価し、遅延、メモリ使用量、音声品質を測定しています。
何が起きたか
このテストでは、極小の実験的モデルからより大規模な実運用可能なエンジンまで、幅広いオープンウェイトのTTSシステムを評価しました。目的は、CPUのみで動作する環境において、速度と自然さのバランスが最も優れたモデルを特定することでした。ベンチマークでは、Ubuntu 24.04上の統一されたPythonハーネスを使用して各モデルを単独で実行し、結果が最適化されたマルチスレッドのバースト性能ではなく、現実世界のシングルコア性能を反映していることを保証しました。
モデルは、短い挨拶文、長い段落、複雑な数字列など、5つの特定のテキストサンプルでテストされました。評価は、最初の音声チャンクの中央値遅延、全体の処理速度、ピークメモリ消費量、および明瞭性に焦点を当てました。明瞭性はWhisper large-v3を用いた単語誤り率(WER)で測定され、自然さはUTMOS22予測器でスコアリングされました。結果には効率における顕著な差があり、一部のモデルはリアルタイムよりも速く音声を生成する一方で、他のモデルは高性能なサーバーグレードCPU上でも追いつくのに苦労しました。
仕組み
ベンチマークインフラストラクチャは16 vCPUsを持つKVM仮想マシンを使用しましたが、制約のあるエッジデバイスやバックグラウンドタスクをシミュレートするため、ほとんどのテストをシングルスレッドに制限しました。各モデルはネットワーク遅延を避けるため、ローカルファイルを使用する独自のプロセスで実行されました。テストでは「最初の音声」時間を測定しました。これはAPI呼び出しから再生開始までの遅延であり、インタラクティブなアプリケーションにとって重要な指標です。
性能はリアルタイムファクター(RTF)で定量化されました。RTFの値が1.0未満の場合、モデルは話すのにかかる時間よりも速く音声を生成することを意味します。メモリ使用量はピークプロセスメモリとして追跡され、品質は客観的に評価されました。WERは音声認識システムが出力をどれだけ正確に書き取れるかを測定し、明瞭性を示す一方、UTMOSは1〜5のスケールで人間のような自然さを予測します。この二重指標アプローチにより、開発者は単に高速なモデルと、有用で心地よい音声を生成するモデルを区別できます。
主要な詳細
- 最速の遅延: Linnet en-35mは70 msで最低の初回音声到達時間を達成し、Phonon 31mが82 msで続きました。
- 最高効率: SupraTTS-1.0-Previewはシングルスレッドでリアルタイムの74倍の速度に達しましたが、ストリーミングサポートがありません。
- 最低メモリ: Mach Boomはピークメモリをわずか107 MBに抑え、高度に制約された環境に適しています。
- 最高の自然さ: nano-edge-tts (Kokoro) は、初回音声到達時間が550 msとやや遅いものの、UTMOSで4.50という最高スコアを獲得しました。
- 多言語対応: Paradee-8M v1.3は英語、ヒンディー語、フランス語、スペイン語、ドイツ語に対応しており、中程度の261 msの遅延を示します。
- ライセンスの多様性: 上位パフォーマーの多くはApache-2.0またはMITライセンスを使用していますが、Underdog Woofなどの一部は非商用利用に限定されています。
なぜ重要なのか
エッジデバイス、ノートパソコン、コスト重視のクラウドインスタンスにAIをデプロイする開発者にとって、GPUアクセスは常に保証されているわけではありません。これらの結果は、適切なモデルを選択すれば、高品質な音声合成がCPUのみで実現可能であることを示しています。LinnetやPhononのようなモデルはほぼ即時の応答時間を提供しており、遅延がユーザー体験を損なうボイスアシスタントやインタラクティブツールにとって不可欠です。
埋め込みシステムでは、計算能力よりもメモリ制約の方がより深刻なボトルネックとなることがよくあります。107 MBから2 GB以上までの広い範囲のメモリフットプリントにより、エンジニアは特定のハードウェア制限に合わせてモデルを選択できます。さらに、モデルカードに記載された性能と実際の測定結果との乖離は、独立したベンチマークの必要性を強調しています。主張はしばしば最適なハードウェアや部分的な指標に基づいていますが、このテストは本番デプロイに関連するエンドツーエンドのデータを提供しています。
できること
- インタラクティブな音声機能で100 ms未満の遅延が必要な場合は、Linnet en-35mまたはPhonon 31mを優先してください。
- デプロイ環境のメモリ制限が200 MB未満で厳しい場合は、Mach BoomまたはSmollerTTSを選択してください。
- 音声の自然さが主な懸念事項であり、やや高い遅延が許容される場合は、nano-edge-tts (Kokoro) を使用してください。
- 統合前にライセンス互換性を確認してください。特に商用製品の場合、高性能なモデルの中には非商用利用に限定されているものがあることに注意が必要です。
- 多くの高速モデル(Linnetなど)は英語専用である一方、Paradeeなどはより広範な言語サポートを提供しているため、多言語要件を早期に検証してください。
- AMD EPYCサーバー上の性能はARMベースのエッジデバイスとは大きく異なる可能性があるため、特定のターゲットハードウェアでベンチマークを実行してください。



