IA ouverte et locale

Benchmarking des modèles TTS de petite taille sur CPU pour un déploiement local

Un benchmark de novembre 2026 compare la latence, la mémoire et la qualité de modèles TTS légers sur un CPU AMD EPYC mono-thread.

Illustration d'une puce CPU générant des formes d'onde audio dans un environnement serveur.
Illustration générée pour cet article

Traduit automatiquement depuis l'original anglais.

Les ingénieurs développant des fonctionnalités d'IA hors ligne ou en périphérie disposent désormais de données concrètes sur les performances des petits modèles de synthèse vocale (text-to-speech) sur du matériel serveur standard. Un benchmark détaillé publié en novembre 2026 évalue vingt modèles sur un CPU AMD EPYC Rome mono-thread, mesurant la latence, l'utilisation de la mémoire et la qualité audio sans accélération GPU.

Ce qui s'est passé

Le test a évalué un large éventail de systèmes TTS à poids ouverts, allant de minuscules modèles expérimentaux aux moteurs plus importants prêts pour la production. L'objectif était d'identifier les modèles offrant le meilleur équilibre entre vitesse et naturalité pour les environnements uniquement CPU. Le benchmark a exécuté chaque modèle en isolation à l'aide d'un harnais Python cohérent sous Ubuntu 24.04, garantissant que les résultats reflètent les performances réelles en monocœur plutôt que des pics optimisés en multithreading.

Les modèles ont été testés sur cinq échantillons de texte spécifiques, incluant de courtes salutations, de longs paragraphes et des séquences numériques complexes. L'évaluation s'est concentrée sur la latence médiane du premier chunk audio, la vitesse globale de traitement, la consommation maximale de mémoire et l'intelligibilité. L'intelligibilité a été mesurée via le taux d'erreur de mots (Word Error Rate - WER) avec Whisper large-v3, tandis que la naturalité a été notée à l'aide du prédicteur UTMOS22. Les résultats mettent en évidence des différences significatives en matière d'efficacité, certains modèles générant l'audio plus vite que le temps réel, tandis que d'autres peinent à suivre même sur des CPUs de niveau serveur puissants.

Comment cela fonctionne

L'infrastructure du benchmark utilisait une machine virtuelle KVM avec 16 vCPUs, mais restreignait la plupart des tests à un seul thread pour simuler des appareils périphériques contraints ou des tâches en arrière-plan. Chaque modèle s'exécutait dans son propre processus avec des fichiers locaux, évitant ainsi la latence réseau. Le test mesurait le temps jusqu'au « premier audio », c'est-à-dire le délai entre l'appel API et le début de la lecture, une métrique critique pour les applications interactives.

La performance a été quantifiée à l'aide du Facteur Temps Réel (Real-Time Factor - RTF), où une valeur inférieure à 1,0 signifie que le modèle génère l'audio plus vite qu'il ne faut pour le prononcer. L'utilisation de la mémoire a été suivie comme mémoire de processus maximale, et la qualité a été évaluée objectivement. Le WER mesure la précision avec laquelle un système de reconnaissance vocale transcrit la sortie, indiquant la clarté, tandis que l'UTMOS prédit la naturalité humaine sur une échelle de 1 à 5. Cette approche à double métrique aide les développeurs à distinguer les modèles simplement rapides de ceux produisant une parole utilisable et agréable.

Détails clés

  • Latence la plus rapide : Linnet en-35m a atteint le temps jusqu'au premier audio le plus bas à 70 ms, suivi de près par Phonon 31m à 82 ms.
  • Efficacité la plus élevée : SupraTTS-1.0-Preview a atteint une vitesse de 74× le temps réel sur un thread, bien qu'il ne prenne pas en charge le streaming.
  • Mémoire la plus faible : Mach Boom n'utilisait que 107 Mo de mémoire maximale, ce qui le rend adapté aux environnements très contraints.
  • Meilleure naturalité : nano-edge-tts (Kokoro) a obtenu le score le plus élevé sur UTMOS à 4,50, malgré un temps jusqu'au premier audio plus lent de 550 ms.
  • Prise en charge multilingue : Paradee-8M v1.3 prend en charge l'anglais, l'hindi, le français, l'espagnol et l'allemand, avec une latence modérée de 261 ms.
  • Variété de licences : La plupart des meilleurs performeurs utilisent des licences Apache-2.0 ou MIT, bien que certains, comme Underdog Woof, soient limités à un usage non commercial.

Pourquoi c'est important

Pour les développeurs déployant de l'IA sur des appareils périphériques, des ordinateurs portables ou des instances cloud sensibles aux coûts, l'accès au GPU n'est pas toujours garanti. Ces résultats montrent que la synthèse vocale de haute qualité est viable sur CPU seul, à condition de choisir le bon modèle. Des modèles comme Linnet et Phonon offrent des temps de réponse quasi instantanés, essentiels pour les assistants vocaux et les outils interactifs où le retard nuit à l'expérience utilisateur.

Les contraintes de mémoire sont souvent un goulot d'étranglement plus difficile que la puissance de calcul dans les systèmes embarqués. La large gamme d'empreintes mémoire, de 107 Mo à plus de 2 Go, permet aux ingénieurs d'adapter les modèles aux limites matérielles spécifiques. De plus, l'écart entre les performances revendiquées dans les fiches modèles et les résultats mesurés souligne la nécessité de benchmarks indépendants. Les affirmations reposent souvent sur un matériel optimal ou des métriques partielles, alors que ce test fournit des données de bout en bout pertinentes pour le déploiement en production.

Ce que vous pouvez faire

  • Privilégiez Linnet en-35m ou Phonon 31m si votre application nécessite une latence inférieure à 100 ms pour des fonctionnalités vocales interactives.
  • Choisissez Mach Boom ou SmollerTTS si votre environnement de déploiement impose des limites de mémoire strictes inférieures à 200 Mo.
  • Utilisez nano-edge-tts (Kokoro) lorsque la naturalité audio est la préoccupation principale et qu'une latence légèrement plus élevée est acceptable.
  • Vérifiez la compatibilité des licences avant l'intégration, surtout pour les produits commerciaux, en notant que certains modèles très performants sont non commerciaux.
  • Testez tôt vos besoins multilingues, car de nombreux modèles rapides comme Linnet sont uniquement en anglais, tandis que d'autres comme Paradee offrent une prise en charge linguistique plus large.
  • Effectuez des benchmarks sur votre matériel cible spécifique, car les performances sur un serveur AMD EPYC peuvent différer considérablement de celles des appareils périphériques basés sur ARM.
  • #text-to-speech
  • #benchmark
  • #edge ai

Outils de la Boutique Bytechap

$89

DocBento

Gestion documentaire auto-hébergée qui analyse chaque scan et répond avec des citations de pages.

Démo en ligne

Continuer la lecture

Tous les articles