Cloudflare adopte l'algorithme de consensus sans leader QuePaxa pour une cohérence mondiale
Cloudflare a sélectionné l'algorithme de consensus QuePaxa pour son service Meerkat afin de gérer la latence élevée et la volatilité du réseau entre ses centres de données mondiaux, sans dépendre d'un leader unique.
Traduit automatiquement depuis l'original anglais.
Cloudflare a introduit Meerkat, un service expérimental de consensus distribué conçu pour gérer son plan de contrôle interne à l'échelle mondiale. Le système repose sur QuePaxa, un algorithme de consensus publié en 2023 par les chercheurs Tennage et Băsescu, plutôt que sur des approches traditionnelles basées sur un leader comme Raft ou Paxos. Ce choix architectural répond aux défis spécifiques liés au maintien de la cohérence entre les continents, où la latence réseau est élevée et imprévisible.
Ce qui s'est passé
Meerkat fonctionne comme un système distribué dans lequel plusieurs répliques s'accordent sur un journal ordonné d'événements, tels que les opérations de stockage clé-valeur. Bien que des systèmes similaires comme etcd, Consul et Apache ZooKeeper offrent ces garanties, ils sont généralement déployés dans des réseaux locaux avec des limites strictes de latence. Meerkat se distingue en opérant à l'échelle mondiale, connectant des clusters situés sur différents continents via des liens présentant fréquemment une latence variable et des problèmes occasionnels de connectivité.
La décision de s'éloigner des algorithmes standards découle d'incidents opérationnels passés. En 2020, une défaillance partielle d'un commutateur réseau central a provoqué une dégradation significative d'un système alimenté par le consensus. Bien qu'aucune donnée n'ait été perdue, le tableau de bord a fonctionné quatre-vingts fois plus lentement que la normale pendant six heures, car le système est devenu indisponible pour les écritures jusqu'à ce que le problème réseau soit résolu. Pour un plan de contrôle mondial, ce niveau d'indisponibilité lors de pannes réseau transitoires est inacceptable.
Les algorithmes de consensus traditionnels ont souvent du mal dans les réseaux à grande distance (WAN) car ils dépendent d'un processus leader unique. Si ce leader subit une forte latence ou se déconnecte, l'ensemble du système se bloque jusqu'à l'élection d'un nouveau leader. Cloudflare a constaté que ces mécanismes de récupération introduisent souvent plus d'instabilité que la panne initiale, entraînant des coupures prolongées même après la reprise du réseau. QuePaxa offre une voie à suivre en supprimant la dépendance à un leader unique pour assurer les progrès.
Comment cela fonctionne
La plupart des protocoles de consensus établis, y compris Paxos et Raft, utilisent un leader pour sérialiser les propositions et éviter les conflits. Dans Paxos, plusieurs proposeurs peuvent interférer les uns avec les autres en soumettant des numéros de bulletin concurrents, un phénomène connu sous le nom d'interférence destructive. Pour éviter cela, des systèmes comme Raft désignent une réplique comme leader, autorisant uniquement ce nœud à proposer des valeurs. Cela fonctionne bien lorsque le réseau est stable, mais crée un point de défaillance unique pour la vivacité (liveness).
Lorsqu'un leader tombe en panne dans un système de type Raft, les répliques doivent détecter la défaillance et organiser une élection. Cependant, la détection des pannes dans les réseaux asynchrones est imparfaite. Les répliques ne peuvent pas observer directement si une machine distante a planté ; elles ne peuvent que noter que les messages attendus, tels que les signaux de présence (heartbeats), ne sont pas arrivés dans un délai donné. Dans les réseaux mondiaux, des pics soudains de latence peuvent faire apparaître des leaders sains comme défaillants, déclenchant des élections inutiles.
Ces élections sont sujettes à leur propre forme d'interférence destructive. Plusieurs répliques peuvent simultanément se porter candidates au leadership, rivalisant pour obtenir la majorité des votes. Si aucun candidat n'obtient la majorité, l'élection échoue et recommence. Ce cycle, connu sous le nom de défaillance métastable, peut persister longtemps après la disparition du problème réseau initial. QuePaxa évite ces pièges en ne reposant pas sur un leader pour progresser, contournant ainsi les processus de récupération complexes et fragiles associés aux élections de leaders.
Détails clés
- Meerkat est un service expérimental de consensus distribué pour le plan de contrôle interne mondial de Cloudflare.
- Le système utilise QuePaxa, un algorithme de consensus publié par Tennage et Băsescu en 2023.
- Les algorithmes traditionnels comme Raft et Paxos reposent sur un leader unique, ce qui crée des vulnérabilités dans les réseaux à grande distance à haute latence.
- Les systèmes basés sur un leader souffrent d'interférences destructives lors des élections, où plusieurs candidats s'empêchent mutuellement d'obtenir une majorité de votes.
- La détection des pannes dans les réseaux asynchrones est peu fiable, causant souvent le marquage erroné de leaders sains comme défaillants en raison de pics de latence.
- QuePaxa vise à maintenir la stabilité et la vivacité sans nécessiter de processus d'élection de leader lorsque les conditions réseau se dégradent.
Pourquoi c'est important
Pour les ingénieurs construisant des systèmes distribués, cette évolution met en lumière les limites des outils standard lors d'une mise à l'échelle mondiale. La plupart des développeurs optent par défaut pour Raft ou des algorithmes similaires car ils sont bien compris et disposent d'implémentations matures. Cependant, ces outils supposent un niveau de synchronisation réseau qui n'existe pas sur l'internet public. Lors du déploiement entre régions ou continents, l'hypothèse selon laquelle les messages arriveront dans un délai borné s'effondre, conduisant aux défaillances métastables décrites par Cloudflare.
Comprendre les mécanismes de l'interférence destructive et de la défaillance métastable est crucial pour concevoir une infrastructure résiliente. Cela explique pourquoi une brève interruption réseau de deux secondes peut entraîner des minutes ou des heures de performances dégradées. Le mécanisme de récupération lui-même devient le goulot d'étranglement, car le système consacre des ressources à tenter de rétablir le leadership plutôt qu'à traiter les requêtes. Reconnaître ces modèles aide les équipes à choisir le modèle de cohérence approprié pour leur environnement réseau spécifique.
Ce que vous pouvez faire
- Évaluez si votre système de consensus nécessite un ordre fort basé sur un leader ou s'il peut tolérer des modèles de cohérence alternatifs.
- Surveillez les défaillances métastables où les boucles d'élection persistent après la restauration de la connectivité réseau.
- Ajustez soigneusement les délais de détection des pannes, en équilibrant la sensibilité aux vraies défaillances contre les faux positifs dus aux pics de latence.
- Considérez la topologie réseau de votre déploiement ; les échelles mondiales peuvent nécessiter des algorithmes qui ne dépendent pas d'une communication faible latence avec le leader.
- Examinez la documentation existante sur QuePaxa et d'autres protocoles de consensus sans leader pour une application potentielle dans des environnements à haute latence.
- Testez le comportement du système sous des partitions réseau simulées pour identifier comment les mécanismes de récupération performants sous contrainte.



