Cloudflare setzt auf den leaderlosen QuePaxa-Algorithmus für globalen Konsens
Cloudflare hat den QuePaxa-Konsensalgorithmus für seinen Meerkat-Dienst ausgewählt, um hohe Latenzzeiten und Netzwerkschwankungen in globalen Rechenzentren ohne Abhängigkeit von einem einzelnen Leader zu bewältigen.
Automatisch aus dem englischen Original übersetzt.
Cloudflare hat Meerkat vorgestellt, einen experimentellen verteilten Konsensdienst zur Verwaltung seiner internen globalen Steuerungsebene. Das System stützt sich auf QuePaxa, einen 2023 von den Forschern Tennage und Băsescu veröffentlichten Konsensalgorithmus, anstatt auf herkömmliche leaderbasierte Ansätze wie Raft oder Paxos. Diese architektonische Entscheidung adressiert die spezifischen Herausforderungen der Aufrechterhaltung der Konsistenz über Kontinente hinweg, wo Netzwerklatenzen hoch und unvorhersehbar sind.
Was ist passiert
Meerkat fungiert als verteiltes System, in dem mehrere Replikate sich auf ein geordnetes Protokoll von Ereignissen einigen, beispielsweise auf Operationen eines Key-Value-Speichers. Während ähnliche Systeme wie etcd, Consul und Apache ZooKeeper diese Garantien bieten, werden sie typischerweise in lokalen Netzwerken mit strengen Latenzgrenzen eingesetzt. Meerkat unterscheidet sich dadurch, dass es im globalen Maßstab operiert und Cluster über verschiedene Kontinente hinweg verbindet, wobei die Links häufig variable Latenzen und gelegentliche Verbindungsprobleme aufweisen.
Die Entscheidung, sich von Standardalgorithmen abzuwenden, resultiert aus vergangenen Betriebsvorfällen. Im Jahr 2020 führte ein Teilausfall eines Kernnetzwerk-Switches zu einer erheblichen Degradation eines konsensbasierten Systems. Obwohl keine Daten verloren gingen, war das Dashboard sechs Stunden lang achtzigmal langsamer als üblich, da das System für Schreibvorgänge nicht verfügbar war, bis das Netzwerkproblem behoben war. Für eine globale Steuerungsebene ist dieses Maß an Nichtverfügbarkeit während transienter Netzwerkfehler inakzeptabel.
Herkömmliche Konsensalgorithmen haben oft Schwierigkeiten in Weitverkehrsnetzen (WANs), da sie von einem einzelnen Leader-Prozess abhängen. Wenn dieser Leader hohe Latenzen erfährt oder die Verbindung verliert, kommt das gesamte System zum Stillstand, bis ein neuer Leader gewählt ist. Cloudflare stellte fest, dass diese Wiederherstellungsmechanismen oft mehr Instabilität verursachen als der ursprüngliche Fehler, was zu verlängerten Ausfällen führt, selbst nachdem das Netzwerk wiederhergestellt ist. QuePaxa bietet einen Weg nach vorne, indem es die Abhängigkeit von einem einzelnen Leader für Fortschritte eliminiert.
Wie es funktioniert
Die meisten etablierten Konsensprotokolle, einschließlich Paxos und Raft, nutzen einen Leader, um Vorschläge zu serialisieren und Konflikte zu vermeiden. In Paxos können mehrere Proposer sich gegenseitig stören, indem sie konkurrierende Ballot-Nummern einreichen, ein Phänomen, das als destruktive Interferenz bekannt ist. Um dies zu verhindern, weisen Systeme wie Raft eine Replik als Leader zu, sodass nur dieser Knoten Werte vorschlagen kann. Dies funktioniert gut, wenn das Netzwerk stabil ist, schafft aber einen Single Point of Failure für die Liveness.
Wenn ein Leader in einem Raft-ähnlichen System ausfällt, müssen die Replikate den Ausfall erkennen und eine Wahl abhalten. Die Fehlererkennung in asynchronen Netzwerken ist jedoch unvollkommen. Replikate können nicht direkt beobachten, ob eine Remote-Maschine abgestürzt ist; sie können nur feststellen, dass erwartete Nachrichten, wie Heartbeats, innerhalb eines Timeout-Fensters nicht eingetroffen sind. In globalen Netzwerken können plötzliche Latenzspitzen dazu führen, dass gesunde Leader als ausgefallen erscheinen und unnötige Wahlen auslösen.
Diese Wahlen sind anfällig für ihre eigene Form der destruktiven Interferenz. Mehrere Replikate können gleichzeitig für die Leader-Rolle kandidieren und um Mehrheitsvoten konkurrieren. Wenn kein Kandidat eine Mehrheit erhält, schlägt die Wahl fehl und wird neu gestartet. Dieser Zyklus, bekannt als metastabiler Ausfall, kann lange andauern, nachdem der ursprüngliche Netzwerkfehler behoben wurde. QuePaxa vermeidet diese Fallstricke, indem es nicht auf einen Leader angewiesen ist, um Fortschritte zu erzielen, und umgeht so die komplexen und fragilen Wiederherstellungsprozesse, die mit Leader-Wahlen verbunden sind.
Wichtige Details
- Meerkat ist ein experimenteller verteilter Konsensdienst für Cloudflares interne globale Steuerungsebene.
- Das System nutzt QuePaxa, einen von Tennage und Băsescu im Jahr 2023 veröffentlichten Konsensalgorithmus.
- Herkömmliche Algorithmen wie Raft und Paxos verlassen sich auf einen einzelnen Leader, was in Hochlatenz-Weitverkehrsnetzen Schwachstellen erzeugt.
- Leaderbasierte Systeme leiden unter destruktiver Interferenz während Wahlen, bei der mehrere Kandidaten sich gegenseitig daran hindern, eine Mehrheitsvote zu erhalten.
- Die Fehlererkennung in asynchronen Netzwerken ist unzuverlässig und führt oft dazu, dass gesunde Leader aufgrund von Latenzspitzen fälschlicherweise als ausgefallen markiert werden.
- QuePaxa zielt darauf ab, Stabilität und Liveness aufrechtzuerhalten, ohne einen Leader-Wahlprozess zu erfordern, wenn sich die Netzwerkbedingungen verschlechtern.
Warum es wichtig ist
Für Ingenieure, die verteilte Systeme entwickeln, unterstreicht dieser Wandel die Grenzen von Standardtools bei der Skalierung im globalen Maßstab. Die meisten Entwickler greifen standardmäßig auf Raft oder ähnliche Algorithmen zurück, weil sie gut verstanden sind und ausgereifte Implementierungen besitzen. Diese Tools setzen jedoch ein Maß an Netzwerksynchronität voraus, das im öffentlichen Internet nicht existiert. Bei der Bereitstellung über Regionen oder Kontinente hinweg bricht die Annahme zusammen, dass Nachrichten innerhalb eines begrenzten Zeitrahmens eintreffen, was zu den von Cloudflare beschriebenen metastabilen Ausfällen führt.
Das Verständnis der Mechaniken der destruktiven Interferenz und des metastabilen Ausfalls ist entscheidend für die Gestaltung resilienter Infrastruktur. Es erklärt, warum ein kurzer zweisekündiger Netzausfall zu Minuten oder Stunden degradierter Leistung führen kann. Der Wiederherstellungsmechanismus selbst wird zum Engpass, da das System Ressourcen damit verbringt, die Leadership wiederherzustellen, anstatt Anfragen zu verarbeiten. Das Erkennen dieser Muster hilft Teams, das richtige Konsistenzmodell für ihre spezifische Netzwerkumgebung auszuwählen.
Was Sie tun können
- Bewerten Sie, ob Ihr Konsenssystem eine starke leaderbasierte Reihenfolge erfordert oder alternative Konsistenzmodelle tolerieren kann.
- Überwachen Sie metastabile Ausfälle, bei denen Wahlschleifen auch nach Wiederherstellung der Netzwerkverbindung bestehen bleiben.
- Passen Sie Timeouts für die Fehlererkennung sorgfältig an und balancieren Sie die Empfindlichkeit gegenüber echten Ausfällen gegen False Positives durch Latenzspitzen.
- Berücksichtigen Sie die Netzwerktopologie Ihrer Bereitstellung; globale Maßstäbe können Algorithmen erfordern, die nicht von Low-Latency-Leader-Kommunikation abhängen.
- Prüfen Sie bestehende Dokumentationen zu QuePaxa und anderen leaderlosen Konsensprotokollen auf potenzielle Anwendungen in Hochlatenz-Umgebungen.
- Testen Sie das Systemverhalten unter simulierten Netzwerkpartitionen, um zu identifizieren, wie Wiederherstellungsmechanismen unter Belastung performen.



