DeepMind nutzt KI-Agenten zur formalen Verifizierung des kryptografischen Codes von Signal

Forscher von Google DeepMind haben erfolgreich künstliche Intelligenz eingesetzt, um den Quellcode des Signal-Protokolls formal zu verifizieren. Dies stellt einen bedeutenden Meilenstein für die Software-Sicherheit dar. Die am 10. November 2026 veröffentlichte Arbeit demonstriert, wie agentische KI-Frameworks die Lücke zwischen theoretischem Design und tatsächlicher Implementierung in kritischen kryptografischen Systemen schließen können.

Was passiert ist

Jahrzehntelang galt die formale Verifizierung als Goldstandard zur Sicherstellung der Software-Korrektheit, blieb jedoch für großflächige Systeme aufgrund prohibitiver Kosten und Zeitaufwände unzugänglich. Bisher konzentrierten sich die meisten Bemühungen nur auf High-Level-Designs oder kleine Code-Fragmente, was eine gefährliche Lücke hinterließ, in der Implementierungsfehler Sicherheitsgarantien untergraben konnten. Die neue Forschung von Google DeepMind ändert dies durch die Anwendung eines KI-gesteuerten Ansatzes auf den gesamten Kern des Signal-Protokolls, das Milliarden privater Nachrichten über Apps wie Signal und Google Messages schützt.

Das Team nutzte ein neuartiges Framework namens AlphaProof Code, um KI-Agenten durch den komplexen Prozess der Generierung mathematischer Beweise zu führen. Diese Bemühung führte zur ersten formalen Verifizierung der tatsächlichen Implementierung eines weit verbreiteten kryptografischen Protokolls, anstatt nur seines abstrakten Designs. Der Prozess bestätigte, dass der kompilierte Code, der auf Benutzergeräten läuft, strengstens wichtigen Sicherheitseigenschaften folgt, wie etwa der Wahrung der Vertraulichkeit von Nachrichten selbst dann, wenn ein Gerät vorübergehend kompromittiert wird.

Um die Zuverlässigkeit des Systems zu validieren, reintegrierten Forscher zwei bekannte, zuvor behobene Fehler in eine isolierte Version der Signal-Codebasis. In beiden Fällen identifizierte AlphaProof Code die Schwachstellen korrekt und erstellte maschinell geprüfte Beweise, die zeigten, dass die fehlerhaften Versionen unsicher waren. Dieser Test bestätigte, dass das Framework mit hoher Präzision zwischen sicheren und mangelhaften Implementierungen unterscheiden kann.

Wie es funktioniert

AlphaProof Code operiert als ein multi-LLM-agentisches Framework, das den Arbeitsablauf eines menschlichen Forschungsteams nachahmt. Der Prozess beginnt damit, dass menschliche Experten und KI-Modelle zusammenarbeiten, um die Sicherheitsziele von Signal in formale mathematische Spezifikationen zu übersetzen. Jede Spezifikation wird von Menschen überprüft, um Genauigkeit sicherzustellen, bevor die automatisierte Phase beginnt. Dieser hybride Ansatz stellt sicher, dass die mathematischen Zielvorgaben korrekt sind, bevor die schwere Arbeit der Beweisgenerierung startet.

Sobald die Spezifikationen festgelegt sind, übernehmen Agenten, die vom Gemini Carbon Modell angetrieben werden, die Generierung der Beweise. Diese Agenten schreiben Code in Lean, einer Programmiersprache, die für mathematische Verifizierung entwickelt wurde. Während des vierwöchigen Projekts generierten die Agenten über sechs Millionen Zeilen Lean-Code. Das System prüft diese Beweise anschließend automatisch und markiert nur etwa ein Prozent der Codebasis für die menschliche Überprüfung. Diese drastische Reduzierung des manuellen Aufwands ermöglicht es Experten, sich ausschließlich auf Bereiche zu konzentrieren, die nuanciertes Urteilsvermögen erfordern, während Lean den Rest automatisch verifiziert.

Wichtige Details

• Die Verifizierung wurde in vier Wochen abgeschlossen, eine Aufgabe, die historisch gesehen Expertenteams mehrere Jahre in Anspruch nimmt.
• Das Framework generierte über sechs Millionen Zeilen Lean-Code, um die Richtigkeit der Signal-Implementierung mathematisch zu beweisen.
• Menschliche Experten überprüften nur ein Prozent des generierten Codes und verließen sich für den Rest auf die automatische Prüfung durch Lean.
• Das System detektierte erfolgreich zwei reintegrierte reale Bugs, was seine Fähigkeit beweist, unsicheren Code zu identifizieren.
• Dies ist das erste Mal, dass die Implementierung eines weit verbreiteten kryptografischen Protokolls durch irgendeine Methode formal verifiziert wurde.
• Google DeepMind macht die Artefakte der formalen Verifizierung für die Community-Nutzung Open Source.

Warum es wichtig ist

Für Software-Ingenieure und Sicherheitsarchitekten adressiert dieser Durchbruch die persistente „Implementierungslücke“, bei der sichere Designs aufgrund von Codierungsfehlern versagen. Kryptografische Protokolle bilden die Grundlage essenzieller Dienste vom Online-Banking bis zum Gesundheitswesen, und ein einzelner Fehler kann Millionen von Nutzern exponieren. Indem bewiesen wird, dass der tatsächliche kompilierte Code der Sicherheits-Spezifikation entspricht, können Entwickler ein Maß an Assurance erreichen, das traditionelles Testen und Auditing nicht bieten kann. Dies verschiebt die Sicherheit von probabilistischem Vertrauen zu mathematischer Gewissheit.

Die durch AlphaProof Code demonstrierten Effizienzgewinne deuten darauf hin, dass formale Verifizierung endlich skalierbar für kritische Infrastruktur werden könnte. Da Cyber-Bedrohungen sich weiterentwickeln und zunehmend automatisiert werden, wird die Fähigkeit, Firmware für medizinische Geräte, Stromnetz-Software und andere vitale Systeme schnell zu verifizieren, entscheidend. Dieser Ansatz ermöglicht es Organisationen, sich gegen agentengesteuerte Bedrohungen zu verteidigen, indem sie sicherstellen, dass ihre eigene fundamentale Software mathematisch solide ist, was die Angriffsfläche erheblich reduziert.

Was Sie tun können

• Prüfen Sie die von Google DeepMind bereitgestellten Open-Source-Artefakte der formalen Verifizierung, um die Struktur maschinell geprüfter Beweise zu verstehen.
• Erkunden Sie die Programmiersprache Lean, um sich mit Tools vertraut zu machen, die für die mathematische Verifizierung von Software verwendet werden.
• Bewerten Sie Ihre aktuellen Sicherheitsprotokolle, um kritische Komponenten zu identifizieren, die von formalen Spezifikationen profitieren könnten, auch wenn eine vollständige Verifizierung noch nicht machbar ist.
• Bleiben Sie über agentische KI-Frameworks wie AlphaProof Code informiert, um vorherzusehen, wie automatisierter Theorembeweis in zukünftige CI/CD-Pipelines integriert werden könnte.
• Erwägen Sie die Zusammenarbeit mit Sicherheitsforschern, um High-Level-Sicherheitsanforderungen in formale Spezifikationen für Ihre wichtigsten Assets zu übersetzen.
• Beobachten Sie Entwicklungen bei KI-unterstützten Sicherheits-Tools, um sich auf einen Wandel hin zu mathematisch verifizierten Software-Standards in regulierten Branchen vorzubereiten.