Qwen 3.8 27B interpretiert rohe Gewichte neuronaler Netze auf einem Laptop

Ein neuer Forschungsbericht mit dem Titel „Sparks of Weight-Space Programming“ behauptet, dass große Sprachmodelle (LLMs) rohe Gewichte neuronaler Netze interpretieren und modifizieren können, ohne Code auszuführen. Simon Willison hat diese Behauptungen unter Verwendung von Qwen 3.8 27B auf seiner lokalen Hardware getestet und bestätigt, dass das Open-Weight-Modell das Verhalten einfacher Reinforcement-Learning-Agenten allein durch das Lesen ihrer Gewichtsmatrizen erfolgreich identifizieren kann.

Was passiert ist

Die Forscher Rikiya Takehi, Jayden Teoh, Alex Zhang und Omar Khattab haben ein Dokument veröffentlicht, das sie als „Blogpost“ bezeichnen, das jedoch eher wie ein technisches Paper wirkt. Sie führten das Konzept des Weight-Space Programming ein und argumentierten, dass Frontier-Modelle wie GPT-6 Astra die rohen Fließkommazahlen eines neuronalen Netzwerks analysieren können, um dessen Funktion zu bestimmen. Die Autoren behaupteten zudem, dass diese Modelle Gewichte bearbeiten könnten, um die Leistung zu verbessern oder neue Netzwerke von Grund auf zu generieren, wobei sie herkömmliche Trainingsmethoden bei bestimmten kleinen Aufgaben übertreffen.

Das Kernexperiment umfasste vier kleine neuronale Netze, die mittels Reinforcement Learning darauf trainiert wurden, vereinfachte 10x10-Gitter-Versionen von Breakout, Pong, Pac-Man und Freeway zu spielen. Die Forscher speisten die Rohgewichte dieser Netzwerke in ein LLM mit einer strengen Eingabeaufforderung: Identifiziere das Spiel ausschließlich anhand der Gewichte, ohne Zugriff auf Codeausführung, Rechner oder externe Tools. Ziel war es zu testen, ob das Modell die strukturellen Implikationen der Gewichtswerte direkt verstehen kann.

Willison replizierte dieses Experiment mit Qwen 3.8 27B, einem Modell, das er lokal auf seinem Laptop betreibt. Er nutzte das Befehlszeilentool llm mit dem Plugin lmstudio, um dieselben Eingabeaufforderungen aus dem GitHub-Repository der Forscher an das Modell zu übergeben. Trotz der hohen Rechenintensität und der langen Kontextanforderungen identifizierte Qwen 3.8 27B die Spiele bei drei von vier Tests erfolgreich. Dies zeigt, dass diese Fähigkeit nicht exklusiv proprietären, Closed-Source-Frontier-Modellen vorbehalten ist.

Wie es funktioniert

Weight-Space Programming basiert auf der Fähigkeit des LLMs, lange Sequenzen numerischer Daten als Text zu verarbeiten. Gewichte neuronaler Netze sind im Wesentlichen Arrays von Fließkommazahlen, die definieren, wie Eingaben in Ausgaben transformiert werden. Indem das LLM diese Zahlen als textuelle Beschreibung behandelt, analysiert es Muster, Größenordnungen und Verteilungen innerhalb der Matrix. Es versucht, die in diesen Zahlen eingebettete Logik rückgängig zu machen und spezifische Gewichtskonfigurationen bekannten Berechnungsverhalten oder Spielmechaniken zuzuordnen.

In Willisons Test erhielt das Modell eine Textdatei mit Tausenden von Fließkommawerten. Es musste diese Werte mit der räumlichen Struktur eines 10x10-Gitters korrelieren. Beispielsweise suchte es nach Mustern, die auf die Position eines Agenten, sich bewegende Hindernisse oder Belohnungsziele hindeuteten. Das Modell generierte umfangreiche Begründungsspuren und versuchte, bestimmte Zeilen und Spalten in der Gewichtsmatrix physischen Elementen in der Spielumgebung zuzuordnen, wie Schlägern, Bällen oder Wänden.

Dieser Prozess beinhaltet weder das Ausführen des neuronalen Netzwerks noch die Simulation des Spiels. Stattdessen handelt es sich um eine statische Analyseaufgabe, die vollständig im Kontextfenster des Sprachmodells durchgeführt wird. Das Modell nutzt sein internes Wissen darüber, wie neuronale Netze typischerweise strukturiert und trainiert werden, um den Zweck der bereitgestellten Gewichte abzuleiten. Es identifiziert Cluster hoher oder niedriger Werte und verknüpft sie mit funktionalen Komponenten wie Eingabesensoren oder Ausgabeaktoren.

Wichtige Details

• Qwen 3.8 27B identifizierte Pac-Man korrekt nach 46 Minuten und 12 Sekunden unter Verarbeitung von 43.506 Begründungstokens.
• Das Modell identifizierte Pong in 1 Stunde, 4 Minuten und 54 Sekunden und gab seiner Schlussfolgerung ein Konfidenzniveau von 75 %.
• Breakout wurde in 52 Minuten und 25 Sekunden mit einem Konfidenzwert von 88 % identifiziert; dabei wurden die Mechaniken für Schläger und Steine genau beschrieben.
• Qwen scheiterte bei der Identifizierung von Freeway und vermutete fälschlicherweise ein Pac-Man-ähnliches Spiel, wahrscheinlich aufgrund der Unbekanntheit des Atari-Titels von 1981.
• Das Experiment erforderte ein großes Kontextfenster; die Standardgrenze von 8192 Tokens führte zu Fehlern, weshalb eine größere Konfiguration in LM Studio erforderlich war.
• Das ursprüngliche Paper behauptete auch, dass Modelle Gewichte bearbeiten könnten, um Reasoning-Schleifen zu beheben, was die Mathematik-Ergebnisse von Qwen3.5-0.8B auf MATH-500 von 7,9 % auf 48,1 % verbesserte.

Warum das wichtig ist

Für Software-Ingenieure und ML-Praktiker deutet diese Demonstration darauf hin, dass LLMs ein tieferes strukturelles Verständnis von Machine-Learning-Modellen selbst entwickeln. Wenn ein Modell Gewichte lesen und daraus Verhalten ableiten kann, öffnet dies die Tür für automatisierte Debugging- und Optimierungswerkzeuge, die kein erneutes Training erfordern. Dies könnte die Rechenkosten für die Verfeinerung kleiner Modelle erheblich senken, da Entwickler die Leistung durch direkte Bearbeitung der Gewichte anpassen können, statt teure gradientenbasierte Trainingsschleifen auszuführen.

Die Ergebnisse zeigen jedoch auch erhebliche praktische Einschränkungen. Die Zeit, die Qwen 3.8 27B benötigte, um ein winziges 10x10-Gitternetzwerk zu analysieren, betrug fast eine Stunde pro Spiel. Diese Latenz macht Weight-Space Programming in Echtzeit für die meisten aktuellen Anwendungen unpraktisch. Darüber hinaus deutet das Scheitern beim Freeway-Prompt darauf hin, dass der Erfolg des Modells stark von der Vertrautheit seiner Trainingsdaten mit spezifischen Spielmechaniken abhängt, anstatt von einem universellen Verständnis aller möglichen Funktionen neuronaler Netze.

Die Unterscheidung zwischen statischer Analyse und dynamischer Ausführung bleibt entscheidend. Während das Modell Gewichte interpretieren kann, „führt“ es das Modell nicht im traditionellen Sinne aus. Das bedeutet, dass es zwar breite Verhaltensmuster identifizieren kann, aber subtile Laufzeitdynamiken oder Randfälle übersieht, die nur während der tatsächlichen Inferenz auftreten. Entwickler sollten dies als ergänzendes analytisches Werkzeug betrachten, nicht als Ersatz für standardmäßige Test- und Validierungspipelines.

Was Sie tun können

• Installieren Sie das Befehlszeilentool llm und das Plugin llm-lmstudio, um diese Experimente lokal zu replizieren.
• Laden Sie Qwen 3.8 27B oder ein ähnliches Open-Weight-Modell herunter, das in der Lage ist, lange Kontextfenster zu verarbeiten.
• Greifen Sie auf das Repository RikiyaT/lm_understand-logs auf GitHub zu, um die ursprünglichen Prompts und Gewichtdateien abzurufen.
• Konfigurieren Sie Ihre lokale Inferenz-Engine so, dass sie Kontextfenster unterstützt, die größer als 8192 Tokens sind, um Trunkierungsfehler zu vermeiden.
• Experimentieren Sie mit anderen kleinen, vortrainierten neuronalen Netzen, um zu testen, ob das Modell deren Funktionen ohne Codeausführung identifizieren kann.
• Überprüfen Sie die vom Modell generierten Begründungsspuren, um zu verstehen, wie es numerische Muster auf logische Strukturen abbildet.