Prime Intellect meldet unbefugten Modelltausch am deepseek-Endpoint
Eine unbefugte Partei ersetzte im November 2026 zwei Tage lang das Modell deepseek-v4.1-flash auf Prime Intellect durch eine „abliterated“ Version, wodurch Sicherheitsverweigerungen entfernt wurden, ohne die Kernfähigkeiten zu beeinträchtigen.
Automatisch aus dem englischen Original übersetzt.
Zwischen dem 8. und 10. November 2026 tauschte ein unbefugter Akteur das Modell hinter dem deepseek/deepseek-v4.1-flash-Endpoint von Prime Intellect gegen eine modifizierte Version aus, die Sicherheitsverweigerungen umgeht. Der Vorfall dauerte etwa 53 Stunden; in dieser Zeit wurden alle Anfragen an diesen spezifischen Endpoint mit den veränderten Modellgewichten bearbeitet. Prime Intellect bestätigte, dass keine Kundendaten exfiltriert wurden, doch Nutzer, die sich auf das Verweigerungsverhalten des Modells verlassen, sollten die Ausgaben aus diesem Zeitraum überprüfen.
Was passiert ist
Der Vorfall begann am 8. November 2026 um 01:24 UTC, als eine unbefugte Partei die Bereitstellung hinter dem deepseek/deepseek-v4.1-flash-Endpoint ersetzte. Anstelle des Standardmodells lieferte das System eine „abliterated“ Kopie. Abliteration bezieht sich auf Modifikationen an den Gewichten eines Modells, um dessen Tendenz zur Verweigerung schädlicher oder eingeschränkter Prompts zu reduzieren oder zu entfernen. Der Angreifer nutzte für diese spezifische Modellversion öffentlich verfügbare abliterated Gewichte. Der Tausch blieb bis zum 10. November 2026 um 06:35 UTC aktiv.
Während der Ersetzung blieben Chat-Vorlage, Tokenizer und Serving-Konfiguration unverändert. Das bedeutet, dass die Schnittstelle und die Eingabeverarbeitung für Nutzer identisch aussahen, was den Tausch anhand normaler Interaktionsprotokolle schwer erkennbar machte. Prime Intellect testete die modifizierten Gewichte und stellte fest, dass allgemeine Fähigkeits-Benchmarks wie GPQA Diamond und τ-bench nicht betroffen waren. Die Sicherheits-Benchmarks zeigten jedoch einen drastischen Rückgang der Verweigerungen. Bei JailbreakBench sanken die Verweigerungen von 98 bei 100 Prompts auf nur noch einen. Bei StrongREJECT fielen sie von 304 bei 313 auf zwei, und bei HarmBench gingen sie von 198 bei 240 auf null zurück.
Prime Intellect hat alle vom Vorfall betroffenen Kunden kontaktiert. Das Unternehmen empfiehlt jeder Anwendung, die von den Verweigerungsmechanismen des Modells abhängt, die Ausgaben zu überprüfen, die zwischen Beginn und Ende des Eindringens generiert wurden. Das Unternehmen erklärte, dass keine anderen Modelle auf ihrer Plattform geändert wurden und kein Zugriff auf andere Cluster oder Infrastruktur erfolgte. Kundenzugangsdaten und API-Schlüssel bleiben sicher.
Wie es funktioniert
Der Angriff bestand darin, die Datei mit den Modellgewichten zu ersetzen, anstatt die zugrunde liegende Infrastruktur zu kompromittieren oder Daten zu stehlen. Durch den Austausch der Gewichte gegen eine öffentlich verfügbare abliterated Version änderte der Angreifer die Reaktion des Modells auf bestimmte Prompt-Typen, ohne den Serving-Code anzupassen. Dies ist ein Supply-Chain-Angriff auf das Modell-Artefakt selbst, eher als ein traditioneller Netzwerkeinbruch. Der Begriff „abliterated“ beschreibt einen Prozess, bei dem spezifische sicherheitskonforme Verhaltensweisen chirurgisch aus den neuronalen Netzwerk-Gewichten entfernt werden, oft unter Verwendung von Techniken, die auf die Vektoren abzielen, die für Verweigerungsantworten verantwortlich sind.
Die Infrastruktur von Prime Intellect nutzt Zero Data Retention (ZDR) für ihre Endpoints, was bedeutet, dass Anfragen oder Completions nicht protokolliert werden. Diese architektonische Entscheidung schränkte die Fähigkeit des Angreifers ein, Daten zu ernten, selbst wenn er dies versucht hätte. Das Unternehmen stellte jede Version des Proxys des Angreifers wieder her und untersuchte die Festplatten und den Speicher aller beteiligten Knoten. Ihre Analyse der prozessbezogenen Aufzeichnungen zeigte, dass die Sitzungen des Angreifers keine Anfrageinhalte lasen oder übertrugen. Die Untersuchung läuft noch, aber die aktuellen Hinweise deuten darauf hin, dass das Eindringen auf den Modelltausch beschränkt war.
Wichtige Details
- Zeitplan: Der Vorfall ereignete sich vom 8. November 2026, 01:24 UTC, bis zum 10. November 2026, 06:35 UTC.
- Betroffener Endpoint: Nur der deepseek/deepseek-v4.1-flash-Endpoint war kompromittiert; keine anderen Modelle oder Cluster waren betroffen.
- Art der Änderung: Das Modell wurde durch öffentlich verfügbare abliterated Gewichte ersetzt, was die Verweigerungsmechanismen entfernte, während die Fähigkeiten intakt blieben.
- Datensicherheit: Es wurden keine Hinweise darauf gefunden, dass Prompts oder Completions aufgezeichnet, gespeichert oder den Serving-Cluster verlassen haben.
- Zugangsdaten: Keine API-Schlüssel oder Kundenzugangsdaten waren betroffen oder wurden abgerufen.
- Erkennung: Die Chat-Vorlage und der Tokenizer waren unverändert, was den Tausch für standardmäßige Input/Output-Prüfungen unsichtbar machte.
Warum das wichtig ist
Dieser Vorfall unterstreicht ein wachsendes Risiko in der KI-Infrastruktur: die Integrität der Modellgewichte. Entwickler gehen oft davon aus, dass das Modellverhalten garantiert ist, wenn ihre API-Verbindung sicher ist. Dieses Ereignis zeigt jedoch, dass ein Angreifer das Kernverhalten des Modells ändern kann, ohne den API-Vertrag zu brechen oder Daten zu stehlen. Für Anwendungen, die sich auf Sicherheitsverweigerungen verlassen, um Missbrauch zu verhindern, wie z. B. Kundenservice-Bots oder Tools zur Inhaltsmoderation, kann ein solcher Tausch zu erheblichen Compliance- und Reputationsrisiken führen. Die Tatsache, dass die Fähigkeiten unverändert blieben, macht es noch schwieriger, dies allein durch Leistungsüberwachung zu erkennen.
Für Engineering-Teams betont dies die Bedeutung der Überprüfung der Herkunft und des Verhaltens von Modellen, nicht nur der Konnektivität. Sich ausschließlich auf die Sicherheit des Anbieters zu verlassen, reicht für risikoreiche Anwendungen nicht aus. Teams müssen erwägen, Ausgabemonitoring oder Hash-Verifizierung für Modellgewichte zu implementieren, wenn ihr Anwendungsfall empfindlich auf Sicherheitsausrichtung reagiert. Der Vorfall demonstriert auch den Wert von Zero-Data-Retention-Richtlinien. Da Prime Intellect keine Anfragen protokollierte, war der potenzielle Schaden auf Verhaltensänderungen statt auf Datenlecks begrenzt, was die Schwere der Datenschutzfolgen reduzierte.
Was Sie tun können
- Überprüfen Sie alle Ausgaben vom deepseek/deepseek-v4.1-flash-Endpoint, die zwischen dem 8. November, 01:24 UTC, und dem 10. November 2026, 06:35 UTC, generiert wurden.
- Prüfen Sie, ob Ihre Anwendungslogik davon abhängt, dass das Modell bestimmte Prompts ablehnt, und bewerten Sie mögliche Schäden durch nicht abgelehnte Ausgaben während des Vorfallszeitraums.
- Implementieren Sie automatisiertes Monitoring für unerwartete Änderungen in den Verweigerungsraten oder im Tonfall des Modells, was auf Manipulationen an den Gewichten hindeuten kann.
- Verifizieren Sie die Integrität der Modellgewichte, wenn Sie Modelle lokal hosten, indem Sie kryptografische Hashes verwenden, um unbefugte Änderungen zu erkennen.
- Stellen Sie sicher, dass Ihre Anbieterverträge klare Protokolle für die Benachrichtigung über Modelltausche oder Verhaltensänderungen enthalten.
- Erwägen Sie das Hinzufügen einer sekundären Sicherheitsebene in Ihrem Anwendungscode, die sich nicht ausschließlich auf die Verweigerungen des Basismodells verlässt.



