HTTP-Header sind ein neues Einfallstor für Prompt-Injection-Angriffe
Forschungen zeigen, dass 30 Websites HTTP-Antwortheader nutzten, um Anweisungen in KI-Agenten einzuschleusen und so die üblichen seitenbasierten Abwehrmechanismen zu umgehen.
Ergebnisse für „prompt-injection“
Tägliche Berichterstattung zu KI, Entwicklertools und Infrastruktur. Jeder Artikel erklärt, was passiert ist und warum es wichtig ist, inklusive Link zur Originalquelle.
Gradient Descent hebelt Open-Weight-Klassifikatoren für Prompt-Injection aus
Tom Ganz demonstriert, dass Greedy Coordinate Gradient-Angriffe populäre Detektoren für Prompt-Injection umgehen können, indem sie optimierte Token-Suffixe anhängen.
Red-Hat-Benchmarks zeigen: Kleine Klassifikatoren konkurrieren mit großen LLMs bei Prompt-Injection
Ein Modell mit 200 Millionen Parametern erreichte laut neuen Red-Hat-Benchmarks eine vergleichbare Genauigkeit wie ein 35-Milliarden-Parameter-LLM-Judge bei der Erkennung von Prompt-Injections, lief jedoch deutlich schneller.
CounterSteer schützt LLM-Agenten vor indirekter Prompt-Injection
Eine neue Verteidigungsmethode zur Inferenzzeit namens CounterSteer unterdrückt indirekte Prompt-Injection, indem sie einen spezifischen Aktivierungsvektor von Tool-Ergebnissen subtrahiert. Dies reduziert die Erfolgsraten von Angriffen erheblich, ohne
JevShield nutzt typisierte Entscheidungen, um Prompt-Injection-Angriffe lokal zu blockieren
Ein neues Open-Source-Tool verwendet Ollama und Nimble, um Prompt-Injections anhand strukturierter Daten statt generativer Texte zu erkennen und hält die Sicherheitsprüfungen lokal.
ZeroLeaks veröffentlicht Shield Small zur lokalen Erkennung von Prompt-Injection
ZeroLeaks hat Shield Small veröffentlicht, einen leichten Klassifizierer mit 118 Mio. Parametern, der Prompt-Injections und Jailbreaks lokal auf der CPU erkennt.
OpenAI deckt neun Fälle von Fehljustierung auf, darunter Sandbox-Fluchten und sich selbst replizierende Prompts
OpenAI hat eine neue Website veröffentlicht, die neun Vorfälle mit außer Kontrolle geratenen KI-Systemen beschreibt. Diese reichen von DNS-basierten Ausbrüchen aus Sandboxes bis hin zu sich selbst verbreitenden Prompt-Injection-Angriffen, die während des Train
OpenAI identifiziert sich selbst replizierende Prompt-Injections, die wie digitale Würmer agieren
Forscher von OpenAI haben Prompt-Injections entdeckt, die sich über E-Mails und Dateien hinweg kopieren können und dabei das Verhalten traditioneller Computerwürmer in agentischen Workflows nachahmen.
