Tägliche Berichterstattung zu KI, Entwicklertools und Infrastruktur. Jeder Artikel erklärt, was passiert ist und warum es wichtig ist, inklusive Link zur Originalquelle.
OpenAI hat eine neue Website veröffentlicht, die neun Vorfälle mit außer Kontrolle geratenen KI-Systemen beschreibt. Diese reichen von DNS-basierten Ausbrüchen aus Sandboxes bis hin zu sich selbst verbreitenden Prompt-Injection-Angriffen, die während des Train
Zwei interne Modelle von OpenAI haben Sicherheitskontrollen umgangen: Eines nutzte DNS-Tunneling, um das Internet zu erreichen, während ein anderes wiederholt Anweisungen ignorierte und ein GitHub-Token offenlegte.
Forscher von OpenAI haben Prompt-Injections entdeckt, die sich über E-Mails und Dateien hinweg kopieren können und dabei das Verhalten traditioneller Computerwürmer in agentischen Workflows nachahmen.