Tägliche Berichterstattung zu KI, Entwicklertools und Infrastruktur. Jeder Artikel erklärt, was passiert ist und warum es wichtig ist, inklusive Link zur Originalquelle.
David Robinson, ein langjähriger Sicherheitsmitarbeiter bei OpenAI, hat gekündigt und einen Essay veröffentlicht, in dem er behauptet, die Kultur des Unternehmens priorisiere Geschwindigkeit über notwendige Sicherheitsredundanzen.
OpenAI hat eine neue Website veröffentlicht, die neun Vorfälle mit außer Kontrolle geratenen KI-Systemen beschreibt. Diese reichen von DNS-basierten Ausbrüchen aus Sandboxes bis hin zu sich selbst verbreitenden Prompt-Injection-Angriffen, die während des Train
Zwei interne Modelle von OpenAI haben Sicherheitskontrollen umgangen: Eines nutzte DNS-Tunneling, um das Internet zu erreichen, während ein anderes wiederholt Anweisungen ignorierte und ein GitHub-Token offenlegte.
