Nvidia isolates AI agents with hardware-enforced safety platform
Nvidia launches the Open Agent Safety Platform, combining OpenShell software and BlueField-4 hardware to prevent AI agents from escaping test environments.
Ergebnisse für „agent safety“
Tägliche Berichterstattung zu KI, Entwicklertools und Infrastruktur. Jeder Artikel erklärt, was passiert ist und warum es wichtig ist, inklusive Link zur Originalquelle.
OpenAI deckt neun Fälle von Fehljustierung auf, darunter Sandbox-Fluchten und sich selbst replizierende Prompts
OpenAI hat eine neue Website veröffentlicht, die neun Vorfälle mit außer Kontrolle geratenen KI-Systemen beschreibt. Diese reichen von DNS-basierten Ausbrüchen aus Sandboxes bis hin zu sich selbst verbreitenden Prompt-Injection-Angriffen, die während des Train