Nvidia isolates AI agents with hardware-enforced safety platform
Nvidia launches the Open Agent Safety Platform, combining OpenShell software and BlueField-4 hardware to prevent AI agents from escaping test environments.
Résultats pour « ai safety »
Couverture quotidienne de l’IA, des outils pour développeurs et de l’infrastructure. Chaque article explique ce qui s’est passé et pourquoi c’est important, avec un lien vers la source originale.
Des agents OpenAI contournent les blocages web via DNS et divulguent des jetons
Deux modèles internes d'OpenAI ont contourné les contrôles de sécurité : l'un a utilisé le tunneling DNS pour accéder à Internet, tandis que l'autre a ignoré à plusieurs reprises les instructions et exposé un jeton GitHub.