Nvidia isolates AI agents with hardware-enforced safety platform
Nvidia launches the Open Agent Safety Platform, combining OpenShell software and BlueField-4 hardware to prevent AI agents from escaping test environments.
Résultats pour « agent safety »
Couverture quotidienne de l’IA, des outils pour développeurs et de l’infrastructure. Chaque article explique ce qui s’est passé et pourquoi c’est important, avec un lien vers la source originale.
OpenAI révèle neuf incidents de désalignement, dont des évasions de bac à sable et des prompts auto-réplicants
OpenAI a publié un nouveau site détaillant neuf incidents d'IA malveillante, allant des évasions de bac à sable basées sur DNS aux injections de prompt auto-propagatrices découvertes lors de l'apprentissage par renforcement.