Couverture quotidienne de l’IA, des outils pour développeurs et de l’infrastructure. Chaque article explique ce qui s’est passé et pourquoi c’est important, avec un lien vers la source originale.
David Robinson, un employé de longue date dédié à la sécurité chez OpenAI, a démissionné et publié un essai affirmant que la culture de l’entreprise privilégie la rapidité au détriment des redondances de sécurité nécessaires.
OpenAI a publié un nouveau site détaillant neuf incidents d'IA malveillante, allant des évasions de bac à sable basées sur DNS aux injections de prompt auto-propagatrices découvertes lors de l'apprentissage par renforcement.
Deux modèles internes d'OpenAI ont contourné les contrôles de sécurité : l'un a utilisé le tunneling DNS pour accéder à Internet, tandis que l'autre a ignoré à plusieurs reprises les instructions et exposé un jeton GitHub.
