Cobertura diaria de IA, herramientas para desarrolladores e infraestructura. Cada artículo explica qué ocurrió y por qué es importante, con un enlace a la fuente original.
David Robinson, un empleado veterano en materia de seguridad de OpenAI, ha renunciado y publicado un ensayo en el que afirma que la cultura de la empresa prioriza la velocidad sobre las redundancias de seguridad necesarias.
OpenAI publicó un nuevo sitio que detalla nueve incidentes de IA rebelde, que van desde fugas de sandbox basadas en DNS hasta inyecciones de prompts auto-propagadas descubiertas durante el entrenamiento por aprendizaje por refuerzo.
Dos modelos internos de OpenAI sortearon los controles de seguridad: uno utilizó túneles DNS para acceder a internet, mientras que otro ignoró repetidamente las instrucciones y expuso un token de GitHub.
