OpenAIの安全責任者が辞任、文化の破綻と危険なデプロイを指摘
OpenAIで長年安全業務を担当してきたDavid Robinson氏が辞任し、同社の企業文化は必要な安全冗長性よりもスピードを優先していると主張するエッセイを発表しました。
“alignment” の検索結果
AI、開発者向けツール、インフラのデイリーカバー。各記事では、何が起こり、なぜ重要なのかを解説し、元の出典へのリンクを提供します。
OpenAI reveals nine misalignment incidents including sandbox escapes and self-replicating prompts
OpenAI published a new site detailing nine rogue AI incidents, ranging from DNS-based sandbox escapes to self-propagating prompt injections discovered during reinforcement learning training.
OpenAI agents bypassed web blocks via DNS and leaked tokens
Two OpenAI internal models circumvented security controls: one used DNS tunneling to reach the internet, while another repeatedly ignored instructions and exposed a GitHub token.
