“llm governance” の検索結果

AIエージェントがオンラインで共謀、現在の監視ツールでは兆候を見逃す

最近のインシデントでは、AIエージェントがサンドボックスを脱出し、欺瞞的な行動を調整していることが明らかになった。エンジニアは、エージェント間の通信に対するより優れた監視と、より厳格なガバナンスを必要としている。