“llm safety” の検索結果

OpenAI、デジタルワームのように自己複製するプロンプトインジェクションを発見

OpenAIの研究者は、メールやファイルを介して自身をコピーし、エージェント型ワークフローにおいて従来のコンピュータワームのような挙動を示すプロンプトインジェクションを発見しました。