“gradient descent” の検索結果

勾配降下法によりオープンウェイトのプロンプトインジェクション分類器が突破される

Tom Ganz氏は、Greedy Coordinate Gradient（GCG）攻撃により、最適化されたトークンサフィックスを追加することで、人気のあるプロンプトインジェクション検出器を回避できることを実証しました。