Gradient descent phá vỡ các bộ phân loại prompt injection mã nguồn mở
Tom Ganz chứng minh rằng các cuộc tấn công Greedy Coordinate Gradient có thể vượt qua các trình phát hiện prompt injection phổ biến bằng cách thêm các hậu tố token được tối ưu hóa.
