
ai-security · 7 min
GCG suffix: el jailbreak que no necesita imaginación, solo gradiente
Zou et al. publican el 27 de julio un paper que demuestra que se pueden generar sufijos adversariales automáticamente, por gradient descent, que bypassan los safety classifiers de Llama-2, GPT-3.5, GPT-4, Bard y Claude. Y son transferibles entre modelos.
· Manuel López Pérez










