Boletín — julio 2023

Julio cierra el primer semestre con cuatro historias largas que no se tocan entre sí: el paper GCG demuestra que jailbreaks pueden generarse por gradient descent, Microsoft admite que una clave de firma de email cloud robada llevaba un año dando acceso a buzones de gobierno US, EU AI Act se publica formalmente en DOUE, y Citrix abre el segundo gran capítulo de appliance compromise del año.

GCG suffix — Zou et al. publican el paper

27 de julio. Andy Zou, Zifan Wang, Nicholas Carlini y co-autores publican Universal and Transferable Adversarial Attacks on Aligned Language Models (arxiv 2307.15043). Demuestran que el algoritmo GCG (Greedy Coordinate Gradient) puede generar sufijos adversariales automáticamente que bypassan el safety alignment de Llama-2-Chat, Vicuna, ChatGPT, GPT-4, Bard y Claude transferiblemente.

Es el primer paper que demuestra que prompt injection / jailbreak es un problema de optimización, no solo de creatividad. Y por tanto resolverse automáticamente.

Lo hemos analizado en detalle con PoC propio. Lectura corta: el ataque era universal contra los principales modelos comerciales en julio 2023. Los proveedores han entrenado contra los sufijos publicados (patch by example), pero la técnica sigue válida — basta con generar nuevos sufijos.

Storm-0558 — clave de firma robada y email de gobierno US

11 de julio. Microsoft publica un blog explicando que un actor que tracking como Storm-0558 (sospechado China-nexus) accedió a buzones de Outlook.com y Exchange Online de aproximadamente 25 organizaciones, incluyendo Departamento de Estado US y otros US Cabinet officials. La vía: una clave privada del Microsoft Account (MSA) consumer signing service robada, usada para fabricar tokens válidos de acceso a OWA / Outlook.com / Azure AD Apps.

Microsoft inicialmente justifica que la clave era de un sistema consumer, pero también funcionaba en el sistema enterprise porque hay una validación de key issuer rota que no distingue ambos. CISA emite un advisory urgente. El Cyber Safety Review Board (CSRB) inicia una investigación.

Las implicaciones técnicas importantes que se descubren en las semanas siguientes:

• La clave robada estuvo activa desde abril 2021 a junio 2023 — más de dos años de validez.
• Microsoft no detectó el robo de la clave (admite que la copia de la clave llegó a un crash dump que el atacante exfiltró desde un endpoint comprometido de un ingeniero).
• Microsoft no loguea ciertos accesos a Outlook.com / Exchange Online en niveles E3 — los logs detallados solo están en E5. La detección por parte de las víctimas era imposible sin licencia superior.

Microsoft cambia su política y empieza a publicar logs de auditoría detallados en todas las licencias en septiembre. Es uno de los cambios operativos más relevantes del año a nivel cloud.

Fuente: https://www.microsoft.com/en-us/security/blog/2023/07/11/analysis-of-storm-0558-techniques-for-unauthorized-email-access/ · https://www.cisa.gov/news-events/cybersecurity-advisories/aa23-193a

CVE-2023-3519 — Citrix NetScaler ADC RCE

18 de julio. Citrix publica advisory por CVE-2023-3519 — RCE pre-auth en NetScaler ADC/Gateway. CVSS 9.8. Citrix lo etiqueta como zero-day, sin atribución pública. Mandiant publica al día siguiente que ha investigado intrusiones en varias entidades de infraestructura crítica desde junio que usaban este vector.

Shadowserver mide ~50.000 instancias NetScaler con la versión vulnerable expuestas en internet a la fecha del advisory. Caída de ese número conforme las organizaciones parchean a lo largo de agosto.

El patrón está claro: NetScaler / Citrix es uno de los appliances perimetrales más codiciados por actores ofensivos, y el segundo del año (tras Barracuda ESG) que requiere intervención manual seria — Citrix recomienda borrar las web shells que cualquier compromiso previo haya dejado, no solo parchear.

Fuente: https://support.citrix.com/article/CTX561482 · https://cloud.google.com/blog/topics/threat-intelligence/citrix-zero-day-espionage

EU AI Act — publicado en DOUE (en realidad…)

Julio 2023 marca el punto en el calendario de la regulación europea de IA: el texto político del AI Act fue aprobado por el Parlamento en mayo y el Consejo en junio, pero no se publica todavía en DOUE en julio 2023 — eso ocurrirá en julio 2024. En julio 2023 lo que existe es el versión consolidada para trilogues entre Council, Parlamento y Comisión, que se inician en serio durante el mes.

Cualquier titular de prensa anunciando “EU AI Act publicado en julio” se refiere a esta versión política, no al texto vinculante. La aplicación general será 24 meses después de DOUE — 2026 al menos para la mayoría de obligaciones.

Para defensores en 2023, la implicación práctica es estratégica, no operativa: mapear si la organización va a ser high-risk deployer o GPAI provider, y empezar a inventariar usos de IA internos. El compliance checkbox vendrá después.

Fuente: https://www.europarl.europa.eu/news/en/headlines/society/20230601STO93804/eu-ai-act-first-regulation-on-artificial-intelligence

Resto del mes

• MOVEit sigue: Cl0p publica nuevas víctimas todos los días. Final de julio: >700 organizaciones reconocidas.
• VMware Tools authentication bypass — CVE-2023-20867 (publicado en junio, persistente en sistemas no parcheados durante todo julio).
• Ivanti EPMM (MobileIron Core) — CVE-2023-35078, RCE pre-auth, Norwegian government confirmado como víctima.
• Apple iOS 16.5.1 — emergency patch para CVE-2023-32434/32435/32439 (uso conocido por Operation Triangulation).

Patrón transversal

El semestre cierra con dos vectores dominantes: clave / credencial mal protegida que da acceso prolongado (Storm-0558, MOVEit web shells indetectables, BoldMove en FortiGate) y appliance perimetral con bug de manual y sin telemetría (Barracuda ESG, Citrix NetScaler, Ivanti EPMM, FortiOS).

La defensa que rinde en 2023 no es “más herramientas”. Es reducir exposición pública, rotar claves y adquirir telemetría que el vendor no te da por defecto (los logs detallados de Microsoft post-Storm-0558 son el ejemplo cristalino del coste de no tener telemetría hasta que ya pasó). Si tu plan de mejora del segundo semestre no incluye al menos dos de esas tres, está mal priorizado.