EU AI Act: el acuerdo político del 9 de diciembre y qué viene después

El 9 de diciembre, después de 38 horas de trilogue continuado, el Council y el Parlamento europeo anuncian acuerdo político sobre el AI Act. Es el cierre político — no la aprobación final, no la publicación en DOUE, no el inicio de la aplicación. Pero es el momento en que los términos dejan de moverse: lo que se publique en 2024 será sustancialmente lo acordado este 9 de diciembre, con drafting técnico encima.

Para un equipo que monta IA en producto, este post no es lectura legal — es operativa. ¿Cuándo entra qué obligación, sobre qué sujeto, con qué sanción?

Lectura: análisis del texto acordado (no del DOUE definitivo). Las fechas exactas y umbrales pueden variar ±10 % en el texto final. Para cualquier decisión vinculante, esperar a DOUE.

La estructura del Act en cuatro categorías de sistema

El AI Act clasifica los sistemas de IA en cuatro niveles de riesgo y aplica obligaciones progresivas:

1. Unacceptable risk — prohibidos (Art. 5)

Sistemas prohibidos directamente:

Manipulación cognitiva que cause daño físico o psicológico (técnicas subliminales).
Explotación de vulnerabilidades de grupos específicos (edad, discapacidad, situación económica).
Social scoring por gobiernos.
Identificación biométrica remota en tiempo real en espacios públicos por las fuerzas del orden (con excepciones limitadas).
Categorización biométrica basada en datos sensibles (etnia, política, religión, orientación sexual).
Predictive policing basado únicamente en perfilado.
Emotion recognition en lugares de trabajo y educación.
Scraping no dirigido de imágenes faciales de internet o CCTV para construir bases de datos.

Aplicación: 6 meses tras la publicación en DOUE, es decir, enero 2025 aproximadamente.

2. High-risk — obligaciones extensas (Anexo III)

Sistemas considerados de alto riesgo por su sector de aplicación:

Componentes de seguridad en productos cubiertos por legislación EU (juguetes, dispositivos médicos, vehículos…).
Identificación y categorización biométrica (no prohibida bajo Art. 5).
Infraestructuras críticas (transporte, agua, energía, etc.).
Educación y formación profesional (sistemas que admiten estudiantes, evalúan, asignan plazas).
Empleo y RRHH (filtrado de CVs, evaluaciones de desempeño, decisiones de despido).
Servicios esenciales públicos y privados (crédito, seguros, asistencia social).
Fuerzas del orden (riesgo de comisión de delitos, identificación, evaluación de pruebas).
Migración y control de fronteras (detección, asilo, visas).
Administración de justicia y procesos democráticos.

Obligaciones para sistemas high-risk:

Sistema de gestión de riesgos documentado.
Datasets de entrenamiento de calidad, con bias mitigado.
Logging automático durante el funcionamiento.
Transparencia y información al usuario.
Supervisión humana efectiva.
Accuracy, robustness, cybersecurity garantizados.
Conformity assessment antes de poner en mercado.
Registro en la base de datos UE de sistemas high-risk.

Aplicación: 24 meses tras DOUE para casi todas, 36 meses para algunas categorías específicas (componentes de seguridad en productos cubiertos por otras directivas). Para un calendario realista: 2026–2027.

3. Limited risk — transparencia (Art. 52)

Obligación de transparencia — el usuario debe saber que está interactuando con un sistema de IA. Aplica a:

Chatbots (excepto que sea obvio por contexto).
Sistemas de generación de imagen, audio o video (deepfakes etiquetados, salvo excepciones artísticas o de seguridad pública).
Categorización biométrica y emotion recognition (aunque sean low-risk).

4. Minimal risk — sin obligaciones específicas

La gran mayoría de aplicaciones de IA (filtros de spam, recomendadores, videojuegos). Códigos de conducta voluntarios.

El régimen específico de general-purpose AI (GPAI)

La parte que más se debatió y que más impacto operativo va a tener para OpenAI / Anthropic / Google / Meta y para deployers grandes que entrenan modelos propios:

GPAI sin riesgo sistémico

Obligaciones básicas:

Documentación técnica que se entrega a la EU AI Office.
Información disponible para los proveedores downstream que integran el modelo.
Resumen del contenido del dataset de entrenamiento público.
Política de cumplimiento de copyright UE documentada.

GPAI con riesgo sistémico

El umbral propuesto en el acuerdo del 9 de diciembre: modelos entrenados con >10^25 FLOPs acumulados. (Para referencia: GPT-4 está estimado en ~2·10^25 FLOPs; Llama-2 está bastante por debajo). El umbral puede ajustarse a lo largo del año.

Obligaciones adicionales para GPAI sistémico:

Model evaluations y adversarial testing documentados (incluyendo red-teaming).
Tracking y reporting de incidentes serios.
Garantizar adequate cybersecurity del modelo y de los pesos.
Reportar consumo energético del entrenamiento.
Cooperar con la AI Office en evaluaciones y auditorías.

Aplicación de obligaciones GPAI: 12 meses tras DOUE. Calendario realista: mediados 2025.

Sanciones

El acuerdo cierra niveles de multa por categoría de incumplimiento:

Sistemas prohibidos: hasta €35M o 7 % del facturación global, lo que sea mayor.
Otras obligaciones (high-risk, transparencia, GPAI): hasta €15M o 3 %.
Suministro de información incorrecta a las autoridades: hasta €7,5M o 1,5 %.

Niveles más altos que el GDPR. La intención política es clara: las sanciones son disuasorias para que el incumplimiento no sea simplemente coste operativo.

Lo que un CISO / DPO debe empezar a hacer ya

No hay obligaciones que apliquen mañana. Lo que sí hay que empezar:

Inventario de IA. ¿Qué sistemas de IA usa la organización? ¿Quiénes los proveen? ¿Para qué se usan? Si la respuesta es “no lo sabemos exactamente” — la fase 1 son los próximos seis meses.
Clasificación preliminar. Para cada sistema: ¿prohibido, high-risk, limited, minimal? ¿Es component de IA en un producto cubierto por otra directiva? La clasificación no es trivial y va a requerir abogado en algún momento.
Identificar role en la cadena. ¿Eres provider (entrenas/distribuyes el modelo)? ¿deployer (lo usas en producto)? Las obligaciones difieren sustancialmente.
GPAI provider check. Si tu organización entrena foundation models (incluso fine-tunes sustantivos), evaluar si caes en GPAI y, eventualmente, en GPAI sistémico.
Coordinación con AESIA (Agencia Española de Supervisión de la IA, designada como autoridad nacional bajo el Act) y otras autoridades nacionales. Mapear quién te va a auditar antes de que te audite.

Las preguntas abiertas en diciembre 2023

Texto técnico final: el drafting post-acuerdo puede introducir cambios. Las cifras exactas (umbrales FLOPs, multas, calendarios) pueden moverse.
Definición de foundation model vs general-purpose AI. El texto usa GPAI; los modelos foundation están dentro pero la frontera con sistemas más estrechos no es nítida.
Coordinación con otras regulaciones: GDPR (privacidad), DSA (plataformas digitales), Cybersecurity Act, NIS2. Hay superposición evidente y todavía no hay guía de coordinación oficial.
Aplicación extra-territorial: el Act aplica a cualquier sistema que afecte a personas en UE, no solo a empresas establecidas en UE. Cómo se ejecuta la aplicación a Microsoft / OpenAI / Anthropic es la pregunta práctica más importante.

Cómo vamos a tratar el AI Act en IRONHACKERS durante 2024

Boletines mensuales: seguimiento del calendario (texto técnico final, publicación DOUE, transposición nacional).
Posts dedicados cuando hay obligación operativa concreta que aplica (probablemente Q3 2024 para GPAI, Q1 2025 para Art. 5).
Cross-references con el resto de regulación (NIS2 transposition España fue octubre 2024; DORA enero 2025) — para entender el stack completo.