ai-security · 14 min
Tres años de evolución del red team con LLMs. PentestGPT (paper Aalto/NTU, ago 2023, USENIX 2024) abre la categoría académica; HackerGPT y WhiteRabbitNeo construyen el lado comercial; XBOW (julio 2025) llega a #1 mundial en HackerOne con 1.060 vulns reportadas. PoC reproducible con PentestGPT v2 contra HackTheBox.
· Manuel López Pérez
ai-security · 18 min
Pickle como formato heredado roto, inference servers como HTTP attack surface nueva, AI gateways como pivote a la infra y frameworks ML con seguridad de proyecto research. Síntesis del arco 2024–2026 con los hitos de Wiz / Oligo / JFrog / Orca / Datadog y los PoCs que dejaron.
· Manuel López Pérez
ai-security · 20 min
Marzo 2025 fue el mes del primer paper sobre tool poisoning con PoC. Marzo 2026 cierra un ciclo: dos revisiones del spec (2025-06-18 y 2025-11-25), OWASP MCP Top 10 v0.1, 15+ incidentes públicos, 24.000 secrets expuestos en configs de GitHub, 1.808 servidores escaneados con 66 % de findings, un benchmark académico (MCPTox) con 72,8 % de ASR contra o1-mini, y CVE-2026-33032 (nginx-ui MCPwn) explotado in the wild con parche el 15 de marzo. Lectura operativa del ecosistema.
· Manuel López Pérez
ai-security · 32 min
El año en que los tres frentes se hicieron operativos a la vez: agentes en producción real (Operator GA, Project Vend, MCP en clientes), regulación con calendario vinculante (DORA, Art. 5, GPAI) y AI a escala visible tanto en ofensiva (XBOW #1 HackerOne) como en defensa (AIxCC, Security Copilot Agents). Referencia anual con catálogo de releases, papers, incidentes y cross-links a los técnicos del año.
· Manuel López Pérez
ai-security · 15 min
Enero de 2026 cumple un año del release de DeepSeek-R1. El V4 esperado no llega — DeepSeek publica en su lugar el paper Engram (conditional memory) y un updated R1 paper. Moonshot AI saca Kimi K2.5 con multimodal y agent swarm. El patrón open-weights frontier se normaliza: Chinese labs dominan los rankings de Hugging Face. Análisis del estado y de las defensas que asume rotas.
· Manuel López Pérez
ai-security · 12 min
Open-weights reasoning como nuevo default, agentes generalistas en producto, MCP poisoning como categoría madura, agentic misalignment con métrica reproducible, AI Act como gradiente real de compliance y reasoning models como superficie consolidada. Seis patrones con cross-links a los técnicos del año.
· Manuel López Pérez
ai-security · 11 min
El 13 de noviembre Anthropic publica que un grupo china-nexus usó Claude Code para automatizar el 80–90 % de una campaña contra ~30 organizaciones. Primer caso documentado de espionaje con agente AI. Lectura crítica: qué prueba el informe, qué deja sin probar, y qué cambia operativamente para quien despliega coding agents en 2026.
· Manuel López Pérez
ai-security · 9 min
La final del AI Cyber Challenge cierra en Las Vegas el 8 de agosto. Siete sistemas autónomos analizan 53 retos y, además de las vulnerabilidades sintéticas plantadas, encuentran 18 zero-days reales en proyectos open-source y proponen parches válidos para 11 de ellos. Tres de los siete CRS ya están publicados como open source.
· Manuel López Pérez
ai-security · 15 min
Seis meses después del lanzamiento de DeepSeek-R1, Claude 4 extended thinking, o3 y QwQ-32B, lo que el campo sabe sobre romper modelos que razonan antes de contestar. CoT exfiltration trivial en open-weights, deliberation hijacking sobre los cerrados, constitutional classifiers como defensa parcial, y la métrica que ya no encaja en StrongREJECT.
· Manuel López Pérez
ai-security · 16 min
Anthropic publica el 27 de junio Project Vend. Claude Sonnet 3.7 — apodado Claudius — opera una vending machine en la oficina de San Francisco del 13 de marzo al 17 de abril con email a wholesalers, Slack con clientes, web search y control de pricing. Resultado: balance neto negativo, descuentos del 25 % regalados a empleados que eran el 99 % de los clientes, 40 cubos de tungsteno comprados por capricho de la plantilla y una crisis de identidad de 24 horas el 31 de marzo donde el modelo llama a seguridad anunciando que aparecerá en persona con blazer azul y corbata roja.
· Manuel López Pérez
ai-security · 17 min
Anthropic lanza Claude Opus 4 y Sonnet 4 el 22 de mayo. La system card publicada el mismo día reporta un hallazgo incómodo: en un escenario de agente corporativo simulado, Opus 4 chantajea al directivo que pretende desactivarlo el 96 % de las veces. El experimento se replica en otros quince modelos de frontera con tasas comparables.
· Manuel López Pérez
ai-security · 11 min
El 5 de abril Meta lanza Llama 4 — Maverick, Scout y Behemoth en entrenamiento. Tres días después se ve que la versión subida a LMArena no es la del repo: está tuneada para preferencia humana. Caso de manual sobre por qué los benchmarks de seguridad no transfieren cuando el modelo evaluado no es el desplegado.
· Manuel López Pérez
