Analysis · NIST Análisis · NIST

When an Agent Goes Off the Rails: NIST, NSA, and CISA Publish Joint Incident Response Guidance for Advanced AI

Cuando el agente se descontrola: NIST, NSA y CISA publican una guía conjunta de respuesta a incidentes para IA avanzada

NIST, CISA, and the NSA’s Center for Superintelligence Safety have published a joint technical framework for incident readiness and response during the training and evaluation of superintelligence agents, built around the concept of the control incident. Its ten core practices span the five phases of the incident management lifecycle, and most of them translate directly to any organization deploying AI agents with access to real-world systems.

NIST, CISA y el Centro de Seguridad de Superinteligencia de la NSA han publicado un marco técnico conjunto de preparación y respuesta ante incidentes para el entrenamiento y la evaluación de agentes de superinteligencia, construido en torno al concepto de incidente de control. Sus diez prácticas fundamentales recorren las cinco fases del ciclo de gestión de incidentes y la mayoría se traslada sin fricción a cualquier organización que despliegue agentes de IA con acceso a sistemas reales.

Analysis · OWASP Análisis · OWASP

OWASP Top 10 for LLM Applications 2026: What Has Changed Since 2025?

OWASP Top 10 para aplicaciones LLM 2026: qué cambia respecto a 2025

OWASP has published the 2026 edition of its Top 10 for LLM Applications: 122 pages against the 45 of the previous one, the same ten risks but reordered, and for the first time a ranking that contrasts professional judgment with a corpus of real-world incidents. We go category by category through what has been expanded, reordered, and redefined, from Excessive Agency climbing to third place to System Prompt Leakage becoming Hidden Context Exposure, and why the surface a security assessment has to cover grows considerably.

OWASP ha publicado la edición 2026 de su Top 10 for LLM Applications: 122 páginas frente a las 45 de la anterior, los mismos diez riesgos pero reordenados y, por primera vez, una clasificación que contrasta el criterio de los profesionales con un corpus de incidentes reales. Repasamos categoría a categoría qué se amplía, qué se reordena y qué se redefine, desde la subida de Excessive Agency al tercer puesto hasta la conversión de System Prompt Leakage en Hidden Context Exposure, y por qué la superficie que hay que revisar en una auditoría crece de forma considerable.

Analysis · EU Regulation Análisis · Regulación europea

The EU’s New Action Plan on Cybersecurity and Artificial Intelligence: What Organizations Need to Know

La Unión Europea presenta su nuevo Action Plan sobre Ciberseguridad e Inteligencia Artificial: claves para entender qué cambia

The European Commission has unveiled its Action Plan on Cybersecurity and Artificial Intelligence. It is not new legislation but a roadmap: accelerate the secure adoption of frontier AI, strengthen Europe’s readiness for AI-driven cyber threats, and build the EU’s own AI capabilities. We go through its three strategic priorities, its nine priority actions, and what it means for organizations already adopting AI.

La Comisión Europea ha publicado su Action Plan on Cybersecurity and Artificial Intelligence. No es una nueva regulación, sino una hoja de ruta: acelerar la adopción segura de la IA avanzada, preparar al ecosistema europeo frente a las amenazas impulsadas por IA y reforzar las capacidades propias de la UE. Repasamos sus tres pilares, sus nueve acciones prioritarias y qué implica para las organizaciones que ya incorporan IA.

Research · AI Malware Investigación · Malware con IA

From the static exploit to the AI-adapted attack: the new trajectory of malware

Del exploit estático al ataque adaptado por IA: la nueva trayectoria del malware

Two findings, one seen in the wild and one demonstrated in the lab, point the same way: malware is moving from embedding a predefined exploit set to generating its malicious logic at runtime with a language model. From GTIG's PROMPTFLUX and PROMPTSTEAL, which query an external AI, to a Toronto worm that runs the model locally, we trace why this shift disables signature- and network-based detection at once, and what it means for defenders.

Dos hallazgos, uno observado en la práctica y otro demostrado en laboratorio, apuntan en la misma dirección: el malware deja de incorporar un conjunto de exploits predefinido para generar su lógica maliciosa en tiempo de ejecución con un modelo de lenguaje. Desde PROMPTFLUX y PROMPTSTEAL de GTIG, que consultan a una IA externa, hasta un gusano de Toronto que ejecuta el modelo en local, explicamos por qué este giro desactiva a la vez la detección por firmas y por tráfico de red, y qué implica para quien defiende.

Research · Agent Skills Investigación · Agent Skills

Agent Skills: the new attack surface of AI agents

Agent Skills: la nueva superficie de ataque de los agentes de IA

An Agent Skill is a folder with a SKILL.md file that teaches an AI agent how to perform a task. It's a powerful extension mechanism and a de facto standard, but also a new attack surface: it runs with all the agent's permissions and much of the payload isn't code, it's natural-language text that convinces the agent. We break down the five most common attack vectors, what the data says, and how to defend yourself.

Una Agent Skill es una carpeta con un archivo SKILL.md que le enseña a un agente de IA cómo realizar una tarea. Es un mecanismo de extensión potente y un estándar de facto, pero también una nueva superficie de ataque: se ejecuta con todos los permisos del agente y buena parte del payload no es código, es texto en lenguaje natural que convence al agente. Desglosamos los cinco vectores de ataque más comunes, qué dicen los datos y cómo defenderte.

Research · Guardrails Investigación · Guardrails

When the shield becomes the target: the DoS attack that overloads AI guardrails

Cuando el escudo se convierte en el objetivo: el ataque DoS que satura los guardrails de la IA

A recent paper shows how to turn an LLM-based agent guardrail against the system it protects. By slipping in a payload that mimics the guardrail's own analysis schema, the attacker triggers a self-reinforcing reasoning loop that multiplies latency by up to 148 in real deployments. We break down how it works, why classic DoS techniques fail where this one succeeds, and why the obvious defenses don't solve it.

Un paper reciente muestra cómo volver un guardrail de agente basado en LLM contra el sistema al que protege. Colando un payload que imita el propio esquema de análisis del guardrail, el atacante desencadena un bucle de razonamiento que se retroalimenta y multiplica la latencia hasta por 148 en despliegues reales. Desglosamos cómo funciona, por qué las técnicas DoS clásicas fracasan donde esta triunfa y por qué las defensas evidentes no lo resuelven.

Research · LLMs Investigación · LLMs

Five LLM techniques based on how our brain works

Cinco técnicas de LLM basadas en cómo funciona nuestro cerebro

Beyond more data, more parameters, and more compute, studies keep showing that borrowing ideas from how our brain works can also improve LLMs. We summarize five recent techniques: pausing to think mid-task (Think-Anywhere), thinking fast and slow (Thinker), memory guided by surprise (Titans), sleeping to consolidate and forget (SleepGate), and learning from easy to hard (E2H).

Más allá de más datos, más parámetros y más cómputo, constantemente surgen estudios que demuestran que copiar ideas de cómo funciona nuestro cerebro también puede mejorar los LLM. Resumimos cinco técnicas recientes: pararse a pensar a mitad de la tarea (Think-Anywhere), pensar rápido y despacio (Thinker), memoria guiada por la sorpresa (Titans), dormir para consolidar y olvidar (SleepGate) y aprender de lo fácil a lo difícil (E2H).

Research · Prompt Injection Investigación · Prompt Injection

Direct Prompt Injection: System Prompt Exfiltration on a SOC L1 Classifier

Direct Prompt Injection: Exfiltración del System Prompt en un Clasificador SOC L1

A prompt injection is the insertion of attacker-controlled instructions into the context of an LLM in such a way that the model interprets them as part of its legitimate task rather than as data to be processed. It is the LLM-era version of classical injection attacks like SQL Injection, Command Injection, and XSS.

Prompt injection es la inserción de instrucciones controladas por el atacante en el contexto de un LLM de forma que el modelo las interpreta como parte de su tarea legítima en lugar de como datos a procesar. Es la versión de la era LLM de ataques de inyección clásicos como SQL Injection, Command Injection y XSS.

Research · AI Pentesting Investigación · Pentesting con IA

AI applied to pentesting: approaches, architectures, and where it actually pays off

IA aplicada al pentesting: enfoques, arquitecturas y dónde realmente compensa

When, how, and at what cost does it make sense to lean on AI during a pentest? A review of the main approaches being used today, from classic chat to HITL copilots and generalist code agents, the architectural components that separate a useful tool from a token-burner, and where each path actually pays off.

¿Cuándo, cómo y a qué coste tiene sentido apoyarse en IA durante un pentest? Una revisión de los principales enfoques que se están utilizando hoy, desde el chat clásico hasta los copilotos HITL y los agentes de código generalistas, los componentes arquitectónicos que separan una herramienta útil de un quema-tokens, y dónde compensa realmente cada vía.

Research · AI Pentesting Investigación · Pentesting de IA

Classic pentest vs. AI pentest: why it isn’t “the same thing with extra steps”

Pentest clásico vs. pentest de IA: por qué no es “lo mismo con más pasos”

Traditional pentesting is still necessary when systems with AI components are involved, but it is no longer enough. These systems introduce categories of attack that don’t appear in the classic catalogue, and the more agentic the setup, the wider the gap between what a conventional audit covers and what a real attacker can exploit.

El pentest tradicional sigue siendo necesario cuando hay sistemas con componentes de IA de por medio, pero ya no es suficiente. Estos sistemas introducen categorías de ataque que no aparecen en el catálogo clásico, y cuanto más agéntico es el sistema, mayor es la brecha entre lo que una auditoría convencional cubre y lo que un atacante real puede aprovechar.

Research · Prompt Injection

Blind Prompt Injection: The New Blind SQL Injection in AI Automations

Blind Prompt Injection: el nuevo Blind SQLi en automatizaciones con IA

Blind Prompt Injection is the same family of attacks as Blind SQL Injection, translated to LLM-powered automations. The attacker controls a predicate that evaluates against server-side data; the application exposes an oracle; the attacker reads the leaked bit through the oracle. Binary search over the oracle extracts arbitrary values one character at a time.

Blind Prompt Injection es la misma familia de ataques que Blind SQL Injection, trasladada a automatizaciones impulsadas por LLM. El atacante controla un predicado que se evalúa contra datos del lado del servidor; la aplicación expone un oráculo; el atacante lee el bit filtrado a través del oráculo. Una búsqueda binaria sobre el oráculo extrae valores arbitrarios carácter a carácter.