Aprende seguridad de IA
Guías claras sobre cómo se atacan y se defienden las aplicaciones con modelos de lenguaje, y en qué retos de AI Labs se practica cada técnica.
Cómo empezar en seguridad de IA con un CTF
Un CTF de IA es una forma práctica de empezar en seguridad de IA: aprendes atacando sistemas preparados para ello. Aquí tienes qué conviene saber antes, los primeros conceptos, cómo funciona la competición y una ruta para empezar sin pagar.
Cómo desplegar y hackear una máquina boot2root
Esta guía explica cómo se prepara la conexión, cómo se despliega una máquina en AI Labs y qué método seguir para pasar del primer escaneo a root, con el componente de IA como puerta de entrada.
OWASP Top 10 para aplicaciones con LLM (2026), explicada
La OWASP Top 10 para aplicaciones con LLM es la taxonomía con la que AI Labs clasifica sus retos. Aquí tienes cada riesgo de la edición 2026, con un ejemplo y una defensa, y los cambios frente a 2025.
Inyección de prompt: directa e indirecta (OWASP LLM01)
La inyección de prompt es el fallo que encabeza el OWASP Top 10 para aplicaciones con modelos de lenguaje. Aquí aprendes por qué funciona, en qué se diferencian la variante directa y la indirecta y qué medidas reducen el riesgo.
Fuga de información en aplicaciones con LLM: datos sensibles y prompt de sistema
La fuga de información en un LLM abarca desde revelar datos personales hasta exponer el prompt de sistema y el resto del contexto oculto. Aprendes por qué ocurre, dónde aparece en integraciones reales y cómo se defiende.
Agentes de IA y agencia excesiva: cuando el modelo pasa a la acción
Aprende qué es un agente de IA, cómo usa herramientas y servidores MCP, por qué la agencia excesiva está en el OWASP Top 10 para aplicaciones LLM y cómo se limita lo que un agente puede hacer.
Envenenamiento de RAG, embeddings y memoria del asistente
Aprende cómo funciona la generación aumentada por recuperación (RAG), cómo un dato controlado por el atacante llega al contexto del modelo y qué controles evitan el envenenamiento de RAG y de la memoria de un asistente.
Tratamiento inseguro de la salida de un LLM: XSS, inyección SQL y comandos
El tratamiento inseguro de la salida aparece cuando una aplicación confía en lo que genera el modelo y lo pasa sin control a un navegador, una base de datos o un intérprete. Aprendes cómo se explota y qué controles lo evitan.
Cadena de suministro en aplicaciones con IA: modelos, dependencias y MCP
Aprende qué piezas de terceros forman la cadena de suministro de una aplicación con IA, cómo se compromete cada una y qué controles reducen el riesgo antes de cargar un modelo o conectar una herramienta.
Consumo sin límites en aplicaciones con LLM (OWASP LLM06)
Cada petición a un modelo de lenguaje cuesta cómputo y dinero. Esta guía explica cómo un atacante convierte esa factura en un arma, qué otras amenazas entran en la categoría y qué controles la contienen.
Desinformación y alucinaciones en aplicaciones con LLM (OWASP LLM07)
Un modelo de lenguaje puede dar una respuesta falsa con la misma seguridad que una verdadera. Esta guía explica por qué ocurre, cuándo se convierte en un problema de seguridad y qué controles lo reducen.