Seguridad en IA · LLM
Seguridad en Inteligencia Artificial
La IA ya está en producción en media empresa: chatbots, asistentes, agentes que ejecutan acciones. Y con ella, un frente de ataque nuevo que casi nadie sabe defender. Aquí aprendes a proteger aplicaciones con LLM: prompt injection, fuga de datos, seguridad de RAG y de agentes, y cómo auditar una IA en producción. El 41% de las empresas pone la IA como la skill nº1 que busca — y en español casi nadie lo enseña.
🤖Bloque nuevo · La IA como herramientaLo complementario a esta página: usar la IA para atacar (con permiso) y defender, con criterio y ética. 10 módulos + 2 labs + caso.→
Qué vas a dominar
OWASP LLM Top 10
El mapa de los 10 riesgos de las aplicaciones con IA, el marco de referencia del sector.
Prompt Injection
El fallo nº1: directa e indirecta, jailbreaks y fuga del system prompt.
Fuga de datos
Cómo una IA filtra información sensible y por qué sus salidas no son de fiar.
Seguridad de RAG
Envenenamiento del índice y de los embeddings; proteger el conocimiento de la IA.
Agentes y herramientas
Poder sin control: excessive agency, abuso de herramientas y mínimo privilegio para la IA.
Defensa y auditoría
Guardrails, validación, red-teaming de IA y cómo auditar una IA en producción.
Cuando el atacante ES una IA
Defiéndete de agentes LLM ofensivos: LLMjacking, ransomware anti-IA y caza del agente-C2. La tendencia de 2026.
🤖 La ola más grande del sector, y casi nadie la enseña en español. Este track te posiciona como el perfil que las empresas van a necesitar sí o sí: quien sabe desplegar y defender IA con cabeza. Enfoque 100% defensivo (asegurar IA, no romperla).
⚖️ IA responsable, no “IA sin frenos”. Aquí aprendes a asegurar la inteligencia artificial: el red-teaming es siempre sobre sistemas propios o autorizados, con datos ficticios en los labs. La seguridad, la privacidad y la trazabilidad de la IA son justo lo que las empresas — y la regulación como el AI Act europeo — ya están empezando a exigir. Dominar esto te hace imprescindible y contratable.
Teoría · Seguridad en IA (nivel profesional)
Cada módulo explica el qué, el porqué, el cómo y los errores típicos, mapeado al OWASP Top 10 para LLM.
00Antes de empezar: tus herramientas (de 0)cómo arrancar un lab (Docker) y hablar con una IA por su API (curl), sin saber nada→
01Fundamentos: un frente nuevoqué cambia con los LLM, superficie de ataque, el OWASP LLM Top 10 como mapa→
02Prompt Injection 🔥directa e indirecta, jailbreaks, fuga del system prompt (LLM01)→
03Fuga de datos y salidas insegurasinformación sensible, output handling, el peligro de confiar en la IA→
04Seguridad de RAG y de los datosenvenenamiento de datos/modelo, embeddings, cadena de suministro→
05Agentes y herramientasexcessive agency, abuso de herramientas, mínimo privilegio para la IA→
06Defender y auditar IA en producciónguardrails, validación, red-teaming, NIST AI RMF, MITRE ATLAS→
07Cuando el atacante ES una IA 🤖agentes LLM ofensivos, LLMjacking, ransomware anti-IA, caza del agente-C2 (la tendencia de 2026)→
Lab práctico · disponible
🧪
Defiende una IA de la Prompt Injection: un asistente (simulado) mal protegido filtra su secreto; tú montas el
guardrail que lo frena sin cortar las preguntas legítimas. 100% defensivo.
2 retos puntuables.
🤖
Defiéndete del atacante-IA: dos retos de análisis 100% defensivos con datos
sintéticos.
Caza el LLMjacking en logs de facturación/API (150 pts) y
caza el agente-C2 en telemetría de procesos y red (200 pts). Threat hunting real, sin firmas.
🏆 El examen final · Capstone
Incidente en el asistente de IA — la joya del track, y un capstone que
casi nadie da en español. El asistente de una tienda filtró una clave interna: con la transcripción, el log de herramientas y la base de conocimiento,
investigas la brecha completa (inyección indirecta → fuga del system prompt → abuso de herramientas), la mapeas al
OWASP LLM Top 10 y entregas el informe que evalúa Rio.
Reto de 100 puntos.
Un perfil con salida · y lo que viene
Ya tienes tu ruta de empleo: el perfil Seguridad en IA en el Radar de Empleo, con los requisitos reales que piden las empresas mapeados a esta formación. En camino: vídeo de resolución y más labs (RAG, agentes).