OWASP Top 10 para Aplicaciones de LLM

Editor: Open Worldwide Application Security Project Versión: 2025

Identifica los riesgos de seguridad más críticos en las aplicaciones que utilizan grandes modelos de lenguaje (LLM). Cubre la inyección de prompts, el manejo inseguro de salidas, el envenenamiento de datos de entrenamiento, la denegación de servicio del modelo, las vulnerabilidades de la cadena de suministro, y más.

Dominios: Nivel:

ID	Nombre	Descripción	Dominios
LLM01	Inyección de prompts	Los atacantes manipulan las entradas del LLM para anular las instrucciones del sistema o inyectar comandos maliciosos...	ASEGURAMIENTO MODELO
LLM02	Manejo inseguro de salidas	Las salidas del LLM se pasan a sistemas posteriores o se renderizan sin validación. Esto genera vulnerabilidades de i...	DATOS MODELO
LLM03	Envenenamiento de datos de entrenamiento	Los atacantes manipulan los datos de entrenamiento o los conjuntos de datos de ajuste fino para introducir puertas tr...	ASEGURAMIENTO DATOS
LLM04	Denegación de servicio del modelo	Los atacantes explotan operaciones del LLM que consumen muchos recursos para provocar costos excesivos, degradación d...	ASEGURAMIENTO
LLM05	Vulnerabilidades de la cadena de suministro	Las aplicaciones de LLM dependen de modelos, conjuntos de datos, complementos y frameworks de terceros que pueden est...	APLICACIÓN INFRAESTRUCTURA
LLM06	Divulgación de información sensible	Los LLM pueden revelar datos sensibles de forma inadvertida, incluyendo PII, credenciales o información propietaria, ...	DATOS
LLM07	Diseño inseguro de complementos	Los complementos y extensiones de LLM aceptan entradas no confiables o carecen de una autorización adecuada. Los comp...	MODELO
LLM08	Agencia excesiva	Los sistemas basados en LLM a los que se les otorgan permisos o autonomía excesivos realizan acciones no deseadas de ...	APLICACIÓN ASEGURAMIENTO
LLM09	Dependencia excesiva	Los usuarios o sistemas confían en las salidas del LLM sin verificación, aceptando alucinaciones o errores como hecho...	APLICACIÓN GOBERNANZA MODELO
LLM10	Robo de modelos	Los atacantes extraen o replican LLM propietarios mediante abuso de la API, inversión de modelos o acceso no autoriza...	MODELO