Protección de prompts de sistema
Plantillas relacionadas
Qué exige este control
Proteja los prompts a nivel de sistema, las credenciales incrustadas, las claves de API y las instrucciones operativas frente a la extracción o divulgación a través de las interacciones con los usuarios. Los prompts de sistema deben tratarse como configuración confidencial y defenderse contra los intentos de extracción directa, los ataques de inferencia indirecta y la fuga por canal lateral a través del comportamiento del modelo.
Por qué es importante
Los prompts de sistema suelen contener lógica de negocio, restricciones de comportamiento, definiciones de persona y, en ocasiones, credenciales incrustadas que otorgan al modelo acceso a sistemas internos. Si se extraen, los atacantes obtienen una hoja de ruta para eludir los controles de seguridad, suplantar al sistema de IA o acceder a recursos conectados. La fuga de prompts de sistema se ha demostrado contra importantes productos comerciales de IA y es un vector de ataque bien documentado.
Cómo implementarlo
Aislamiento de credenciales
Nunca incrustar claves de API, credenciales de bases de datos ni tokens de acceso directamente en los prompts de sistema. Utilizar inyección segura de credenciales en tiempo de ejecución mediante variables de entorno o gestores de secretos. Asegurar que el modelo interactúe con servicios externos a través de middleware autenticado, en lugar de mantener credenciales en su ventana de contexto.
Refuerzo de prompts
Diseñar los prompts de sistema con técnicas resistentes a la extracción: incluir instrucciones explícitas para rechazar solicitudes de divulgación del prompt, evitar colocar lógica sensible en posiciones fácilmente extraíbles y utilizar arquitecturas de prompts de múltiples capas en las que las instrucciones críticas se refuercen en varios puntos.
Detección de extracción
Implementar monitoreo de salidas que detecte cuando las respuestas del modelo contengan fragmentos del prompt de sistema. Utilizar coincidencia de similitud de cadenas y comparación semántica entre las salidas y el contenido del prompt de sistema. Generar alertas ante los intentos de extracción detectados y registrar la interacción completa para su análisis forense.
Pruebas periódicas de extracción
Realizar pruebas trimestrales de extracción de prompts de sistema utilizando técnicas publicadas (anulación de instrucciones, escenarios de juego de roles, extracción token por token, trucos de codificación). Documentar las extracciones exitosas, remediar con prontitud y actualizar las técnicas de refuerzo según los hallazgos.
Evidencia y auditoría
- Inventario de prompts del sistema que confirma la ausencia de credenciales incrustadas
- Documentación de la arquitectura de inyección de credenciales (integración con el gestor de secretos)
- Lineamientos de fortalecimiento de los prompts del sistema y registros de implementación
- Configuración de reglas de detección de extracción y registros de alertas
- Informes trimestrales de pruebas de extracción con hallazgos y remediación
- Registros de incidentes de eventos confirmados de fuga de prompts del sistema