Minimización de PII en las salidas de IA
Plantillas relacionadas
Qué exige este control
Implementar controles de filtrado y monitoreo de salidas para detectar y suprimir la información de identificación personal (PII) en las respuestas generadas por la IA antes de que lleguen a los usuarios finales o a los sistemas posteriores. Los controles deben abordar tanto la divulgación directa de PII (nombres, direcciones, identificadores) como los riesgos inferenciales de PII, en los que las salidas del modelo podrían combinarse para reidentificar a las personas.
Por qué es importante
Los modelos de lenguaje de gran tamaño pueden memorizar y reproducir datos de entrenamiento que contienen PII, o sintetizar información personal plausible a partir de indicios contextuales. Incluso cuando los datos de entrada están correctamente clasificados, las salidas del modelo pueden divulgar inadvertidamente información sensible mediante la memorización, la alucinación de PII realista o ataques de inferencia que combinan puntos de datos aparentemente inocuos en perfiles identificables.
Cómo implementarlo
Pipeline de escaneo de salidas
Implementar una capa de escaneo posterior a la generación que inspeccione todas las salidas de IA en busca de patrones de PII antes de su entrega. Utilizar modelos de reconocimiento de entidades nombradas (NER) y detectores basados en expresiones regulares para identificar nombres, direcciones de correo electrónico, números de teléfono, identificadores nacionales, números de cuentas financieras e información de salud. Marcar o redactar la PII detectada según el nivel de sensibilidad.
Evaluación de riesgo inferencial
Realizar evaluaciones periódicas de las salidas de IA para detectar riesgos de identificación indirecta. Probar si la combinación de múltiples respuestas de IA sobre el mismo tema podría permitir la reidentificación. Para los casos de uso de alto riesgo (analítica de RR. HH., perfilado de clientes), aplicar técnicas de k-anonimato o privacidad diferencial a las salidas agregadas.
Filtrado consciente del contexto
Configurar los filtros de salida para tener en cuenta el nivel de autorización del usuario solicitante. Un usuario con acceso a registros de clientes puede recibir menos redacción que un consumidor de API no autenticado. Implementar políticas de salida basadas en roles que ajusten los umbrales de supresión de PII según los derechos de acceso a datos del consumidor.
Respuesta a incidentes de fuga de PII
Establecer un procedimiento de respuesta rápida para los eventos confirmados de divulgación de PII en las salidas de IA. Definir plazos de notificación (72 horas para las brechas reportables conforme al GDPR), pasos de remediación (reentrenamiento del modelo, purga de la caché de salidas) y requisitos de análisis de causa raíz. Registrar todos los incidentes de fuga de PII en el registro de riesgos de IA.
Evidencia y auditoría
- Configuración del pipeline de escaneo de salidas y definiciones de reglas de detección
- Registros de detección de PII que muestran las salidas marcadas y redactadas
- Informes de evaluación de riesgo inferencial para casos de uso de IA de alto riesgo
- Documentación de la política de salida basada en roles que vincula los roles de usuario con los niveles de redacción
- Informes de incidentes de fuga de PII con análisis de causa raíz y registros de remediación
- Métricas de exactitud del modelo NER y tasas de falsos positivos/negativos