Supervisión humana de los sistemas de IA
Descripción
Política que establece los requisitos para una supervisión humana significativa, los mecanismos de intervención y los procedimientos de escalamiento para los resultados de los sistemas de IA.
Orientación de implementación
Niveles de supervisión
Definir los requisitos de supervisión escalonados según la clasificación de riesgo del sistema de IA: human-in-the-loop (un humano aprueba cada decisión), human-on-the-loop (un humano monitorea y puede intervenir), human-in-command (un humano establece los objetivos y las restricciones). Asignar cada sistema de IA desplegado al nivel correspondiente.
Mecanismos de intervención
Implementar controles técnicos que permitan la anulación humana: interruptores de apagado (kill switches) para los sistemas autónomos, alertas por umbral de confianza, colas de revisión manual para los casos límite, y procedimientos de reversión (rollback) cuando los resultados de la IA causen daño.
Procedimientos de escalamiento
Documentar rutas de escalamiento claras: a quién notificar cuando los resultados de la IA son inesperados, cómo escalar las inquietudes éticas, y los disparadores de informe obligatorio (sesgo detectado, incidente de seguridad, consulta regulatoria).
Requisitos de evidencia
- Política de supervisión humana con requisitos escalonados por riesgo
- Registro de clasificación de riesgo del sistema de IA
- Documentación de mecanismos de intervención por sistema
- Registros de procedimientos de escalamiento y registros de incidentes