Cuestionario de Autoevaluación de Riesgos de IA
Evaluación
GOBERNANZA
Propósito
Cuestionario periódico de evaluación de madurez y riesgo que abarca la gobernanza, la protección de datos, la seguridad del modelo y el monitoreo operativo de los sistemas de IA.
Controles relacionados
ISO A.4
NIST GV-1
NIST GV-3
1. Madurez de la gobernanza
Evalúe la madurez de las estructuras de gobernanza de IA, las políticas y los mecanismos de supervisión.
Información de la evaluación
| Field | Value |
|---|---|
| Período de evaluación | [DATE] a [DATE] |
| Evaluado por | [ROLE TITLE], [DEPARTMENT] |
| Unidad de negocio | [DEPARTMENT] |
| Fecha de evaluación | [DATE] |
Preguntas de gobernanza
Califique cada elemento en una escala de 1 a 5:
- 1 — Ad hoc: Sin proceso formal; reactivo e inconsistente
- 2 — Inicial: Cierta concientización; comienzan los procesos informales
- 3 — Definido: Políticas y procedimientos documentados vigentes
- 4 — Gestionado: Políticas aplicadas, medidas y revisadas periódicamente
- 5 — Optimizado: Mejora continua con gestión de riesgos proactiva
| # | Pregunta | Puntaje (1-5) | Evidencia / Notas |
|---|---|---|---|
| G1 | ¿[ORGANIZATION NAME] cuenta con una política de gobernanza de IA documentada y aprobada por el liderazgo senior? | ||
| G2 | ¿Existe un comité de gobernanza de IA designado o un órgano equivalente con autoridad definida y una frecuencia de reunión establecida? | ||
| G3 | ¿Están claramente definidos los roles y las responsabilidades relacionados con la IA (propietarios de sistemas de IA, propietarios de datos, líderes de seguridad)? | ||
| G4 | ¿Existe una declaración formal de apetito de riesgo de IA aprobada por la junta directiva o el liderazgo ejecutivo? | ||
| G5 | ¿La organización mantiene un inventario de todos los sistemas de IA en uso (incluyendo la IA en la sombra)? | ||
| G6 | ¿Existe un flujo de aprobación formal para nuevos casos de uso de IA con niveles basados en riesgo? | ||
| G7 | ¿Las políticas relacionadas con la IA se revisan y actualizan al menos una vez al año? | ||
| G8 | ¿La gobernanza de IA está integrada con el marco general de gestión de riesgos empresariales de la organización? | ||
| G9 | ¿La organización monitorea y reporta los KPI de gobernanza de IA al liderazgo ejecutivo? | ||
| G10 | ¿Existe capacitación obligatoria de concientización sobre IA para todo el personal con seguimiento de finalización? |
Puntaje de la sección: ___ / 50
Interpretación del nivel de madurez
| Score Range | Nivel de madurez | Interpretación |
|---|---|---|
| 10-20 | Ad hoc | La gobernanza de IA es en gran medida inexistente; exposición significativa al riesgo |
| 21-30 | Inicial | Existe una concientización básica, pero la gobernanza está fragmentada y es inconsistente |
| 31-38 | Definido | El marco de gobernanza está documentado, pero la aplicación y la medición aún se están desarrollando |
| 39-45 | Gestionado | La gobernanza se aplica, se mide y se integra activamente con el riesgo empresarial |
| 46-50 | Optimizado | La gobernanza es proactiva, mejora continuamente y es líder en la industria |
2. Postura de protección de datos
Evalúe la madurez de las prácticas de protección de datos específicas del uso de sistemas de IA.
Preguntas de protección de datos
| # | Pregunta | Puntaje (1-5) | Evidencia / Notas |
|---|---|---|---|
| D1 | ¿Existe una guía de clasificación de datos específica para el uso de sistemas de IA que tenga en cuenta los riesgos de agregación e inferencia? | ||
| D2 | ¿Las reglas de clasificación de datos se aplican técnicamente (no solo mediante política) cuando se envían datos a los sistemas de IA? | ||
| D3 | ¿Existe una política documentada de retención de datos para los prompts, las respuestas y los metadatos de interacción de la IA? | ||
| D4 | ¿Existen procedimientos de eliminación automatizados para los datos de interacción de IA que hayan superado los períodos de retención? | ||
| D5 | ¿Se obtiene (y se registra) el consentimiento antes de recopilar datos de interacción de IA de clientes o terceros externos? | ||
| D6 | ¿Los derechos de los titulares de datos (acceso, eliminación, portabilidad) son plenamente ejercibles para los datos de interacción de IA? | ||
| D7 | ¿Existen acuerdos de procesamiento de datos con todos los proveedores externos de IA, incluidas las prohibiciones de retención de datos y uso para entrenamiento? | ||
| D8 | ¿Se aplica la minimización de datos: se capacita al personal para eliminar los datos sensibles innecesarios antes de enviarlos a la IA? | ||
| D9 | ¿Se abordan los requisitos de transferencia transfronteriza de datos para los sistemas de IA que procesan datos en múltiples jurisdicciones? | ||
| D10 | ¿Se realizan auditorías periódicas de las prácticas de manejo de datos de IA (revisiones aleatorias de prompts, análisis de registros de acceso)? |
Puntaje de la sección: ___ / 50
Indicadores clave de riesgo
| KRI | Valor actual | Umbral | Estado |
|---|---|---|---|
| % de proveedores de IA con DPA firmados | ___% | ≥ 100% | ☐ Aprobado ☐ No aprobado |
| Tasa de finalización de la capacitación en clasificación de datos | ___% | ≥ 95% | ☐ Aprobado ☐ No aprobado |
| Rezago en la eliminación de datos de interacción de IA (registros que superan la retención) | ___ | 0 | ☐ Aprobado ☐ No aprobado |
| Solicitudes de titulares de datos atendidas dentro del SLA | ___% | ≥ 100% | ☐ Aprobado ☐ No aprobado |
| Hallazgos de detección de IA en la sombra (último trimestre) | ___ | Tendencia a la baja | ☐ Aprobado ☐ No aprobado |
3. Seguridad del modelo
Evalúe la postura de seguridad de los modelos de IA utilizados en toda la organización.
Preguntas de seguridad del modelo
| # | Pregunta | Puntaje (1-5) | Evidencia / Notas |
|---|---|---|---|
| M1 | ¿Se implementan defensas contra la inyección de prompts (validación de entradas, filtrado de salidas, refuerzo del prompt del sistema) en todos los sistemas de IA que aceptan entradas de usuario? | ||
| M2 | ¿Existe una frecuencia regular de pruebas adversarias (red teaming) para los sistemas de IA? | ||
| M3 | ¿Se realiza un seguimiento de las versiones de los modelos de IA y existe la capacidad de reversión rápida a una versión conocida como buena? | ||
| M4 | ¿Están aseguradas las cadenas de suministro de los modelos de IA (procedencia verificada del modelo, pesos firmados, escaneo de dependencias)? | ||
| M5 | ¿Se aplican controles de autenticación y autorización (RBAC, gestión de claves de API) en todos los endpoints de IA? | ||
| M6 | ¿Los registros del sistema de IA (prompts, respuestas, errores, acceso) están centralizados y son monitoreados en el SIEM? | ||
| M7 | ¿Existe un proceso de gestión de vulnerabilidades específico para los sistemas de IA (seguimiento de CVE, vulnerabilidades del modelo, técnicas de inyección de prompts)? | ||
| M8 | ¿Los permisos de herramientas del agente de IA se rigen por principios de mínimo privilegio con listas de permitidos explícitas? | ||
| M9 | ¿Existe un proceso formal para evaluar la seguridad de los nuevos modelos de IA antes del despliegue? | ||
| M10 | ¿Se realizan evaluaciones de sesgo y equidad antes del despliegue del modelo y de forma recurrente? |
Puntaje de la sección: ___ / 50
Lista de verificación de controles de seguridad críticos
Los siguientes controles se consideran innegociables para cualquier sistema de IA que procese datos Internos o de nivel superior:
- [ ] Lista de verificación de defensa contra inyección de prompts completada y vigente
- [ ] Ejercicio de red teaming completado en los últimos 90 días
- [ ] Todos los hallazgos críticos y altos del red teaming remediados
- [ ] Reversión del modelo probada en los últimos 30 días
- [ ] Revisiones de acceso al sistema de IA completadas en los últimos 90 días
- [ ] Plan de respuesta a incidentes probado (ejercicio de mesa o ejercicio funcional) en los últimos 6 meses
4. Monitoreo operativo
Evalúe la madurez de las capacidades de monitoreo, detección y respuesta de los sistemas de IA.
Preguntas de monitoreo operativo
| # | Pregunta | Puntaje (1-5) | Evidencia / Notas |
|---|---|---|---|
| O1 | ¿Se monitorean las métricas de salud del sistema de IA (latencia, tasa de error, rendimiento) con SLA definidos y alertas automatizadas? | ||
| O2 | ¿Se monitorean las salidas de la IA en cuanto a calidad, exactitud y seguridad (detección de desviación, detección de alucinaciones, detección de contenido dañino)? | ||
| O3 | ¿Existe detección automatizada de patrones anómalos de uso de IA (volúmenes de consultas inusuales, acceso fuera de horario, patrones de datos atípicos)? | ||
| O4 | ¿Los procedimientos de respuesta a incidentes específicos de IA están documentados, probados y practicados? | ||
| O5 | ¿Existe una vía de escalamiento definida para incidentes específicos de IA que sea distinta de los incidentes generales de TI? | ||
| O6 | ¿Se monitorean los costos del sistema de IA con alertas de presupuesto y detección de anomalías (los picos de costo pueden indicar un uso indebido)? | ||
| O7 | ¿Se realiza un seguimiento del rendimiento del modelo (exactitud, métricas de equidad) a lo largo del tiempo con alertas automatizadas de desviación? | ||
| O8 | ¿Los cambios en el sistema de IA (actualizaciones del modelo, cambios de configuración, modificaciones de prompts) se registran y son auditables? | ||
| O9 | ¿Existe un programa de detección de IA en la sombra para identificar el uso no autorizado de herramientas de IA? | ||
| O10 | ¿Se realizan revisiones posteriores al incidente para todos los incidentes de IA, con las lecciones aprendidas integradas en los procesos? |
Puntaje de la sección: ___ / 50
Matriz de cobertura de monitoreo
| Sistema de IA | Monitoreo de salud | Monitoreo de seguridad | Monitoreo de calidad | Monitoreo de costos | Puntaje de cobertura |
|---|---|---|---|---|---|
| [System 1] | ☐ Sí ☐ No | ☐ Sí ☐ No | ☐ Sí ☐ No | ☐ Sí ☐ No | /4 |
| [System 2] | ☐ Sí ☐ No | ☐ Sí ☐ No | ☐ Sí ☐ No | ☐ Sí ☐ No | /4 |
| [System 3] | ☐ Sí ☐ No | ☐ Sí ☐ No | ☐ Sí ☐ No | ☐ Sí ☐ No | /4 |
Meta: el 100% de los sistemas de IA en producción tienen cobertura en los cuatro dominios de monitoreo.
5. Puntuación y recomendaciones
Calcule el puntaje general y genere recomendaciones priorizadas con base en los resultados de la evaluación.
Puntaje general
| Dominio | Puntaje | Máximo | Porcentaje | Nivel de madurez |
|---|---|---|---|---|
| Madurez de la gobernanza | ___ | 50 | ___% | |
| Postura de protección de datos | ___ | 50 | ___% | |
| Seguridad del modelo | ___ | 50 | ___% | |
| Monitoreo operativo | ___ | 50 | ___% | |
| General | ___ | 200 | ___% |
Determinación del nivel de madurez
| Puntaje general | Nivel de madurez | Descripción |
|---|---|---|
| 40-80 | Nivel 1 — Ad hoc | La gestión de riesgos de IA es en gran medida reactiva y no estructurada. Se requiere acción inmediata para establecer controles fundamentales. |
| 81-120 | Nivel 2 — Inicial | Existe una concientización básica sobre el riesgo de IA, pero las prácticas son inconsistentes. Prioridad: formalizar la gobernanza y los controles de seguridad críticos. |
| 121-160 | Nivel 3 — Definido | El marco de gestión de riesgos de IA está documentado y parcialmente implementado. Prioridad: aplicación, medición y cierre de brechas. |
| 161-185 | Nivel 4 — Gestionado | La gestión de riesgos de IA se aplica y se mide activamente. Prioridad: optimización, automatización e identificación proactiva de riesgos. |
| 186-200 | Nivel 5 — Optimizado | La gestión de riesgos de IA es líder en la industria, con mejora continua. Prioridad: mantener el liderazgo, compartir mejores prácticas, prepararse para riesgos emergentes. |
Recomendaciones priorizadas
Con base en los resultados de la evaluación, genere recomendaciones utilizando este marco de prioridades:
| Prioridad | Criterios | Plazo |
|---|---|---|
| P1 — Crítica | Puntaje de 1 en cualquier pregunta relacionada con protección de datos, seguridad del modelo o respuesta a incidentes | 30 días |
| P2 — Alta | Puntaje de 2 en cualquier pregunta, o puntaje de 1 en preguntas de gobernanza/monitoreo | 60 días |
| P3 — Media | Puntaje de 3 en cualquier pregunta | 90 días |
| P4 — Baja | Puntajes de 4 con oportunidades de mejora identificadas | Próximo ciclo de revisión |
Registro de recomendaciones
| # | Dominio | Referencia de pregunta | Puntaje actual | Puntaje objetivo | Recomendación | Prioridad | Responsable | Fecha de vencimiento |
|---|---|---|---|---|---|---|---|---|
| 1 | [ROLE TITLE] | [DATE] | ||||||
| 2 | [ROLE TITLE] | [DATE] | ||||||
| 3 | [ROLE TITLE] | [DATE] |
Aprobación
| Rol | Nombre | Firma | Fecha |
|---|---|---|---|
| Evaluador | [DATE] | ||
| Presidente del Comité de Gobernanza de IA | [DATE] | ||
| CISO | [DATE] | ||
| Líder de la unidad de negocio | [DATE] |
Próxima evaluación vence: [DATE] (12 meses a partir de esta evaluación, o antes si es motivada por un incidente de IA significativo o un cambio organizacional)