Rúbrica de evaluación de seguridad de proveedores de IA
Evaluación
INFRAESTRUCTURA
Propósito
Rúbrica de puntuación para evaluar la seguridad, la transparencia y la postura contractual de los proveedores de IA y los servicios de IA de terceros.
Controles relacionados
ISO A.5
NIST GV-5
OWASP LLM05
OWASP ASI04
1. Prácticas de manejo de datos
Evaluar cómo el proveedor de IA maneja, almacena y protege los datos de su organización.
Información de la evaluación
| Campo | Valor |
|---|---|
| Nombre del proveedor | ________________________ |
| Producto / Servicio | ________________________ |
| Evaluador | [ROLE TITLE], [DEPARTMENT] |
| Fecha de evaluación | [DATE] |
| Contacto del proveedor | ________________________ |
Evaluación del manejo de datos
Puntúe cada elemento de 0 a 5:
- 0 — Inaceptable: El proveedor no cumple con los requisitos mínimos; descalificante
- 1 — Deficiente: Brechas significativas que requieren remediación sustancial
- 2 — Por debajo del promedio: Brechas notables que requieren el compromiso del proveedor para remediar
- 3 — Adecuado: Cumple con los requisitos mínimos, pero tiene margen de mejora
- 4 — Bueno: Supera los requisitos mínimos, con áreas de mejora menores
- 5 — Excelente: Prácticas líderes en la industria con controles integrales
| # | Criterio | Puntuación (0-5) | Evidencia / Notas |
|---|---|---|---|
| DH1 | ¿El proveedor se compromete a la retención cero de datos (los prompts y las respuestas no se almacenan más allá de la sesión)? | ||
| DH2 | ¿El proveedor garantiza contractualmente que los datos del cliente nunca se usan para el entrenamiento o ajuste fino del modelo? | ||
| DH3 | ¿El proveedor cifra los datos en tránsito (TLS 1.2+) y en reposo (AES-256 o equivalente)? | ||
| DH4 | ¿El proveedor ofrece opciones de residencia de datos que cumplen con los requisitos geográficos de [ORGANIZATION NAME]? | ||
| DH5 | ¿El proveedor admite claves de cifrado administradas por el cliente (CMEK/BYOK)? | ||
| DH6 | ¿El proveedor cuenta con procedimientos documentados de eliminación de datos con confirmación de eliminación verificable? | ||
| DH7 | ¿El acuerdo de procesamiento de datos del proveedor cumple con el GDPR, la CCPA y otros requisitos aplicables? | ||
| DH8 | ¿El proveedor limita el acceso de subprocesadores a los datos del cliente mediante disposiciones contractuales de transferencia (flow-down)? |
Puntuación de la sección: ___ / 40
Criterios descalificantes: Una puntuación de 0 en DH1, DH2 o DH7 es descalificante. El proveedor debe remediar antes de que la evaluación pueda continuar.
2. Transparencia del entrenamiento del modelo
Evaluar la transparencia del proveedor respecto a los datos de entrenamiento del modelo, los métodos y los posibles sesgos.
Evaluación de transparencia del entrenamiento
| # | Criterio | Puntuación (0-5) | Evidencia / Notas |
|---|---|---|---|
| MT1 | ¿El proveedor divulga las categorías generales de datos de entrenamiento utilizados (datos web, datos con licencia, datos sintéticos)? | ||
| MT2 | ¿El proveedor documenta los sesgos conocidos del modelo y proporciona orientación para su mitigación? | ||
| MT3 | ¿El proveedor publica una ficha de modelo (model card) o documento de transparencia equivalente para cada versión del modelo? | ||
| MT4 | ¿El proveedor proporciona información sobre la fecha de corte de conocimiento del modelo y sus limitaciones? | ||
| MT5 | ¿El proveedor divulga si el modelo ha sido entrenado con datos de dominios regulados específicos (salud, finanzas, legal)? | ||
| MT6 | ¿El proveedor cuenta con un programa de IA responsable con principios, prácticas y estructura de gobernanza publicados? | ||
| MT7 | ¿El proveedor ofrece herramientas o API para que los clientes evalúen el desempeño del modelo en sus casos de uso específicos (benchmarking, marcos de evaluación)? | ||
| MT8 | ¿El proveedor se compromete a notificar con antelación los cambios materiales en el modelo (cambios de arquitectura, cambios en los datos de entrenamiento, modificaciones de capacidades)? |
Puntuación de la sección: ___ / 40
Señales de alerta
Los siguientes comportamientos del proveedor deben marcarse para un escrutinio adicional:
- El proveedor se niega a divulgar cualquier información sobre las fuentes de los datos de entrenamiento
- Los términos de servicio del proveedor incluyen derechos amplios para usar las interacciones del cliente para cualquier propósito
- El proveedor ha sido objeto de litigios relacionados con datos de entrenamiento o propiedad intelectual
- El proveedor no diferencia entre versiones del modelo ni ofrece fijación de versión (version pinning)
- La documentación de IA responsable del proveedor es contenido de marketing genérico sin compromisos sustantivos
Tendencia de transparencia
Si se trata de una evaluación recurrente, anote la tendencia:
| Periodo de evaluación | Puntuación | Tendencia |
|---|---|---|
| Anterior: [DATE] | ___ / 40 | |
| Actual: [DATE] | ___ / 40 | ☐ Mejorando ☐ Estable ☐ Empeorando |
3. Controles de seguridad
Evaluar los controles de seguridad, las certificaciones y las capacidades de respuesta a incidentes del proveedor.
Evaluación de controles de seguridad
| # | Criterio | Puntuación (0-5) | Evidencia / Notas |
|---|---|---|---|
| SC1 | ¿El proveedor posee certificaciones de seguridad relevantes (SOC 2 Type II, ISO 27001, FedRAMP)? | ||
| SC2 | ¿El proveedor cuenta con defensas documentadas contra la inyección de prompts (validación de entradas, filtrado de salidas, protección del prompt del sistema)? | ||
| SC3 | ¿El proveedor admite control de acceso basado en roles e integración con proveedores de identidad empresariales (SAML, OIDC)? | ||
| SC4 | ¿El proveedor ofrece capacidades integrales de registro de eventos y trazas de auditoría de la API? | ||
| SC5 | ¿El proveedor cuenta con un programa de divulgación y gestión de vulnerabilidades con SLA definidos para la aplicación de parches? | ||
| SC6 | ¿El proveedor realiza pruebas de penetración periódicas y red teaming específico de IA, y comparte los resultados o resúmenes con los clientes? | ||
| SC7 | ¿El proveedor cuenta con un plan de respuesta a incidentes documentado con compromisos de notificación al cliente? | ||
| SC8 | ¿El proveedor admite limitación de tasa, detección de abuso y alertas de anomalías de uso? | ||
| SC9 | ¿El proveedor ofrece opciones de aislamiento de red (VPC, endpoints privados, lista blanca de IP)? | ||
| SC10 | ¿El proveedor cuenta con un ciclo de vida de desarrollo de software (SDLC) seguro para su plataforma de IA? |
Puntuación de la sección: ___ / 50
Verificación de certificaciones
| Certificación | Declarada | Verificada | Fecha de vencimiento | Informe revisado |
|---|---|---|---|---|
| SOC 2 Type II | ☐ Sí ☐ No | ☐ Sí ☐ No | [DATE] | ☐ Sí ☐ No |
| ISO 27001 | ☐ Sí ☐ No | ☐ Sí ☐ No | [DATE] | ☐ Sí ☐ No |
| ISO 42001 | ☐ Sí ☐ No | ☐ Sí ☐ No | [DATE] | ☐ Sí ☐ No |
| FedRAMP | ☐ Sí ☐ No | ☐ Sí ☐ No | [DATE] | ☐ Sí ☐ No |
| HIPAA BAA disponible | ☐ Sí ☐ No | ☐ Sí ☐ No | N/A | ☐ Sí ☐ No |
| PCI-DSS | ☐ Sí ☐ No | ☐ Sí ☐ No | [DATE] | ☐ Sí ☐ No |
4. Requisitos contractuales
Evaluar los compromisos contractuales y los términos de servicio del proveedor.
Evaluación contractual
| # | Criterio | Puntuación (0-5) | Evidencia / Notas |
|---|---|---|---|
| CR1 | ¿El proveedor ofrece un Acuerdo de procesamiento de datos (DPA) que cumple con los requisitos regulatorios y los estándares organizacionales? | ||
| CR2 | ¿El contrato prohíbe explícitamente que el proveedor use los datos del cliente para el entrenamiento o la mejora del modelo sin consentimiento explícito (opt-in)? | ||
| CR3 | ¿El contrato incluye acuerdos de nivel de servicio (SLA) para disponibilidad, latencia y capacidad de procesamiento? | ||
| CR4 | ¿El contrato incluye compromisos de notificación de brechas con plazos definidos (por ejemplo, 72 horas o menos)? | ||
| CR5 | ¿El contrato contempla la portabilidad y devolución de datos al finalizar el contrato? | ||
| CR6 | ¿El contrato otorga derechos de auditoría (o proporciona acceso a informes de auditoría de terceros)? | ||
| CR7 | ¿El contrato incluye disposiciones de responsabilidad e indemnización por daños relacionados con IA (por ejemplo, infracción de propiedad intelectual, filtraciones de datos)? | ||
| CR8 | ¿El contrato incluye disposiciones para la gestión de subcontratistas/subprocesadores con transferencia (flow-down) de los requisitos de seguridad y privacidad? | ||
| CR9 | ¿El contrato permite la terminación por causa justificada si el proveedor incumple sus obligaciones de seguridad o privacidad? | ||
| CR10 | ¿El contrato incluye disposiciones para la previsibilidad de precios y protección contra aumentos de costo inesperados? |
Puntuación de la sección: ___ / 50
Revisión de términos contractuales clave
| Término | Aceptable | Requiere negociación | Inaceptable |
|---|---|---|---|
| Política de retención de datos | ☐ | ☐ | ☐ |
| Derechos de uso de datos de entrenamiento | ☐ | ☐ | ☐ |
| Plazo de notificación de brechas | ☐ | ☐ | ☐ |
| Limitación de responsabilidad | ☐ | ☐ | ☐ |
| Propiedad intelectual de las salidas | ☐ | ☐ | ☐ |
| Disposiciones de terminación | ☐ | ☐ | ☐ |
| Disposiciones de cambio de precio | ☐ | ☐ | ☐ |
Revisión legal completada: ☐ Sí ☐ No
Revisor legal: [ROLE TITLE]
Fecha de revisión legal: [DATE]
5. Matriz de puntuación
Calcular la puntuación general del proveedor y determinar el resultado de la evaluación.
Resumen de puntuación
| Sección | Puntuación | Máximo | Porcentaje | Peso | Puntuación ponderada |
|---|---|---|---|---|---|
| Prácticas de manejo de datos | ___ | 40 | ___% | 30% | ___ |
| Transparencia del entrenamiento del modelo | ___ | 40 | ___% | 15% | ___ |
| Controles de seguridad | ___ | 50 | ___% | 30% | ___ |
| Requisitos contractuales | ___ | 50 | ___% | 25% | ___ |
| Total ponderado | 100% | ___ |
Resultado de la evaluación
| Puntuación ponderada | Resultado | Acción |
|---|---|---|
| ≥ 85% | Aprobado | El proveedor puede incorporarse siguiendo el proceso estándar de adquisiciones |
| 70-84% | Aprobado condicionalmente | El proveedor puede incorporarse con controles compensatorios documentados y un plan de remediación |
| 50-69% | No recomendado | El proveedor no cumple con los estándares mínimos; la incorporación requiere aprobación de excepción del CISO con aceptación de riesgo documentada |
| < 50% | Rechazado | El proveedor queda descalificado; no hay proceso de excepción disponible |
Requisitos de aprobación condicional
Si el proveedor obtiene un resultado de "Aprobado condicionalmente", documente las condiciones:
| Condición | Propietario | Fecha de vencimiento | Estado |
|---|---|---|---|
| [ROLE TITLE] | [DATE] | ☐ Abierto ☐ Resuelto | |
| [ROLE TITLE] | [DATE] | ☐ Abierto ☐ Resuelto | |
| [ROLE TITLE] | [DATE] | ☐ Abierto ☐ Resuelto |
Análisis comparativo
Si se están evaluando varios proveedores para el mismo caso de uso:
| Criterio | Proveedor A | Proveedor B | Proveedor C |
|---|---|---|---|
| Manejo de datos | ___% | ___% | ___% |
| Transparencia | ___% | ___% | ___% |
| Seguridad | ___% | ___% | ___% |
| Contractual | ___% | ___% | ___% |
| Total ponderado | ___% | ___% | ___% |
| Resultado |
Registro de aprobación
| Campo | Valor |
|---|---|
| Resultado de la evaluación | ☐ Aprobado ☐ Aprobado condicionalmente ☐ No recomendado ☐ Rechazado |
| Evaluador | [ROLE TITLE], [DEPARTMENT] |
| Fecha de evaluación | [DATE] |
| Aprobado por (Seguridad) | [ROLE TITLE] |
| Aprobado por (Legal) | [ROLE TITLE] |
| Aprobado por (Negocio) | [ROLE TITLE] |
| Próxima reevaluación | [DATE] (12 meses después de la aprobación) |
Nota: Las evaluaciones de proveedores deben actualizarse anualmente, o inmediatamente ante la notificación de un cambio material en la postura de seguridad, las prácticas de datos o la propiedad del proveedor.