Seguridad de la cadena de suministro de IA y componentes de terceros
Plantillas relacionadas
Qué exige este control
Mantener un inventario integral de todos los componentes de IA de terceros en uso, incluidos los modelos fundacionales, los modelos ajustados, los complementos, las bibliotecas de embeddings, las bases de datos vectoriales y las integraciones de API. Cada componente debe evaluarse en cuanto a riesgo de seguridad, licenciarse adecuadamente, monitorearse en busca de vulnerabilidades y someterse a una debida diligencia del proveedor antes de su despliegue.
Por qué es importante
Las cadenas de suministro de IA son especialmente vulnerables porque combinan dependencias de software tradicionales con componentes de modelos opacos que pueden contener puertas traseras, datos de entrenamiento sesgados o pesos envenenados indetectables mediante la revisión de código convencional. Un modelo comprometido descargado de un repositorio público, un complemento malicioso o una biblioteca de embeddings vulnerable pueden introducir amenazas persistentes que evaden las pruebas de seguridad de aplicaciones estándar.
Cómo implementarlo
Lista de materiales de IA (AI-BOM)
Crear y mantener una lista de materiales de IA que inventaríe cada componente de IA de terceros: nombre y versión del modelo, origen (proveedor, repositorio de código abierto), tipo de licencia, ubicación de despliegue, alcance del tratamiento de datos y equipo responsable. Actualizar el AI-BOM cada vez que se agreguen, actualicen o retiren componentes.
Debida diligencia del proveedor
Realizar evaluaciones de seguridad y privacidad de los proveedores de IA antes de la incorporación. Evaluar la procedencia del modelo (fuentes de datos de entrenamiento, historial de ajuste fino), las prácticas de seguridad (divulgación de vulnerabilidades, respuesta a incidentes) y los términos contractuales (manejo de datos, responsabilidad, indemnización). Reevaluar a los proveedores anualmente o cuando ocurran cambios significativos.
Monitoreo de vulnerabilidades
Suscribirse a feeds y avisos de vulnerabilidades para todos los componentes de IA del AI-BOM. Monitorear los repositorios de modelos, las bases de datos CVE y las fuentes de inteligencia de amenazas específicas de IA en busca de problemas conocidos. Establecer SLA de parcheo: vulnerabilidades críticas dentro de 72 horas, altas dentro de 2 semanas, medias dentro de 30 días.
Aislamiento y pruebas de componentes
Implementar los componentes de IA de terceros en entornos en sandbox con segmentación de red y permisos limitados. Realizar pruebas de seguridad (análisis estático, pruebas de comportamiento, sondeo adversaria) en los componentes nuevos antes del despliegue en producción. Exigir la aprobación del equipo de seguridad para cualquier componente que procese datos confidenciales.
Evidencia y auditoría
- Lista de materiales de IA con inventario completo de componentes
- Informes de evaluación de debida diligencia de proveedores
- Registros de cumplimiento de licencias para todos los componentes de IA
- Registros de suscripción a monitoreo de vulnerabilidades y registros de alertas
- Registros de parcheo que muestran el cumplimiento de los SLA para las vulnerabilidades identificadas
- Documentación de la arquitectura de sandbox y aislamiento
- Informes de pruebas de seguridad previas al despliegue para componentes de terceros
- Registros de reevaluación anual de proveedores