Guía de referencia rápida
Cómo implementar la IA de forma segura en su organización
Una hoja de ruta práctica, paso a paso, para desplegar la IA de forma responsable. Cada fase se corresponde con los dominios del marco de Fairfax International y enlaza con controles específicos que puede implementar hoy mismo.
Por dónde empezar
No es necesario implementar las seis fases simultáneamente. Comience por donde su riesgo sea mayor.
- Publique su Política de Uso Aceptable de IA (AI-GOV-01)
- Inventaríe todas las herramientas de IA en uso actualmente (AI-INF-01)
- Clasifique los datos permitidos para el envío a la IA (AI-DAT-01)
- Desplegar defensas contra la inyección de prompts (AI-MOD-01)
- Implementar la sanitización de salidas (AI-MOD-02)
- Establecer los límites de permisos de los agentes (AI-APP-02)
- Establecer líneas base de monitoreo de IA (AI-ASR-02)
- Realizar el primer ejercicio de red teaming de IA (AI-ASR-01)
- Complete las evaluaciones de proveedores de IA (AI-INF-02)
- Implementar puertas de validación para el despliegue (AI-GOV-02)
- Desplegar controles de minimización de PII (AI-DAT-03)
- Establecer los procedimientos de respuesta a incidentes de IA (AI-ASR-03)
- Realizar autoevaluaciones de riesgo periódicas (AI-GOV-03)
- Revisar y actualizar la política de uso aceptable anualmente
- Actualizar el inventario de activos de IA trimestralmente
- Realizar ejercicios de red teaming semestralmente
Establecer la gobernanza
governanceAntes de desplegar cualquier sistema de IA, establezca las políticas, los flujos de aprobación y los límites de riesgo que guiarán cada decisión posterior.
Publicar una Política de Uso Aceptable de IA
Definir qué herramientas de IA están aprobadas, qué actividades están prohibidas y qué reglas de manejo de datos aplican. Esta es la única fuente de verdad para el uso de la IA.
Definir puertas de validación para el despliegue
Exigir una lista de verificación de validación y una aprobación formal antes de que cualquier aplicación de IA llegue a producción. Sin excepciones.
Realizar una autoevaluación de riesgos de IA
Evalúe periódicamente la postura de riesgo y el nivel de madurez de IA de su organización. Identifique las brechas antes de que los reguladores o los adversarios las encuentren.
Proteja sus datos
dataLos sistemas de IA procesan, retienen y generan datos de maneras que difieren fundamentalmente de las aplicaciones tradicionales. Clasifique, restrinja y monitoree los flujos de datos antes de que se conviertan en pasivos.
Clasificar los datos antes de enviarlos a la IA
Establecer reglas claras sobre qué datos pueden enviar los empleados y los sistemas a las herramientas de IA. Distinguir entre datos públicos, internos y restringidos.
Gestionar la retención de las interacciones con IA
Definir los períodos de retención y los controles de privacidad para los prompts, las respuestas y los registros de conversación. Garantizar el cumplimiento con el GDPR, la CCPA y las normativas específicas del sector.
Minimizar la PII en las salidas de IA
Monitorear y mitigar el riesgo de que las herramientas de IA divulguen o infieran inadvertidamente PII sensible en sus respuestas.
Asegure sus modelos
modelLos modelos de IA son superficies de ataque. La inyección de prompts, la manipulación de salidas, el agotamiento de costos y la extracción de prompts del sistema requieren defensas diseñadas específicamente que los controles de seguridad tradicionales no cubren.
Defenderse contra entradas adversarias
Implementar validación, filtrado y sanitización de entradas para defenderse contra la inyección de prompts y los ataques de evasión.
Sanitizar las salidas del modelo
Filtrar y sanitizar todas las salidas de IA antes de que lleguen a los usuarios o a los sistemas posteriores. Evitar la ejecución de contenido malicioso y la filtración de datos.
Restringir el uso excesivo
Implementar limitación de tasa, límites de costos y detección de anomalías para prevenir ataques de denegación de monedero y el abuso del modelo.
Proteger los prompts del sistema
Refuerce las instrucciones a nivel de sistema contra la extracción. Nunca incorpore credenciales ni secretos en los prompts.
Mitigar las alucinaciones
Implementar fundamentación, generación aumentada por recuperación y puntuación de confianza para reducir la desinformación en casos de uso de alto riesgo.
Controlar sus aplicaciones
applicationLos agentes de IA, los complementos y las integraciones amplían su superficie de ataque más allá del modelo en sí. Aplicar transparencia, mínimo privilegio, observabilidad y gobernanza de la cadena de suministro a cada aplicación impulsada por IA.
Divulgar las interacciones con IA
Informe a los usuarios cuando estén interactuando con IA. Divulgue las limitaciones relevantes, los niveles de confianza y los riesgos.
Restringir los permisos de los agentes
Aplicar principios de mínimo privilegio a los agentes de IA. Restringir qué herramientas, datos y sistemas pueden acceder de forma autónoma.
Registrar todas las acciones de los agentes
Garantice que todas las acciones de los agentes, las cadenas de razonamiento, las llamadas a herramientas y las decisiones queden registradas en un formato auditable.
Gobernar la cadena de suministro de IA
Inventaríe todos los componentes de IA de terceros: modelos, complementos, API y embeddings, antes de adoptarlos.
Probar y monitorear
assuranceLos sistemas de IA se degradan silenciosamente y enfrentan amenazas en evolución. El red teaming, el monitoreo continuo y la respuesta a incidentes específica de IA garantizan que detecte y responda a los problemas antes de que se conviertan en brechas.
Realizar red teaming en sus sistemas de IA
Realizar pruebas adversarias que incluyan intentos de jailbreak, inyección de prompts, extracción de datos y escalamiento de privilegios.
Monitorear continuamente
Desplegar monitoreo para IA en la sombra, patrones de uso anómalos, violaciones de políticas y desviación de comportamiento en todos los sistemas de IA.
Preparar la respuesta a incidentes de IA
Actualizar los planes de respuesta a incidentes (IR) con escenarios específicos de IA: ataques de inyección de prompts, envenenamiento de RAG, manipulación de modelos y exfiltración de datos a través de las salidas de IA.
Gestionar la infraestructura
infrastructureNo se puede gobernar lo que no se sabe que existe. Mantener un inventario completo de los activos de IA y evaluar a cada proveedor antes de confiarle sus datos.
Inventariar todos los activos de IA
Catalogar cada herramienta de IA, API, modelo y activo de IA en la sombra en uso en toda la organización. Incluir el uso autorizado y no autorizado.
Evaluar a los proveedores de IA
Evalúe a los proveedores de IA respecto de riesgos específicos: prácticas de entrenamiento de datos, postura de seguridad, protecciones contractuales y certificaciones de cumplimiento.
Profundice Más
Esta guía proporciona la ruta inicial. Cada control enlazado contiene orientación completa de implementación, ejemplos de código, requisitos de evidencia y listas de verificación de auditoría.