Evaluación de riesgos de IA según la ISO 42001
La evaluación de riesgos es el corazón de la ISO/IEC 42001: de ella salen los controles, la Declaración de Aplicabilidad y buena parte del trabajo diario. La pide la cláusula 6.1.2 y se repite en la operación (cláusula 8.2).
Qué pide la norma
- Definir unos criterios de riesgo: qué se considera aceptable y qué no.
- Que las evaluaciones sean repetibles y den resultados coherentes y comparables.
- Identificar los riesgos que impiden lograr los objetivos de IA.
- Analizarlos: consecuencias para la organización, las personas y la sociedad, y probabilidad.
- Valorarlos frente a los criterios y decidir prioridades.
- Conservar la información documentada del proceso y sus resultados.
Riesgos típicos de la IA
| Fuente | Ejemplo |
|---|---|
| Datos | Datos de entrenamiento con sesgos o de mala calidad. |
| Modelo | Errores en casos poco frecuentes, pérdida de precisión con el tiempo. |
| Uso | Usar el sistema para algo distinto de su finalidad. |
| Transparencia | Decisiones que nadie sabe explicar. |
| Terceros | Un proveedor cambia el modelo sin avisar. |
| Seguridad | Manipulación de las entradas o filtración de datos. |
El Anexo C de la norma recoge objetivos y fuentes de riesgo habituales, y la ISO/IEC 23894 da una guía completa de gestión del riesgo de la IA.
Y después: el tratamiento
Para cada riesgo se decide qué hacer (reducirlo, evitarlo, compartirlo o aceptarlo) y con qué controles. La dirección aprueba el plan y los riesgos que quedan.
Prepárate con la Academia Umami
Temario, ejercicios prácticos, casos de auditoría y simulacros de gobernanza de IA, en español.
Entrar a la plataformaPreguntas frecuentes
¿Hay que usar una metodología concreta?
No. La norma pide que sea coherente, repetible y documentada. Muchas organizaciones usan una matriz de probabilidad por impacto.