Glosario de gobernanza de IA
Los términos que vas a encontrar al estudiar la ISO/IEC 42001 y el Reglamento Europeo de IA, explicados en una o dos frases.
AIMS · Alto riesgo · Anexo A · Base de datos de la UE · Ciclo de vida del sistema de IA · Declaración de Aplicabilidad · Deepfake · Digital Omnibus · Evaluación de conformidad · FRIA · Gobernanza de datos · GPAI · Marcado CE · NIST AI RMF · No conformidad · PDCA · Política de IA · Proveedor · Práctica prohibida · Responsable del despliegue · Revisión por la dirección · Riesgo sistémico · Sandbox regulatorio · Sesgo algorítmico · Sistema de IA · Supervisión humana · Transparencia (art. 50) · Trazabilidad
AIMS
Sistema de gestión de IA: el marco de políticas, procesos y controles con el que una organización gobierna su inteligencia artificial (ISO/IEC 42001).
Alto riesgo
Categoría del Reglamento para sistemas con impacto serio en seguridad o derechos (empleo, crédito, educación…). Permitidos con obligaciones estrictas.
Anexo A
Catálogo de 38 controles de ISO/IEC 42001, en nueve áreas, que la organización selecciona según sus riesgos.
Base de datos de la UE
Registro europeo donde se inscriben ciertos sistemas de IA de alto riesgo antes de su uso.
Ciclo de vida del sistema de IA
Todas las fases, del diseño a la retirada, que el sistema de gestión debe gobernar.
Declaración de Aplicabilidad
Documento que indica qué controles del Anexo A se aplican y justifica las exclusiones.
Deepfake
Contenido sintético (imagen, audio o vídeo) que imita la realidad. Debe etiquetarse como generado o manipulado (art. 50).
Digital Omnibus
Reglamento (UE) 2026/1744 que ajustó el calendario del Reglamento de IA, aplazando el alto riesgo del Anexo III a diciembre de 2027.
Evaluación de conformidad
Proceso para comprobar que un sistema de alto riesgo cumple los requisitos antes de comercializarlo.
FRIA
Evaluación de impacto en los derechos fundamentales: análisis obligatorio para ciertos usos de alto riesgo antes de ponerlos en marcha.
Gobernanza de datos
Gestión de la procedencia, calidad y adecuación de los datos que usa un sistema de IA.
GPAI
Modelo de IA de propósito general: capaz de muchas tareas distintas, como los grandes modelos de lenguaje. Tiene obligaciones propias en el Reglamento.
Marcado CE
Marca que indica que un producto cumple la normativa de la UE. Los sistemas de IA de alto riesgo deben llevarlo cuando procede.
NIST AI RMF
Marco voluntario de gestión de riesgos de IA (EE. UU.) con cuatro funciones: Gobernar, Mapear, Medir y Gestionar.
No conformidad
Incumplimiento de un requisito de la norma. Puede ser mayor (grave) o menor (puntual).
PDCA
Ciclo de mejora continua: Planificar, Hacer, Verificar y Actuar. Es la base de ISO 42001.
Política de IA
Documento aprobado por la dirección que fija el compromiso y las reglas de uso responsable de la IA en la organización.
Proveedor
Quien desarrolla un sistema de IA y lo pone en el mercado bajo su nombre o marca. Carga con la mayoría de obligaciones del Reglamento.
Práctica prohibida
Uso de IA de riesgo inaceptable, prohibido en la UE (p. ej. la puntuación social por autoridades).
Responsable del despliegue
Quien usa un sistema de IA bajo su autoridad en un contexto profesional (el «deployer»). También tiene obligaciones, aunque menores que el proveedor.
Revisión por la dirección
Análisis periódico del sistema de gestión de IA por la alta dirección para asegurar que sigue siendo eficaz (cláusula 9).
Riesgo sistémico
Nivel reforzado de obligaciones para los modelos de propósito general de gran capacidad (por encima de cierto umbral de cómputo).
Sandbox regulatorio
Entorno supervisado por la autoridad para desarrollar y probar IA innovadora antes de comercializarla.
Sesgo algorítmico
Resultado sistemáticamente injusto hacia personas o grupos, a menudo por datos de entrenamiento poco representativos.
Sistema de IA
Sistema con cierta autonomía que, a partir de datos, genera predicciones, recomendaciones, contenidos o decisiones que influyen en el entorno.
Supervisión humana
Control de una persona sobre el sistema de IA para poder vigilar, intervenir o detener sus decisiones.
Transparencia (art. 50)
Obligación de avisar cuando se interactúa con una IA y de etiquetar los contenidos generados o manipulados.
Trazabilidad
Capacidad de reconstruir qué hizo un sistema de IA y con qué datos, gracias a los registros de actividad (logs).
Prepárate con la Academia Umami
Temario, ejercicios prácticos, casos de auditoría y simulacros de gobernanza de IA, en español.
Entrar a la plataforma