Un modelo predictivo no se estropea de golpe: se va desajustando mientras sigue devolviendo números con la misma seguridad de siempre. El gobierno del machine learning es lo que impide que la empresa siga decidiendo con un modelo que dejó de ser válido hace ocho meses y nadie lo notó.
Es la segunda capa del gobierno de la IA: por debajo está el dato, sin el cual no hay modelo posible; por encima, la IA generativa y los agentes, que plantean problemas distintos.
Qué se gobierna exactamente
El inventario. Qué modelos hay en producción, qué decide cada uno, sobre qué datos se entrenó, quién responde de él y cuándo se revisó por última vez. En muchas empresas esta lista no existe, y la primera sorpresa del proyecto es descubrir cuántos modelos están vivos.
La validación previa. Ningún modelo entra en producción sin un criterio de aceptación acordado con negocio: qué error es tolerable, en qué segmentos, y qué pasa con los casos que el modelo no ha visto nunca.
La deriva. Los datos de entrada cambian —cambia el mercado, el catálogo, la forma de registrar— y el rendimiento cae sin aviso. Se vigilan tanto la distribución de las entradas como el resultado real frente al predicho, con umbrales que disparan revisión.
El reentrenamiento. Cada cuánto, con qué datos, quién lo aprueba y cómo se vuelve atrás si el modelo nuevo es peor. Un reentrenamiento automático sin validación es una forma elegante de romper el sistema.
La trazabilidad. Poder reconstruir por qué el modelo decidió lo que decidió en una fecha concreta: versión, datos, parámetros y umbrales. Es lo que se pide cuando un cliente reclama o un regulador pregunta.
El fin de vida. Cuándo se retira un modelo. Los que nadie usa pero siguen ejecutándose son coste puro y riesgo silencioso.
La nuance frente al gobierno del dato
El gobierno del dato responde a ¿es fiable lo que tengo?; el del machine learning, a ¿sigue siendo válido lo que deduzco de ello?. Se pueden tener datos impecables y un modelo caducado, y también un modelo bien mantenido que aprende de datos sucios. Son dos controles distintos y ninguno sustituye al otro.
Dónde conecta con la norma
El EU AI Act no habla de «modelos» en abstracto: obliga según el uso. Un modelo que interviene en selección de personal, concesión de crédito o acceso a servicios esenciales entra en alto riesgo y exige gestión de riesgos, documentación técnica, registros y supervisión humana. Buena parte de ese expediente es exactamente el material que produce un buen gobierno de modelos; montarlo después, a la carrera, cuesta mucho más. El detalle regulatorio está en cumplimiento y gobierno de la IA.
Cuándo montarlo — y cuándo es prematuro
Sí, cuando hay más de dos o tres modelos vivos, cuando alguno influye en decisiones con consecuencias para personas o dinero, o cuando el equipo que los construyó ya no es el que los mantiene.
Todavía no, cuando hay un único modelo en piloto y la prioridad es demostrar que aporta valor. Ahí basta con dejar registrado qué se hizo, para no tener que reconstruirlo de memoria después.
Cómo lo abordamos
Empezamos por el inventario, que casi siempre revela más modelos de los esperados y alguno sin dueño. Después se fija el criterio de aceptación con negocio —no con el equipo técnico solo— y se instrumenta la vigilancia de deriva sobre los que más pesan. El objetivo no es un proceso pesado, sino que nadie pueda responder «no lo sé» a las preguntas de qué modelos hay, qué deciden y quién responde de ellos.
Preguntas frecuentes sobre gobierno del machine learning
¿Esto no es MLOps? MLOps es la maquinaria —despliegue, versionado, monitorización— y tiene su página. El gobierno es quién decide qué es aceptable, quién responde y cuándo se para. Se apoya en MLOps, pero no se agota en la herramienta.
¿Cada cuánto hay que revisar un modelo? Depende de la velocidad a la que cambian sus datos. Lo que no funciona es fijar un calendario y no mirar nada entre revisiones: la deriva se vigila de forma continua y la revisión se dispara cuando salta un umbral.
¿Quién debe ser el responsable de un modelo? Alguien de negocio con la decisión que el modelo afecta, apoyado por perfil técnico. Si el único dueño es el equipo de datos, nadie está respondiendo por el impacto.