Gobierno de la IA
Gobernar la IA no es cumplir un reglamento: es saber en todo momento qué sistemas hay, qué deciden, quién responde de ellos y cuándo hay que pararlos. El cumplimiento viene después, y se demuestra con lo que este gobierno produce.
La mayoría de las empresas descubre que necesita gobernar su IA el día que alguien pregunta quién autorizó algo. Para entonces ya hay modelos vivos que nadie revisa y herramientas generativas usadas con cuentas personales.
Tres capas, y cada una se apoya en la anterior
No hay agente fiable sobre modelos sin gobernar, ni modelos fiables sobre datos sin gobernar. Este es el orden en el que se construye.
- 01
Gobierno del dato
¿Es fiable lo que tengo?
Calidad, linaje, propiedad y acceso. Quién es dueño de cada conjunto de datos, de dónde viene y en qué estado está. Es el cimiento: lo que no se gobierna aquí se hereda arriba.
- 02
Gobierno del machine learning
¿Sigue siendo válido lo que deduzco?
Inventario de modelos, validación previa acordada con negocio, vigilancia de deriva, reentrenamiento con vuelta atrás y responsable por modelo. Un modelo no se cae: se desajusta en silencio mientras sigue dando números.
- 03
Gobierno de la IA generativa y los agentes
¿Qué está diciendo y haciendo en mi nombre?
Qué datos pueden salir y hacia dónde, qué puede ejecutar un agente sin firma humana, límites de gasto, trazas y transparencia con las personas. Es la capa que casi nunca puede esperar, porque el riesgo no es de precisión sino de exposición.
Lo que tiene que poder responderse sin dudar
- Cuántos sistemas de IA hay en producción y qué decide cada uno.
- Quién responde de cada uno, con nombre y con cargo.
- Qué datos entran, de dónde salen y hasta dónde pueden viajar.
- Cómo se sabe que siguen funcionando, y con qué umbral salta la revisión.
- Qué se para automáticamente y qué exige una firma humana.
- Cuánto cuesta cada uno y quién tiene ese presupuesto.
Si alguna de estas preguntas no tiene respuesta, ese es el punto de partida del trabajo, y suele ser también el hallazgo más incómodo de la auditoría IA.
Gobierno y cumplimiento no son lo mismo
El cumplimiento responde ante un regulador: clasificación por riesgo, expediente técnico, registros y supervisión humana según el EU AI Act y el RGPD. El gobierno responde ante el negocio: que los sistemas hagan lo que deben, que alguien conteste por ellos y que se puedan parar.
El orden importa. Con las tres capas montadas, buena parte de la evidencia que pide la norma ya existe y el cumplimiento es un ejercicio de documentación. Sin ellas, hay que fabricar esa evidencia a la carrera y cuesta mucho más.
Dónde encaja en DALIA
El gobierno es la última fase de DALIA —A · Adopción: gobierno, medición y escalado— y la que decide si lo implantado sobrevive al primer año. Las cuatro fases anteriores eligen y lanzan; esta sostiene.
Empieza por saber qué tienes
El punto de partida no es una política escrita, sino el inventario real de sistemas, datos y responsables. A partir de ahí se decide qué gobernar primero.