Gobernar un modelo predictivo es vigilar que sus números sigan siendo válidos. Gobernar la IA generativa y los agentes es otra cosa: aquí el sistema redacta en nombre de la empresa y ejecuta acciones sobre sus sistemas. El riesgo deja de ser un error de estimación y pasa a ser un correo enviado, un pedido creado o un dato que salió por donde no debía.
Es la capa más nueva y la que más deprisa se está montando, casi siempre después de que la tecnología ya esté dentro de la casa.
Lo primero: lo que ya está pasando sin permiso
Antes de escribir ninguna política conviene mirar la realidad. En la mayoría de las empresas hay gente usando herramientas de IA generativa por su cuenta, con cuentas personales y pegando en ellas documentos internos. Prohibirlo por circular no funciona: solo lo hace invisible. El gobierno útil empieza por ofrecer una vía autorizada que sea mejor que la clandestina, y por medir cuánta actividad se mueve por cada una.
Los seis controles
Qué datos pueden salir y hacia dónde. Clasificación mínima —público, interno, confidencial, personal— y regla explícita de qué categoría puede procesarse en qué servicio. Sin esto, ninguna política se puede aplicar de verdad.
Qué puede ejecutar un agente. Inventario de acciones permitidas, permisos acotados y frontera clara entre lo que se hace solo y lo que exige firma humana: pagar, borrar, comunicar al exterior. Es la parte que se construye en el harness.
Límites de gasto. Techo por ejecución y por día, con alerta. Un bucle imprevisto puede consumir el presupuesto de un trimestre en una noche.
Trazas y retención. Qué se registra de cada interacción, cuánto tiempo se guarda y quién puede consultarlo. Sin traza no hay forma de investigar un incidente ni de responder a una reclamación.
Calidad medida, no supuesta. Un sistema generativo se degrada con cambios de instrucciones o de modelo sin que nadie toque el código. La evaluación y observabilidad es lo que convierte «parece que va bien» en un dato.
Transparencia con las personas. Cuándo se avisa de que se está hablando con un sistema, cómo se marca el contenido generado y cómo se pide revisión humana. Es exigencia normativa y, antes que eso, es confianza.
Las nuances frente a las otras dos capas
| Gobierno del dato | Gobierno del machine learning | Gobierno de generativa y agentes | |
|---|---|---|---|
| Pregunta | ¿Es fiable lo que tengo? | ¿Sigue siendo válido lo que deduzco? | ¿Qué está diciendo y haciendo en mi nombre? |
| Riesgo típico | Decidir sobre datos sucios | Modelo derivado sin que nadie lo note | Fuga de información y acciones no deseadas |
| Control clave | Calidad, linaje y propiedad | Validación, deriva y reentrenamiento | Permisos, límites y trazas |
| Ritmo | Continuo | Por ciclos de revisión | En cada ejecución |
Las tres se apoyan en la anterior: no hay agente fiable sobre modelos sin gobernar, ni modelos fiables sobre datos sin gobernar.
Dónde conecta con la norma
El EU AI Act impone obligaciones de transparencia a los sistemas que interactúan con personas o generan contenido, y obligaciones mucho mayores si el sistema participa en decisiones de alto riesgo. A eso se suma el RGPD en cuanto entran datos personales en el contexto. El calendario y el detalle están en cumplimiento y gobierno de la IA.
Cuándo montarlo
Ya, si hay cualquier uso de IA generativa en la empresa —autorizado o no— o algún agente con acceso a sistemas reales. Este es el único gobierno de los tres que casi nunca puede esperar, porque el riesgo no es de precisión sino de exposición.
Puede esperar solo si el uso está confinado a un piloto cerrado, sin datos reales y sin acciones sobre sistemas.
Cómo lo abordamos
Empezamos por el mapa de uso real —incluido el no autorizado— y por la clasificación mínima de datos, porque sin ella el resto son buenas intenciones. Después se define la frontera de acciones y los límites, y se instrumentan trazas y evaluación. La política escrita se redacta al final, cuando ya se sabe qué se puede cumplir de verdad.
Preguntas frecuentes
¿Basta con una política de uso de IA? No. Una política que nadie puede aplicar ni comprobar no cambia el comportamiento. Los controles técnicos —qué sale, qué se ejecuta, qué se registra— son los que sostienen la política.
¿Hay que prohibir las herramientas personales? Prohibir sin alternativa desplaza el uso a donde no se ve. Funciona mejor ofrecer una vía autorizada cómoda y medir el reparto entre ambas.
¿Quién debe responder de esto? Alguien de dirección, no solo de sistemas. Las decisiones sobre qué datos salen y qué puede hacer un agente en nombre de la empresa son decisiones de negocio y de riesgo.