La mayoría de las empresas que ya usan IA generativa mandan todas sus tareas al mismo modelo: el más capaz que probaron el primer día. Clasificar un correo de tres líneas y redactar un informe de riesgo pasan por el mismo sitio y cuestan lo mismo. El enrutado de modelos corrige eso: cada tarea va al modelo que le corresponde por capacidad y por coste.
Qué es el enrutado de modelos
Una capa que decide, en cada petición, qué modelo la atiende. La decisión puede basarse en el tipo de tarea, en la longitud y complejidad de la entrada, en el nivel de exigencia del resultado o en reglas de negocio explícitas —por ejemplo, que todo lo que toque datos de clientes vaya a un despliegue concreto.
Un esquema habitual tiene tres carriles: un modelo pequeño y barato para clasificación, extracción y respuestas rutinarias; uno intermedio para redacción y síntesis; y uno de primer nivel reservado para razonamiento complejo, código o decisiones delicadas. Entre el 60% y el 80% del tráfico de una aplicación empresarial típica no necesita el carril caro.
Las tres piezas que lo hacen viable
Enrutado. La regla que asigna tarea a modelo. Puede empezar siendo una lista explícita por tipo de operación y evolucionar a un clasificador que estima la dificultad antes de decidir.
Fallback. Qué ocurre cuando el modelo elegido falla, tarda demasiado o devuelve algo inutilizable: se reintenta, se sube de carril o se degrada con aviso. Sin fallback, la disponibilidad del servicio es la del proveedor.
Caché. Muchas peticiones se repiten literalmente o casi. Guardar y reutilizar respuestas —y, cuando el proveedor lo permite, el propio contexto— evita pagar dos veces por lo mismo. Es la parte con mejor relación entre esfuerzo y ahorro.
Lo que se gana además del ahorro
Independencia. Una aplicación con enrutado ya está preparada para hablar con más de un proveedor. Cambiar, repartir carga o negociar deja de ser un proyecto.
Latencia. Las tareas cortas atendidas por modelos pequeños responden mucho antes. En un asistente de cara al usuario, eso se nota más que la calidad marginal del texto.
Control del riesgo. Las reglas de enrutado son también reglas de gobierno: qué datos pueden salir a qué proveedor y qué se queda en un despliegue controlado.
Cuándo tiene sentido — y cuándo no
Tiene sentido cuando:
- El gasto mensual en modelos ya es una partida visible y crece con el uso
- Conviven tareas muy distintas bajo la misma aplicación
- La disponibilidad importa: una caída del proveedor único para el servicio
- Hay requisitos de dónde puede procesarse cada tipo de dato
No tiene sentido cuando:
- El volumen es bajo: por debajo de cierto gasto, la complejidad añadida cuesta más de lo que ahorra
- Solo hay un tipo de tarea y es exigente: si todo necesita el carril caro, enrutar no aporta
- No hay forma de medir la calidad: sin evaluación, bajar de modelo es bajar de calidad a ciegas
Cómo lo abordamos
Primero se mide: qué tipos de petición hay, en qué proporción y qué cuesta cada uno hoy. Después se define la matriz de enrutado y se fija el listón de calidad por carril con un conjunto de evaluación propio. Solo entonces se baja de modelo donde el resultado aguanta, y se deja arriba lo que no. El ahorro se reporta contra la factura real del mes anterior, no contra una estimación.
En la agroindustria palentina y en la automoción de Villamuriel de Cerrato la mayoría de las peticiones son repetitivas —pedidos, partes de producción, incidencias de proveedor— y muy pocas exigen razonamiento complejo. Ahí es donde el carril barato absorbe la mayor parte del volumen sin que nadie note la diferencia.
Trabajamos sin acuerdos con fabricantes: la matriz de enrutado responde al caso, no al catálogo de nadie.
Preguntas frecuentes sobre enrutado de modelos
¿Bajar de modelo no empeora la calidad? En las tareas exigentes, sí; por eso no se baja en todas. El trabajo consiste en identificar dónde el modelo pequeño da un resultado indistinguible y medirlo antes de cambiar.
¿Hace falta contratar varios proveedores? No necesariamente: casi todos ofrecen varios tamaños de modelo. Trabajar con más de uno añade resiliencia y capacidad de negociación, pero se puede empezar dentro de una sola familia.
¿Cuánto se ahorra? Depende del reparto de tareas y del punto de partida. La cifra útil no es un porcentaje genérico, sino la comparación entre la factura antes y después con el mismo volumen y la misma calidad medida.