Herramientas para devsImportante

Hugging Face le pasa el ruteo de modelos de lenguaje a OpenRouter y las keys propias dejan de andar

Inference Providers ahora elige proveedor por pedido, con reintentos automáticos y sufijos de política, pero se terminan las keys propias para modelos de lenguaje.

Promptea Editorial5 min de lectura

Hugging Face reemplazó el router de su servicio Inference Providers por el de OpenRouter. En un post publicado hoy, la empresa explica que los pedidos a modelos de lenguaje en su plataforma ahora pasan por OpenRouter, que elige un proveedor para cada llamada y reintenta con otro si el primero falla. Hugging Face lo presenta como el primer paso de una alianza entre las dos compañías. Su documentación de Inference Providers ya fue actualizada y dice que el ruteo está a cargo de OpenRouter.

Si ya llamás a modelos open-weight a través de Hugging Face, la idea es que no tengas que tocar el código: mismo token, mismo endpoint y mismos ids de modelo. Lo que cambia es cómo se elige el proveedor, qué pasa cuando falla y una regla de facturación que rompe configuraciones existentes.

Qué cambia en concreto

Antes, Hugging Face elegía un proveedor por pedido y, si fallaba, te devolvía el error de ese proveedor. Ahora decide el router de OpenRouter, en base a lo que Hugging Face describe como mediciones en vivo de precio, velocidad y confiabilidad, y si un intento falla lo pasa al siguiente proveedor dentro de la misma llamada. Según el post, OpenRouter rutea entre más de 80 proveedores.

Seguís pudiendo dirigir el ruteo. Un sufijo en el id del modelo define la política: :fastest para el mayor throughput, :cheapest para el precio más bajo, o el nombre de un proveedor, como :novita, para fijar uno solo. Sin sufijo, el valor por defecto equilibra los tres factores. Usuarios y organizaciones también pueden desactivar proveedores puntuales en su configuración, y el router nunca les va a mandar pedidos.

El router acepta los formatos Chat Completions y Responses de OpenAI y el formato Messages de Anthropic para todos los modelos de chat, sin importar qué proveedor haya detrás. O sea: un agente de código o un SDK pensado para la API de cualquiera de los dos puede apuntar al endpoint de Hugging Face y llegar a modelos open-weight sin una capa de traducción.

El cambio que rompe cosas

Los pedidos a modelos de lenguaje ahora se facturan a la cuenta u organización de Hugging Face, así que las API keys propias de proveedores dejan de funcionar para esos modelos. Los equipos que usaban su propia key con un proveedor específico a través de Hugging Face van a tener que mover ese tráfico directo al proveedor o aceptar la facturación vía Hugging Face. Las keys propias para proveedores de imagen y video siguen funcionando, y la generación de imagen, video y audio sigue corriendo por el camino propio de Inference Providers, no por OpenRouter.

Hugging Face dice que los precios no cambian: pagás el precio del proveedor en tu factura de Hugging Face, sin recargo. Las cuentas PRO reciben USD 2 de créditos por mes, y las organizaciones Team y Enterprise, USD 2 por usuario.

Caché de prompts y ruteo

Hay un detalle que pesa en el costo. Hugging Face afirma que el ruteo tiene en cuenta la caché: una conversación se queda en el proveedor que tiene su caché de prompts. Para hacerlo explícito, el cliente puede mandar un UUID estable por conversación en el header X-HF-Session-Id. Sin eso, un router que optimiza cada llamada por separado podría, en teoría, mover una conversación larga entre proveedores y perder aciertos de caché. Si corrés agentes multi-turno contra este endpoint, poner ese header es la forma barata de mantener la caché predecible.

Los números detrás del anuncio

El post se apoya en datos de uso del propio OpenRouter, y esas cifras hay que leerlas como estadísticas del proveedor, no como una medición independiente. Según esos datos, los modelos open-weight pasaron del 26,8% de los tokens servidos en OpenRouter en octubre de 2025 al 71,7% a fines de septiembre de 2026, después de un pico de 77,5% en julio. Hugging Face también cita precios promedio de USD 0,28 por millón de tokens de entrada y USD 1,62 por millón de salida para modelos open-weight, contra USD 1,27 y USD 6,36 para los cerrados.

El post también reconoce la brecha. Citando el Artificial Analysis Intelligence Index, dice que el mejor modelo open-weight, Kimi K3.1 Pro, saca 46 puntos contra 65 de Claude Fable 5.2, con un costo por tarea de alrededor de un séptimo (USD 3,68 contra USD 26,54). OpenRouter asegura que su ruteo rediseñado redujo los errores de capacidad un 46% y mejoró el tiempo hasta el primer token un 16,9% y el throughput un 16,3%; son mediciones de OpenRouter citadas por Hugging Face, y Promptea no pudo abrir el texto original de OpenRouter para verificarlas.

Qué cambia a la hora de elegir modelo

En la práctica, el proveedor pasa a ser una decisión de runtime y no de diseño. Hasta ahora, elegir un modelo open-weight en Hugging Face implicaba bancarte al proveedor que lo servía, caídas incluidas. Con reintentos y sufijos de política, la pregunta pasa a ser qué modelo sirve para la tarea y si en ese caso te importa más la latencia o el precio.

Conviene nombrar los costos. Con ruteo automático, dos pedidos idénticos pueden ser atendidos por proveedores distintos, que pueden diferir en cuantización, límites de contexto o comportamiento con tool calling. Las nuevas pestañas Providers y Metrics en las páginas de modelos, que muestran precio, velocidad y uptime de cada proveedor en las últimas 24 horas, y el desglose de gasto por proveedor en el resumen de uso, son las herramientas para auditar eso. Si necesitás un comportamiento reproducible, fijá un proveedor con un sufijo en lugar de confiar en el valor por defecto.

Hugging Face menciona dos próximos pasos: conectar una cuenta de OpenRouter con Hugging Face y rutear más tipos de tareas por OpenRouter. No dio fechas para ninguno.

Por qué importa

  • Elegir proveedor para modelos open-weight pasa a ser una decisión por pedido en runtime, con failover automático en vez de un error.
  • Los equipos que usan keys propias de proveedores para modelos de lenguaje vía Hugging Face tienen que cambiar su configuración.
  • El ruteo que respeta la caché, con un header de sesión, incide en cuánto pagan los agentes multi-turno por el contexto repetido.

Puntos clave

  • Inference Providers de Hugging Face ahora rutea los pedidos a modelos de lenguaje por OpenRouter y reintenta en otro proveedor si falla.
  • Sufijos como :fastest, :cheapest o el nombre de un proveedor siguen permitiendo controlar el ruteo, y se pueden desactivar proveedores.
  • Las API keys propias de proveedores ya no sirven para modelos de lenguaje; las de imagen y video, sí.
  • Hugging Face dice que no cobra recargo, y que el header X-HF-Session-Id mantiene la conversación en el proveedor con su caché de prompts.
Etiquetas:
  • inference
  • open-weight models
  • routing
  • api pricing
  • prompt caching
  • model selection
Empresas:
  • Hugging Face
  • OpenRouter
Hugging Face pasa el ruteo de Inference Providers a OpenRouter · Promptea