NVIDIA abre NVLink Fusion a las NPU coreanas: GPU para el prefill y chips de Rebellions para el decode

NVIDIA, la startup coreana de chips Rebellions y SK Telecom anunciaron el lunes que Rebellions va a conectar sus NPU (unidades de procesamiento neuronal) de próxima generación R200 a la plataforma de NVIDIA mediante NVLink Fusion, el programa que permite que procesadores a medida de otras empresas se sumen a la interconexión de escalado de NVIDIA. SK Telecom planea desplegar esos sistemas a escala de rack en sus propios data centers de IA. El Ministerio de Ciencia y TIC de Corea (MSIT) respalda la iniciativa. El anuncio llegó junto con varias publicaciones menores de NVIDIA ligadas al mismo empuje en Corea (comunicado de NVIDIA).

El dato técnico más concreto es cómo piensan repartirse el trabajo. Las tres empresas dicen que planean armar inferencia desagregada: las GPU de NVIDIA se encargan del prefill, la pasada sobre el prompt que pide mucho cómputo, y las NPU de Rebellions del decode, la generación token por token que suele estar limitada por el ancho de banda de memoria. Los objetivos que declaran son más throughput de inferencia y mejor eficiencia energética. Pero son planes: el comunicado no trae ningún benchmark, ninguna cifra de costo ni ninguna meta de rendimiento.

Qué pone cada empresa

• Rebellions va a usar NVLink Fusion para conectar las NPU R200 dentro de un rack por NVLink, y va a construir los sistemas sobre la arquitectura de rack MGX de NVIDIA. Dice que la R200 apunta a inferencia de baja latencia y bajo consumo para modelos de frontera, incluidos modelos mixture-of-experts de varios billones de parámetros.
• SK Telecom va a desplegar los sistemas y conectarlos con sus propios modelos, incluido A.X K2, y con servicios públicos desarrollados dentro del proyecto gubernamental *AI for All*.
• NVIDIA aporta la interconexión, los diseños de rack de referencia y el acceso al ecosistema de proveedores de MGX. La empresa dice que MGX permite que los sistemas con GPU y con NPU compartan diseños de espacio en el rack, alimentación y refrigeración.

El cronograma pesa más que el titular: según el comunicado de NVIDIA, los sistemas R200 estarían listos para desplegarse en 2028. Acá no sale nada pronto. Es un plan de integración a dos años, no el lanzamiento de un producto.

El resto del paquete coreano de NVIDIA

En una publicación complementaria, NVIDIA dice que su colaboración ampliada con el MSIT sienta las bases para que otros fabricantes coreanos de NPU y XPU evalúen sumarse al ecosistema NVLink Fusion. También menciona programas de capacitación y certificación, y trabajo con tres consorcios y cuatro desarrolladores coreanos de modelos fundacionales dentro de *AI for All*, usando el software de inferencia Dynamo de NVIDIA (blog de NVIDIA).

NVIDIA también publicó recetas de despliegue optimizadas para Dynamo para cuatro modelos abiertos coreanos: A.X K2 de SK Telecom, K-EXAONE 2.0 de LG AI Research, Solar Open 2 de Upstage y Motif-3 de Motif Technologies. NVIDIA asegura que las recetas dan "hasta 2x" de rendimiento de entrada en GPU B200. No aclara contra qué se mide, y la cifra sale solo de NVIDIA (blog de NVIDIA).

En un foro de startups organizado por el MSIT y NVIDIA en el COEX de Seúl, NVIDIA anunció inversiones planeadas en Motif Technologies, Upstage y la startup de robótica RLWRLD. También mencionó una inversión en la startup de interconexión Point2 Technology que ya había anunciado antes. No reveló ningún monto (blog de NVIDIA).

Por qué vale la pena seguirlo

NVLink Fusion es la respuesta de NVIDIA a un mercado que pide cada vez más silicio a medida. En vez de perder esos sockets, NVIDIA se ofrece como el tejido de interconexión donde se enchufan. Que una startup coreana de NPU ponga su chip estrella de inferencia sobre la interconexión de NVIDIA, en lugar de competir con un stack aparte, muestra que esa estrategia funciona. Y además deja a las GPU de NVIDIA en el rack para la etapa de prefill.

Si sos desarrollador, lo que conviene mirar es la división entre prefill y decode. Los prompts largos, los contextos grandes y los loops de agentes que reenvían el historial alargan el prefill, mientras que la salida tipo chat depende del decode. Si los chips dedicados al decode efectivamente bajan el costo por token generado, los proveedores podrían terminar cobrando los tokens de entrada y de salida todavía más distinto que hoy. Es una consecuencia posible, no algo que las empresas hayan dicho, y depende de hardware que llega dentro de dos años.

Contexto: los anuncios llegaron un día después de que el directorio de NVIDIA informara que abría una investigación independiente, tras reportes de que el CEO Jensen Huang había sido blanco de una operación de inteligencia extranjera (comunicado del directorio de NVIDIA). El directorio dijo que no tenía motivos para creer que se hubieran comprometido la seguridad nacional ni secretos de NVIDIA. Los comunicados sobre Corea del lunes no lo mencionan.