Antes de las laptops RTX Spark, NVIDIA saca PAIR de beta y presenta su stack para desarrollar en Windows sobre Arm

NVIDIA aprovechó el 13 de octubre, tres días antes de que salgan a la venta las primeras laptops RTX Spark, para publicar una larga lista de software que, según la empresa, ya está listo para la plataforma. RTX Spark es el chip de NVIDIA para PCs Windows basadas en Arm; NVIDIA lo describe con hasta 128GB de memoria unificada y 1 petaflop de cómputo de IA. La disponibilidad de las laptops el viernes 16 de octubre la anunciaron NVIDIA y Microsoft la semana pasada.

El post mezcla cosas que salen hoy con otras programadas para más adelante en el mes. Si corrés modelos en local, lo que importa es un router de inferencia, el estado de las herramientas de Python y CUDA en Windows sobre Arm, y un modelo abierto nuevo.

PAIR sale de beta

NVIDIA PAIR (Personal AI Router) es una herramienta gratuita y open source que descubre las computadoras de tu red local y manda cada request de inferencia a la máquina que tenga el motor, el modelo y la capacidad libre. Salió en beta a principios de septiembre con soporte para Ollama y LM Studio, según el post de NVIDIA en IFA.

NVIDIA dice que la versión oficial suma soporte para llama.cpp, descargas directas de modelos desde Hugging Face, ajustes configurables del motor de inferencia y soporte para RTX Spark. Corre en Windows, Linux y macOS y expone endpoints compatibles con Ollama y con OpenAI, así que las apps y agentes que ya tenés pueden apuntar a PAIR sin cambiar código.

El playbook de PAIR 1.0.0 es claro sobre sus límites, y conviene tenerlos en cuenta antes de planificar algo: PAIR no combina memoria de GPU, no une varias GPUs en un dispositivo más grande y no divide un modelo ni un request entre máquinas. Enruta requests completos. Si un modelo no entra en ninguna de tus computadoras, PAIR no lo va a hacer entrar. Además, solo acepta requests de la máquina donde está instalado.

Las herramientas para Windows sobre Arm

Las máquinas Windows con Arm arrastran desde hace tiempo huecos en las herramientas de Python y GPU que usan los desarrolladores de ML. NVIDIA dice que, junto con Microsoft y la comunidad, ya están disponibles:

• El primer build de PyTorch-CUDA para Windows sobre Arm.
• El primer build de Python nativo por defecto en Windows sobre Arm, con Python 3.15.
• Un instalador nativo de Conda para Windows sobre Arm con más de 2.000 paquetes.
• Según NVIDIA, el 97% de los 15.000 wheels de Python más usados ya está listo; el resto sigue en trabajo.

Esa última cifra es la que tenés que contrastar con tu propia lista de dependencias. Un paquete sin wheel para Arm64, o una extensión compilada que todavía no se reconstruyó, puede trabar un proyecto aunque las librerías principales funcionen.

Agentes, modelos y llama.cpp

NVIDIA también dice que OpenClaw y GitHub Copilot ya soportan Microsoft Execution Containers (MXC), un sandbox a nivel sistema operativo para agentes, y que Hermes Agent lo va a sumar antes de fin de octubre. Publicó servidores MCP para varias de sus apps, entre ellas Broadcast y PAIR. Del lado de llama.cpp, hoy sale Llama Windows, una app nativa de Windows que acompaña a llama.cpp, y llama.cpp ahora soporta lo que NVIDIA llama modelos de decisión. La afirmación de NVIDIA de que estos modelos permiten a los agentes elegir acciones "hasta 200 veces más rápido que los agentes tradicionales" es una cifra del fabricante, sin metodología publicada en el post.

El modelo a seguir es Nemotron 3.5 Bolt 74B-A9B, previsto para el 15 de octubre: un mixture-of-experts con 74.000 millones de parámetros totales y 9.000 millones activos, comprimido en 24GB con cuantización de 2 bits. NVIDIA dice que va a ser totalmente abierto, con datos de entrenamiento, pesos y recetas, y que desde el lanzamiento se va a poder correr con llama.cpp, vLLM, Ollama, Unsloth y LM Studio. Por ahora, las afirmaciones sobre su calidad vienen solo de NVIDIA.

Lo que no está en el post

NVIDIA no publicó en este post precios de las laptops RTX Spark, y sus cifras de rendimiento (hasta 2x en flujos de Adobe, los 200x de los modelos de decisión) son propias. Varias novedades, como las integraciones de Hermes o el ray reconstruction de Blender, están programadas para más adelante y no salen hoy. Las pruebas independientes van a llegar cuando las laptops estén en manos de compradores, a partir del 16 de octubre.