NVIDIA publicó el 15 de octubre de 2026 los pesos de Nemotron 3.5 Super VL, un modelo multimodal de 120.000 millones de parámetros totales con solo 12.000 millones activos por token — una arquitectura de mezcla de expertos (MoE) que combina capas Mamba-2, de atención y 512 expertos enrutados por capa, más un codificador de visión C-RADIO para entender imágenes y hasta dos minutos de vídeo además de texto.
La cifra de parámetros activos es la que suele venderse como la ventaja de un MoE — menos cómputo por token que un modelo denso equivalente —, pero esconde la parte incómoda para quien piensa en autoalojarlo: aunque solo se activen 12.000 millones de parámetros en cada pasada, los 120.000 millones completos tienen que estar cargados en memoria en todo momento, porque no se sabe de antemano qué expertos se van a necesitar. Eso descarta de entrada la idea de que "activo" equivale a "lo que hace falta en la GPU".
En la práctica, correrlo en casa exige entre 64 y 192 GB de memoria según la cuantización elegida: la versión NVFP4 de 4 bits ocupa unos 79 GB y pide unos 96 GB de margen, mientras que las variantes GGUF más agresivas (1-2 bits) bajan a 46-55 GB con 64 GB de memoria bastando. El punto dulce ronda los 128 GB — ahí entran tanto un Mac Studio con memoria unificada suficiente como una estación con una GPU de gama alta y bastante RAM de sistema para completar lo que no cabe en VRAM, repartiendo el modelo entre las dos. Lo que no importa tanto, según las pruebas de la propia comunidad, es la generación de la GPU: pesa más la memoria total disponible que si es una tarjeta de la última hornada o de una anterior.
El modelo se publica bajo la licencia OpenMDW-1.1, bastante permisiva, y viene pensado para tareas agénticas: responder preguntas sobre documentos, interpretar gráficas, entender interfaces gráficas (útil para un agente que tiene que "ver" una pantalla) y producir salida estructurada que otro programa pueda consumir directamente. Es, en resumen, un modelo de visión pensado para automatizar tareas con criterio visual, no para generar imágenes ni vídeo.
Para un homelab con una sola GPU de consumo de 16 o 24 GB de VRAM, la cuenta no sale sin repartir el modelo con la RAM del sistema y aceptar una velocidad de inferencia notablemente más lenta que si todo viviera en VRAM. Es un modelo que premia tener ya una estación con mucha memoria — no necesariamente cara, pero sí con la RAM como prioridad por delante de la GPU más potente.
Fuentes: marktechpost.com · dev.to · the-decoder.com
