Dos repositorios de GitHub están sonando mucho por la misma promesa: ejecutar en un ordenador normal un modelo que, sobre el papel, pediría un servidor. Colibri acumula unas 48.000 estrellas y kimi-k3-in-c, unas 10.500. Los dos son motores escritos en C sin dependencias, y los dos hacen lo que dicen. La pregunta es qué precio tiene.

El truco: no cargar todo el modelo

Estos modelos son de «mezcla de expertos» (MoE): enormes en disco, pero para cada token solo se activa una parte. En Kimi K3 son unos 104.000 millones de parámetros de 2,78 billones, un 3,7 %. Los dos proyectos aprovechan eso: lo que se usa siempre vive en la RAM, y los expertos se leen del SSD cuando el modelo los pide.

Colibri

Lo publicó en julio de 2026 Vincenzo Fornaro, con licencia Apache-2.0. Trata la memoria como una jerarquía: los expertos más usados van a la GPU (CUDA o Vulkan), los siguientes a la RAM y el resto se lee de un NVMe. Una caché aprende qué expertos usa tu trabajo, así que va mejorando con el uso. Ejecuta GLM-5.2 y 5.3 y Mistral-Large-4, y en su versión 1.11 sumó DeepSeek V4.1 Flash en CPU leyendo del SSD.

Con GLM-5.2, el modelo de 744.000 millones, la parte densa ocupa unos 9,9 GB de RAM y los expertos se quedan en disco, que según las guías son unos 370 GB. Una reseña habla de 0,05 a 0,1 tokens por segundo con la caché fría. Incluye una pasarela compatible con OpenAI para usarlo desde otras aplicaciones. Un detalle de WSL: el modelo debe estar en el disco de Linux, porque en /mnt/c va muchísimo más lento.

kimi-k3-in-c

Es de Fareed Khan: un motor de 176 KB en C99, solo para CPU (pide AVX2 y FMA), con licencia Apache-2.0. Ejecuta Kimi K3, de 1,56 TB, con un pico de 8,24 GB de RAM medido. Sus propios números:

Portátil con 8 GB: 32,69 segundos por token. Modo servidor con 128 GB o más: 10,69 segundos por token, con un pico de unos 128 GB de RAM.

Es el modelo base, sin plantilla de chat. Su primera respuesta, según el README, fue «París», correcta. Los autores verificaron la corrección del motor sin descargar los pesos, porque el checkpoint es demasiado grande para comprobarlo de otra forma.

Que un modelo de billones de parámetros funcione en un portátil es un hito técnico. Que sea cómodo de usar, todavía no.

La letra pequeña

La velocidad es el precio. A 32,69 segundos por token, una respuesta de 100 tokens tarda unos 55 minutos. Y tener 28 veces más memoria solo acelera 1,7 veces, porque el cuello de botella es el disco.

El disco manda. Hacen falta entre unos 370 y 430 GB para Colibri con GLM-5.2, y más de 1,5 TB para Kimi K3. Cuanto más rápido sea el NVMe, mejor.

No sustituyen a una API. Algunos comentaristas señalan que pagar por la API sale más barato que la electricidad de una ejecución larga.

Las cifras no son independientes. Salen de los propios proyectos y de reseñas.

Para quién tiene sentido

Para la curiosidad técnica, para aprender cómo se ejecutan los modelos MoE y para trabajos por lotes que no corren prisa, con la ventaja de que nada sale de tu máquina. Para el día a día, un modelo más pequeño con [LM Studio u Ollama] sigue siendo lo práctico.