Aleph Alpha publicó Kolibri-1 el 3 de octubre: un modelo de razonamiento en inglés y alemán, de arquitectura mixture-of-experts, con 78.100 millones de parámetros totales de los que solo unos 3.460 millones se activan por token. Contexto de hasta 1.048.576 tokens, entrenado desde cero en infraestructura alemana y finlandesa, pesos en Hugging Face bajo licencia Apache 2.0.

Lo que convierte a Kolibri-1 en algo más que otro modelo abierto más es de dónde viene y qué pretende: es el primer modelo de este tamaño pensado explícitamente para cumplir los requisitos de modelos de propósito general (GPAI) del AI Act europeo, con una narrativa de "soberanía" — entrenado y publicado fuera del circuito habitual de Silicon Valley y de los laboratorios chinos. Para una empresa europea con exigencias de residencia de datos o de origen del modelo, es la primera vez que esa casilla se puede marcar con un modelo de peso real, no solo con una API.

Para quien lo quiera en su propio homelab, la cosa se complica. El checkpoint oficial en FP8 pesa unos 78 GB y la propia Aleph Alpha recomienda servirlo con vLLM sobre una B200, una B300, una H200 o dos H100 SXM5 — hardware de centro de datos, fuera del alcance de cualquier homelab real. La comunidad ya ha publicado cuantizaciones GGUF, y con una de ellas en Q4_K_M (unos 47,5 GB) sí es posible ejecutarlo en un PC con 64 GB de RAM y una GPU de solo 12 GB — por ejemplo una RTX 5070 — delegando los expertos no activos a RAM y dejando la VRAM ocupada en apenas 6,4 GB incluso con el contexto completo, gracias a que cuatro de cada cinco capas de atención usan una ventana deslizante de 513 tokens que mantiene la caché KV pequeña. El problema es que ni Ollama ni LM Studio lo cargan todavía: hace falta un build de llama.cpp parcheado o un runtime alternativo de la comunidad.

Para quién tiene sentido. Equipos europeos que necesiten justificar el origen y la soberanía de su modelo, o quien quiera evaluar de primera mano una alternativa seria a los modelos abiertos estadounidenses y chinos. Para quién no. Cualquiera que busque algo que simplemente funcione con un ollama pull en su homelab: hoy por hoy no es el caso, y probablemente no lo sea hasta que el soporte llegue a los runtimes habituales.

Fuentes: marktechpost.com · mindstudio.ai · modelfit.io