❦The Daily Commit❦ ☾The Nightly Build☽

DeepSeek ha publicado los pesos de DeepSeek V4.1-Flash en Hugging Face bajo la cuenta deepseek-ai. El anuncio se convirtió rápidamente en uno de los posts más votados de r/LocalLLaMA.

El modelo es un diseño mixture-of-experts disperso. Según la comunidad, el backbone tiene entre 485B y 552B de parámetros totales, con solo 8B de parámetros activos por token. La arquitectura usa 1 experto compartido y 384 expertos enrutados por capa MoE, activando 6 expertos enrutados por token.

Otros componentes incluyen Single-Pass mHC, una mezcla revisada del flujo residual con un kernel Mega-mHC, una memoria condicional Engram de 196B de parámetros, a la que se accede de forma dispersa mediante lookup por tokens, y DSpark, un decodificado especulativo semiautorregresivo. La ventana de contexto se sitúa en un millón de tokens.

El nombre «Flash» alude a una inferencia rápida y barata: 8B de parámetros activos se traducen en costes de API bajos. El alojamiento local es otra historia. Un comentarista con un servidor Xeon de 256 GB estima necesitar 384 GB de RAM. El modelo tampoco cabe en dos sistemas DGX Spark. Ya se discute una cuantización NVFP4 manteniendo el componente Engram de 196B en memoria.

Según la métrica sqrt(P x A) citada en el hilo, la capacidad debería equivaler aproximadamente a un modelo denso de 62B entrenado de forma similar. Algunos comentaristas habrían preferido una variante densa de ese tamaño. Los primeros usuarios reportan respuestas rápidas y de buena calidad, incluso en un Mac Studio.