DeepSeek anunció DeepInfer el 20 de octubre de 2026: ha abierto el motor de inferencia que utiliza en sus servicios. La distinción práctica está en el README oficial, consultado el 21 de octubre: esta entrega permite inferencia offline con DeepSeek-V4.1-Flash, pero no incluye todas las piezas para reproducir un servicio de producción completo.
Para un equipo que sirve modelos, el interés es poder estudiar y reutilizar el motor. Para quien busca levantar una API con una instalación sencilla, quedan decisiones de infraestructura importantes.
Qué contiene el motor
DeepInfer incluye funciones optimizadas de cálculo, ejecución del modelo, un planificador asíncrono que solapa trabajo de CPU y acelerador, y mecanismos para repartir el cálculo entre dispositivos. También ofrece salidas restringidas por expresiones regulares, esquemas JSON o gramáticas. Respetar un formato no demuestra que el contenido generado sea correcto.
El proyecto reconoce que se construyó principalmente sobre vLLM, con inspiración adicional de SGLang y TensorRT-LLM. Su código se distribuye bajo Apache 2.0. Esa licencia corresponde al motor: las condiciones de los pesos del modelo y las de otros componentes deben revisarse por separado.
El hardware documentado es NVIDIA SM100 o Huawei Ascend 950. Los requisitos incluyen Linux, GCC 13 o posterior y Python 3.12, con CUDA 13 para NVIDIA o CANN 9.2 para Ascend. No es una propuesta para probar en cualquier portátil.
Las piezas que faltan
El README enumera tres necesidades de un servicio completo que esta entrega no incorpora: un sistema de caché de claves y valores —el estado de atención que permite reutilizar cálculo—, la desagregación de las etapas de inferencia y el balanceo de carga entre réplicas.
Desagregar significa poder separar el procesamiento visual, la lectura inicial del contexto y la generación de la respuesta. DeepSeek aclara que gran parte de la funcionalidad del motor necesaria para ello ya está implementada. La ausencia es la integración completa de esas piezas como servicio; sería incorrecto describir el motor como incapaz de trabajar con esa arquitectura.
El proyecto complementario deepseek-recipe convierte peticiones Messages, Chat Completions y Responses en conversaciones, prompts y tokens, y transforma la salida al formato correspondiente. Su documentación exige que quien integra aporte la inferencia, la ejecución de herramientas y el transporte HTTP. Entender una llamada a una herramienta no equivale a ejecutarla.
Un ejemplo de la decisión
Imaginemos un centro de soporte que quiere servir el modelo en infraestructura propia. Es un ejemplo hipotético, no una prueba de Puntoes. DeepInfer podría aportar el cálculo del modelo; recipe, la conversión de mensajes. El equipo tendría que resolver además autenticación, permisos de las herramientas, reparto de solicitudes, caché y gestión de fallos.
Antes de migrar, conviene inventariar esas piezas y comprobar qué puede reutilizarse. Una licencia abierta y un motor disponible no acreditan, por sí solos, menor coste ni mejor latencia para una carga concreta. No hemos ejecutado DeepInfer ni reproducido sus benchmarks; tampoco extrapolamos cifras de ingresos o rendimiento de su despliegue a otros equipos.
La pista editorial llegó mediante Latent Space; el alcance técnico se contrastó con los repositorios originales.