DeepSeek liberó bajo Apache 2.0 el motor de inferencia que corre su propia producción: tu costo por token deja de ser una tarifa que te imponen y pasa a ser una factura de GPU que tú decides.
Suena a libertad. Y en parte lo es: el 20 de octubre de 2026 el repo deepseek-ai/DeepInfer salió a GitHub con licencia Apache 2.0, junto a deepseek-recipe (MIT), la capa de encoding/decoding alineada con su API oficial. El código del motor deja de ser caja negra. Ese es el titular real, no el que vas a leer en LinkedIn.
Pero acá va mi postura antes de los detalles: DeepSeek DeepInfer no te abarata la inferencia, te la transfiere. Pasas de pagar una tarifa de proveedor a pagar GPUs, ingeniería y capacidad ociosa. Si no tienes el equipo para operar eso, acabas peor que antes. Y si tu parque es H100 o AMD, ni siquiera te aplica hoy.
Qué pasó
DeepSeek publicó DeepInfer, el framework que dice usar en su propia producción, bajo Apache 2.0. El repo acumuló ~16.300 estrellas y 1.600 forks en los primeros días con solo 3 contribuidores y No releases published. Traducción: mucha curiosidad, poca producción verificable.
La primera release sirve un solo modelo, DeepSeek-V4.1-Flash, y solo en modo offline por lotes. El propio README lista como required, not shipped el sistema de KV cache, la disagregación Prefill/Decode y el load balancing entre réplicas data-parallel. O sea: te dieron el camino de cómputo, no el servicio.
Hardware obligatorio: NVIDIA SM100 o Huawei Ascend 950, Linux con GCC 13+, Python 3.12, CUDA 13 o CANN 9.2. Es datacenter, no laptop. Los números declarados por DeepSeek (self-reported, ojo): decode por encima de 25.000 tokens/s por GPU en un clúster de 64 GPUs SM100 con contexto de 131.072 tokens, y prefill de ~60.000 a 89.000 tokens de input no cacheado por segundo por GPU.
Qué significa
Hagamos la cuenta que nadie hace. La API hospedada de V4.1-Flash cuesta 0,15 USD por millón de tokens de input y 0,60 USD por millón de output, con 50% de descuento off-peak. Un millón de input más un millón de output te sale 0,75 USD off-peak y 1,50 USD peak. Compáralo con 12 USD en GPT-6.1 Sol/Sonnet 5.5 y 60 USD en Astra. Esa es la línea base que tienes que vencer con tu propia infraestructura.
Ahora suma lo que no viene en el repo: KV cache store, disagregación prefill/decode y load balancing entre réplicas. Eso no son líneas de código, son semanas de ingeniería de sistemas distribuidos. Si no tienes ese perfil en plantilla, el costo real del self-hosting de DeepInfer es la contratación, no la GPU. Y el sueldo de un ingeniero de inferencia distribuida corre todo el año, la tarifa de API solo cuando consumes.
El segundo punto es el lock-in. Antes estabas atado al proveedor de API. Ahora, si te vas a self-hosting con esta release, te atas al proveedor de silicio: SM100 o Ascend 950. Si tu parque es H100/H200 o AMD, DeepInfer hoy no te aplica. Cambiaste un rehén por otro, y el nuevo cobra por hardware, no por token.
Lo que sí vale oro es el plano de arquitectura. Los kernels afinados, Attention DP con CP balanceado, MoE EP con EPLB, DSpark (el decodificador especulativo propietario que reduce los tokens draft verificados ~30% con aceptación casi igual) y batch-invariant inference son una clase gratis de cómo sirve un laboratorio frontera. Eso lo usas para negociar con tu proveedor y para auditar tu stack actual de vLLM, SGLang o TensorRT-LLM, que ya son Apache 2.0 y corren en hardware mucho más amplio.
Y no olvides el elefante regulatorio: el DHS ordenó el 19-20 de octubre de 2026 retirar DeepSeek y cualquier producto de terceros construido con DeepSeek de los sistemas de agencias civiles federales de EE.UU., con 60 días para purgar y bloqueo de compras. Si vendes a sector público federal o a clientes con cláusulas de cadena de suministro, el código abierto no te salva: el proveedor de origen sigue siendo chino. Compliance, no técnica, es lo que te tumba el proyecto.
Qué hacer al respecto
- Calcula tu punto de equilibrio antes de migrar. Con 0,15/0,60 USD por millón en la API, necesitas volumen alto y sostenido, más contexto repetido que puedas cachear, para que amortizar GPUs SM100 o Ascend 950 salga más barato que la tarifa. Si tu consumo es intermitente, la API gana siempre.
- Trata DeepInfer como referencia de arquitectura, no como producto. Lee sus kernels, su MoE EP con EPLB y su batch-invariant inference, y usa ese conocimiento para presionar a tu proveedor actual y auditar tu stack de vLLM/SGLang. Cero costo, retorno inmediato.
- Presupuesta el trabajo no incluido. KV cache store, disagregación prefill/decode y load balancing son el 70% del trabajo real de operar inferencia a escala. Si no tienes ese perfil contratado, suma el costo de contratarlo antes de firmar cualquier cosa.
- Verifica el hardware antes de comprometer capex. SM100 o Ascend 950, CUDA 13 o CANN 9.2, GCC 13+. Si tu parque no cumple, esta release no te aplica hoy y no hay roadmap público que diga cuándo.
- Separa las obligaciones legales. Motor Apache 2.0, pesos MIT, proveedor chino. Audita las tres cosas por separado con tu equipo legal antes de meterlo en producción.
Si tu volumen no justifica GPUs dedicadas, la jugada inteligente no es self-hostear: es usar DeepInfer como palanca de negociación. Ahora sabes exactamente qué corre del otro lado y cuánto margen tiene tu proveedor. Eso vale más que el código.
Cuéntame tu caso: ¿cuántos tokens al mes mueves y qué hardware tienes disponible? Con esos dos datos te digo en dos minutos si el self-hosting de DeepInfer tiene sentido para ti o si estás a punto de comprar GPUs para sentirte libre.
Preguntas frecuentes
¿DeepInfer es gratis de usar en producción?
El código es gratis bajo Apache 2.0, pero operarlo no. Necesitas GPUs SM100 o Ascend 950, más el KV cache, la disagregación prefill/decode y el load balancing que el repo no incluye. El costo se mueve de tarifa por token a capex de hardware más opex de ingeniería.
¿Puedo correr DeepInfer en H100 o en AMD?
No con esta release. Solo soporta NVIDIA SM100 y Huawei Ascend 950, con CUDA 13 o CANN 9.2. Para H100/H200 o AMD, tu opción sigue siendo vLLM, SGLang o TensorRT-LLM.
¿Qué diferencia hay entre la licencia del motor y la del modelo?
Son dos regímenes distintos: DeepInfer va en Apache 2.0 y los pesos de V4.1-Flash-1017 en MIT. Audítalos por separado, porque las obligaciones de atribución y redistribución no son las mismas.
¿Self-hostear DeepInfer me libra de la orden del DHS?
No. La orden del 19-20 de octubre de 2026 apunta al proveedor de origen, no a la licencia del código. Si vendes a agencias civiles federales de EE.UU. o a clientes con cláusulas de cadena de suministro, el self-hosting de DeepSeek puede ser inviable por compliance aunque sea técnicamente posible.
Fuentes
- GitHub — deepseek-ai/DeepInfer (repositorio oficial, Apache 2.0)
- MarkTechPost — DeepSeek Open-Sources DeepInfer, the Inference Framework Behind DeepSeek-V4.1-Flash
- OrcaRouter — DeepInfer Explained: What DeepSeek Open-Sourced, and What It Didn’t
- kingy.ai — DeepInfer: DeepSeek Engine Specs, Benchmarks & Costs
- AP News — China defends DeepSeek after US ban of its AI from government systems