Las dos versiones están alineadas bloque a bloque, en el orden del texto: titular, lo esencial y después párrafo a párrafo. Cuando la traducción ha fusionado o dividido un párrafo, la casilla correspondiente queda vacía — nunca emparejamos dos pasajes a ojo.
On October 20, DeepSeek put part of the machinery that answers its own users into the open. DeepInfer, the inference framework behind its large-scale model services, is now on GitHub under the Apache 2.0 licence, free to download, read and modify. Inference is the stage where a trained model produces its answers, and each word it writes takes a fresh computation, so at scale this is where much of the cost and electricity of running AI goes.
El 20 de octubre, DeepSeek puso a disposición pública una parte del mecanismo que responde a sus propios usuarios. DeepInfer, el framework de inferencia que sustenta sus servicios de modelos a gran escala, ya está disponible en GitHub con licencia Apache 2.0, de forma gratuita para descargarlo, leerlo y modificarlo. La inferencia es la fase en la que un modelo entrenado produce sus respuestas, y cada palabra que escribe supone un cálculo nuevo, de modo que, a gran escala, ahí se concentra buena parte del coste y del consumo eléctrico de operar la IA.
DeepInfer runs on two families of chips. Nvidia's Blackwell GPUs, designated SM100, can run it, as can the Ascend 950 neural processing units from Huawei. Its Ascend support follows a 30 September release in which DeepSeek brought the TileLang kernel programming language, a tool for writing the low-level code that chips execute, to Huawei's processors. The framework also uses speculative decoding: a cheap step proposes candidate words, and the main model checks them in a single pass, so several words can be accepted at once instead of one at a time. According to SiliconANGLE, a recent update trims the number of draft tokens checked per step by about 30%. The README names vLLM, an open-source serving project, as its original foundation.
DeepInfer funciona con dos familias de chips. Las GPU Blackwell de Nvidia, identificadas como SM100, pueden ejecutarlo, al igual que las unidades de procesamiento neuronal (NPU) Ascend 950 de Huawei. El soporte para Ascend llega después de una publicación del 30 de septiembre, en la que DeepSeek llevó a los procesadores de Huawei el lenguaje de programación de kernels TileLang, una herramienta para escribir el código de bajo nivel que ejecutan los chips. El framework también emplea la decodificación especulativa: un paso ligero propone palabras candidatas y el modelo principal las verifica en una sola pasada, de modo que se pueden aceptar varias palabras a la vez en lugar de una cada vez. Según SiliconANGLE, una actualización reciente reduce en torno a un 30 % el número de tokens borrador verificados en cada paso. El README cita a vLLM, un proyecto de servicio de código abierto, como base original.
The performance claims are the company's own and still open to question. DeepSeek estimates a 4% to 7% throughput gain at its production load, and its own document reports that one cluster serves 155 trillion tokens a day. A third-party report gives a generation speed of 230 tokens per second, up to 300 tokens per second for coding tasks. An independent field guide points to benchmark caveats, and one analysis observes that the decode figure assumes a fixed 75% draft acceptance rate rather than measuring it. Some features also depend on hardware: batch-invariant inference and deterministic sampling work on Nvidia hardware only. The framework requires Linux, GCC 13.0 or later, Python 3.12, and either CUDA 13 on Nvidia or CANN 9.2 on Ascend.
Las cifras de rendimiento son de la propia compañía y todavía admiten matices. DeepSeek calcula una mejora de rendimiento de entre un 4 % y un 7 % con su carga de producción, y en su propio documento indica que un clúster sirve 155 billones de tokens al día. Un informe de terceros recoge una velocidad de generación de 230 tokens por segundo, y de hasta 300 tokens por segundo en tareas de programación. Una guía de campo independiente apunta a matices en los benchmarks, y un análisis observa que la cifra de decodificación supone una tasa fija de aceptación de borradores del 75 % en lugar de medirla. Algunas funciones además dependen del hardware: la inferencia invariante por lotes y el muestreo determinista solo funcionan en equipos de Nvidia. El framework requiere Linux, GCC 13.0 o posterior, Python 3.12 y, según el caso, CUDA 13 en Nvidia o CANN 9.2 en Ascend.
For a team that already runs DeepSeek's models on its own machines, the code can be read and tested directly. The code is public under a licence that allows commercial use, and DeepSeek presents the release as a way to cut cost and energy per answer. It is not a turnkey service, though. The framework supports a single model, DeepSeek-V4.1-Flash, and loads its 1017 version by default, and the team deploying it must build the surrounding serving stack. DeepSeek has said that inference code for future models will go into the same repository, without giving a date for those releases.
Para un equipo que ya ejecuta los modelos de DeepSeek en sus propias máquinas, el código puede leerse y probarse directamente. Está publicado con una licencia que permite el uso comercial, y DeepSeek presenta la publicación como una forma de reducir el coste y la energía por respuesta. Sin embargo, no es un servicio listo para usar. El framework admite un único modelo, DeepSeek-V4.1-Flash, y carga por defecto su versión 1017, y el equipo que lo despliegue debe construir por su cuenta el resto de la pila de servicio. DeepSeek ha dicho que el código de inferencia de los modelos futuros se publicará en el mismo repositorio, sin dar una fecha para esas versiones.