As duas versões estão alinhadas bloco a bloco, pela ordem do texto: título, o essencial e depois parágrafo a parágrafo. Quando a tradução fundiu ou dividiu um parágrafo, a casa correspondente fica vazia — nunca aproximamos duas passagens a olho.
On October 20, DeepSeek put part of the machinery that answers its own users into the open. DeepInfer, the inference framework behind its large-scale model services, is now on GitHub under the Apache 2.0 licence, free to download, read and modify. Inference is the stage where a trained model produces its answers, and each word it writes takes a fresh computation, so at scale this is where much of the cost and electricity of running AI goes.
A 20 de outubro, a DeepSeek colocou à vista de todos parte da maquinaria que responde aos seus próprios utilizadores. O DeepInfer, a framework de inferência por trás dos seus serviços de modelos em grande escala, está agora no GitHub sob a licença Apache 2.0, disponível para transferir, ler e modificar sem custos. A inferência é a fase em que um modelo treinado produz as suas respostas, e cada palavra que escreve exige um novo cálculo; à escala, é aqui que se concentra grande parte do custo e da eletricidade de executar IA.
DeepInfer runs on two families of chips. Nvidia's Blackwell GPUs, designated SM100, can run it, as can the Ascend 950 neural processing units from Huawei. Its Ascend support follows a 30 September release in which DeepSeek brought the TileLang kernel programming language, a tool for writing the low-level code that chips execute, to Huawei's processors. The framework also uses speculative decoding: a cheap step proposes candidate words, and the main model checks them in a single pass, so several words can be accepted at once instead of one at a time. According to SiliconANGLE, a recent update trims the number of draft tokens checked per step by about 30%. The README names vLLM, an open-source serving project, as its original foundation.
O DeepInfer funciona em duas famílias de chips. As GPU Blackwell da Nvidia, designadas SM100, podem executá-lo, tal como as unidades de processamento neuronal Ascend 950 da Huawei. O suporte Ascend segue uma publicação de 30 de setembro, em que a DeepSeek levou para os processadores da Huawei a linguagem de programação de kernels TileLang, uma ferramenta para escrever o código de baixo nível que os chips executam. A framework usa também a decodificação especulativa: um passo barato propõe palavras candidatas, e o modelo principal verifica-as numa só passagem, pelo que várias palavras podem ser aceites de uma vez, em vez de uma a uma. Segundo a SiliconANGLE, uma atualização recente reduz em cerca de 30 % o número de tokens de rascunho verificados por passo. O README indica o vLLM, um projeto de código aberto de disponibilização de modelos, como base original.
The performance claims are the company's own and still open to question. DeepSeek estimates a 4% to 7% throughput gain at its production load, and its own document reports that one cluster serves 155 trillion tokens a day. A third-party report gives a generation speed of 230 tokens per second, up to 300 tokens per second for coding tasks. An independent field guide points to benchmark caveats, and one analysis observes that the decode figure assumes a fixed 75% draft acceptance rate rather than measuring it. Some features also depend on hardware: batch-invariant inference and deterministic sampling work on Nvidia hardware only. The framework requires Linux, GCC 13.0 or later, Python 3.12, and either CUDA 13 on Nvidia or CANN 9.2 on Ascend.
Os resultados de desempenho são da própria empresa e continuam sujeitos a dúvidas. A DeepSeek estima um ganho de débito de 4 % a 7 % na sua carga de produção, e o seu próprio documento indica que um cluster serve 155 biliões de tokens por dia. Um relatório de terceiros aponta para uma velocidade de geração de 230 tokens por segundo, e até 300 tokens por segundo em tarefas de programação. Um guia independente chama a atenção para ressalvas nos testes de referência, e uma análise observa que o valor de decodificação assume uma taxa fixa de aceitação dos rascunhos de 75 %, em vez de a medir. Algumas funcionalidades dependem também do hardware: a inferência invariante ao lote e a amostragem determinística funcionam apenas em hardware Nvidia. A framework exige Linux, GCC 13.0 ou posterior, Python 3.12, e CUDA 13 na Nvidia ou CANN 9.2 na Ascend.
For a team that already runs DeepSeek's models on its own machines, the code can be read and tested directly. The code is public under a licence that allows commercial use, and DeepSeek presents the release as a way to cut cost and energy per answer. It is not a turnkey service, though. The framework supports a single model, DeepSeek-V4.1-Flash, and loads its 1017 version by default, and the team deploying it must build the surrounding serving stack. DeepSeek has said that inference code for future models will go into the same repository, without giving a date for those releases.
Para uma equipa que já executa os modelos da DeepSeek nas suas próprias máquinas, o código pode ser lido e testado diretamente. O código é público, sob uma licença que permite utilização comercial, e a DeepSeek apresenta a publicação como uma forma de reduzir o custo e a energia por resposta. Não é, porém, um serviço pronto a usar. A framework suporta um único modelo, o DeepSeek-V4.1-Flash, e carrega por defeito a sua versão 1017, e a equipa que o implementa tem de construir a pilha de disponibilização que o rodeia. A DeepSeek disse que o código de inferência de modelos futuros será colocado no mesmo repositório, sem indicar uma data para esses lançamentos.