Les deux versions sont alignées bloc par bloc, dans l’ordre du texte : titre, l’essentiel, puis paragraphe par paragraphe. Quand la traduction a fusionné ou scindé un paragraphe, la case correspondante reste vide — on ne rapproche jamais deux passages au jugé.
On October 20, DeepSeek put part of the machinery that answers its own users into the open. DeepInfer, the inference framework behind its large-scale model services, is now on GitHub under the Apache 2.0 licence, free to download, read and modify. Inference is the stage where a trained model produces its answers, and each word it writes takes a fresh computation, so at scale this is where much of the cost and electricity of running AI goes.
Le 20 octobre, DeepSeek a mis en accès libre une partie de la mécanique qui répond à ses propres utilisateurs. DeepInfer, le framework d'inférence qui sous-tend ses services de modèles à grande échelle, est désormais disponible sur GitHub sous licence Apache 2.0, téléchargeable, lisible et modifiable librement. L'inférence est l'étape où un modèle entraîné produit ses réponses, et chaque mot qu'il écrit demande un nouveau calcul : à grande échelle, c'est là que se concentre une grande part du coût et de l'électricité de l'IA.
DeepInfer runs on two families of chips. Nvidia's Blackwell GPUs, designated SM100, can run it, as can the Ascend 950 neural processing units from Huawei. Its Ascend support follows a 30 September release in which DeepSeek brought the TileLang kernel programming language, a tool for writing the low-level code that chips execute, to Huawei's processors. The framework also uses speculative decoding: a cheap step proposes candidate words, and the main model checks them in a single pass, so several words can be accepted at once instead of one at a time. According to SiliconANGLE, a recent update trims the number of draft tokens checked per step by about 30%. The README names vLLM, an open-source serving project, as its original foundation.
DeepInfer fonctionne sur deux familles de puces. Les GPU Blackwell de Nvidia, désignés SM100, peuvent l'exécuter, tout comme les unités de traitement neuronal Ascend 950 de Huawei. Le support Ascend fait suite à une version publiée le 30 septembre, dans laquelle DeepSeek a porté sur les processeurs de Huawei TileLang, un langage de programmation de noyaux qui permet d'écrire le code bas niveau exécuté par les puces. Le framework utilise aussi le décodage spéculatif : une étape peu coûteuse propose des mots candidats, et le modèle principal les vérifie en une seule passe, si bien que plusieurs mots peuvent être acceptés à la fois au lieu d'un seul. Selon SiliconANGLE, une mise à jour récente réduit d'environ 30 % le nombre de tokens de brouillon vérifiés à chaque étape. Le README cite vLLM, un projet open source de service de modèles, comme fondation d'origine.
The performance claims are the company's own and still open to question. DeepSeek estimates a 4% to 7% throughput gain at its production load, and its own document reports that one cluster serves 155 trillion tokens a day. A third-party report gives a generation speed of 230 tokens per second, up to 300 tokens per second for coding tasks. An independent field guide points to benchmark caveats, and one analysis observes that the decode figure assumes a fixed 75% draft acceptance rate rather than measuring it. Some features also depend on hardware: batch-invariant inference and deterministic sampling work on Nvidia hardware only. The framework requires Linux, GCC 13.0 or later, Python 3.12, and either CUDA 13 on Nvidia or CANN 9.2 on Ascend.
Les performances annoncées viennent de l'entreprise elle-même et restent discutables. DeepSeek estime à 4 % à 7 % le gain de débit sous sa charge de production, et son propre document indique qu'un cluster traite 155 billions de tokens par jour. Un rapport tiers donne une vitesse de génération de 230 tokens par seconde, et jusqu'à 300 tokens par seconde pour les tâches de programmation. Un guide indépendant pointe des réserves sur les benchmarks, et une analyse observe que le chiffre de décodage suppose un taux d'acceptation fixe de 75 % pour les brouillons, au lieu de le mesurer. Certaines fonctions dépendent aussi du matériel : l'inférence invariante au lot et l'échantillonnage déterministe ne fonctionnent que sur le matériel Nvidia. Le framework exige Linux, GCC 13.0 ou version ultérieure, Python 3.12, et soit CUDA 13 sur Nvidia, soit CANN 9.2 sur Ascend.
For a team that already runs DeepSeek's models on its own machines, the code can be read and tested directly. The code is public under a licence that allows commercial use, and DeepSeek presents the release as a way to cut cost and energy per answer. It is not a turnkey service, though. The framework supports a single model, DeepSeek-V4.1-Flash, and loads its 1017 version by default, and the team deploying it must build the surrounding serving stack. DeepSeek has said that inference code for future models will go into the same repository, without giving a date for those releases.
Pour une équipe qui fait déjà tourner les modèles de DeepSeek sur ses propres machines, le code peut être lu et testé directement. Il est public sous une licence qui autorise l'usage commercial, et DeepSeek présente cette publication comme un moyen de réduire le coût et l'énergie par réponse. Ce n'est toutefois pas un service clé en main. Le framework ne prend en charge qu'un seul modèle, DeepSeek-V4.1-Flash, et charge par défaut sa version 1017 ; l'équipe qui le déploie doit construire elle-même la couche de service qui l'entoure. DeepSeek a indiqué que le code d'inférence des futurs modèles sera ajouté au même dépôt, sans donner de date pour ces publications.