Les deux versions sont alignées bloc par bloc, dans l’ordre du texte : titre, l’essentiel, puis paragraphe par paragraphe. Quand la traduction a fusionné ou scindé un paragraphe, la case correspondante reste vide — on ne rapproche jamais deux passages au jugé.
For most AI workloads, a graphics processor, or GPU, is still handed out whole: one application, one chip, whatever the chip is actually doing. The announcement starts from a figure: 66% of organizations hosting generative AI models run some or all of their inference on Kubernetes, the open-source system that schedules containers across a group of machines. Inference is the stage where a trained model answers requests, and GPU capacity for it is, in the announcement's words, expensive and often constrained.
Pour la plupart des charges de travail d'IA, un processeur graphique, ou GPU, reste attribué dans sa totalité : une application, une puce, quelle que soit l'activité réelle de la puce. L'annonce part d'un chiffre : 66 % des organisations qui hébergent des modèles d'IA générative exécutent tout ou partie de leur inférence sur Kubernetes, le système open source qui planifie l'exécution de conteneurs sur un groupe de machines. L'inférence est l'étape où un modèle entraîné répond aux requêtes, et la capacité GPU qui lui est dédiée est, selon les termes de l'annonce, coûteuse et souvent contrainte.
Teams have tried to share these chips. The announcement names time-slicing, NVIDIA's Multi-Process Service (MPS), and Multi-Instance GPU (MIG), which divides each GPU into fixed hardware-based partitions. Its diagnosis is that such allocations cannot keep pace with AI demand that rises and falls. Memory and compute end up stranded, and teams buy more GPUs even while existing capacity sits unused.
Les équipes ont tenté de partager ces puces. L'annonce cite le time-slicing, le Multi-Process Service (MPS) de NVIDIA et le Multi-Instance GPU (MIG), qui divise chaque GPU en partitions matérielles fixes. Son diagnostic est que ces allocations ne peuvent pas suivre une demande d'IA qui monte et qui descend. La mémoire et le calcul finissent bloqués, et les équipes achètent davantage de GPU alors même que la capacité existante reste inutilisée.
NVIDIA's recent open-source release of Run:ai brings GPU fractioning to Kubernetes through a GPU Fractioning Operator, which enforces a memory limit for each workload and works with Kubernetes schedulers. But fractioning only defines how a GPU can be divided. It does not decide who gets what, and the announcement stresses that this requires a separate decision layer. Zesty's Automated Fractional GPUs fills that gap: it continuously determines which workloads share each GPU, how many can safely run together, how much memory each receives, which sharing mode fits, and when allocations should grow or shrink. It draws on measured memory and utilization, observed behavior over time, and the latency and resource limits teams set beforehand, and every change stays within those policies.
La récente publication open source de Run:ai par NVIDIA apporte le fractionnement de GPU à Kubernetes grâce à un opérateur GPU Fractioning, qui impose une limite de mémoire à chaque charge de travail et fonctionne avec les ordonnanceurs de Kubernetes. Mais le fractionnement ne fait que définir la manière dont un GPU peut être divisé. Il ne décide pas qui obtient quoi, et l'annonce souligne que cela exige une couche de décision distincte. Automated Fractional GPUs de Zesty comble ce vide : la solution détermine en continu quelles charges de travail partagent chaque GPU, combien peuvent tourner ensemble en toute sécurité, quelle mémoire chacune reçoit, quel mode de partage convient, et quand les allocations doivent augmenter ou diminuer. Elle s'appuie sur la mémoire et l'utilisation mesurées, sur le comportement observé dans le temps, ainsi que sur les contraintes de latence et de ressources fixées à l'avance par les équipes, et chaque modification reste dans le cadre de ces politiques.
The layer deploys as a lightweight agent inside the cluster, alongside NVIDIA's operator and the Kubernetes scheduler, and supports time-slicing and MPS. Nothing in the application or the model needs to change, and installation does not restart running workloads. On a supported GPU stack, Zesty says it manages the Kubernetes configuration itself, without manual manifest edits.
La couche se déploie sous forme d'agent léger à l'intérieur du cluster, aux côtés de l'opérateur de NVIDIA et de l'ordonnanceur de Kubernetes, et prend en charge le time-slicing et le MPS. Rien dans l'application ni dans le modèle n'a besoin de changer, et l'installation ne redémarre pas les charges de travail en cours. Sur une pile GPU prise en charge, Zesty affirme gérer lui-même la configuration de Kubernetes, sans modification manuelle des manifestes.
Platform teams that already run inference on Kubernetes are the ones this addresses, and they can use it now, since the product is available as part of the Zesty platform. According to the announcement, the layer makes it possible to get fewer idle chips, run more workloads on hardware already owned, buy less spare capacity for peaks, and lower infrastructure costs while application performance is protected. The announcement quantifies none of it. It gives no utilization gain, no savings percentage, no price and no customer. These remain the vendor's claims, and the test it leaves open is the one a team can run itself: measuring utilization on its own cluster before and after.
Les équipes plateforme qui exécutent déjà de l'inférence sur Kubernetes sont celles que cela vise, et elles peuvent l'utiliser dès maintenant, puisque le produit est disponible dans le cadre de la plateforme Zesty. Selon l'annonce, la couche permet de réduire le nombre de puces inutilisées, d'exécuter davantage de charges de travail sur du matériel déjà possédé, d'acheter moins de capacité de réserve pour les pics, et de baisser les coûts d'infrastructure tout en protégeant les performances des applications. L'annonce ne chiffre rien de tout cela : aucun gain d'utilisation, aucun pourcentage d'économies, aucun prix et aucun client. Ce sont là des affirmations du fournisseur, et le test qu'elle laisse ouvert est celui qu'une équipe peut mener elle-même : mesurer l'utilisation sur son propre cluster, avant et après.