Le due versioni sono allineate blocco per blocco, nell’ordine del testo: titolo, l’essenziale, poi paragrafo per paragrafo. Quando la traduzione ha fuso o diviso un paragrafo, la casella corrispondente resta vuota — non accostiamo mai due passaggi a occhio.
For most AI workloads, a graphics processor, or GPU, is still handed out whole: one application, one chip, whatever the chip is actually doing. The announcement starts from a figure: 66% of organizations hosting generative AI models run some or all of their inference on Kubernetes, the open-source system that schedules containers across a group of machines. Inference is the stage where a trained model answers requests, and GPU capacity for it is, in the announcement's words, expensive and often constrained.
Per la maggior parte dei carichi di lavoro di IA, un processore grafico, o GPU, viene ancora assegnato per intero: un'applicazione, un chip, qualunque cosa il chip stia effettivamente facendo. L'annuncio parte da un dato: il 66% delle organizzazioni che ospitano modelli di IA generativa esegue su Kubernetes una parte o la totalità dell'inferenza. Kubernetes è il sistema open source che pianifica l'esecuzione dei container su un gruppo di macchine. L'inferenza è la fase in cui un modello addestrato risponde alle richieste e, secondo le parole dell'annuncio, la capacità GPU necessaria è costosa e spesso limitata.
Teams have tried to share these chips. The announcement names time-slicing, NVIDIA's Multi-Process Service (MPS), and Multi-Instance GPU (MIG), which divides each GPU into fixed hardware-based partitions. Its diagnosis is that such allocations cannot keep pace with AI demand that rises and falls. Memory and compute end up stranded, and teams buy more GPUs even while existing capacity sits unused.
I team hanno provato a condividere questi chip. L'annuncio cita il time-slicing, il Multi-Process Service (MPS) di NVIDIA e il Multi-Instance GPU (MIG), che divide ogni GPU in partizioni fisse basate sull'hardware. La sua diagnosi è che queste allocazioni non riescono a tenere il passo con una domanda di IA che sale e scende. Memoria e potenza di calcolo finiscono bloccate, e i team acquistano altre GPU anche quando la capacità esistente resta inutilizzata.
NVIDIA's recent open-source release of Run:ai brings GPU fractioning to Kubernetes through a GPU Fractioning Operator, which enforces a memory limit for each workload and works with Kubernetes schedulers. But fractioning only defines how a GPU can be divided. It does not decide who gets what, and the announcement stresses that this requires a separate decision layer. Zesty's Automated Fractional GPUs fills that gap: it continuously determines which workloads share each GPU, how many can safely run together, how much memory each receives, which sharing mode fits, and when allocations should grow or shrink. It draws on measured memory and utilization, observed behavior over time, and the latency and resource limits teams set beforehand, and every change stays within those policies.
La recente release open source di Run:ai da parte di NVIDIA porta il frazionamento delle GPU su Kubernetes tramite un GPU Fractioning Operator, che impone un limite di memoria a ogni carico di lavoro e lavora insieme agli scheduler di Kubernetes. Ma il frazionamento definisce soltanto come una GPU può essere divisa. Non decide chi riceve cosa, e l'annuncio sottolinea che serve a tal fine un livello decisionale separato. Automated Fractional GPUs di Zesty colma questo vuoto: determina in modo continuo quali carichi di lavoro condividono ciascuna GPU, quanti possono girare insieme in sicurezza, quanta memoria riceve ciascuno, quale modalità di condivisione è più adatta e quando le allocazioni devono crescere o diminuire. Si basa su memoria e utilizzo misurati, sul comportamento osservato nel tempo e sui limiti di latenza e di risorse fissati in anticipo dai team, e ogni modifica resta entro queste politiche.
The layer deploys as a lightweight agent inside the cluster, alongside NVIDIA's operator and the Kubernetes scheduler, and supports time-slicing and MPS. Nothing in the application or the model needs to change, and installation does not restart running workloads. On a supported GPU stack, Zesty says it manages the Kubernetes configuration itself, without manual manifest edits.
Il livello si installa come agente leggero all'interno del cluster, accanto all'operatore di NVIDIA e allo scheduler di Kubernetes, e supporta time-slicing e MPS. Nulla nell'applicazione o nel modello deve cambiare, e l'installazione non riavvia i carichi di lavoro in esecuzione. Su uno stack GPU supportato, Zesty afferma di gestire da sé la configurazione di Kubernetes, senza modifiche manuali ai manifest.
Platform teams that already run inference on Kubernetes are the ones this addresses, and they can use it now, since the product is available as part of the Zesty platform. According to the announcement, the layer makes it possible to get fewer idle chips, run more workloads on hardware already owned, buy less spare capacity for peaks, and lower infrastructure costs while application performance is protected. The announcement quantifies none of it. It gives no utilization gain, no savings percentage, no price and no customer. These remain the vendor's claims, and the test it leaves open is the one a team can run itself: measuring utilization on its own cluster before and after.
I destinatari sono i team di piattaforma che già eseguono l'inferenza su Kubernetes, e possono utilizzarlo da subito, perché il prodotto è disponibile come parte della piattaforma Zesty. Secondo l'annuncio, il livello permette di avere meno chip inattivi, eseguire più carichi di lavoro sull'hardware già posseduto, acquistare meno capacità di riserva per i picchi e ridurre i costi infrastrutturali, proteggendo al tempo stesso le prestazioni delle applicazioni. L'annuncio non quantifica nulla di tutto ciò: non fornisce alcun aumento dell'utilizzo, alcuna percentuale di risparmio, alcun prezzo e alcun cliente. Restano affermazioni del fornitore, e la verifica che resta aperta è quella che ogni team può fare da sé: misurare l'utilizzo sul proprio cluster prima e dopo.