As duas versões estão alinhadas bloco a bloco, pela ordem do texto: título, o essencial e depois parágrafo a parágrafo. Quando a tradução fundiu ou dividiu um parágrafo, a casa correspondente fica vazia — nunca aproximamos duas passagens a olho.
For most AI workloads, a graphics processor, or GPU, is still handed out whole: one application, one chip, whatever the chip is actually doing. The announcement starts from a figure: 66% of organizations hosting generative AI models run some or all of their inference on Kubernetes, the open-source system that schedules containers across a group of machines. Inference is the stage where a trained model answers requests, and GPU capacity for it is, in the announcement's words, expensive and often constrained.
Na maioria das cargas de trabalho de IA, um processador gráfico, ou GPU, continua a ser atribuído inteiro: uma aplicação, um chip, independentemente do que o chip esteja efetivamente a fazer. O anúncio parte de um número: 66 % das organizações que alojam modelos de IA generativa executam parte ou a totalidade da sua inferência no Kubernetes, o sistema de código aberto que agenda contentores num conjunto de máquinas. A inferência é a fase em que um modelo treinado responde a pedidos, e a capacidade de GPU para essa fase é, nas palavras do anúncio, cara e muitas vezes limitada.
Teams have tried to share these chips. The announcement names time-slicing, NVIDIA's Multi-Process Service (MPS), and Multi-Instance GPU (MIG), which divides each GPU into fixed hardware-based partitions. Its diagnosis is that such allocations cannot keep pace with AI demand that rises and falls. Memory and compute end up stranded, and teams buy more GPUs even while existing capacity sits unused.
As equipas têm tentado partilhar estes chips. O anúncio refere o time-slicing, o Multi-Process Service (MPS) da NVIDIA e o Multi-Instance GPU (MIG), que divide cada GPU em partições fixas de base hardware. O seu diagnóstico é que essas alocações não conseguem acompanhar uma procura de IA que sobe e desce. A memória e a capacidade de cálculo acabam por ficar imobilizadas, e as equipas compram mais GPU mesmo quando a capacidade existente está por utilizar.
NVIDIA's recent open-source release of Run:ai brings GPU fractioning to Kubernetes through a GPU Fractioning Operator, which enforces a memory limit for each workload and works with Kubernetes schedulers. But fractioning only defines how a GPU can be divided. It does not decide who gets what, and the announcement stresses that this requires a separate decision layer. Zesty's Automated Fractional GPUs fills that gap: it continuously determines which workloads share each GPU, how many can safely run together, how much memory each receives, which sharing mode fits, and when allocations should grow or shrink. It draws on measured memory and utilization, observed behavior over time, and the latency and resource limits teams set beforehand, and every change stays within those policies.
O recente lançamento em código aberto do Run:ai pela NVIDIA traz o fracionamento de GPU para o Kubernetes através de um GPU Fractioning Operator, que impõe um limite de memória a cada carga de trabalho e funciona com os agendadores do Kubernetes. Mas o fracionamento apenas define a forma como uma GPU pode ser dividida. Não decide quem recebe o quê, e o anúncio sublinha que isso exige uma camada de decisão separada. As Automated Fractional GPUs da Zesty preenchem essa lacuna: determinam continuamente que cargas de trabalho partilham cada GPU, quantas podem correr em conjunto em segurança, quanta memória recebe cada uma, qual o modo de partilha adequado e quando as alocações devem aumentar ou diminuir. Assentam na memória e na utilização medidas, no comportamento observado ao longo do tempo e nos limites de latência e de recursos definidos previamente pelas equipas, e cada alteração se mantém dentro dessas políticas.
The layer deploys as a lightweight agent inside the cluster, alongside NVIDIA's operator and the Kubernetes scheduler, and supports time-slicing and MPS. Nothing in the application or the model needs to change, and installation does not restart running workloads. On a supported GPU stack, Zesty says it manages the Kubernetes configuration itself, without manual manifest edits.
A camada é instalada como um agente leve no interior do cluster, a par do operador da NVIDIA e do agendador do Kubernetes, e suporta time-slicing e MPS. Nada na aplicação ou no modelo precisa de ser alterado, e a instalação não reinicia as cargas de trabalho em execução. Numa pilha de GPU suportada, a Zesty afirma que gere ela própria a configuração do Kubernetes, sem edição manual de manifestos.
Platform teams that already run inference on Kubernetes are the ones this addresses, and they can use it now, since the product is available as part of the Zesty platform. According to the announcement, the layer makes it possible to get fewer idle chips, run more workloads on hardware already owned, buy less spare capacity for peaks, and lower infrastructure costs while application performance is protected. The announcement quantifies none of it. It gives no utilization gain, no savings percentage, no price and no customer. These remain the vendor's claims, and the test it leaves open is the one a team can run itself: measuring utilization on its own cluster before and after.
As equipas de plataforma que já executam inferência no Kubernetes são o público visado, e podem usar a solução já, uma vez que o produto está disponível como parte da plataforma Zesty. Segundo o anúncio, a camada permite ter menos chips ociosos, executar mais cargas de trabalho no hardware já adquirido, comprar menos capacidade de reserva para os picos e reduzir os custos de infraestrutura, protegendo ao mesmo tempo o desempenho das aplicações. O anúncio não quantifica nada disso. Não indica qualquer ganho de utilização, nenhuma percentagem de poupança, nenhum preço e nenhum cliente. Estas afirmações continuam a ser do fornecedor, e o teste que deixa em aberto é aquele que uma equipa pode realizar por si própria: medir a utilização no seu próprio cluster, antes e depois.