Las dos versiones están alineadas bloque a bloque, en el orden del texto: titular, lo esencial y después párrafo a párrafo. Cuando la traducción ha fusionado o dividido un párrafo, la casilla correspondiente queda vacía — nunca emparejamos dos pasajes a ojo.
For most AI workloads, a graphics processor, or GPU, is still handed out whole: one application, one chip, whatever the chip is actually doing. The announcement starts from a figure: 66% of organizations hosting generative AI models run some or all of their inference on Kubernetes, the open-source system that schedules containers across a group of machines. Inference is the stage where a trained model answers requests, and GPU capacity for it is, in the announcement's words, expensive and often constrained.
En la mayoría de las cargas de IA, un procesador gráfico, o GPU, sigue asignándose completo: una aplicación, un chip, independientemente de lo que el chip esté haciendo realmente. El anuncio parte de una cifra: el 66 % de las organizaciones que alojan modelos de IA generativa ejecuta toda o parte de su inferencia en Kubernetes, el sistema de código abierto que programa contenedores en un grupo de máquinas. La inferencia es la fase en la que un modelo entrenado responde a las peticiones, y la capacidad de GPU para ello es, según las palabras del anuncio, cara y a menudo escasa.
Teams have tried to share these chips. The announcement names time-slicing, NVIDIA's Multi-Process Service (MPS), and Multi-Instance GPU (MIG), which divides each GPU into fixed hardware-based partitions. Its diagnosis is that such allocations cannot keep pace with AI demand that rises and falls. Memory and compute end up stranded, and teams buy more GPUs even while existing capacity sits unused.
Los equipos han intentado compartir estos chips. El anuncio menciona el time-slicing, el Multi-Process Service (MPS) de NVIDIA y Multi-Instance GPU (MIG), que divide cada GPU en particiones fijas basadas en hardware. Su diagnóstico es que estas asignaciones no pueden seguir el ritmo de una demanda de IA que sube y baja. La memoria y el cómputo acaban inmovilizados, y los equipos compran más GPU aunque la capacidad existente siga sin usarse.
NVIDIA's recent open-source release of Run:ai brings GPU fractioning to Kubernetes through a GPU Fractioning Operator, which enforces a memory limit for each workload and works with Kubernetes schedulers. But fractioning only defines how a GPU can be divided. It does not decide who gets what, and the announcement stresses that this requires a separate decision layer. Zesty's Automated Fractional GPUs fills that gap: it continuously determines which workloads share each GPU, how many can safely run together, how much memory each receives, which sharing mode fits, and when allocations should grow or shrink. It draws on measured memory and utilization, observed behavior over time, and the latency and resource limits teams set beforehand, and every change stays within those policies.
La reciente publicación de código abierto de Run:ai por parte de NVIDIA aporta el fraccionamiento de GPU a Kubernetes mediante un operador de fraccionamiento de GPU, que impone un límite de memoria a cada carga de trabajo y funciona con los planificadores de Kubernetes. Pero el fraccionamiento solo define cómo puede dividirse una GPU. No decide quién recibe qué, y el anuncio insiste en que eso requiere una capa de decisión independiente. Automated Fractional GPUs, de Zesty, cubre ese hueco: determina de forma continua qué cargas comparten cada GPU, cuántas pueden ejecutarse juntas con seguridad, cuánta memoria recibe cada una, qué modo de reparto le conviene y cuándo deben crecer o reducirse las asignaciones. Se apoya en la memoria y la utilización medidas, en el comportamiento observado a lo largo del tiempo y en los límites de latencia y de recursos que los equipos fijan de antemano, y todo cambio se mantiene dentro de esas políticas.
The layer deploys as a lightweight agent inside the cluster, alongside NVIDIA's operator and the Kubernetes scheduler, and supports time-slicing and MPS. Nothing in the application or the model needs to change, and installation does not restart running workloads. On a supported GPU stack, Zesty says it manages the Kubernetes configuration itself, without manual manifest edits.
La capa se despliega como un agente ligero dentro del clúster, junto al operador de NVIDIA y al planificador de Kubernetes, y admite time-slicing y MPS. Ni la aplicación ni el modelo necesitan cambios, y la instalación no reinicia las cargas en ejecución. En una pila de GPU compatible, Zesty afirma que gestiona por sí misma la configuración de Kubernetes, sin ediciones manuales de los manifiestos.
Platform teams that already run inference on Kubernetes are the ones this addresses, and they can use it now, since the product is available as part of the Zesty platform. According to the announcement, the layer makes it possible to get fewer idle chips, run more workloads on hardware already owned, buy less spare capacity for peaks, and lower infrastructure costs while application performance is protected. The announcement quantifies none of it. It gives no utilization gain, no savings percentage, no price and no customer. These remain the vendor's claims, and the test it leaves open is the one a team can run itself: measuring utilization on its own cluster before and after.
Los equipos de plataforma que ya ejecutan inferencia en Kubernetes son los destinatarios de esta solución, y pueden usarla ya, puesto que el producto está disponible como parte de la plataforma de Zesty. Según el anuncio, la capa permite tener menos chips inactivos, ejecutar más cargas en el hardware que ya se posee, comprar menos capacidad de reserva para los picos y reducir los costes de infraestructura, protegiendo al mismo tiempo el rendimiento de las aplicaciones. El anuncio no cuantifica nada de ello. No ofrece ninguna mejora de utilización, ningún porcentaje de ahorro, ningún precio ni ningún cliente. Todo ello sigue siendo una afirmación del proveedor, y la prueba que queda abierta es la que un equipo puede hacer por sí mismo: medir la utilización en su propio clúster antes y después.