Kubernetes nació para orquestar contenedores uniformes y sin estado. Sin embargo, las cargas de trabajo de entrenamiento e inferencia de IA a gran escala rompen con los paradigmas tradicionales de microservicios: exigen un acceso ultraeficiente a hardware especializado y no uniforme (como GPUs y TPUs), coordinándose a través de frameworks distribuidos y dinámicos como PyTorch, JAX o Ray.

En esta charla, analizaremos cómo Kubernetes está madurando de ser un orquestador de infraestructura a un sistema operativo distribuido invisible ("Framework Orchestrator"). Exploraremos por qué los enfoques tradicionales de "envolver" frameworks en operadores pesados añaden fricción y cómo la verdadera estrategia radica en la "polinización activa": integrar las primitivas de Kubernetes directamente en el upstream de los principales frameworks de Machine Learning.

Abordaremos soluciones técnicas clave como Dynamic Resource Allocation (DRA), JobSet y Kueue, y discutiremos el rol estratégico de las Oficinas de Programas de Código Abierto (OSPO) para liderar esta convergencia entre fundaciones (CNCF, PyTorch Foundation) para mantener el ecosistema de IA abierto y soberano.
Sobre Federico Bongiovanni: Senior Engineering Manager, GKE, Google Cloud

Federico Bongiovanni is an Engineering Leader on Google Cloud GKE team, a Kubernetes Contributor and Co-Chair SIG API Machinery. Working at Google since 2018 with a passion for open source, building robust, scalable solutions and developing teams and people.
Outside of work, he enjoys spending time with his wife and 3 kids, sports, outdoors and cooking. Lives in the Bay Area, speaks English, Spanish, Italian and Portuguese. Ver menos