Fine-tuneá un LLM chico, self-hosteálo y usalo en un agente
November 18, 14:45Workshops virtuales 1
¿Le pagás a una API gigante para una tarea chica, repetitiva y siempre igual? Hay otra opción: entrenar un modelo chico, tuyo y experto en ESO, y hostearlo vos. En este taller, paso a paso y en vivo, fine-tuneamos un LL…
¿Le pagás a una API gigante para una tarea chica, repetitiva y siempre igual? Hay otra opción: entrenar un modelo chico, tuyo y experto en ESO, y hostearlo vos. En este taller, paso a paso y en vivo, fine-tuneamos un LLM chico con QLoRA en Colab (GPU T4 gratis), lo self-hosteamos y construimos un agente que lo usa como herramienta. La idea: un modelo especializado, barato y privado, que tu agente llama cuando le conviene, en vez de mandar todo afuera. Agenda:
El problema: por qué no mandar TODO a una API gigante (7 min) Lab 1 - PEFT en vivo: LoRA/QLoRA sobre un modelo chico en Colab T4 (15 min) Lab 2 - Self-hosting: del adapter (~100 MB) al modelo servido (Ollama/vLLM) (13 min) Lab 3 - El agente: exponemos tu modelo como herramienta y que lo use cuando conviene (15 min) ¿Cuándo fine-tunear vs solo promptear? costos, privacidad y template (6 min) + Q&A (4 min)
Te vas a llevar tres cosas: un notebook que fine-tunea un LLM con QLoRA y te deja un adapter chiquito (MB, no GB); tu modelo experto self-hosted y servido, sin depender de una API externa; y un agente que lo usa como herramienta, con el criterio de cuándo conviene fine-tunear. Sobre Axel Sirota: I'm the founder of Data Trainers LLC and a PhD candidate in Machine Learning at the University of Buenos Aires, focusing on NLP, LLMs, and Generative AI. I enjoy creating engaging courses for Pluralsight, O'Reilly Media, and LinkedIn, and love sharing my knowledge through global corporate trainings.
«Buscame vuelos a Bariloche, un hotel cerca del centro y qué hacer el finde.» Un solo agente se marea con todo eso. La gracia está en varios agentes especializados que se coordinan, aunque usen frameworks distintos. En …
«Buscame vuelos a Bariloche, un hotel cerca del centro y qué hacer el finde.» Un solo agente se marea con todo eso. La gracia está en varios agentes especializados que se coordinan, aunque usen frameworks distintos. En este taller construimos en vivo, paso a paso, un concierge de viajes multiagente. La idea central: tratamos a cada agente como una herramienta. Con un adapter chiquito, cualquier agente: Python puro o LangGraph; se expone como servidor MCP y se llama siempre igual, sin lock-in. Después los coordinamos de las dos formas clásicas (supervisor y swarm) y rompemos el sistema con una race condition para arreglarla. Agenda:
El caso: un concierge de viajes y por qué un agente no alcanza (8 min) Lab 1 - Tu primer agente como herramienta MCP: AgenteVuelos (12 min) Lab 2 - Sumamos AgenteHoteles en otro framework, mismo cliente (12 min) Lab 3 - Que trabajen juntos: modo supervisor (12 min) Lab 4 - Lo mismo en swarm + rompemos y arreglamos una race condition (12 min) Escalar a 100 + template para seguir solo + Q&A (4 min) Sobre Axel Sirota: I'm the founder of Data Trainers LLC and a PhD candidate in Machine Learning at the University of Buenos Aires, focusing on NLP, LLMs, and Generative AI. I enjoy creating engaging courses for Pluralsight, O'Reilly Media, and LinkedIn, and love sharing my knowledge through global corporate trainings.
