# E048_vLLM: Inferencia rápida, memoria eficiente

Episodio de [BIMPRAXIS](https://escuchario.semeescucha.es/podcast/bimpraxis), de Julio Pablo Vazquez.

- Publicado: 10 de marzo de 2026
- Duración: 10 min
- Episodio 48
- Audio: https://op3.dev/e,pg=03751c6b-ec94-586c-995c-663c97dd7569/podcast.bimpraxis.com/audio/@bimpraxis/e048-vllm---inferencia-rapida-memoria-eficiente.mp3
- Página: https://escuchario.semeescucha.es/podcast/bimpraxis/episodio/6910838-e048-vllm-inferencia-rapida-memoria-eficiente

## Sobre este episodio

Analizamos VLLM, la herramienta open source que revoluciona la inferencia de Grandes Modelos de Lenguaje (LLMs) al solucionar el principal cuello de botella: la ineficiencia de la memoria GPU. Exploramos cómo su innovadora arquitectura Paged Attention, inspirada en la paginación de sistemas operativos, elimina la fragmentación de la caché KV, logrando reutilización dinámica y ahorros masivos. Descubra por qué VLLM consigue hasta cuatro veces más rendimiento (throughput) que sistemas previos, facilitando optimizaciones de memoria (como copy-on-write ) que son cruciales para el futuro diseño de hardware de inteligencia artificial.

Anterior: [E047_Orquestando agentes complejos con LangGraph](https://escuchario.semeescucha.es/podcast/bimpraxis/episodio/6910839-e047-orquestando-agentes-complejos-con-langgraph)
Siguiente: [E049_Yuval Noah Harari: La IA no es una herramienta](https://escuchario.semeescucha.es/podcast/bimpraxis/episodio/6910837-e049-yuval-noah-harari-la-ia-no-es-una-herramienta)

## Últimos episodios de BIMPRAXIS

- [E118_Khoj AI + Pipali + GBrain El Segundo Cerebro Digital de Código Abierto](https://escuchario.semeescucha.es/podcast/bimpraxis/episodio/6910768-e118-khoj-ai-pipali-gbrain-el-segundo-cerebro-digital-de-codigo-abierto) · 20 de agosto de 2026 · 20 min
- [E117_Domina NotebookLM con un Servidor MCP y Funciones Ocultas de IA](https://escuchario.semeescucha.es/podcast/bimpraxis/episodio/6910769-e117-domina-notebooklm-con-un-servidor-mcp-y-funciones-ocultas-de-ia) · 18 de agosto de 2026 · 27 min
- [E116_Tiiny, un gadget de bolsillo con 128GB de inferencia](https://escuchario.semeescucha.es/podcast/bimpraxis/episodio/6910770-e116-tiiny-un-gadget-de-bolsillo-con-128gb-de-inferencia) · 16 de agosto de 2026 · 17 min
- [E115_Neuralwatt provee inferencia IA pero cobra por kWh en vez de por tokens y sale baratísimo](https://escuchario.semeescucha.es/podcast/bimpraxis/episodio/6910771-e115-neuralwatt-provee-inferencia-ia-pero-cobra-por-kwh-en-vez-de-por-tokens-y) · 13 de agosto de 2026 · 27 min
- [E114_Microsoft And DeepSeek Are Launching New AI Together](https://escuchario.semeescucha.es/podcast/bimpraxis/episodio/6910772-e114-microsoft-and-deepseek-are-launching-new-ai-together) · 11 de agosto de 2026 · 18 min
