# KV Cache: el reto de guardar conversaciones de 100GB

Episodio de [La TERTULia de la Inteligencia Artificial](https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial), de TERTULia.

- Publicado: 13 de junio de 2026
- Duración: 1 h 02 min
- Temporada 4, episodio 12
- Audio: https://www.ivoox.com/kv-cache-reto-guardar-conversaciones-de_mf_175487402_feed_1.mp3
- Página: https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial/episodio/923185-kv-cache-el-reto-de-guardar-conversaciones-de-100gb

## Sobre este episodio

La KV Cache se ha convertido en uno de los grandes retos para escalar los LLMs: guardar el contexto de una conversación no significa almacenar texto, sino enormes tensores por cada token y capa del modelo. A partir de ahí aparece el verdadero problema: una conversación larga puede ocupar decenas o cientos de GB, saturar la VRAM de las GPUs y obligar a diseñar sistemas capaces de paginar, compartir, mover y reutilizar esa caché entre GPU, RAM, SSD y red. La idea central: los LLMs modernos no escalan solo con más cálculo, sino gestionando una memoria gigantesca de la forma más inteligente posible. Participan en la tertulia: Paco Zamora, Josu Gorostegui y Guillermo Barbadillo. Recuerda que puedes enviarnos dudas, comentarios y sugerencias en: https://x.com/TERTUL_ia Más info en: https://ironbar.github.io/tertulia_inteligencia_artificial/

Anterior: [Dartmouth (1955): Los orígenes de la IA](https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial/episodio/923186-dartmouth-1955-los-origenes-de-la-ia)
Siguiente: [Las leyes de escala de Amodei](https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial/episodio/923184-las-leyes-de-escala-de-amodei)

## Últimos episodios de La TERTULia de la Inteligencia Artificial

- [Entrenar modelos de lenguaje sin datos](https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial/episodio/2165141-entrenar-modelos-de-lenguaje-sin-datos) · 9 de octubre de 2026 · 43 min
- [Algo huele raro en Multiverse Computing](https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial/episodio/923182-algo-huele-raro-en-multiverse-computing) · 4 de septiembre de 2026 · 40 min
- [Rastreando conciencia en modelos de lenguaje](https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial/episodio/923183-rastreando-conciencia-en-modelos-de-lenguaje) · 17 de julio de 2026 · 42 min
- [Las leyes de escala de Amodei](https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial/episodio/923184-las-leyes-de-escala-de-amodei) · 26 de junio de 2026 · 49 min
- [Dartmouth (1955): Los orígenes de la IA](https://escuchario.semeescucha.es/podcast/la-tertulia-de-la-inteligencia-artificial/episodio/923186-dartmouth-1955-los-origenes-de-la-ia) · 29 de mayo de 2026 · 1 h 13 min