# REFRAG: ¡La revolución que multiplica por 30 la velocidad de tus LLMs con contexto ilimitado!

Episodio de [En la mente de la máquina](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina).

- Publicado: 18 de septiembre de 2025
- Duración: 13 min
- Página: https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650512-refrag-la-revolucion-que-multiplica-por-30-la-velocidad-de-tus-llms-con-contexto

## Sobre este episodio

Descubre REFRAG, el innovador marco de decodificación diseñado para transformar el rendimiento de los Large Language Models (LLMs) en aplicaciones de Generación Aumentada por Recuperación (RAG). Mientras que los LLMs tradicionales enfrentan desafíos significativos con entradas de contexto largas, como alta latencia y considerable consumo de memoria, REFRAG aborda estos problemas de manera eficiente. Aprovechando la estructura dispersa única de los contextos RAG, REFRAG comprime, detecta y expande selectivamente las representaciones del contexto, lo que resulta en una asombrosa aceleración de hasta 30.85 veces en el tiempo hasta el primer token (TTFT), superando los métodos anteriores sin pérdida de precisión o perplejidad. Esta optimización no solo reduce el uso de memoria y aumenta el rendimiento, sino que también extiende el tamaño del contexto de los LLMs hasta 16 veces, permitiendo un procesamiento más profundo. Implementando incrustaciones de fragmentos precalculadas y una política de compresión selectiva basada en aprendizaje por refuerzo, REFRAG mejora la eficiencia sin requerir modificaciones en la arquitectura del LLM. Prepárate para experimentar LLMs más rápidos, eficientes y capaces en diversas aplicaciones como RAG, conversaciones multi-turno y resumen de documentos largos.https://arxiv.org/pdf/2509.01092

Anterior: [Desbloqueando el potencial de los LLMs: La fusión revolucionaria de SFT y RL](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650511-desbloqueando-el-potencial-de-los-llms-la-fusion-revolucionaria-de-sft-y-rl)
Siguiente: [¡Alibaba desafía a la IA! Qwen3-Max: El LLM de un trillón de parámetros que lo cambia todo](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650509-alibaba-desafia-a-la-ia-qwen3-max-el-llm-de-un-trillon-de-parametros-que-lo-todo)

## Últimos episodios de En la mente de la máquina

- [Anthropic REEMPLAZA a Git con IA: Nace Scion, el control de código del futuro](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/147044027-anthropic-reemplaza-a-git-con-ia-nace-scion-el-control-de-codigo-del-futuro) · 1 de noviembre de 2026 · 21 min
- [¡Así Detectan IA Robada! Cuenca de Marcas de Agua y Detección de Modelos LLM Destilados](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/147029776-asi-detectan-ia-robada-cuenca-de-marcas-de-agua-y-deteccion-de-modelos-llm) · 31 de octubre de 2026 · 10 min
- [¡Google Presenta Gemini 4 Carbon! La IA Revolucionaria en Ciberseguridad y Código](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/147013300-google-presenta-gemini-4-carbon-la-ia-revolucionaria-en-ciberseguridad-y-codigo) · 29 de octubre de 2026 · 18 min
- [¿La IA Reemplazará a los Ingenieros? El Benchmark PLE de Google Revela la Verdad](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/147002129-la-ia-reemplazara-a-los-ingenieros-el-benchmark-ple-de-google-revela-la-verdad) · 28 de octubre de 2026 · 18 min
- [¡La Revolución de la IA! NCP-ArchPreview: Modelo Latente 2x Más Rápido](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/146978939-la-revolucion-de-la-ia-ncp-archpreview-modelo-latente-2x-mas-rapido) · 26 de octubre de 2026 · 29 min