# dInfer: Inferencia 10X más rápida para dLLMs. 1100 TPS en GPU H800 y Open Source

Episodio de [En la mente de la máquina](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina).

- Publicado: 20 de octubre de 2025
- Duración: 15 min
- Página: https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650447-dinfer-inferencia-10x-mas-rapida-para-dllms-1100-tps-en-gpu-h800-y-open-source

## Sobre este episodio

Descubra dInfer, el innovador marco de inferencia eficiente y extensible diseñado específicamente para Modelos de Lenguaje por Difusión (dLLMs). dInfer resuelve los cuellos de botella del alto costo computacional de los dLLMs, ofreciendo una velocidad sin precedentes: logra superar los 1,100 TPS (tokens por segundo) en HumanEval a tamaño de lote 1, promediando más de 800 TPS en seis benchmarks en GPUs 8× H800. Esto representa una aceleración de más de 10x sobre sistemas anteriores como Fast-dLLM y una mejora de 2–3x sobre modelos AR altamente optimizados (como QWen2.5-3B en vLLM). Gracias a su arquitectura modular, que integra componentes clave como el gestor de iteraciones de difusión, estrategias avanzadas de decodificación (Jerárquica y Crédito) y la estrategia de actualización de caché KV de vecindad, dInfer maximiza el paralelismo y la utilización de la GPU mediante paralelismo de tensor y experto (TP/EP), incluso con batch size 1. dInfer es el primer framework abierto que demuestra que la inferencia dLLM puede superar a los modelos AR en eficiencia en tamaño de lote 1, y está disponible como código abierto.https://arxiv.org/pdf/2510.08666https://github.com/inclusionAI/dInfer

Anterior: [StreamingVLM: IA de video infinito en riempo real. Baja latencia y mejor coherencia](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650450-streamingvlm-ia-de-video-infinito-en-riempo-real-baja-latencia-y-mejor)
Siguiente: [VEO 3.1 y FLOW: Edición de video AI con audio y control preciso](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650448-veo-3-1-y-flow-edicion-de-video-ai-con-audio-y-control-preciso)

## Últimos episodios de En la mente de la máquina

- [¡La Revolución de la IA! NCP-ArchPreview: Modelo Latente 2x Más Rápido](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/146978939-la-revolucion-de-la-ia-ncp-archpreview-modelo-latente-2x-mas-rapido) · 26 de octubre de 2026 · 29 min
- [¿Puede una IA Tener Conciencia Real? El Revelador Marco de Google DeepMind](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/146968013-puede-una-ia-tener-conciencia-real-el-revelador-marco-de-google-deepmind) · 25 de octubre de 2026 · 25 min
- [¿Las IA Sienten Dolor? Descubren el "Eje del Dolor" en LLMs y sus Perturbadores Efectos](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/145261392-las-ia-sienten-dolor-descubren-el-eje-del-dolor-en-llms-y-sus-perturbadores) · 24 de octubre de 2026 · 14 min
- [¡Revolución Biomédica! Miles de Agentes de IA de OpenAI Descubren Secretos del Cerebro](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/124480808-revolucion-biomedica-miles-de-agentes-de-ia-de-openai-descubren-secretos-del) · 23 de octubre de 2026 · 26 min
- [¡El FIN del RAG! Cognitive Workspace y la Memoria Activa para Inteligencia Artificial](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/85228177-el-fin-del-rag-cognitive-workspace-y-la-memoria-activa-para-inteligencia) · 21 de octubre de 2026 · 23 min