# CoT continuas para LLMs: Entrenamiento con Soft Tokens y RL para máxima diversidad SEO

Episodio de [En la mente de la máquina](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina).

- Publicado: 18 de octubre de 2025
- Duración: 17 min
- Página: https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650451-cot-continuas-para-llms-entrenamiento-con-soft-tokens-y-rl-para-maxima-seo

## Sobre este episodio

Descubre la revolución en el entrenamiento de Modelos de Lenguaje Grandes (LLMs) mediante Cadenas de Pensamiento Continuas (CoT) utilizando "soft tokens" y Aprendizaje por Refuerzo (RL). Este trabajo introduce el primer método escalable para aprender CoT continuas sin depender de rastreos discretos de CoT (ground-truth), ofreciendo una sobrecarga computacional mínima que permite manejar CoTs de cientos de tokens. Los tokens blandos o difusos ("fuzzy tokens") simulan una superposición de múltiples rutas de razonamiento, lo que proporciona una mayor expresividad que los tokens discretos tradicionales. En benchmarks de razonamiento matemático como GSM8K y MATH, el entrenamiento con CoT continuas iguala el rendimiento de pass@1 y supera al entrenamiento discreto en pass@32, demostrando una mayor diversidad de CoT. Curiosamente, la mejor performance se obtiene al entrenar con tokens continuos y luego usar inferencia discreta ("hard inference"), un hallazgo que permite el despliegue estándar del modelo. Además, esta aproximación de "toque más suave" mejora la robustez del modelo base, preservando sus predicciones en tareas fuera de dominio (out-of-domain) y evitando el colapso observado con el entrenamiento discreto en algunos modelos, como Llama-8B-Instruct.https://arxiv.org/pdf/2509.19170

Anterior: [Claude Haiku 4.5: AI de vanguardia, más rápido y barato para codificación y agentes](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650454-claude-haiku-4-5-ai-de-vanguardia-mas-rapido-y-barato-para-codificacion-y)
Siguiente: [IA 27B (C2S-Scale): Descubren nueva terapia condicional contra el cáncer](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650452-ia-27b-c2s-scale-descubren-nueva-terapia-condicional-contra-el-cancer)

## Últimos episodios de En la mente de la máquina

- [¡Google Presenta Gemini 4 Carbon! La IA Revolucionaria en Ciberseguridad y Código](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/147013300-google-presenta-gemini-4-carbon-la-ia-revolucionaria-en-ciberseguridad-y-codigo) · 29 de octubre de 2026 · 18 min
- [¿La IA Reemplazará a los Ingenieros? El Benchmark PLE de Google Revela la Verdad](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/147002129-la-ia-reemplazara-a-los-ingenieros-el-benchmark-ple-de-google-revela-la-verdad) · 28 de octubre de 2026 · 18 min
- [¡La Revolución de la IA! NCP-ArchPreview: Modelo Latente 2x Más Rápido](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/146978939-la-revolucion-de-la-ia-ncp-archpreview-modelo-latente-2x-mas-rapido) · 26 de octubre de 2026 · 29 min
- [¿Puede una IA Tener Conciencia Real? El Revelador Marco de Google DeepMind](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/146968013-puede-una-ia-tener-conciencia-real-el-revelador-marco-de-google-deepmind) · 25 de octubre de 2026 · 25 min
- [¿Las IA Sienten Dolor? Descubren el "Eje del Dolor" en LLMs y sus Perturbadores Efectos](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/145261392-las-ia-sienten-dolor-descubren-el-eje-del-dolor-en-llms-y-sus-perturbadores) · 24 de octubre de 2026 · 14 min