TRM vs HRM: ¡Tiny Network de 7M parámetros supera LLMs y HRM en puzzles!
Sobre este episodio
Descubre el Tiny Recursive Model (TRM), un enfoque de razonamiento recursivo que está logrando una generalización significativamente superior a la del Hierarchical Reasoning Model (HRM) y los grandes modelos de lenguaje (LLMs) en tareas complejas de puzzle como Sudoku-Extreme, Maze-Hard, ARC-AGI-1 y ARC-AGI-2. A diferencia de HRM, que usa 27 millones de parámetros y dos redes neuronales de 4 capas, TRM utiliza una única red diminuta de solo 2 capas y apenas 7 millones de parámetros (TRM-Att), lo que reduce drásticamente el riesgo de overfitting en conjuntos de datos pequeños. El TRM simplifica el proceso al eliminar la necesidad de argumentos biológicos complejos, justificaciones jerárquicas inciertas y el uso del Teorema de la Función Implícita (IFT) con la aproximación de gradiente de un solo paso de HRM. Esta aproximación permite a TRM obtener un rendimiento superior, elevando la precisión de Sudoku-Extreme del 55.0% (HRM) al 87.4% y ARC-AGI-1 del 40.3% (HRM) al 44.6%, demostrando que la simplicidad estructural y la eficiencia en los parámetros son claves para la resolución de problemas difíciles.https://arxiv.org/pdf/2510.04871