Nested Learning (NL): Aprendizaje continuo en LLMs, optimizadores y memoria neuronal

El paradigma de Aprendizaje Anidado (Nested Learning, NL) representa una nueva dimensión para el Deep Learning (DL) al conceptualizar los modelos de Machine Learning (ML) como un conjunto coherente de problemas de optimización multinivel y anidados, cada uno gobernado por su propio "flujo de contexto". Nested Learning revela que los métodos existentes de DL aprenden de los datos a través de la compresión de su propio flujo de contexto, un mecanismo que explica cómo emerge el aprendizaje en contexto en los Modelos de Lenguaje Grandes (LLMs). Este enfoque es crucial porque aborda el desafío fundamental de la naturaleza estática de los LLMs, que actualmente operan con una limitación similar a la amnesia anterógrada, incapaces de adquirir continuamente nuevas capacidades más allá de su contexto inmediato. Nested Learning presenta tres contribuciones centrales: (1) Los Deep Optimizers, que demuestran que optimizadores conocidos (como Adam o SGD con Momentum) son en realidad módulos de memoria asociativa que comprimen gradientes; (2) la arquitectura Self-Modifying Titans, un modelo secuencial novedoso que aprende a modificar su propio algoritmo de actualización; y (3) un Sistema de Memoria Continuo (Continuum Memory System, CMS) que generaliza la vista tradicional de memoria a largo/corto plazo. La combinación de estos elementos resulta en la arquitectura HOPE, un módulo de aprendizaje autorreferencial que muestra resultados prometedores en modelado de lenguaje, aprendizaje continuo y tareas de razonamiento de contexto largo.https://research.google/blog/introducing-nested-learning-a-new-ml-paradigm-for-continual-learning/