Google desafía la separación entre modelo y entrenamiento con Nested Learning

Esta innovación representa un cambio fundamental en cómo conceptualizamos y diseñamos sistemas de inteligencia artificial, desafiando la separación tradicional entre la arquitectura del modelo y el algoritmo de optimización que lo entrena.

La última década ha visto un progreso increíble en el aprendizaje automático, impulsado principalmente por potentes arquitecturas de redes neuronales y los algoritmos utilizados para entrenarlas. Desde el surgimiento de las redes neuronales profundas en 2012 hasta los transformadores que revolucionaron el procesamiento del lenguaje natural en 2017, y posteriormente los modelos de lenguaje grande como GPT y PaLM que han capturado la imaginación pública, el campo ha avanzado a una velocidad asombrosa. Sin embargo, a pesar del éxito de los modelos de lenguaje grande, persisten algunos desafíos fundamentales, especialmente en torno al aprendizaje continuo, la capacidad de un modelo para adquirir activamente nuevos conocimientos y habilidades a lo largo del tiempo sin olvidar los antiguos.

Cuando se trata de aprendizaje continuo y auto-mejora, el cerebro humano es el estándar de oro. Se adapta a través de la neuroplasticidad, la notable capacidad de cambiar su estructura en respuesta a nuevas experiencias, memorias y aprendizaje. Sin esta capacidad, una persona está limitada al contexto inmediato, como en la amnesia anterógrada. Vemos una limitación similar en los modelos de lenguaje grande actuales: su conocimiento está confinado ya sea al contexto inmediato de su ventana de entrada o a la información estática que aprenden durante el pre-entrenamiento.

El problema del olvido catastrófico

El enfoque simple, actualizar continuamente los parámetros de un modelo con nuevos datos, frecuentemente conduce al olvido catastrófico, donde aprender nuevas tareas sacrifica la competencia en tareas antiguas. Este fenómeno representa uno de los desafíos más fundamentales en el aprendizaje automático moderno. Imagina entrenar un modelo para traducir del inglés al francés, luego intentar enseñarle a traducir del inglés al español. Con enfoques de entrenamiento tradicionales, el modelo frecuentemente olvidará cómo traducir al francés mientras aprende el español, un comportamiento que es obviamente indeseable para aplicaciones prácticas.

Los investigadores tradicionalmente combaten el olvido catastrófico a través de ajustes arquitectónicos o mejores reglas de optimización. Las soluciones propuestas han incluido técnicas como el entrenamiento multitarea donde el modelo aprende múltiples tareas simultáneamente, la repetición de experiencias donde los datos antiguos se mezclan con los nuevos durante el entrenamiento, y la consolidación elástica de pesos donde ciertos parámetros del modelo son protegidos contra cambios basándose en su importancia para tareas anteriores.

Sin embargo, durante demasiado tiempo, hemos tratado la arquitectura del modelo, la estructura de la red, y el algoritmo de optimización, la regla de entrenamiento, como dos cosas separadas, lo que nos impide lograr un sistema de aprendizaje verdaderamente unificado y eficiente. Esta separación conceptual ha limitado nuestra capacidad de diseñar sistemas que aprendan de manera más similar al cerebro humano, donde la estructura y el proceso de aprendizaje están profundamente entrelazados.

Nested Learning: un cambio de paradigma

En su artículo "Nested Learning: The Illusion of Deep Learning Architectures", publicado en NeurIPS 2025, los investigadores de Google introducen Nested Learning, que cierra esta brecha. Nested Learning trata un solo modelo de aprendizaje automático no como un proceso continuo, sino como un sistema de problemas de aprendizaje interconectados de múltiples niveles que se optimizan simultáneamente. Argumentan que la arquitectura del modelo y las reglas utilizadas para entrenarlo, es decir, el algoritmo de optimización, son fundamentalmente los mismos conceptos; son solo diferentes niveles de optimización, cada uno con su propio flujo interno de información, contexto de flujo, y tasa de actualización.

Esta perspectiva es profundamente innovadora. Tradicionalmente, cuando diseñamos una red neuronal, pensamos en la arquitectura, cuántas capas, qué tipo de conexiones, qué funciones de activación, como separada del optimizador, gradiente descendente, Adam, momentum, que usamos para entrenarla. Nested Learning unifica estos conceptos, revelando que ambos son realmente instancias del mismo principio subyacente: problemas de optimización anidados que operan en diferentes escalas temporales y con diferentes flujos de contexto.

Al reconocer esta estructura inherente, Nested Learning proporciona una nueva dimensión previamente invisible para diseñar IA más capaz, permitiéndonos construir componentes de aprendizaje con mayor profundidad computacional, lo que en última instancia ayuda a resolver problemas como el olvido catastrófico. Esta profundidad computacional no se refiere simplemente a tener más capas en una red neuronal sino a tener múltiples niveles de procesos de optimización, cada uno operando en su propia escala temporal y contribuyendo al comportamiento general del modelo.

Revelando la estructura oculta del aprendizaje profundo

Nested Learning revela que un modelo complejo de aprendizaje automático es en realidad un conjunto de problemas de optimización coherentes e interconectados anidados unos dentro de otros o ejecutándose en paralelo. Cada uno de estos problemas internos tiene su propio flujo de contexto, su propio conjunto distinto de información del cual está tratando de aprender. Esta perspectiva implica que los métodos existentes de aprendizaje profundo funcionan esencialmente comprimiendo sus flujos de contexto internos. Más importante aún, Nested Learning revela una nueva dimensión para diseñar modelos, permitiéndonos construir componentes de aprendizaje con mayor profundidad computacional.

Para ilustrar este paradigma, los investigadores examinan el concepto de memoria asociativa, la capacidad de mapear y recordar una cosa basándose en otra, como recordar un nombre cuando ves una cara. Demuestran que el proceso de entrenamiento en sí, específicamente el proceso de retropropagación, puede modelarse como una memoria asociativa. El modelo aprende a mapear un punto de datos dado al valor de su error local, que sirve como una medida de cuán sorprendente o inesperado fue ese punto de datos.

Similarmente, siguiendo estudios previos, componentes arquitectónicos clave, como el mecanismo de atención en transformadores, también pueden formalizarse como módulos simples de memoria asociativa que aprenden el mapeo entre tokens en una secuencia. Esta unificación conceptual, ver tanto el proceso de entrenamiento como los componentes arquitectónicos como instancias del mismo principio de memoria asociativa, es central al paradigma de Nested Learning.

Al definir una tasa de frecuencia de actualización, es decir, con qué frecuencia se ajustan los pesos de cada componente, podemos ordenar estos problemas de optimización interconectados en niveles. Este conjunto ordenado forma el corazón del paradigma de Nested Learning. Los componentes que se actualizan muy frecuentemente, como los pesos dentro de una sola pasada hacia adelante de la red, constituyen niveles de optimización de alta frecuencia. Los componentes que se actualizan con menos frecuencia, como ciertos parámetros de memoria a largo plazo, constituyen niveles de baja frecuencia.

Poniendo Nested Learning a trabajar

La perspectiva de Nested Learning inmediatamente nos da formas fundamentadas de mejorar algoritmos y arquitecturas existentes. Los investigadores demuestran dos aplicaciones clave: optimizadores profundos y sistemas de memoria continua. Estos no son solo mejoras incrementales sino aplicaciones fundamentales de ver el aprendizaje automático a través del lente de Nested Learning.

Dado que Nested Learning ve los optimizadores, por ejemplo, optimizadores basados en momentum, como módulos de memoria asociativa, permite aplicarles principios desde la perspectiva de memoria asociativa. Los investigadores observaron que muchos optimizadores estándar dependen de la similitud simple de producto punto, una medida de cuán similares son dos vectores calculando la suma de los productos de sus componentes correspondientes, cuya actualización no toma en cuenta cómo se relacionan entre sí las diferentes muestras de datos.

Al cambiar el objetivo subyacente del optimizador a una métrica de pérdida más estándar, como la pérdida de regresión L2, una función de pérdida común en tareas de regresión que cuantifica el error sumando los cuadrados de las diferencias entre valores predichos y verdaderos, derivan nuevas formulaciones para conceptos centrales como el momentum, haciéndolos más resilientes a datos imperfectos. Esta reformulación no es meramente teórica; resulta en mejoras de rendimiento medibles en tareas prácticas.

Hope: arquitectura auto-modificable con memoria continua

Como prueba de concepto, los investigadores usaron principios de Nested Learning para diseñar Hope, una variante de la arquitectura Titans. Las arquitecturas Titans son módulos de memoria a largo plazo que priorizan memorias basándose en cuán sorprendentes son. A pesar de su poderosa gestión de memoria, solo tienen dos niveles de actualización de parámetros, resultando en aprendizaje en contexto de primer orden. Hope, sin embargo, es una arquitectura recurrente auto-modificable que puede aprovechar niveles ilimitados de aprendizaje en contexto y también está aumentada con bloques de sistemas de memoria continua para escalar a ventanas de contexto más grandes.

Hope puede esencialmente optimizar su propia memoria a través de un proceso auto-referencial, creando una arquitectura con niveles de aprendizaje infinitos en bucle. Esta capacidad auto-modificable representa un paso significativo hacia sistemas de IA que pueden adaptarse y mejorar continuamente sin intervención externa. A diferencia de los modelos tradicionales donde la arquitectura es fija después del diseño inicial, Hope puede ajustar su propia estructura interna en respuesta a los datos que encuentra, similar a cómo el cerebro humano reestructura conexiones neuronales a través de la neuroplasticidad.

La arquitectura Titans subyacente proporciona mecanismos sofisticados para priorizar qué información almacenar en memoria a largo plazo basándose en cuán sorprendente o informativa es. La información rutinaria que el modelo ya predice bien no necesita ser almacenada extensamente, mientras que la información sorprendente que viola las expectativas del modelo recibe almacenamiento prioritario. Este enfoque basado en sorpresa se alinea con teorías de cómo los sistemas biológicos de memoria asignan recursos.

Resultados experimentales: validando el paradigma

Los investigadores condujeron experimentos para evaluar la efectividad de sus optimizadores profundos y el rendimiento de Hope en modelado de lenguaje, razonamiento de contexto largo, aprendizaje continuo y tareas de incorporación de conocimiento. Los resultados completos están disponibles en su artículo publicado en NeurIPS 2025. Los experimentos confirman el poder de Nested Learning, el diseño de sistemas de memoria continua y Titans auto-modificables.

En un conjunto diverso de tareas de modelado de lenguaje y razonamiento de sentido común comúnmente usadas y públicas, la arquitectura Hope demuestra menor perplejidad y mayor precisión en comparación con modelos recurrentes modernos y transformadores estándar. La perplejidad, una métrica estándar en modelado de lenguaje que mide cuán bien un modelo predice una muestra, es efectivamente una medida de incertidumbre. La perplejidad más baja indica que el modelo está más seguro y generalmente más preciso en sus predicciones.

Hope muestra gestión de memoria superior en tareas downstream de contexto largo Needle-In-Haystack, demostrando que los sistemas de memoria continua ofrecen una forma más eficiente y efectiva de manejar secuencias extendidas de información. Las tareas Needle-In-Haystack están diseñadas para probar si un modelo puede recuperar información específica, la aguja, de un contexto largo, el pajar. Estas tareas son particularmente desafiantes porque requieren que el modelo mantenga atención sobre secuencias largas mientras se enfoca en detalles específicos relevantes.

Implicaciones para el futuro de la IA

El paradigma de Nested Learning representa un paso adelante en nuestra comprensión del aprendizaje profundo. Al tratar la arquitectura y la optimización como un solo sistema coherente de problemas de optimización anidados, desbloqueamos una nueva dimensión para el diseño, apilando múltiples niveles. Los modelos resultantes, como la arquitectura Hope, muestran que un enfoque fundamentado para unificar estos elementos puede conducir a algoritmos de aprendizaje más expresivos, capaces y eficientes.

Los investigadores creen que el paradigma de Nested Learning ofrece una base robusta para cerrar la brecha entre la naturaleza limitada y olvidadiza de los modelos de lenguaje grande actuales y las notables habilidades de aprendizaje continuo del cerebro humano. Esta aspiración no es meramente retórica. El cerebro humano puede aprender continuamente a lo largo de la vida, integrando nueva información sin olvidar sistemáticamente el conocimiento existente. Replicar esta capacidad en sistemas artificiales ha sido un objetivo esquivo pero fundamental de la investigación de IA.

Están emocionados de que la comunidad de investigación explore esta nueva dimensión y ayude a construir la próxima generación de IA auto-mejorable. La publicación de esta investigación en NeurIPS 2025, una de las conferencias más prestigiosas en aprendizaje automático, asegura que el trabajo recibirá escrutinio y seguimiento sustancial de la comunidad de investigación. Si el paradigma de Nested Learning se valida ampliamente a través de experimentación independiente, podría influir fundamentalmente en cómo se diseñan los futuros sistemas de IA.

Desafíos y direcciones futuras

Aunque los resultados son prometedores, Nested Learning y Hope representan trabajo temprano en un nuevo paradigma en lugar de soluciones completamente maduras. Varios desafíos y preguntas de investigación permanecen. Primero, la escalabilidad computacional de arquitecturas con múltiples niveles de optimización anidados necesita ser evaluada cuidadosamente. Agregar niveles de optimización proporciona mayor expresividad pero también aumenta los requisitos computacionales. Encontrar el equilibrio correcto entre capacidad de modelo y eficiencia computacional será crucial para la adopción práctica.

Segundo, aunque Hope demuestra mejoras en tareas de aprendizaje continuo, las evaluaciones han sido en dominios y escalas relativamente limitados. Probar el paradigma en una gama más amplia de tareas, particularmente aquellas que requieren aprendizaje continuo a lo largo de períodos extendidos con distribuciones de datos que cambian dramáticamente, proporcionará validación más robusta. El cerebro humano aprende continuamente durante décadas; los modelos actuales se han probado principalmente en escalas temporales mucho más cortas.

Tercero, la teoría subyacente de Nested Learning, aunque conceptualmente elegante, requiere desarrollo matemático y análisis adicional. Comprender formalmente bajo qué condiciones los sistemas de optimización anidados pueden garantizar convergencia, evitar inestabilidades y mantener conocimiento a largo plazo ayudará a guiar el diseño futuro de arquitectura y proporcionará garantías teóricas más fuertes sobre el comportamiento del modelo.

Cuarto, la integración de Nested Learning con otras técnicas para mitigar el olvido catastrófico, como la repetición de experiencias, la consolidación elástica de pesos o enfoques basados en memoria, podría producir sistemas aún más capaces. El paradigma de Nested Learning no es necesariamente mutuamente excluyente con estos métodos; las combinaciones podrían ser sinérgicas.

Nested Learning en el contexto de investigación más amplia

Nested Learning se construye sobre y contribuye a varias líneas de investigación en aprendizaje automático. La investigación en aprendizaje continuo ha sido activa durante décadas, con enfoques que van desde consolidación de pesos hasta arquitecturas modulares y métodos basados en memoria. Nested Learning ofrece una nueva perspectiva conceptual que potencialmente unifica y extiende estos enfoques al revelar la estructura subyacente compartida.

El trabajo también se conecta con investigación en meta-aprendizaje, o aprender a aprender, donde los modelos optimizan no solo para tareas específicas sino para la capacidad de adaptarse rápidamente a nuevas tareas. Al ver la optimización misma como un problema de aprendizaje anidado, Nested Learning proporciona un marco para meta-aprendizaje más sofisticado donde múltiples niveles de adaptación operan simultáneamente.

En neurociencia computacional, las comparaciones entre sistemas de IA y cerebros biológicos frecuentemente destacan la plasticidad y adaptabilidad del aprendizaje biológico. Nested Learning, con su énfasis en múltiples niveles de optimización operando en diferentes escalas temporales, resonará con modelos neurocientíficos de cómo diferentes regiones del cerebro y sistemas neuroquímicos contribuyen al aprendizaje en diferentes horizontes temporales.

Para la comunidad de aprendizaje profundo más amplia, Nested Learning desafía suposiciones fundamentales sobre cómo conceptualizamos y diseñamos redes neuronales. Si se adopta ampliamente, podría cambiar las herramientas de software, las prácticas de diseño de arquitectura y los currículums educativos en el campo. Las implicaciones se extienden más allá de las mejoras técnicas a cómo pensamos sobre la IA.

Arquitectura que alienta esperanza

La introducción de Nested Learning por Google Research representa un desarrollo potencialmente transformador en aprendizaje automático. Al unificar la arquitectura del modelo y los algoritmos de optimización bajo un solo marco conceptual de problemas de optimización anidados y multi-nivel, el paradigma abre nuevas dimensiones para el diseño de sistemas de IA. La arquitectura Hope, como prueba de concepto, demuestra que este enfoque unificado puede conducir a mejoras prácticas en modelado de lenguaje, gestión de memoria de contexto largo y aprendizaje continuo.

El problema del olvido catastrófico ha plagado el aprendizaje automático durante décadas, limitando la capacidad de los modelos para aprender continuamente como lo hacen los sistemas biológicos. Mientras que soluciones previas han proporcionado mitigaciones parciales a través de ajustes arquitectónicos o trucos de optimización, Nested Learning ofrece un enfoque más fundamental al reconocer y aprovechar la estructura multinivel inherente del aprendizaje. Al diseñar explícitamente sistemas con múltiples niveles de optimización operando en diferentes escalas temporales, podemos crear modelos que mantienen conocimiento a largo plazo mientras se adaptan continuamente a nueva información.

La conexión con la neuroplasticidad del cerebro humano es más que metáfora. El cerebro humano opera a través de múltiples niveles de plasticidad, desde cambios sinápticos rápidos que ocurren en milisegundos hasta reestructuración neuronal a largo plazo que se desarrolla durante meses o años. Esta organización multi-escala permite al cerebro aprender continuamente sin olvido catastrófico. Nested Learning captura formalmente esta estructura multi-escala en sistemas artificiales, proporcionando una base de principios para construir IA que aprenda más como cerebros biológicos.

Los resultados experimentales, aunque preliminares, son alentadores. Hope demuestra mejor rendimiento que modelos de vanguardia en múltiples tareas, validando que el paradigma de Nested Learning puede traducirse en mejoras prácticas. Las mejoras en tareas de contexto largo son particularmente significativas, ya que la capacidad de razonar sobre secuencias extendidas de información es crucial para muchas aplicaciones del mundo real, desde comprensión de documentos hasta mantenimiento de conversaciones coherentes.

Mirando hacia adelante, el paradigma de Nested Learning probablemente influirá en múltiples direcciones de investigación. En arquitecturas de modelo, podemos esperar ver más diseños que explícitamente incorporen múltiples niveles de optimización con diferentes tasas de actualización. En algoritmos de optimización, los principios de Nested Learning pueden conducir a nuevas variantes que son más robustas y efectivas. En aprendizaje continuo, el enfoque proporciona nuevas herramientas para mitigar el olvido catastrófico y habilitar actualización continua de modelo.

Más ampliamente, Nested Learning ejemplifica cómo re-conceptualizar problemas fundamentales puede desbloquear progreso. Durante décadas, los investigadores trataron la arquitectura y la optimización como preocupaciones separadas, conduciendo a innovaciones incrementales en cada dominio. Al reconocer que son realmente aspectos del mismo fenómeno subyacente, Nested Learning abre espacio de diseño completamente nuevo. Esta lección, que las suposiciones fundamentales deben cuestionarse periódicamente, se extiende más allá del aprendizaje automático a la investigación científica más amplia.

Los investigadores de Google creen que Nested Learning ofrece una base robusta para cerrar la brecha entre los modelos de lenguaje grande actuales y las habilidades de aprendizaje continuo del cerebro humano. Si esta creencia se realiza, podríamos presenciar una transformación fundamental en las capacidades de IA. Los modelos que pueden aprender continuamente, adaptar a nuevos dominios sin olvidar competencias centrales, y mejorar mediante experiencia en lugar de solo mediante entrenamiento explícito, representarían un salto cualitativo en inteligencia artificial.

El camino desde el concepto de investigación hasta la tecnología ampliamente desplegada es típicamente largo e incierto. Nested Learning necesitará validación adicional, refinamiento y escala antes de que se convierta en práctica estándar. Pero el paradigma ya ha contribuido percepciones valiosas sobre la naturaleza del aprendizaje profundo y ha demostrado resultados prometedores en experimentos iniciales. La comunidad de investigación ahora tiene nuevas herramientas conceptuales y métodos prácticos para abordar el desafío de larga data del aprendizaje continuo.

Para aquellos que siguen el progreso de la IA, Nested Learning representa el tipo de innovación fundamental que ocasionalmente remodela campos. No es simplemente un nuevo truco o una mejora incremental sino una reconceptualización de cómo pensamos sobre el aprendizaje automático. Si el paradigma cumple con su promesa, podríamos mirar atrás a esta investigación como un momento crucial en el camino hacia sistemas de IA verdaderamente adaptativos y continuamente aprendices. El trabajo de Google Research ha abierto una puerta; queda por ver cómo de lejos conduce, pero la dirección es indudablemente prometedora.