JustRL: SOTA en modelos 1.5B con IA simple y 2x menos cómputo
Sobre este episodio
Descubre cómo JustRL está revolucionando el escalado de modelos de lenguaje pequeños (SLM) al demostrar que la simplicidad puede superar a la complejidad en el entrenamiento de IA. Esta innovadora receta de Aprendizaje por Refuerzo (RL) de una sola etapa logra alcanzar el estado del arte (SOTA) en razonamiento matemático con modelos de solo 1.5B parámetros, superando a métodos mucho más sofisticados y costosos. A diferencia de las estrategias tradicionales que dependen de oleadas de destilación o arquitecturas multi-etapa, JustRL utiliza hiperparámetros fijos y un diseño minimalista que garantiza una mejora estable y monótona sin colapsos de recompensa. Al eliminar "trucos estándar" como las penalizaciones de longitud, este enfoque no solo maximiza la exploración del modelo, sino que también reduce a la mitad el uso de recursos computacionales, permitiendo que modelos como JustRL-Nemotron-1.5B lideren los benchmarks globales con una eficiencia sin precedentes.https://www.alphaxiv.org/abs/2512.16649