Episodios de Variabilis
27 episodios · del más reciente al más antiguo
-
Ep. 27: CS231n - El Curso que Formó a una Generación de Ingenieros de IA
En el último episodio les traemos: un curso universitario . El " Stanford CS231n: Convolutional Neural Networks for Visual Recognition ". Y por eso vamos a abordarlo de manera…
-
Ep. 26: Relation Networks - Enseñarle a una IA a Razonar sobre Relaciones
Hoy tocamos un paper de DeepMind que aborda algo que parece básico pero que resultó ser profundamente difícil para las redes neuronales: el razonamiento relacional . ¿Qué es…
-
Ep. 25: Kolmogorov Complexity - La Medida de la Aleatoridad
Llegamos a uno de los últimos episodios técnicos de la lista de Sutskever. Es el que más conecta con todo lo que hemos visto: Kolmogorov complexity es el hilo conductor detrás del…
-
Ep. 24: Machine Super Intelligence ¿Qué es Exactamente la Inteligencia?
Este episodio es diferente a todos los anteriores. No es un paper sobre arquitectura, algoritmos o experimentos empíricos. Es una tesis doctoral filosófica y matemática que hace…
-
Ep. 23: MDL - La Navaja de Occam con Matemáticas
Este episodio conecta muchos hilos vistos a lo largo de la serie. El principio MDL ya apareció en el episodio 5 (Hinton & Zemel), en el 19 (Coffee Automaton) y en el 22 (Scaling…
-
Ep. 22: Scaling Laws - El Mapa del Tesoro para Construir LLMs
Hoy tocamos uno de los papers más influyentes de los últimos años, no porque introduzca una arquitectura nueva, sino porque responde una pregunta fundamental: ¿cómo mejoran los…
-
Ep. 21: Deep Speech 2 - Cuando la IA Supera al Humano en Transcribir Audio
El paper de este episodio marcó un hito histórico: el primer sistema de reconocimiento de voz que superó a humanos en pruebas de transcripción. Y el primer autor es Dario Amodei…
-
Ep. 20: Neural Turing Machines - Una Red que Aprende a Programar
Hoy toca uno de los papers más conceptualmente ambiciosos de toda la lista: las Neural Turing Machines (NTMs) de Alex Graves y DeepMind. La pregunta que este paper intenta…
-
Ep. 19: El Autómata del Café - Midiendo la Complejidad que Nace y Muere
Este episodio es el segundo paper de carácter más filosófico en la lista de Sutskever, el primero fue "The First Law of Complexodynamics" en el episodio 1. De hecho, este paper es…
-
Ep 18: Relational Memory Core - Cuando la Memoria Necesita Razonar
Este episodio planteamos la siguiente pregunta: ¿qué pasa si no solo necesitamos razonar sobre relaciones en un instante, sino que necesitamos recordar relaciones a lo largo del…
-
Ep. 17: Variational Lossy Autoencoder - Aprender a Olvidar lo que No Importa
Hoy entramos al mundo de los modelos generativos : sistemas que no solo clasifican datos, sino que aprenden a generar datos nuevos como imágenes, texto, audio. "Variational Lossy…
-
Ep. 16: ResNet v2 — ¿Por Qué Importa Dónde Pones el ReLU?
Este episodio es el "sequel" del episodio 10 sobre ResNet. Si en el episodio 10 aprendimos que los skip connections permiten entrenar redes muy profundas, hoy vamos a profundizar…
-
Ep. 15: El Nacimiento de la Atención
Hoy tocamos uno de los papers más importantes de toda la lista. No el más famoso (ese es "Attention is All You Need"), pero sí el que lo hizo posible. En 2014, Dzmitry Bahdanau…
-
Ep 14: Redes Neuronales que Aprenden sobre Moléculas
Hoy entramos a un episodio que puede sonar intimidante: química cuántica. Pero no te preocupes; el verdadero tema es mucho más general y fascinante: ¿cómo hacemos que una red…
-
Ep. 13: Convoluciones Dilatadas — Ver Sin Perder el Detalle
Hoy vamos a resolver un problema que suena técnico pero que en el fondo tiene una elegancia visual muy bonita: ¿cómo hace una red neuronal para entender tanto el detalle fino como…
-
Ep. 12: The Annotated Transformer — Leer un Paper con el Código al Lado
En el episodio 11 cubrimos "Attention is All You Need" — el paper que introdujo los Transformers y que está detrás de GPT, BERT, Claude y prácticamente todo el AI moderno. Era…
-
Ep. 11: Attention is All You Need
Hoy vamos a hablar del paper más influyente de los últimos años en AI: "Attention is All You Need". Este paper de 2017 introdujo el Transformer, la arquitectura detrás de GPT…
-
Ep. 10: Deep Residual Learning for Image Recognition (ResNet)
Hoy vamos a hablar de ResNet, un paper que resolvió uno de los misterios más frustrantes del deep learning: ¿Por qué las redes más profundas a veces funcionan PEOR que las menos…
-
Ep. 09: GPipe - Easy Scaling with Micro-Batch Pipeline Parallelism
Hoy vamos con GPipe, un paper que resolvió uno de los problemas más prácticos del deep learning: ¿Cómo entrenas modelos que son demasiado grandes para caber en una sola GPU? La…
-
Ep. 08: El orden importa - Sequence to Sequence for Sets
Hoy vamos a hablar de un paper que aborda una pregunta aparentemente simple pero profunda: ¿Importa el orden en que le das datos a una red neuronal? La respuesta sorprendente es…
-
Ep. 07: AlexNet - La Revolución del Deep Learning
En este episodio vamos a hablar de un paper que literalmente cambió el mundo del machine learning. AlexNet, publicado en 2012, marcó el inicio de la revolución del deep learning…
-
Ep. 06: Pointer Networks - Apuntando a la Solución
Hoy vamos a hablar sobre Pointer Networks, un paper que resolvió un problema fundamental que las arquitecturas seq2seq tradicionales no podían manejar. Este paper es del mismo…
-
Ep. 05: Manteniendo las Redes Simples: Minimum Description Length principle (MDL)
Hoy vamos con un paper fundamental de 1993 escrito por Geoffrey Hinton (sí, ¡el padrino del deep learning!). Este paper conecta teoría de información, estadística bayesiana y…
-
Ep. 04: Regularización en Redes Neuronales Recurrentes
Hoy traemos un paper que resolvió uno de los problemas más frustrantes al trabajar con RNNs y LSTMs: ¿cómo evitar el overfitting? La técnica de regularización más exitosa para…
-
Ep. 03: Entendiendo las Redes LSTM
Hoy vamos a profundizar en QUÉ son exactamente las LSTMs y POR QUÉ funcionan tan bien. Basado en un post de Christopher Olah publicado en el 2015. Siendo este post es uno de los…
-
Ep. 02: Karpathy y las RNNs
Segundo episodio, segundo post de los 30 sugeridos por Ilya Sutskever. Exploramos el articulo de Andrej Karpathy , sobre Redes Neuronales Recurrentes o Recurrent Neural Networks…
-
Ep. 01: La Ley de Complejodinámica y tu café
Primer episodio, primer paper o post de los 30 sugeridos por Ilya Sutskever. Exploramos el concepto de ' complextropía ' de Scott Aaronson - por qué los sistemas (y los modelos de…