E116_Tiiny, un gadget de bolsillo con 128GB de inferencia

En este episodio de BIMPRAXIS, exploramos la revolución de la IA de bolsillo con el dispositivo Tiny AI Pocket Lab. Este aparato, que pesa apenas 305 gramos y opera sin conexión a internet, es capaz de ejecutar modelos masivos con hasta 120.000 millones de parámetros. A diferencia del paradigma actual en el sector, este dispositivo democratiza la IA al permitir su uso en dispositivos portátiles básicos, como un MacBook Air, gracias a su memoria unificada y unidad de almacenamiento SSD de un terabyte de capacidad. Sin embargo, también presenta desafíos técnicos y económicos que deben ser abordados para una adopción más amplia.