[2014] Sequence to Sequence Learning - Sutskever et al.

Esta investigación presenta un innovador modelo de aprendizaje de secuencia a secuencia basado en redes neuronales profundas, específicamente diseñado para superar las limitaciones de las arquitecturas tradicionales en tareas como la traducción automática. Los autores utilizan una estructura de LSTM multicapa que transforma una secuencia de entrada de longitud variable en un vector de dimensiones fijas, el cual es posteriormente procesado por una segunda red para generar la secuencia de salida. Un hallazgo fundamental del estudio es que invertir el orden de las palabras en las oraciones de origen simplifica significativamente el entrenamiento al reducir el desfase temporal entre términos relacionados. Gracias a esta técnica, el sistema logra un rendimiento excepcional en oraciones largas y supera los resultados de los métodos estadísticos convencionales, demostrando que las redes neuronales pueden aprender representaciones semánticas sofisticadas de forma autónoma.