La gran ilusión de la IA: ¿Por qué los LLMs NUNCA razonarán de verdad?

Muchos expertos y no profesionales proclaman una supuesta "habilidad de razonamiento" en los Grandes Modelos de Lenguaje (LLMs), liderados por ChatGPT, pero este video desvela que dicha habilidad es, en realidad, una mera ilusión. Exploraremos las limitaciones esenciales en el principio de funcionamiento de los LLMs, que les impiden fundamentalmente tener la capacidad de un razonamiento verdadero y 100% correcto. A diferencia del razonamiento humano, que exige que las premisas proporcionen evidencia concluyente y relevante para la conclusión, produciendo resultados lógicamente impecables, los LLMs operan basándose en probabilidad y estadísticas, generando solo "plausibilidad estadística en el texto" y no una correspondencia genuina con la realidad. Comprenderás por qué buscar esta capacidad en los LLMs sin considerar un criterio de evaluación de la corrección es una dirección de investigación completamente equivocada y sin esperanza.https://arxiv.org/pdf/2508.10265