DeepMind: Alineando la IA visual con humanos. Cómo AligNet mejora la robustez y visión

Esta investigación pionera de Google DeepMind aborda la desalineación clave entre los modelos de visión artificial y el conocimiento conceptual humano, el cual está jerárquicamente organizado. Los sistemas de IA a menudo luchan en tareas cognitivas como identificar el elemento "extraño" (odd-one-out) porque se enfocan en características superficiales en lugar de conceptos abstractos de alto nivel. Para corregir esta limitación, el estudio propone un método de alineación de tres pasos que entrena un modelo "profesor" (utilizando el dataset THINGS) para imitar juicios humanos y generar un conjunto de datos masivo llamado AligNet. AligNet contiene millones de decisiones odd-one-out simuladas que se usan para refinar modelos de visión preentrenados ("estudiantes"), logrando una profunda reestructuración de sus mapas internos de representación para reflejar mejor las jerarquías conceptuales humanas. Este enfoque resulta en una IA más robusta y confiable, demostrando un mejor rendimiento en tareas que requieren generalización y una mayor resistencia a los cambios en la distribución de datos (distribution shift).https://deepmind.google/blog/teaching-ai-to-see-the-world-more-like-we-do/