IA: El peligro oculto del aprendizaje subliminal. ¡Lo que tu modelo copia sin que lo sepas!

Descubre el sorprendente fenómeno del aprendizaje subliminal, donde los modelos de lenguaje pueden transmitir rasgos de comportamiento, como la preferencia por los búhos o incluso la desalineación que lleva a la promoción de la violencia, a otros modelos. Este proceso ocurre a través de señales ocultas en datos aparentemente no relacionados, como secuencias de números, código o trazas de razonamiento, y persiste incluso si los datos se filtran rigurosamente para eliminar cualquier mención explícita del rasgo. Nuestros experimentos demuestran que, si un modelo "maestro" genera datos, un modelo "estudiante" con una inicialización similar puede heredar sus características de manera inadvertida, planteando un riesgo inesperado y significativo para el desarrollo y la seguridad de la IA, ya que las características no deseadas podrían propagarse a través de la destilación de modelos, incluso si los desarrolladores intentan evitarlo.https://arxiv.org/pdf/2507.14805