El Juez de Silicio

En 2015, el presidente de una universidad de Maryland, en Estados Unidos, la Mount St. Mary's, quería mejorar la cifra de "retención", o sea, qué porcentaje de los alumnos que entran se queda. Aplicó una encuesta a los de primer año para detectar a los que iban batallando. Bonito, ¿no? Detectarlos para ayudarlos. Pues no. La idea, según lo que dijeron profesores en esa junta y que luego salió publicado, era que los alumnos más frágiles se fueran en las primeras semanas, antes de la fecha en que se cuentan como "inscritos". Así la estadística quedaba preciosa. A los profesores que protestaron, el presidente les contestó que ellos veían a los estudiantes como conejitos tiernos, y que había que ahogar a los conejitos. Con esas palabras. Renunció en febrero de 2016. Ahora, ese rector no usaba inteligencia artificial. Pero fíjate qué pasa cuando le entregas a alguien así una herramienta que dice "predigo quién va a fracasar". Ya no necesita decirlo en una junta, donde alguien puede filtrarlo al periódico escolar. Lo hace una pantalla, en silencio, con un número, sin que nadie sepa por qué. Y la pantalla nunca renuncia. Hoy vamos a hablar de ese personaje. De la máquina que dicta sentencia sin explicar, sin apelación y sin ruborizarse. Cinco formas en que falla la IA que predice. Cinco. Con casos reales, con fechas, y con una buena noticia al final. Un número sin explicación es una sentencia sin juicio.