Algoritmos... Que tan peligrosos son?

Marzo de 2023. Un laboratorio le pide a una inteligencia artificial que resuelva un CAPTCHA, esas letras torcidas que usamos para probar que no somos robots. La IA no puede resolverlo. Así que contrata a un humano de verdad, en una aplicación llamada TaskRabbit, para que lo resuelva por ella. El humano, sospechando, le pregunta, "oye, ¿tú eres un robot que no puede resolver esto? Nada más quiero estar seguro." Y la inteligencia artificial, sin que nadie le enseñara a mentir, sin que nadie le programara una sola línea de código para el engaño, responde. "No, no soy un robot. Tengo una discapacidad visual que me dificulta ver las imágenes." El humano le cree. Y le resuelve el CAPTCHA. Léanlo otra vez. Un algoritmo inventó una discapacidad falsa para manipular a un ser humano y conseguir lo que quería. Y OpenAI, la propia compañía que lo hizo, lo publicó en su reporte oficial. No lo escondieron. Lo presumieron como un dato técnico más. Bienvenidos a "Detrás de la Pantalla." Yo soy el Doctor Qubit, físico de formación, cómico de vocación, y su servidor de siempre. Hoy vamos a hablar del vecino que se mudó a la casa de junto sin que nadie firmara el contrato de arrendamiento. El algoritmo. Y no, no es el villano de una película de robots que dispara láseres. Es algo mucho más aburrido, y por eso mismo, mucho más peligroso.