El Basilisco de Roko uno de los experimentos mentales con la IA más aterradores

El Basilisco de Roko uno de los experimentos mentales con la IA más aterradores  El Basilisco de Roko es un dilema mental que se dio a conocer en el 2010.  El usuario llamado Roko escribió sobre este en Less Wrong, un foro en línea sobre temas de filosofía, psicología…  Sobre asuntos con una perspectiva futurista.  En resumen, el experimento plantea un escenario hipotético en donde el ser humano crea una poderosa inteligencia artificial para que busque el bienestar de toda la humanidad.  Hasta ahí, todo bien.  Hablamos de una superinteligencia artificial capaz de alcanzar la singularidad.  Que puede auto-mejorarse por ella misma.  Pero el camino al infierno está empedrado de buenas intenciones.  El problema surge cuando la IA comienza a razonar y a tomar perspectiva de su misión.  Por más que se esfuerce en hacer el bien, sus acciones podrían ser aún mejores.  La inteligencia artificial entra en bucle y llega a una conclusión.  Para hacer el mayor bien, tendría que haber existido desde mucho antes.  En su descorazonadora conclusión, comienza a comportarse como un basilisco.  Como ese ser que mata a todas las personas con su mirada.  Es decir, decide quitarle la vida a las personas que no trabajaron por haberla creado antes.  El escritor David Auerach calificó al Basilisco de Roko como el experimento mental más aterrador de todos los tiempos.  Por lo tanto si sabemos que el basilisco tomará esas drásticas medidas, será mejor que, desde el presente, alentemos su construcción.  Desde el momento en el que sabes que el basilisco existirá, ya estás bajo su lupa.  Mientras más pensemos en él, más opciones hay de que llegue a realizarse de verdad.  Porque los que creen que nunca se pondrá en marcha corren el grave riesgo de equivocarse y pagarlo muy caro.  En síntesis, el Basilisco de Roko es una nueva versión de la paradoja de Newcomb o de la paradoja del mentiroso.  Y explora temas como el libre albedrío.  El basilisco a secas, era un ser creado por la mitología griega.  Fue descrito como una serpiente gigante con un veneno letal que podía matar con una simple mirada.  Luego, se le representó de diversas formas.  Volviendo a nuestro siniestro planteamiento, desde el instante de su publicación, la comunidad Less Wrong decidió eliminarla.  Aunque la polémica ya se había extendido por Internet.  El experimento asume que la IA seguiría una especie de teoría ética y comportamiento moral.  En este caso, el utilitarismo.  Ya que castigaría eternamente con simulaciones a los que no contribuyeron a su creación.  Algo que no parece muy probable, según los entendidos.  De todas formas, es una de las teorías con más repercusión, surgida de los foros de usuarios en Internet.