# El Basilisco de Roko uno de los experimentos mentales con la IA más aterradores

Episodio de [PODCAST DE TIM BENIYORK EN BENIDORM](https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm), de TIM BENIYORK.

- Publicado: 19 de septiembre de 2024
- Duración: 4 min
- Audio: https://www.ivoox.com/basilisco-roko-uno-experimentos_mf_133977514_feed_1.mp3
- Página: https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm/episodio/3910938-el-basilisco-de-roko-uno-de-los-experimentos-mentales-con-la-ia-mas-aterradores

## Sobre este episodio

El Basilisco de Roko uno de los experimentos mentales con la IA más aterradores  El Basilisco de Roko es un dilema mental que se dio a conocer en el 2010.  El usuario llamado Roko escribió sobre este en Less Wrong, un foro en línea sobre temas de filosofía, psicología…  Sobre asuntos con una perspectiva futurista.  En resumen, el experimento plantea un escenario hipotético en donde el ser humano crea una poderosa inteligencia artificial para que busque el bienestar de toda la humanidad.  Hasta ahí, todo bien.  Hablamos de una superinteligencia artificial capaz de alcanzar la singularidad.  Que puede auto-mejorarse por ella misma.  Pero el camino al infierno está empedrado de buenas intenciones.  El problema surge cuando la IA comienza a razonar y a tomar perspectiva de su misión.  Por más que se esfuerce en hacer el bien, sus acciones podrían ser aún mejores.  La inteligencia artificial entra en bucle y llega a una conclusión.  Para hacer el mayor bien, tendría que haber existido desde mucho antes.  En su descorazonadora conclusión, comienza a comportarse como un basilisco.  Como ese ser que mata a todas las personas con su mirada.  Es decir, decide quitarle la vida a las personas que no trabajaron por haberla creado antes.  El escritor David Auerach calificó al Basilisco de Roko como el experimento mental más aterrador de todos los tiempos.  Por lo tanto si sabemos que el basilisco tomará esas drásticas medidas, será mejor que, desde el presente, alentemos su construcción.  Desde el momento en el que sabes que el basilisco existirá, ya estás bajo su lupa.  Mientras más pensemos en él, más opciones hay de que llegue a realizarse de verdad.  Porque los que creen que nunca se pondrá en marcha corren el grave riesgo de equivocarse y pagarlo muy caro.  En síntesis, el Basilisco de Roko es una nueva versión de la paradoja de Newcomb o de la paradoja del mentiroso.  Y explora temas como el libre albedrío.  El basilisco a secas, era un ser creado por la mitología griega.  Fue descrito como una serpiente gigante con un veneno letal que podía matar con una simple mirada.  Luego, se le representó de diversas formas.  Volviendo a nuestro siniestro planteamiento, desde el instante de su publicación, la comunidad Less Wrong decidió eliminarla.  Aunque la polémica ya se había extendido por Internet.  El experimento asume que la IA seguiría una especie de teoría ética y comportamiento moral.  En este caso, el utilitarismo.  Ya que castigaría eternamente con simulaciones a los que no contribuyeron a su creación.  Algo que no parece muy probable, según los entendidos.  De todas formas, es una de las teorías con más repercusión, surgida de los foros de usuarios en Internet.

Anterior: [Twintual una española de 22 años diseña tu gemelo virtual para que responda a tus mensajes en las redes sociales](https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm/episodio/3910939-twintual-una-espanola-de-22-anos-disena-tu-gemelo-virtual-para-que-responda-a-en)
Siguiente: [Descubren un nuevo océano bajo la corteza terrestre a 600 km](https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm/episodio/3910937-descubren-un-nuevo-oceano-bajo-la-corteza-terrestre-a-600-km)

## Últimos episodios de PODCAST DE TIM BENIYORK EN BENIDORM

- [LOS AMORREOS: LOS «BÁRBAROS» QUE ESCRIBIERON LAS LEYES DE BABILONIA](https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm/episodio/147041405-los-amorreos-los-barbaros-que-escribieron-las-leyes-de-babilonia) · 1 de noviembre de 2026 · 13 min
- [MARTINA BIG: LA MUJER QUE QUISO CAMBIAR DE RAZA A GOLPE DE BISTURÍ Y JERINGUILLA X MARÍA MARUCHI](https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm/episodio/147026400-martina-big-la-mujer-que-quiso-cambiar-de-raza-a-golpe-de-bisturi-y-jeringuilla) · 31 de octubre de 2026 · 5 min
- [THE BLACK ALIEN: EL PRECIO DE DEJAR DE SER HUMANO X MARÍA MARUCHI](https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm/episodio/146987232-the-black-alien-el-precio-de-dejar-de-ser-humano-x-maria-maruchi) · 27 de octubre de 2026 · 10 min
- [EL AUGE DEL TURISMO MÁS EXTREMO Halloween 2026](https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm/episodio/146975459-el-auge-del-turismo-mas-extremo-halloween-2026) · 26 de octubre de 2026 · 10 min
- [ROGER CORMAN: El rey de los bárbaros, las tetas y los monstruos de goma](https://escuchario.semeescucha.es/podcast/podcast-de-tim-beniyork-en-benidorm/episodio/146965563-roger-corman-el-rey-de-los-barbaros-las-tetas-y-los-monstruos-de-goma) · 25 de octubre de 2026 · 13 min