# Prevenir una catástrofe relacionada con la inteligencia artificial

Episodio de [Altruismo Eficaz](https://escuchario.semeescucha.es/podcast/altruismo-eficaz), de Tlön.

- Publicado: 4 de diciembre de 2023
- Duración: 3 h 04 min
- Episodio 48
- Audio: https://media.transistor.fm/fc96da7a/98f19d97.mp3
- Página: https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150652-prevenir-una-catastrofe-relacionada-con-la-inteligencia-artificial

## Sobre este episodio

En las próximas décadas se producirán avances sustanciales en inteligencia artificial, quizá hasta alcanzar el punto de que las máquinas lleguen a superar a los humanos en muchas o en todas las tareas. Esto podría generar enormes beneficios, ayudando a resolver problemas globales actualmente insolubles, pero también graves riesgos. Algunos de estos riesgos asociados a la IA avanzada podrían ser existenciales, es decir, podrían causar la extinción humana o una pérdida de poder igual de permanente y grave para la humanidad. Aún no se ha dado ninguna respuesta satisfactoria a las preocupaciones sobre cómo desarrollar e integrar en nuestra sociedad de forma segura esta tecnología transformadora. Encontrar respuestas a estas preocupaciones es algo muy desatendido, y puede que sea tratable. En consecuencia, la posibilidad de que se produzca una catástrofe relacionada con la IA puede ser el problema más apremiante del mundo y la mejor opción a la que podrían dedicarse quienes están en condiciones de contribuir a resolverlo.

Anterior: [El panorama de la gobernanza de la AI largoplacista: una visión general básica](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150653-el-panorama-de-la-gobernanza-de-la-ai-largoplacista-una-vision-general-basica)
Siguiente: [Por qué los riesgos S son los peores riesgos existenciales y cómo prevenirlos](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150651-por-que-los-riesgos-s-son-los-peores-riesgos-existenciales-y-como-prevenirlos)

## Últimos episodios de Altruismo Eficaz

- [40 opiniones provocadoras](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/110242463-40-opiniones-provocadoras) · 22 de octubre de 2026 · 20 min
- [Excéntricamente eficaz](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150502-excentricamente-eficaz) · 8 de octubre de 2026 · 9 min
- [La IA podría derrotarnos a todos juntos](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150503-la-ia-podria-derrotarnos-a-todos-juntos) · 25 de septiembre de 2026 · 39 min
- [El altruismo eficaz debería invertir en la promoción de la liberación animal y el cambio en la dieta](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150504-el-altruismo-eficaz-deberia-invertir-en-la-promocion-de-la-liberacion-animal-y) · 17 de septiembre de 2026 · 14 min
- [Un nuevo marco para los modelos de amenaza de la IAG](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150505-un-nuevo-marco-para-los-modelos-de-amenaza-de-la-iag) · 9 de septiembre de 2026 · 9 min