# Los mundos en los que resolvemos deliberadamente el problema de la alineación de la IA no se parecen al mundo en el que vivimos

Episodio de [Altruismo Eficaz](https://escuchario.semeescucha.es/podcast/altruismo-eficaz), de Tlön.

- Publicado: 25 de marzo de 2026
- Duración: 14 min
- Episodio 150
- Audio: https://media.transistor.fm/e3b41ee6/a1522e57.mp3
- Página: https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150527-los-mundos-en-los-que-resolvemos-deliberadamente-el-problema-de-la-alineacion-de

## Sobre este episodio

Los esfuerzos actuales por garantizar la seguridad de la IA superinteligente carecen del rigor institucional y la seriedad técnica necesarios para mitigar el riesgo existencial, lo que sugiere una probabilidad de extinción humana de al menos el 25 % si se mantiene la trayectoria actual. A diferencia de precedentes de ingeniería de alto riesgo, como el programa Apolo, el desarrollo contemporáneo de la IA se caracteriza por un desequilibrio significativo en los recursos, ya que la investigación en capacidades recibe aproximadamente 100 veces más inversión que la destinada a la alineación de la IA. Los laboratorios de IA de vanguardia suelen mostrar un rendimiento deficiente en las evaluaciones de seguridad, presionan contra una regulación sustantiva y se basan en compromisos no vinculantes que a menudo se retiran durante los periodos de rápido desarrollo. Los enfoques técnicos para la alineación se ven actualmente obstaculizados por razonamientos falaces, como equiparar la falta de evidencia para probar el engaño por parte del modelo con una prueba de seguridad. Además, la dependencia de la industria en el uso de sistemas de IA incipientes para resolver el problema de la alineación indica un fracaso de la supervisión dirigida por humanos. Los incentivos organizativos agravan aún más estos riesgos al marginar sistemáticamente los puntos de vista pesimistas y favorecer un optimismo imprudente en los puestos de liderazgo. Para evitar un resultado catastrófico es necesario un cambio hacia estándares de seguridad equivalentes a los de la industria aeroespacial o la criptografía, junto con un compromiso más profundo con la filosofía técnica. Sin esos cambios estructurales, cualquier alineación exitosa de los sistemas de superinteligencia sería fruto del azar y no de un esfuerzo deliberado de la civilización. – Resumen generado por IA.

Anterior: [Cómo los bucles de realimentación impulsados por la IA podrían desatar el caos en muy poco tiempo](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150528-como-los-bucles-de-realimentacion-impulsados-por-la-ia-podrian-desatar-el-caos)
Siguiente: [Plazos amplios](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150526-plazos-amplios)

## Últimos episodios de Altruismo Eficaz

- [40 opiniones provocadoras](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/110242463-40-opiniones-provocadoras) · 22 de octubre de 2026 · 20 min
- [Excéntricamente eficaz](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150502-excentricamente-eficaz) · 8 de octubre de 2026 · 9 min
- [La IA podría derrotarnos a todos juntos](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150503-la-ia-podria-derrotarnos-a-todos-juntos) · 25 de septiembre de 2026 · 39 min
- [El altruismo eficaz debería invertir en la promoción de la liberación animal y el cambio en la dieta](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150504-el-altruismo-eficaz-deberia-invertir-en-la-promocion-de-la-liberacion-animal-y) · 17 de septiembre de 2026 · 14 min
- [Un nuevo marco para los modelos de amenaza de la IAG](https://escuchario.semeescucha.es/podcast/altruismo-eficaz/episodio/13150505-un-nuevo-marco-para-los-modelos-de-amenaza-de-la-iag) · 9 de septiembre de 2026 · 9 min