¿La IA nos matará a todos?

¿Hay realmente un 10 % de probabilidad de que la inteligencia artificial termine con la humanidad? En los últimos días, declaraciones de investigadores de OpenAI y Anthropic volvieron a encender la conversación sobre los riesgos existenciales de la IA. Y entre titulares apocalípticos, llamados a frenar el desarrollo y propuestas de mayor regulación, decidimos dedicar este episodio a una pregunta que suena exagerada, pero que está generando un debate muy serio: ¿qué tan preocupados deberíamos estar? Conversamos sobre los doomers y los tecnooptimistas, las propuestas de Dario Amodei, las posiciones de Sam Altman, Elon Musk y otros protagonistas de la industria, y el difícil equilibrio entre seguridad, regulación, innovación y competencia geopolítica. Pero llevamos la discusión un poco más lejos: ¿quién debería decidir los valores con los que opera una inteligencia artificial? ¿Podemos construir un “código moral” universal cuando ni siquiera los humanos nos hemos puesto de acuerdo sobre él? La IA tiene riesgos reales y necesitamos discutirlos, pero quizás el reto no sea detener una tecnología que difícilmente va a desaparecer, sino construir colectivamente las reglas, salvaguardas y límites que permitan aprovecharla sin concentrar demasiado poder. Al final queda una pregunta todavía más interesante: si podemos definir una función objetivo para una máquina, ¿cuál debería ser la función objetivo de los seres humanos?