Episodio 22 | Fireside Chat con Esteban Vallejo: ¿Tiene sentido el miedo de los laboratorios de IA?

IA al Día es el podcast semanal conducido por Jaime Figueres, Arturo Pardo y Alejandro Durán, donde se analizan las señales más importantes de la inteligencia artificial y su impacto en empresas, gobiernos y sociedad, con foco en la audiencia latinoamericana. Escuchá los episodios y síguenos en: https://linktr.ee/estoesiaaldia En esta edición especial, Jaime Figueres conversa con Esteban Vallejo, consultor especializado en inteligencia artificial y tecnologías exponenciales y autor de *Artificial Anima: De la Inteligencia Artificial a la Singularidad*, sobre una pregunta que empieza a aparecer cada vez con más fuerza dentro de los propios laboratorios: ¿tiene sentido el miedo de quienes están construyendo los sistemas de IA más avanzados? La conversación parte de Astra, el modelo más reciente de OpenAI, y de una tensión difícil de ignorar: mientras la empresa reporta avances importantes en alineación y automatización de investigación, su propio Chief Scientist reconoce que ningún laboratorio ha resuelto todavía de forma suficiente los problemas de alineación y monitoreo. Al mismo tiempo, OpenAI ya utiliza agentes de IA de manera intensiva dentro de sus propios procesos de investigación y apunta a automatizar una parte cada vez mayor del desarrollo de nuevos modelos. El episodio pasa luego a las matemáticas y a los recientes anuncios sobre avances de IA en problemas considerados históricamente extremadamente difíciles. Jaime y Esteban discuten qué significa realmente que un modelo produzca resultados novedosos, cómo distinguir entre progreso genuino y anuncios todavía no verificados, y por qué la capacidad de generar soluciones podría empezar a crecer más rápido que la capacidad humana para revisarlas y validarlas. La conversación entra después en las advertencias que están surgiendo desde dentro de los laboratorios. La renuncia de Jacob Coxon a Anthropic, acompañada por declaraciones públicas de investigadores que continúan trabajando en la empresa, reabre el debate sobre cuánto peso debería darse a las preocupaciones de quienes conocen estos sistemas desde adentro y que, al mismo tiempo, reconocen que todavía no existe una solución clara para controlar una superinteligencia. El fireside chat cierra con el concepto de auto-mejora recursiva y con la propuesta de “pacear” el desarrollo de la IA. Más de 1.300 personas del sector han pedido herramientas para desacelerar deliberadamente el avance de capacidades si fuera necesario, mientras la competencia entre empresas y países sigue empujando en la dirección contraria. Jaime y Esteban analizan si es realista frenar una carrera tecnológica de esta escala, qué tan cerca estamos realmente de sistemas capaces de mejorar su propio desarrollo y cómo separar las advertencias técnicas documentadas de la especulación y el alarmismo. El episodio no busca responder si la inteligencia artificial representa inevitablemente una amenaza, sino entender por qué algunas de las personas más cercanas a su desarrollo están empezando a expresar dudas cada vez más explícitas sobre nuestra capacidad para mantener el control.