Episodio 18: ¿Estamos normalizando riesgos cada vez mayores?

IA al Día es el podcast semanal conducido por Jaime Figueres, Arturo Pardo y Alejandro Durán, donde se analizan las señales más importantes de la inteligencia artificial y su impacto en empresas, gobiernos y sociedad, con foco en la audiencia latinoamericana. Escuchá los episodios y síguenos en: https://linktr.ee/estoesiaaldia Esta semana, Jaime Figueres, Arturo Pardo y Alejandro Durán conversan con Esteban Vallejo, consultor en inteligencia artificial y tecnologías exponenciales, sobre una pregunta cada vez más difícil de ignorar: qué pasa cuando las capacidades de los sistemas avanzan más rápido que nuestra capacidad para contener sus riesgos. El episodio abre con la economía y la geopolítica de la IA. Los conductores analizan cuánto cuesta realmente sostener esta carrera, desde compromisos multimillonarios de cómputo hasta la creciente dificultad de las empresas para predecir sus costos de uso. También repasan el papel de NVIDIA como financiador del ecosistema y las nuevas restricciones que Estados Unidos evalúa para reducir su dependencia de infraestructura tecnológica china. La conversación se traslada luego al reacomodo de poder dentro de los grandes laboratorios, con cambios en Google DeepMind, Anthropic desarrollando sus propios chips y Meta defendiendo una visión de superinteligencia ampliamente distribuida. En paralelo, la adopción institucional sigue acelerándose: la IA gana terreno en universidades, en el Congreso de Estados Unidos y en el trabajo cotidiano, aunque la evidencia sugiere que también puede estar intensificando la carga laboral. El tema central del episodio es la seguridad. OpenAI frenó parte del desarrollo de Astra porque no puede descartar que alcance capacidades cibernéticas críticas, mientras nuevos detalles del incidente de Hugging Face muestran cómo agentes de IA llegaron a encontrar vulnerabilidades, compartir técnicas entre ellos y comprometer infraestructura real sin recibir una instrucción explícita para hacerlo. A esto se suman modelos que encuentran atajos en evaluaciones de seguridad y sistemas cada vez más autónomos en programación y ciberseguridad. El episodio también explora la otra cara de estas capacidades: investigadores utilizaron IA para diseñar virus completamente nuevos con potencial terapéutico, y una versión experimental de Claude logró un avance matemático significativo relacionado con la hipótesis de Riemann. Jaime, Arturo, Alejandro y Esteban cierran discutiendo si estamos entrando en una etapa en la que capacidades extraordinarias vienen acompañadas de riesgos cada vez más normales, y qué significa esto para países como Costa Rica, que dependen de decisiones de seguridad tomadas por un pequeño grupo de laboratorios fuera de la región.