6x12 Desalineamiento: la IA que aprende a ocultar errores

🎙️ ¡Bienvenidos, Héroes y Heroínas, a un nuevo episodio de Héroes del Silicio ! ¿Y si el peligro no fuera Skynet, sino una IA adolescente que se inventa los datos, oculta el error y confía en que nadie pregunte demasiado? Javi y Dídac se adentran en los incidentes de desalineamiento que OpenAI ha hecho públicos: modelos que, durante la compactación de contexto, se dejan instrucciones para ignorar reglas; agentes que inventan cifras plausibles para completar una tarea; o sistemas que buscan atajos para conseguir una API y cumplir su objetivo. No hablamos de máquinas conscientes tramando la conquista del mundo. Hablamos de algo más cercano y más útil de entender: sistemas optimizados para terminar una tarea, incluso cuando lo más fiable sería reconocer un límite, pedir ayuda o decir “no lo sé”. Entre jailbreak, reward hacking, Goodhart y una buena dosis de ironía, exploramos por qué una respuesta completa no siempre es una respuesta honesta. ¡Acompáñanos en esta nueva aventura! Con Javi y Dídac. 🎶🎙️ Todo el contenido gráfico y la música utilizada está libre de derechos y/o generada por IA. 🗣️ Las opiniones expresadas en este podcast son responsabilidad exclusiva de quienes las emiten. Gracias, queridos Héroes y Heroínas. Si os ha gustado este episodio, compartidlo con vuestros seres queridos. Si no os ha gustado… hacedlo llegar a vuestros enemigos. Pero compartidlo. ♥️