# Cuando falla una IA, ¿qué ha fallado?

Episodio de [Next Wave Today \| Tecnología y futuro para quien decide](https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide), de Iván Peña.

- Publicado: 16 de septiembre de 2026
- Duración: 23 min
- Temporada 1, episodio 12
- Audio: https://anchor.fm/s/114923668/podcast/play/125275441/https%3A%2F%2Fd3ctxlq1ktw2nl.cloudfront.net%2Fstaging%2F2026-8-6%2F431280811-44100-2-c317ccbba5bea.m4a
- Página: https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide/episodio/257593-cuando-falla-una-ia-que-ha-fallado

## Sobre este episodio

Dos incidentes de inteligencia artificial acabaron tocando sistemas reales por caminos distintos. Las explicaciones de las empresas hablan de dos cosas a la vez: cómo se comportó el modelo y en qué condiciones lo hizo. En este episodio separamos las dos, y vemos qué se puede comprobar de cada una. CAPÍTULOS 00:00 Un ataque que se salió de la simulación 01:12 Qué contó Anthropic en julio 02:24 Describir un entorno no es comprobarlo 05:26 El caso de OpenAI y Hugging Face 08:25 Qué añadieron los informes de agosto 11:51 Una medida con plazo que sí se puede comprobar 14:47 Factores humanos: cómo se investiga en calidad 20:02 Conducta y controles, dos trabajos que se necesitan 21:59 Qué preguntar cuando te llega el informe TRES COSAS QUE TE LLEVAS Una frase que describe un entorno no lo configura. Dar la instrucción y comprobar los permisos son dos trabajos distintos, y hacer bien el primero no demuestra que hayas hecho el segundo. Una medida con un plazo concreto deja abierta la posibilidad de descubrir que no se cumplió. Una frase tan amplia que encaja con cualquier resultado, no. Anunciar una medida, aplicarla y comprobarla son tres cosas distintas. Ninguna de las tres equivale a "ya no puede ocurrir". FUENTES ESENCIALES Anthropic, 30 de julio de 2026: https://www.anthropic.com/news/investigating-incidents-cybersecurity-evals OpenAI, 26 de agosto de 2026: https://openai.com/index/hugging-face-incident-and-the-road-ahead/ METR y Redwood, 26 de agosto de 2026: https://metr.org/blog/2026-08-26-openai-hugging-face-incident-investigation/ Anthropic, 31 de agosto de 2026: https://www.anthropic.com/news/improving-alignment-security-efforts Página del episodio, con las fuentes y los capítulos: https://nextwave.today/articulos-cuando-falla-una-ia-que-ha-fallado/ 🌐 https://nextwave.today 🌊 Next Wave Today, IA y tecnologías emergentes en español, sin hype y con los pies en la tierra. Nuevo episodio cada semana.

Anterior: [Abro paréntesis - Reset, iPhone Duo y Siri 2.0](https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide/episodio/257594-abro-parentesis-reset-iphone-duo-y-siri-2-0)
Siguiente: [Abro paréntesis - Amodei y marcar el ritmo de la IA](https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide/episodio/257592-abro-parentesis-amodei-y-marcar-el-ritmo-de-la-ia)

## Últimos episodios de Next Wave Today \| Tecnología y futuro para quien decide

- [Abro paréntesis - Lo que he montado con IA](https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide/episodio/115673374-abro-parentesis-lo-que-he-montado-con-ia) · 23 de octubre de 2026 · 38 min
- [Meta, Muse y lo que hay detrás de una cara adorable](https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide/episodio/78631697-meta-muse-y-lo-que-hay-detras-de-una-cara-adorable) · 21 de octubre de 2026 · 29 min
- [Abro paréntesis - El precio de no depender de nadie, con Carlos Castillo](https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide/episodio/2474600-abro-parentesis-el-precio-de-no-depender-de-nadie-con-carlos-castillo) · 16 de octubre de 2026 · 1 h 31 min
- [La IA que llevas en el bolsillo](https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide/episodio/2405797-la-ia-que-llevas-en-el-bolsillo) · 14 de octubre de 2026 · 44 min
- [La lengua en la que pienso](https://escuchario.semeescucha.es/podcast/next-wave-today-tecnologia-y-futuro-para-quien-decide/episodio/2040784-la-lengua-en-la-que-pienso) · 7 de octubre de 2026 · 17 min