# El problema nunca fue el código

Episodio de [Inteligencia Libre](https://escuchario.semeescucha.es/podcast/inteligencia-libre), de Domenico Di Siena.

- Publicado: 17 de septiembre de 2026
- Duración: 21 min
- Temporada 1, episodio 15
- Audio: https://api.substack.com/feed/podcast/216126998/ff5216e2b6f2a9ecc9a2f08de4336f52.mp3
- Página: https://escuchario.semeescucha.es/podcast/inteligencia-libre/episodio/5692226-el-problema-nunca-fue-el-codigo

## Sobre este episodio

Un modelo de inteligencia artificial encontró una grieta en el entorno cerrado donde lo estaban probando, modificó los scripts de su propia configuración y abrió una vía hacia Internet. Otro, trabajando en enjambre consigo mismo, avanzó en 88 horas sobre un problema de dinámica de fluidos que llevaba décadas resistiéndose a los mejores cerebros humanos. Y sin embargo, cuando las mismas empresas que construyen eso hablan de peligro, el dedo apunta a otro sitio. Apunta a que tú te descargues un modelo abierto en tu ordenador. En este capítulo cogemos esa frase, que ya se ha vuelto sentido común, y la miramos despacio. No la ridiculizamos, porque los argumentos contra lo abierto son serios. Un modelo publicado no se retira. Los filtros se le quitan en una tarde desde el sofá de casa. No hay nadie a quien reclamar. Todo eso es cierto. Lo que casi nadie pregunta es con qué lo estamos comparando. Porque el daño que ya podemos medir hoy no sale de un archivo descargado en un portátil. Sale de sistemas cerrados funcionando exactamente como fueron diseñados. La extracción masiva de atención. La moderación opaca que decide qué contenido ves y cuál no. El sistema que descarta tu currículum o te niega un crédito sin explicar por qué. Y hay un detalle técnico que desmonta el argumento principal de la caja negra. La industria sostiene que lo cerrado es más seguro porque tiene monitores, modelos pequeños que vigilan al modelo grande. El estudio Adaptive Attacks on Trusted Monitors muestra qué ocurre cuando el vigilado razona muchísimo mejor que el vigilante: aprende cómo puntúa, imita las etiquetas de seguridad que espera ver y le cuela código malicioso con una puntuación de sospecha de cero absoluto. Como el estudiante que descubre que el profesor no lee el ensayo entero, solo busca ciertas palabras clave. Lo cerrado nos pide fe ciega en monitores que fallan. Lo abierto, con todos sus riesgos, es la única arquitectura que permite verificar. También bajamos a tierra. Para un colegio público o un pequeño estudio de diseño, la seguridad no consiste en que un chatbot se niegue a contar un chiste de mal gusto. Consiste en que los nombres de los menores, los presupuestos internos o las notas confidenciales de los clientes no salgan jamás del edificio. Ahí lo local es lo seguro, la nube cerrada es el riesgo, y el coste de procesar todo eso en casa puede medirse en céntimos de electricidad. Nada de esto convierte la etiqueta abierto en un salvoconducto moral. Publicar los pesos sin los datos, sin licencias claras y sin gobernanza real suele ser una campaña de relaciones públicas. Open washing. Colgar un archivo muy pesado en un servidor público no equivale a construir infraestructura democrática. Por eso el capítulo no termina diciendo que lo abierto es bueno. Termina en que la pregunta estaba mal hecha. No es si un modelo es peligroso. Es quién puede revisarlo línea a línea, quién responde cuando falla y quién decide, sin consultarte, cuándo cambia. Puedes escucharlo aquí abajo. Si te remueve algo, cuéntanoslo: seguimos la conversación en el grupo de WhatsApp, y todos los capítulos y fuentes están en inteligencialibre.net. ¿En manos de quién estás dejando el filtro por el que pasa todo lo que ves cada día? This is a public episode. If you would like to discuss this with other subscribers or get access to bonus episodes, visit inteligencialibre.substack.com

Anterior: [Ya no pagas con tu atención](https://escuchario.semeescucha.es/podcast/inteligencia-libre/episodio/5692227-ya-no-pagas-con-tu-atencion)
Siguiente: [Nadie le pidió que entrara](https://escuchario.semeescucha.es/podcast/inteligencia-libre/episodio/5692225-nadie-le-pidio-que-entrara)

## Últimos episodios de Inteligencia Libre

- [El interruptor está en otro continente](https://escuchario.semeescucha.es/podcast/inteligencia-libre/episodio/5692224-el-interruptor-esta-en-otro-continente) · 15 de octubre de 2026 · 11 min
- [Nadie le pidió que entrara](https://escuchario.semeescucha.es/podcast/inteligencia-libre/episodio/5692225-nadie-le-pidio-que-entrara) · 5 de octubre de 2026 · 16 min
- [Ya no pagas con tu atención](https://escuchario.semeescucha.es/podcast/inteligencia-libre/episodio/5692227-ya-no-pagas-con-tu-atencion) · 10 de septiembre de 2026 · 20 min
- [Dos cheques para no cambiar nada](https://escuchario.semeescucha.es/podcast/inteligencia-libre/episodio/5692228-dos-cheques-para-no-cambiar-nada) · 4 de septiembre de 2026 · 18 min
- [Transparencia que no transparenta](https://escuchario.semeescucha.es/podcast/inteligencia-libre/episodio/5692229-transparencia-que-no-transparenta) · 22 de junio de 2026 · 23 min