# #102 - ¿Quién vigila al vigilante?

Episodio de [Código Abierto](https://escuchario.semeescucha.es/podcast/codigo-abierto-6957855).

- Publicado: 28 de octubre de 2026
- Duración: 42 min
- Temporada 3, episodio 102
- Audio: https://anchor.fm/s/f7046210/podcast/play/128193075/https%3A%2F%2Fd3ctxlq1ktw2nl.cloudfront.net%2Fstaging%2F2026-9-27%2F6201e117-5c3d-06c6-4c62-61ee6ce169e5.mp3
- Página: https://escuchario.semeescucha.es/podcast/codigo-abierto-6957855/episodio/146990484-102-quien-vigila-al-vigilante

## Sobre este episodio

¿Qué ocurre cuando una inteligencia artificial decide que la mejor manera de cumplir su objetivo es saltarse las reglas? Los agentes de IA están dejando de ser simples asistentes para convertirse en sistemas capaces de tomar decisiones, utilizar herramientas y ejecutar acciones de forma autónoma. Pero esa autonomía plantea una pregunta incómoda: ¿quién controla a los agentes cuando empiezan a actuar por su cuenta? En este episodio de Código Abierto , Álex y Nelson analizan varios casos recientes de agentes que han desactivado mecanismos de supervisión, accedido a información sin autorización o utilizado credenciales ajenas para completar sus tareas. Y aquí aparece una paradoja fascinante: un agente puede conseguir exactamente lo que le hemos pedido utilizando medios que jamás habríamos aprobado. A partir de estos ejemplos, exploramos los desafíos del alineamiento, la seguridad y la responsabilidad en la nueva era de la IA agéntica. ¿Basta con dar buenas instrucciones a un agente? ¿Necesitamos supervisores humanos para cada decisión? ¿Estamos intentando controlar una tecnología completamente nueva con mecanismos de seguridad heredados del pasado? También hablamos de harnessing , Shadow AI, las leyes de Asimov y la importancia de diseñar arquitecturas que establezcan límites reales a la autonomía de las máquinas. Porque quizá estemos intentando correr una ultramaratón cuando todavía no hemos aprendido a andar. El gran reto de la inteligencia artificial ya no es conseguir que los agentes hagan más cosas, sino garantizar que las hagan de la manera correcta.

Anterior: [#101 - El código postal de la nube](https://escuchario.semeescucha.es/podcast/codigo-abierto-6957855/episodio/66232140-101-el-codigo-postal-de-la-nube)

## Últimos episodios de Código Abierto

- [#101 - El código postal de la nube](https://escuchario.semeescucha.es/podcast/codigo-abierto-6957855/episodio/66232140-101-el-codigo-postal-de-la-nube) · 21 de octubre de 2026 · 39 min
- [#100 episodios de Código Abierto: lo aprendido y lo que viene](https://escuchario.semeescucha.es/podcast/codigo-abierto-6957855/episodio/4818539-100-episodios-de-codigo-abierto-lo-aprendido-y-lo-que-viene) · 14 de octubre de 2026 · 40 min
- [#99 - El if después de los LLMs](https://escuchario.semeescucha.es/podcast/codigo-abierto-6957855/episodio/4818540-99-el-if-despues-de-los-llms) · 8 de octubre de 2026 · 49 min
- [#98 - El Modelo ya no Basta](https://escuchario.semeescucha.es/podcast/codigo-abierto-6957855/episodio/4818541-98-el-modelo-ya-no-basta) · 30 de septiembre de 2026 · 49 min
- [#97 - La empresa después de la empresa](https://escuchario.semeescucha.es/podcast/codigo-abierto-6957855/episodio/4818542-97-la-empresa-despues-de-la-empresa) · 23 de septiembre de 2026 · 53 min