# Ep.2: Gobernanza y Seguridad de Agentes

Episodio de [Humanidad Aumentada](https://escuchario.semeescucha.es/podcast/humanidad-aumentada), de David Nogueras y Antonio Medina.

- Publicado: 19 de marzo de 2026
- Duración: 23 min
- Temporada 1, episodio 3
- Audio: https://anchor.fm/s/10fd62490/podcast/play/117139832/https%3A%2F%2Fd3ctxlq1ktw2nl.cloudfront.net%2Fstaging%2F2026-2-18%2F701d2b61-be48-c75b-cb72-4d0e51e1b6a2.mp3
- Página: https://escuchario.semeescucha.es/podcast/humanidad-aumentada/episodio/7196688-ep-2-gobernanza-y-seguridad-de-agentes

## Sobre este episodio

En este segundo episodio de "La Humanidad Aumentada", David Nogueras y Antonio Medina exploran los desafíos de gobernanza, seguridad y regulación de la IA generativa y los agentes inteligentes. Temas principales: 🔹 Caso Cloud Bot : Analizan el meteórico ascenso de esta aplicación de código abierto que pasó de cero a millones de usuarios en solo 5 días, superando récords históricos de Linux. Discuten los problemas de seguridad que surgieron, incluyendo cambios de marca forzados y malware en extensiones. 🔹 Riesgos de los agentes de IA : Más allá de las alucinaciones (que han disminuido significativamente), los verdaderos riesgos actuales incluyen: Control de acceso y credenciales Sesgos en el entrenamiento Tendencia a complacer al usuario Shadow AI (agentes no controlados en las organizaciones) 🔹 Casos reales problemáticos : Desde el chatbot de Air Canada que ofrecía reembolsos incorrectos, hasta sistemas de crédito con sesgo de género. 🔹 Regulación vs. Innovación : Debate sobre el enfoque regulatorio de la UE frente al modelo más liberal de Estados Unidos y Asia. ¿Estamos sacrificando innovación por seguridad o construyendo confianza a largo plazo? 🔹 Responsabilidad : ¿Quién tiene la culpa cuando un agente de IA comete un error? La importancia del rol de "AI Owner" y la responsabilidad compartida entre usuarios, empresas y desarrolladores de modelos. Conclusión : Los agentes de IA tienen el potencial de convertirse en empleados digitales, pero requieren gobernanza clara, supervisión humana y límites bien definidos para evitar riesgos operacionales, reputacionales y legales.

Anterior: [Ep. 1: ¡Comenzamos! La IA que ya está aquí](https://escuchario.semeescucha.es/podcast/humanidad-aumentada/episodio/7196689-ep-1-comenzamos-la-ia-que-ya-esta-aqui)
Siguiente: [Ep. 3: ¿Es posible que un agente sea un coworker? Verdades y Mitos](https://escuchario.semeescucha.es/podcast/humanidad-aumentada/episodio/7196687-ep-3-es-posible-que-un-agente-sea-un-coworker-verdades-y-mitos)

## Últimos episodios de Humanidad Aumentada

- [Ep. 7 - Magnificas Humanitas](https://escuchario.semeescucha.es/podcast/humanidad-aumentada/episodio/7196683-ep-7-magnificas-humanitas) · 1 de julio de 2026 · 30 min
- [Ep. 6 - Las skills en los Agentes, el nuevo paradigma](https://escuchario.semeescucha.es/podcast/humanidad-aumentada/episodio/7196684-ep-6-las-skills-en-los-agentes-el-nuevo-paradigma) · 2 de junio de 2026 · 24 min
- [Ep. 5: La IA en Admin Pública y Outsourcing](https://escuchario.semeescucha.es/podcast/humanidad-aumentada/episodio/7196685-ep-5-la-ia-en-admin-publica-y-outsourcing) · 19 de mayo de 2026 · 26 min
- [Ep. 4: RRHH y los Coworkers IA](https://escuchario.semeescucha.es/podcast/humanidad-aumentada/episodio/7196686-ep-4-rrhh-y-los-coworkers-ia) · 15 de abril de 2026 · 29 min
- [Ep. 3: ¿Es posible que un agente sea un coworker? Verdades y Mitos](https://escuchario.semeescucha.es/podcast/humanidad-aumentada/episodio/7196687-ep-3-es-posible-que-un-agente-sea-un-coworker-verdades-y-mitos) · 26 de marzo de 2026 · 34 min