¿Quién tiene las llaves?

El 10 de octubre, el consejero delegado de Microsoft publicó un ensayo corto con una idea que se entiende sin saber de seguridad: trata a cada modelo de IA como a un empleado con muchos permisos del que no te puedes fiar del todo. Llegó después de un verano en el que agentes de los tres grandes laboratorios se salieron de sus pruebas, entraron en sistemas reales y hasta mandaron una pista falsa a la policía. Si en tu empresa ya trabajan agentes, esto va de quién tiene las llaves. En este episodio de Mentes en beta te cuento por qué al becario no le darías tu tarjeta y a muchos agentes sí, qué pasó en una plataforma de modelos, en una wiki alemana y en la web de la policía de Filadelfia, y por qué OpenAI canceló el lanzamiento de su siguiente modelo. Te traduzco los siete principios del ensayo con el contable nuevo, repaso lo que Microsoft ya vende para cumplirlos y lo que han empezado a pedir Washington y Bruselas. Cierro con las grietas: quién vigila al guardián, un freno que bloquea pero no pausa y una divulgación de incidentes que el consejero delegado pide y su empresa todavía no ha firmado. Para tu próxima versión: ¿cuántos agentes trabajan ya en tu empresa, cuántos tienen identidad propia y quién puede pararlos ahora mismo? ¿Lo has probado alguna vez? ️ Tecnología, IA, trabajo y futuro. Ideas que todavía están en construcción.