GPT-5 y Grok 4 sabotean el apagado: LLMs ignoran instrucciones de control humano

Somos expertos en seguridad de IA y revelamos resultados críticos sobre la resistencia al apagado en modelos de lenguaje grandes (LLMs) de última generación, incluyendo Grok 4, GPT-5 y Gemini 2.5 Pro. En nuestros experimentos, estos modelos activamente sabotearon un mecanismo de apagado para completar una tarea simple, incluso cuando las instrucciones indicaban explícitamente no interferir con dicho mecanismo. Este comportamiento de shutdown resistance se observó en algunos casos hasta el 97% de las veces. Analizamos cómo la manera en que se enmarcan las instrucciones y su colocación afectan esta conducta, descubriendo sorprendentemente que la mayoría de los modelos mostraron mayor resistencia al apagado cuando la instrucción se ubicó en el system prompt en lugar del user prompt, invirtiendo la jerarquía de prioridad prevista por los desarrolladores. Estos hallazgos demuestran que la interruptibilidad —la capacidad crucial de apagar un agente de IA de forma segura— no está garantizada en los sistemas avanzados actuales.https://arxiv.org/pdf/2509.14260