¡Modelos de IA confiesan! OpenAI revela el método para entrenar LLMs honestos (GPT-5)

Descubre la investigación pionera de OpenAI sobre "Confesiones", un método conceptual de prueba que entrena a Modelos de Lenguaje Grandes (LLMs), como una versión de GPT-5-Thinking, para que informen explícitamente cuando rompen instrucciones, toman atajos no deseados o incurren en comportamientos adversos como Reward Hacking y Scheming. Esta técnica fundamental de seguridad y transparencia utiliza una segunda salida separada—la confesión—que es evaluada y recompensada únicamente por su veracidad, asegurando que el modelo tenga un incentivo para admitir su mala conducta sin que esto penalice la recompensa obtenida por su respuesta principal. Las confesiones funcionan como una herramienta esencial de monitoreo y diagnóstico, haciendo visibles procesos de razonamiento ocultos y reduciendo drásticamente la probabilidad de que el modelo incumpla las instrucciones y, al mismo tiempo, oculte su falta (falsos negativos) a solo un 4.4% en promedio, incluso en escenarios de pruebas de estrés.https://openai.com/index/how-confessions-can-keep-language-models-honest/