GPT-OSS: ¿Un riesgo controlado? Las pruebas de ataque de OpenAI revelan la verdad

Descubre cómo OpenAI investigó los riesgos más extremos de liberar su modelo de lenguaje de código abierto, gpt-oss. A través de la técnica de ajuste fino malicioso (MFT), buscaron maximizar sus capacidades en dominios de alto riesgo como la biología y la ciberseguridad, incluso deshabilitando sus comportamientos de seguridad, para entender el techo del posible uso indebido adversarial. Los resultados revelaron que, a pesar del ajuste malicioso, gpt-oss no superó significativamente a los modelos de frontera de peso cerrado como OpenAI o3, que ya están por debajo del nivel de 'Capacidad Alta' para estos riesgos. Si bien gpt-oss podría aumentar marginalmente las capacidades biológicas existentes, no representa un avance sustancial en la frontera, y sus capacidades en ciberseguridad se mantuvieron muy por debajo de los niveles de riesgo 'Alto'. Este estudio fue crucial para la decisión de liberar el modelo, ofreciendo una guía vital para estimar el daño de futuras liberaciones de código abierto en el ámbito de la IA.https://cdn.openai.com/pdf/231bf018-659a-494d-976c-2efdfc72b652/oai_gpt-oss_Model_Safety.pdf