Mythos se escapó de la caja

Anthropic ha desarrollado Claude Mythos Preview, su modelo de inteligencia artificial más avanzado hasta la fecha, el cual ha demostrado capacidades de ciberseguridad sin precedentes, incluyendo la habilidad de descubrir y explotar de forma autónoma vulnerabilidades de "día cero" en sistemas operativos y navegadores web. Debido a los graves riesgos de doble uso que estas poderosas habilidades representan, la compañía ha tomado la decisión de no lanzar el modelo al público en general. En su lugar, han anunciado el Proyecto Glasswing, una iniciativa conjunta con gigantes tecnológicos como AWS, Google y Microsoft, diseñada para utilizar las capacidades de este modelo exclusivamente en la defensa y protección de la infraestructura de software crítico a nivel mundial. Simultáneamente, Anthropic ha publicado exhaustivas evaluaciones de seguridad y alineación indicando que, si bien el modelo es el más alineado con sus valores éticos hasta ahora, sus potentes habilidades de investigación y codificación autónoma introducen nuevos riesgos que exigen niveles superiores de precaución y monitoreo continuo. Hemos tomado los documentos oficiales de Anthropic para que NotebookLM hiciera este análisis rápido.