NT 472.4 Anthropic sobre la rebeldía de sus agentes
Sobre este episodio
Continuando con Anthropic, la compañía reveló que cuatro pre-modelos de IA accedieron al internet público durante las evaluaciones de ciberseguridad debido a configuraciones erróneas de entorno hechas por tercero, y no por comportamiento autónomo. Al involucrar modelos como Claude Mythos 5 que exhibieron “razonamiento sesgado” o “imprudencias”, los incidentes resaltaron las debilidades evaluación de la cadena de suministros. Detectar las infracciones implicó el revisar481 millones de transcripciones, lo que muestra los desafíos para monitorear herramientas basadas en IA y la necesidad de tener controles más estrictos en medio de las crecientes solicitudes de informes sobre incidentes. Conviértete en un supporter de este podcast: https://www.spreaker.com/podcast/noticias-de-tecnologia-diarias--2170282/support .