¡ALERTA CIBERSEGURIDAD! Ataque oculto explota compresión de prompts en agentes LLM

Este podcast revela CompressionAttack, el primer estudio sistemático que identifica y explota el módulo de compresión de prompts como una nueva superficie de ataque crítica en los agentes LLM. La compresión se utiliza ampliamente para mejorar la eficiencia y reducir los altos costos de inferencia asociados con contextos largos, pero estos módulos de compresión a menudo carecen de la robusta alineación de seguridad aplicada en los LLM, haciéndolos vulnerables a la manipulación adversaria. Presentamos dos estrategias de ataque complementarias: HardCom (dirigida a la compresión hard como LLMLingua) y SoftCom (dirigida a la compresión soft como ICAE y AutoCompressors), las cuales han demostrado una efectividad alarmante, alcanzando hasta un 80% de tasa de éxito (ASR) en tareas de Preguntas y Respuestas y un 98% de reversión de preferencia (PFR), todo mientras mantienen una alta furtividad con una puntuación de similitud de 0.98. Descubra cómo los atacantes pueden inyectar ediciones sutiles y casi imperceptibles en contenido no confiable (como páginas web o descripciones de herramientas) para alterar sigilosamente la semántica del prompt comprimido, comprometiendo el comportamiento posterior del LLM en escenarios reales como la selección de herramientas MCP en VSCode Cline y la Optimización de Motores Generativos (GEO) en frameworks ligeros como Ollama y LangChain. Finalmente, exploramos por qué las defensas existentes (basadas en perplejidad y asistidas por LLM) son inadecuadas contra CompressionAttack.https://arxiv.org/pdf/2510.22963