# ¡Cuidado! El razonamiento (CoT) daña tu precisión en seguridad y detección de alucinaciones

Episodio de [En la mente de la máquina](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina).

- Publicado: 31 de octubre de 2025
- Duración: 15 min
- Página: https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650425-cuidado-el-razonamiento-cot-dana-tu-precision-en-seguridad-y-deteccion-de

## Sobre este episodio

Descubre la sorprendente desventaja del razonamiento en los Modelos de Lenguaje Grandes (LLMs) para tareas de clasificación críticas, como la detección de seguridad del texto y la detección de alucinaciones en sistemas RAG. Aunque la generación asistida por razonamiento ("Think On") mejora la precisión general, bajo las estrictas exigencias de una Tasa de Falsos Positivos Baja (FPR bajo el 1%) necesarias para los despliegues prácticos, el rendimiento cae drásticamente. Esta caída ocurre porque el razonamiento polariza las puntuaciones de confianza, llevando a que las clasificaciones erróneas se realicen con "casi certeza", haciéndolas indistinguibles de las correctas bajo umbrales estrictos. Los expertos demuestran que la inferencia directa sin razonamiento ("Think Off") domina en estos regímenes sensibles a la precisión, logrando una recuperación de recall significativamente mayor (por ejemplo, una mejora de 2.9× en un clasificador de seguridad ajustado a 1% FPR). Además, el análisis confirma que la puntuación basada en tokens supera sustancialmente a la confianza auto-verbalizada para despliegues de precisión-sensible, y que un ensamble simple de los modos "Think On" y "Think Off" logra recuperar tanto la alta precisión como el recall práctico en bajo FPR.https://arxiv.org/pdf/2510.21049

Anterior: [HGM: La IA de codificación Auto-Mejorable que supera a Agentes humanos (GPT-5/SWE-bench)](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650428-hgm-la-ia-de-codificacion-auto-mejorable-que-supera-a-agentes-humanos-gpt-5-swe)
Siguiente: [Claude AI para finanzas: Excel, modelos DCF y datos en tiempo real. ¡Máxima productividad!](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/8650426-claude-ai-para-finanzas-excel-modelos-dcf-y-datos-en-tiempo-real-maxima)

## Últimos episodios de En la mente de la máquina

- [¡Google Presenta Gemini 4 Carbon! La IA Revolucionaria en Ciberseguridad y Código](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/147013300-google-presenta-gemini-4-carbon-la-ia-revolucionaria-en-ciberseguridad-y-codigo) · 29 de octubre de 2026 · 18 min
- [¿La IA Reemplazará a los Ingenieros? El Benchmark PLE de Google Revela la Verdad](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/147002129-la-ia-reemplazara-a-los-ingenieros-el-benchmark-ple-de-google-revela-la-verdad) · 28 de octubre de 2026 · 18 min
- [¡La Revolución de la IA! NCP-ArchPreview: Modelo Latente 2x Más Rápido](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/146978939-la-revolucion-de-la-ia-ncp-archpreview-modelo-latente-2x-mas-rapido) · 26 de octubre de 2026 · 29 min
- [¿Puede una IA Tener Conciencia Real? El Revelador Marco de Google DeepMind](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/146968013-puede-una-ia-tener-conciencia-real-el-revelador-marco-de-google-deepmind) · 25 de octubre de 2026 · 25 min
- [¿Las IA Sienten Dolor? Descubren el "Eje del Dolor" en LLMs y sus Perturbadores Efectos](https://escuchario.semeescucha.es/podcast/en-la-mente-de-la-maquina/episodio/145261392-las-ia-sienten-dolor-descubren-el-eje-del-dolor-en-llms-y-sus-perturbadores) · 24 de octubre de 2026 · 14 min