LM1055 - IA en local (I)

### Palabras clave DevonThink, inteligencia artificial local, LM Studio, modelos de lenguaje, rendimiento, Windows, macOS, GPU, NPU, M4, Ryzen, Mistral, Gema, DipSix, tokens por segundo, memoria RAM, conexión por red, JSON, automatización, resumen de documentos. ### Resumen del contenido El texto detalla una serie de pruebas realizadas con inteligencia artificial local para integrarlas con DevonThink. Se describen diferentes modelos de lenguaje (como Gema 27B, Mistral 24B y DipSix 14B y 32B) ejecutados en equipos con distintas configuraciones: un Mac M4 y un PC con procesador Ryzen y 64 GB de RAM. Se destaca que el rendimiento del M4 es superior al del Ryzen debido a la optimización del uso de la GPU en macOS. Sin embargo, la NPU de macOS está reservada para funciones exclusivas de Apple. En cuanto al rendimiento de los modelos: - DipSix 14B se considera el más óptimo por su equilibrio entre uso de memoria (9 GB) y generación rápida de tokens. - Los resultados varían según el sistema operativo y la configuración del hardware; los modelos más grandes generan respuestas más completas pero requieren más recursos. Se menciona que DevonThink puede conectarse a estos modelos mediante servidores locales usando protocolos como JSON para automatizar tareas como resumir documentos PDF o páginas web. Aunque los resúmenes generados son generalmente buenos, algunos modelos más pequeños tienden a inventar datos. Finalmente, se exploran opciones de integración con servicios en la nube como Claude y Perplexity AI para ampliar las capacidades de DevonThink. La intención es optimizar el uso de inteligencia artificial local y decidir entre seguir pagando servicios externos o depender completamente de soluciones locales. --- Respuesta de Perplexity: pplx.ai/share (dejado a propósito)