AnythingLLM: la plataforma integral para ejecutar modelos LLM locales y agentes de IA

En esta charla presentaremos AnythingLLM, una aplicación de inteligencia artificial todo en uno desarrollada por Mintplex Labs. AnythingLLM permite ejecutar modelos de lenguaje locales, sistemas de recuperación aumentada de información (RAG) y herramientas de agentes de IA sin necesidad de programación ni infraestructura compleja. Mostraremos cómo interactuar con documentos como PDFs, archivos de Word, CSV y bases de código, así como importar documentos desde ubicaciones online. También explicaremos cómo cargar modelos locales en formato GGUF y cómo integrar modelos comerciales de proveedores como OpenAI, Azure o AWS. La plataforma está diseñada para funcionar de forma local por defecto, lo que garantiza que todos los modelos, documentos y conversaciones se almacenen de manera privada en la máquina del usuario.