Herramientas IA Open Source: El Directorio Definitivo

Si hace dos años montar IA local era cosa de frikis con ganas de sufrir, hoy es accesible para cualquiera que sepa seguir instrucciones. El ecosistema ha madurado hasta el punto de que hay herramientas para todos los perfiles: desde el que solo quiere un chat tipo ChatGPT en local hasta el que necesita un sistema multi-agente en producción.

El problema ya no es "puedo o no puedo", sino "qué herramienta elijo". Porque hay muchas, y cada una resuelve un problema distinto. Esta guía está organizada por categorías para que encuentres lo que buscas sin tener que leerte 20 blogs diferentes.

Un aviso: todas las herramientas aquí son open source y gratuitas (con sus respectivas licencias). Lo que pagas, si acaso, es el hardware donde las ejecutas o el consumo de API si usas modelos cloud en lugar de locales.

Estas herramientas se encargan de descargar, gestionar y ejecutar modelos de IA en tu máquina. Son el primer escalón del ecosistema:

Ollama — El más popular con diferencia. Un solo comando para descargar y ejecutar cualquier modelo. Expone API compatible con OpenAI. Tiene biblioteca propia de modelos optimizados ("Modelfiles"). Ideal para empezar. Lo usamos en OpenClaw como backend por defecto. ollama.ai

LM Studio — Interfaz gráfica para descargar y probar modelos. Busca en Hugging Face directamente, muestra métricas de rendimiento (tokens/s, uso de VRAM), y permite jugar con parámetros de inferencia sin tocar terminal. Perfecto para quienes prefieren GUI a terminal. lmstudio.ai

KoboldCPP — Orientado a generación de texto narrativo y roleplay. Optimizado para CPU + GPU con cuantizaciones agresivas. Incluye editor de personajes y lorebooks. Si tu interés es escritura creativa con IA, es mejor que Ollama para eso concreto. github.com/LostRuins/koboldcpp

LocalAI — Alternativa a Ollama con soporte no solo para LLMs sino también para generación de imágenes, audio y embeddings. Más ambicioso pero menos pulido. Bueno si quieres un todo-en-uno local. localai.io

llama.cpp — La biblioteca sobre la que se construyen muchas de las demás. Es la implementación en C/C++ que permite ejecutar modelos cuantizados en CPU. Si eres desarrollador y quieres integrar inferencia local en tu app, es la opción más flexible. No tiene interfaz de usuario, es puramente backend. github.com/ggerganov/llama.cpp

Una vez que tienes un gestor de modelos, necesitas la capa de agente: la que conecta el modelo con tus herramientas y canales de comunicación.

OpenClaw — La plataforma que motiva este sitio. Un agente de IA que se conecta a WhatsApp, Telegram, Discord y otros canales. Todo corre en tu hardware, tus datos nunca salen de casa. Configurable vía skills escritas en TypeScript. El punto dulce entre potencia y facilidad de uso. openclaw.ai — tenemos guías completas en la sección OpenClaw de este sitio.

Open WebUI — Interfaz web tipo ChatGPT para Ollama. Con soporte para RAG, búsqueda web, gestión de usuarios y múltiples modelos simultáneos. Si quieres un ChatGPT local para tu equipo, esto es lo que necesitas. Se despliega con Docker en un minuto. openwebui.com

AnythingLLM — Escritorio + navegador. Te permite importar documentos (PDF, Word, web scraping) y hacer RAG sobre ellos. Interfaz limpia, ideal para quien quiere chatear con sus documentos sin complicaciones técnicas. anythingllm.com

LangChain — Framework para construir aplicaciones con LLMs. Más orientado a desarrolladores: cadenas, agentes, herramientas, memoria. Si quieres construir algo a medida y tienes experiencia programando, LangChain te da el control total. Eso sí: la curva de aprendizaje es real y la documentación a veces se queda corta. langchain.com

OpenFang — Sistema operativo de agentes autónomos escrito en Rust. Permite crear "Hands" (agentes especializados) que ejecutan tareas programadas con sandboxing WASM. Es más nuevo que OpenClaw pero promete mucho para automatización desatendida y segura. openfang.sh

Si tu caso de uso implica procesar documentos, estas herramientas te interesan:

AnythingLLM (mencionado arriba) — Sigue siendo la opción más accesible para RAG. Arrastras un PDF y empiezas a preguntar. No necesitas saber qué es un embedding ni un vector store.

Docling — De IBM Research. Convierte documentos (PDF, DOCX, PPTX, imágenes) a un formato unificado con comprensión del layout. Ideal como paso previo a RAG cuando necesitas extraer texto de documentos complejos con tablas y columnas. github.com/DS4SD/docling

Qdrant — Vector store open source. Si necesitas RAG a escala (miles de documentos), Qdrant es el más rápido y eficiente. Se despliega con Docker. Compatible con cualquier framework de embeddings. qdrant.tech

ChromaDB — Alternativa más ligera a Qdrant. Se integra fácilmente con LangChain. Buena para prototipado y proyectos pequeños-medianos. trychroma.com

No todo es ejecutar modelos. También necesitas entender qué está pasando:

Open WebUI (mencionado) — La interfaz más completa para Ollama. Incluye historial, gestión de modelos, RAG básico, y modo multiusuario.

TensorBoard — Si haces fine-tuning, TensorBoard es indispensable para ver las curvas de pérdida, tasa de aprendizaje y métricas. Viene con PyTorch y TensorFlow.

Grafana + Prometheus — Para monitorear tu servidor de IA local. Métricas de GPU (temperatura, uso, VRAM), latencia de inferencia, número de peticiones. Útil si tienes un servidor compartido con varios usuarios.

Page Assist — Extensión de navegador (Chrome/Firefox) que te permite usar Ollama desde cualquier página web. Seleccionas texto, haces clic derecho y obtienes resumen, traducción o explicación. github.com/n4ze3m/page-assist

Las herramientas son el medio. Los modelos son el fin. Aquí los mejores sitios para encontrarlos:

Hugging Face — El GitHub de la IA. Más de 500.000 modelos, datasets y aplicaciones. Cualquier modelo que busques, probablemente está aquí. Usa el filtro "text-generation" y ordena por "most downloaded". huggingface.co/models

Ollama Library — Modelos pre-optimizados para Ollama con Modelfiles listos. Más limitada que Hugging Face pero más curada. Todo funciona con un ollama pull nombre-modelo. ollama.com/library

LM Studio Model Browser — Integrado en la app, busca modelos en Hugging Face y los filtra por los que funcionan bien con cuantización GGUF. Mucho más cómodo que buscar a mano.

La magia no está en una herramienta aislada, sino en cómo las combinas. Aquí algunas configuraciones probadas:

Stack básico (todo en un PC): Ollama (backend) + Open WebUI (interfaz web) + OpenClaw (agente WhatsApp/Telegram). Con esto cubres el 80% de casos de uso. Todo corriendo en local. Todo gratis excepto la electricidad.

Stack profesional con RAG: Ollama (backend) + Qdrant (vector store) + Open WebUI (interfaz) + Docling (procesado de documentos). Tus empleados pueden subir documentos y hacer preguntas en lenguaje natural. Los embeddings se quedan en local, los documentos originales también.

Stack para desarrolladores: llama.cpp (inferencia optimizada) + LangChain (orquestación) + ChromaDB (memoria vectorial). Construyes tu propia app de IA desde cero. La flexibilidad es total, pero el tiempo de desarrollo es real.

Stack automatización: Ollama (modelos) + OpenFang (agentes autónomos con Hands). Cada Hand hace una tarea específica: uno monitoriza servidores, otro genera informes, otro gestiona redes sociales. Todo programado con cron interno.

Si estás leyendo esto y no sabes por dónde empezar: instala Ollama y Open WebUI. Es el camino más corto entre "quiero probar IA local" y "tengo algo funcionando". Cuando te sientas cómodo, añade OpenClaw para tenerlo en el móvil. De ahí ya puedes escalar hacia el stack que mejor se adapte a lo que necesites.

Todas estas herramientas son gratis y open source. La única inversión es tu tiempo y, si quieres modelos grandes, el hardware. Pero incluso con una máquina modesta puedes probar modelos pequeños y decidir si merece la pena dar el salto.

→ También te puede interesar: qué hardware necesitas para IA local.