Ollama, llama.cpp o LM Studio: cuál usar para tu IA local en 2026

Si quieres probar un modelo en tu ordenador en cinco minutos, usa Ollama. Si prefieres una aplicación con ventanas, LM Studio. Si quieres control total sobre la memoria, la cuantización y los hilos, o vas a montarlo en un servidor sin GPU, llama.cpp. vLLM solo merece la pena cuando hay muchos usuarios a la vez y una GPU seria, y Open WebUI no ejecuta modelos: es la interfaz tipo ChatGPT que pones delante de cualquiera de los anteriores.

Esa es la respuesta corta. Abajo tienes por qué, con las versiones vigentes a 17 de octubre de 2026, los comandos exactos y lo que nos encontramos al poner llama.cpp a trabajar en nuestra VPS sin tarjeta gráfica. Las tres herramientas cambiaron bastante este año: si lees guías de 2025, varias cosas ya no son así.

Qué es cada uno y cómo se relacionan#

Las tres herramientas principales no compiten del todo, porque están en capas distintas:

• llama.cpp es el motor. Una librería en C/C++ (sobre la librería de tensores ggml) que carga modelos en formato GGUF y los ejecuta en CPU, en GPU NVIDIA (CUDA), AMD (ROCm, Vulkan), Intel (SYCL) o Apple (Metal). Trae sus propios programas: llama-cli para chatear en la terminal, llama-server para servir una API y llama-bench para medir.
• Ollama es un envoltorio que esconde todo eso. Descargas con ollama pull, ejecutas con ollama run y tienes una API en el puerto 11434. Al principio usaba llama.cpp por dentro; desde mayo de 2025 tiene un motor propio sobre ggml y, en los Mac con Apple Silicon, desde la versión 0.40 usa por defecto MLX, la librería de Apple, cuando el modelo lo admite.
• LM Studio es una aplicación de escritorio con interfaz gráfica: buscas el modelo, lo descargas, ajustas cuántas capas van a la GPU con un deslizador y chateas. Por dentro usa llama.cpp y, en Mac, también MLX. Tiene un modo sin ventanas (lms server start) para usarlo como servidor.

Y dos más que salen siempre en la conversación:

• vLLM es un servidor de inferencia para producción: atiende a muchas personas a la vez gracias a PagedAttention y al agrupado continuo de peticiones. Pide Linux y GPU, y trabaja con los pesos originales de Hugging Face, no con GGUF.
• Open WebUI es una interfaz web. Se conecta a Ollama o a cualquier API compatible con OpenAI y te da usuarios, historial, documentos y una experiencia parecida a ChatGPT.

Desliza para ver la figura completa

La consecuencia práctica: con el mismo fichero GGUF y los mismos ajustes, Ollama, LM Studio y llama.cpp rinden parecido en Windows y Linux, porque al final el trabajo pesado lo hace ggml. Las diferencias que notarás vienen sobre todo de los valores por defecto (contexto, capas en GPU, cuantización que se descarga), no del motor.

La comparativa en una tabla#

Dos detalles de esta tabla que pillan a mucha gente:

• El puerto de llama-server ya no es el 8080. La documentación actual del servidor indica 9931 por defecto; el 8080 solo aparece en los ejemplos de Docker, donde se fija a mano. Pasa siempre --port y te ahorras la duda.
• Las cuatro herramientas que ejecutan modelos hablan ya el formato de Anthropic (/v1/messages), además del de OpenAI. Eso significa que puedes apuntar Claude Code a un modelo local sin proxies intermedios; lo vemos más abajo.

Instalar y ejecutar el primer modelo#

Ollama#

En Windows y macOS se instala con el instalador de su web; en Linux, con su script. Luego:

ollama pull gemma4        # descarga el modelo
ollama run gemma4         # chat en la terminal
ollama ps                 # qué modelos están cargados y cuánta memoria usan
ollama stop gemma4        # libera la memoria
ollama ls                 # modelos descargados

La API queda en http://localhost:11434. El nombre gemma4 sin más elige el tamaño y la cuantización que Ollama considera por defecto; si quieres uno concreto, la página del modelo en ollama.com lista las etiquetas.

llama.cpp#

Hay paquetes en winget (winget install llama.cpp) y Homebrew (brew install llama.cpp), y binarios ya compilados en la página de versiones de GitHub para cada combinación de sistema y aceleración (CPU, CUDA, Vulkan, Metal…). Nosotros, en la VPS con Windows Server 2022 y sin GPU, descargamos el zip de CPU x64 de la build b11714 y lo descomprimimos. Sin instalar nada más:

# medir velocidad de procesado del prompt (pp) y de generación (tg) con 3 hilos
llama-bench -m Llama-3.2-3B-Instruct-Q4_K_M.gguf -t 3 -p 512 -n 128 -r 3

# una pregunta y salir, sin el modo de razonamiento
llama-cli -m modelo.gguf -t 3 -c 4096 -st -rea off -p "Tu pregunta"

# servidor con API compatible con OpenAI y Anthropic
llama-server -m modelo.gguf -c 8192 --port 8080 --jinja

--jinja hace falta para que el servidor entienda llamadas a herramientas. La versión reciente también trae un comando único, llama, que descarga desde Hugging Face y ejecuta: llama serve -hf ggml-org/Qwen3.5-0.8B-GGUF.

LM Studio#

Instalador para Windows, macOS (solo Apple Silicon) y Linux. Todo se puede hacer con ratón, pero la CLI lms es lo que lo convierte en algo automatizable:

lms get nombre-del-modelo                  # busca y descarga
lms ls                                     # modelos descargados
lms load nombre-del-modelo --gpu=max --context-length=16384
lms server start                           # API en http://localhost:1234
lms ps                                     # qué hay cargado

vLLM#

uv pip install vllm --torch-backend=auto
vllm serve Qwen/Qwen3.5-9B                 # API en http://localhost:8000/v1

Open WebUI#

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway \
  -v open-webui:/app/backend/data --name open-webui --restart always \
  ghcr.io/open-webui/open-webui:main

Abres http://localhost:3000, creas la cuenta de administrador y conectas Ollama o cualquier API compatible con OpenAI.

Rendimiento: dónde está de verdad la diferencia#

No hemos podido medir Ollama y LM Studio en la misma máquina: nuestra VPS de pruebas tenía entre 1,4 y 8 GB libres en disco según el momento y solo cabía un modelo cada vez, así que solo ejecutamos llama.cpp. Lo que sí podemos decirte, con la documentación en la mano, es dónde se van los tokens por segundo cuando cambias de herramienta:

1. Contexto. Cuanto más contexto reservas, más memoria se come la caché KV. Ollama ha tenido históricamente un contexto por defecto corto (Aider avisa de que descarta en silencio lo que no cabe), y para programar su propia guía de Claude Code recomienda 64.000 tokens o más. Revisa el parámetro num_ctx en Ollama, --context-length en LM Studio y -c en llama.cpp antes de comparar nada.
2. Capas en la GPU. Si el modelo no cabe entero en la VRAM, una parte va a la RAM y la velocidad cae en picado. LM Studio te lo enseña con un deslizador; llama.cpp lo controla con -ngl y, para modelos MoE, con --n-cpu-moe, que deja los expertos en la RAM y el resto en la GPU. Ollama lo decide solo.
3. Cuantización. ollama pull modelo y la búsqueda de LM Studio pueden darte cuantizaciones distintas del mismo modelo. Un Q4_K_M y un Q8_0 no se comparan.
4. Mac. Aquí sí hay diferencia de motor: Ollama 0.40 y LM Studio pueden usar MLX, y llama.cpp usa Metal. Para un Mac con Apple Silicon conviene probar las dos vías con tu modelo.

Para que te hagas una idea del orden de magnitud sin GPU: en nuestra VPS (3 hilos de un Ryzen 9 5900X), llama.cpp genera con Llama 3.2 3B en Q4_K_M a 8,94 tokens por segundo según llama-bench, y procesa el prompt a 41,16. Con Qwen3.5 0.8B la generación sube a 24,9, y con Qwen3.5 4B baja a 6,7. El detalle de esas pruebas está en nuestro artículo sobre qué IA local corre en una VPS sin GPU.

Conectarlo a tus herramientas de programación#

Como las cuatro hablan el formato de Anthropic, Claude Code puede usar un modelo local. Con Ollama hay un atajo:

ollama launch claude --model qwen3.5

O a mano, con variables de entorno:

export ANTHROPIC_BASE_URL=http://localhost:11434   # 1234 para LM Studio
export ANTHROPIC_AUTH_TOKEN=ollama
export ANTHROPIC_API_KEY=""
claude --model qwen3.5

Funciona, pero no esperes la experiencia de Claude: Claude Code está pensado para modelos que manejan bien contextos largos y muchas llamadas a herramientas seguidas, y un modelo de 9.000 millones de parámetros en tu portátil no da para eso. Para tareas cortas sí sirve. Si no conoces la herramienta, empieza por nuestra guía de Claude Code.

Otras opciones que se conectan igual: Continue (proveedor ollama), Cline (proveedores Ollama y LM Studio; su guía sugiere entre 32 y 64 GB de RAM para modelos medianos de código) y Aider (aider --model ollama_chat/modelo).

Licencias: qué puedes hacer en una empresa#

• Ollama, llama.cpp y la CLI de LM Studio son MIT: sin restricciones prácticas.
• La aplicación de LM Studio es propietaria, pero desde el 8 de julio de 2025 es gratis también para uso en el trabajo.
• vLLM es Apache 2.0.
• Open WebUI ya no es BSD puro. Su licencia añade una cláusula de marca: no puedes quitar ni cambiar el nombre y el logotipo de Open WebUI salvo que tengas 50 usuarios o menos en cualquier periodo de 30 días, permiso por escrito o licencia empresarial. Para uso interno de un equipo pequeño no cambia nada; para revenderlo con tu marca, sí.

Ojo: la licencia de la herramienta no es la del modelo. Gemma 4, Qwen3.5 y gpt-oss son Apache 2.0, pero otros modelos tienen límites de uso comercial. Lo repasamos en los mejores modelos de IA local por tipo de equipo.

Cuándo pasar a vLLM u Open WebUI#

vLLM tiene sentido cuando sirves un modelo a varias personas o procesos a la vez desde un servidor Linux con GPU. Ahí su gestión de la memoria y el agrupado de peticiones le dan mucho más rendimiento total que llama.cpp. Para una persona en un portátil no aporta nada y su instalación es más delicada.

Open WebUI tiene sentido cuando quieres que otras personas usen el modelo sin tocar la terminal: cada una con su cuenta, su historial y la posibilidad de subir documentos. Lo normal es Open WebUI delante de Ollama en la misma máquina o en un servidor de la oficina.

Qué elegir según tu caso#

Nuestra elección para el blog fue llama.cpp, por una razón concreta: necesitábamos medir en una máquina sin GPU, con poco disco, sin instalar servicios y con números reproducibles. Para uso diario en un ordenador personal, la mayoría estará más cómoda con Ollama.

Qué hacer ahora#

1. Mira cuánta memoria tienes (RAM, y VRAM si hay GPU). Eso decide el modelo, no la herramienta.
2. Instala Ollama o LM Studio y prueba un modelo pequeño: Gemma 4 E4B o Qwen3.5 4B.
3. Si te quedas corto de velocidad, revisa contexto, capas en GPU y cuantización antes de cambiar de herramienta.
4. Elige modelo con nuestra guía de los mejores modelos de IA local según tu equipo.
5. Si vas a usarlo para programar, compara antes con lo que te da Claude: lo contamos en modelos locales para programar frente a Claude.