Comparativa IA local
Los mejores modelos de IA local en 2026 según tu equipo
Qué modelo de IA local elegir según tu RAM, GPU o Mac: Qwen3.5 y 3.6, Gemma 4, gpt-oss, Mistral y Muse, con memoria necesaria, velocidad y licencia.
Probado el 17 de octubre de 2026 en llama.cpp b11714 (CPU x64) · Windows Server 2022, Ryzen 9 5900X con 3 vCPU, 12 GB, sin GPU. Medimos nosotros los modelos pequeños (0,8B a 4B) en una VPS sin GPU. Las recomendaciones para GPU y Mac se basan en las fichas oficiales y en mediciones publicadas, citadas en cada caso. Cómo probamos
En este artículo
El modelo de IA local que te conviene lo decide la memoria de tu equipo, no la lista de moda. En octubre de 2026, con 8 GB de RAM y sin GPU, lo sensato es Qwen3.5 4B o Gemma 4 E2B, que hemos medido nosotros. Con una GPU de 12-16 GB, gpt-oss-20b. Con 24 GB de VRAM o un Mac de 32 GB, Qwen3.6-27B (o el nuevo Qwen3.8-27B) y Gemma 4 31B. Y con 128 GB de memoria unificada, gpt-oss-120b. Todos tienen licencia Apache 2.0: puedes usarlos en tu empresa sin pedir permiso a nadie.
Abajo tienes el porqué, una tabla por tipo de equipo, lo que medimos nosotros en una VPS sin GPU y qué hay en voz e imagen. Los datos son a 17 de octubre de 2026: en IA local, una guía de hace seis meses ya recomienda modelos superados.
La respuesta corta, por tipo de equipo
| Tu equipo | Modelo recomendado | Alternativa | Qué esperar |
|---|---|---|---|
| Portátil o VPS con 8 GB, sin GPU | Qwen3.5 4B | Gemma 4 E2B o E4B | Resúmenes, clasificar, borradores; 6,7-11,8 t/s medidos con 3 vCPU |
| 16 GB de RAM, sin GPU dedicada | Qwen3.5 9B | Gemma 4 E4B | Charla y redacción decentes, lento en CPU |
| GPU de 8 GB (RTX 4060 y similares) | Qwen3.5 9B | gpt-oss-20b con parte en RAM | Rápido con el 9B |
| GPU de 12-16 GB (RTX 3060 12 GB, 4060 Ti 16 GB) | gpt-oss-20b | Ministral 3 14B | Buen generalista; 67 t/s medidos en una RTX 3060 |
| GPU de 24 GB (RTX 3090, 4090) | Qwen3.6-27B o Qwen3.8-27B | Gemma 4 31B, Muse Glimmer-30B | Lo mejor que cabe en casa; bueno para programar |
| Mac con 32-64 GB | Qwen3.6-27B | Gemma 4 31B, Qwen3.6-35B-A3B | Como la GPU de 24 GB, con más margen de contexto |
| GPU de 12 GB + 64 GB de RAM | gpt-oss-120b repartido | Qwen3.6-35B-A3B | 25-28 t/s medidos con una RTX 4070 |
| 128 GB unificados (Mac Studio, Strix Halo, DGX Spark) | gpt-oss-120b | Mistral Small 4, Qwen3.5-122B-A10B | gpt-oss-120b a 60,6 t/s (DGX Spark) y 79,7 (Mac M2 Ultra) |
Las memorias y velocidades están detalladas y con fuente más abajo. Si tu equipo es una VPS sin GPU, tenemos un artículo entero con mediciones propias.
Lo que decide: memoria, cuantización y tipo de modelo
La memoria manda
Un modelo tiene que caber entero en memoria para ir a una velocidad razonable: en la VRAM de la GPU, en la memoria unificada de un Mac o, si no hay GPU, en la RAM. La cuenta aproximada es:
memoria necesaria ≈ tamaño del fichero del modelo + caché KV del contexto + 1-2 GB de margen
La caché KV es lo que el modelo guarda de la conversación y crece con el contexto. Según Hugging Face, en Llama 3.1 8B ocupa 0,125 GB con 1.000 tokens, casi 2 GB con 16.000 y más de 15 GB con 128.000, tanto como el propio modelo. Que un modelo «admita 256.000 tokens» no significa que tu equipo pueda usarlos.
La cuantización: Q4_K_M como punto de partida
Los modelos se publican con números de 16 bits por parámetro. Cuantizar es guardarlos con menos bits: ocupan menos y van más rápido, a cambio de algo de precisión. La tabla oficial de llama.cpp con Llama 3 8B lo cuantifica:
| Cuantización | Tamaño (Llama 3 8B) | Pérdida de perplejidad frente al original | Acierta el mismo token que el original |
|---|---|---|---|
| F16 (sin cuantizar) | 14,97 GiB | — | — |
| Q8_0 | 7,96 GiB | Prácticamente nula | 97,7 % |
| Q6_K | 6,14 GiB | +0,3 % | 96,0 % |
| Q5_K_M | 5,33 GiB | +0,9 % | — |
| Q4_K_M | 4,58 GiB | +2,8 % | 91,9 % |
| Q3_K_M | 3,74 GiB | +10,5 % | — |
| IQ2_M | 2,74 GiB | +38 % | — |
Q4_K_M es el equilibrio habitual: menos de un tercio del tamaño y una pérdida pequeña. Por debajo de 4 bits la calidad cae deprisa. Si te sobra memoria, Q5_K_M o Q6_K; si te falta, mejor un modelo más pequeño en Q4 que uno grande en Q2.
Como referencia de tamaños en Q4_K_M: un modelo de 8B ocupa unos 4,9 GB, uno de 14B unos 9 GB, uno de 32B unos 19,8 GB y uno de 70B unos 42,5 GB.
Densos y MoE
- Un modelo denso usa todos sus parámetros en cada token. Qwen3.6-27B o Gemma 4 31B son densos.
- Un modelo de mezcla de expertos (MoE) solo activa una parte. Gemma 4 26B-A4B activa 3.800 millones de sus 26.000; gpt-oss-20b, 3.600 millones de 21.000; gpt-oss-120b, 5.100 millones de 117.000.
La memoria tiene que caber entera, pero la velocidad se parece a la de un modelo del tamaño de la parte activa. Por eso los MoE son la mejor opción cuando tienes mucha RAM y poca o ninguna GPU: llama.cpp puede dejar los expertos en la RAM y el resto en la GPU con --n-cpu-moe. Así, una RTX 4070 de 12 GB con 64 GB de DDR5 mueve gpt-oss-120b a 25-28 tokens por segundo, según las pruebas publicadas por carteakey.
Las familias que importan en octubre de 2026
| Familia | Tamaños útiles en local | Licencia | Fuerte en |
|---|---|---|---|
| Qwen3.5 (Alibaba, feb-mar 2026) | 0.8B, 2B, 4B, 9B, 27B, 35B-A3B | Apache 2.0 | Todo terreno, 201 idiomas, visión incluida |
| Qwen3.6 (abril 2026) | 27B, 35B-A3B | Apache 2.0 | Programación (77,2 % en SWE-bench Verified el 27B) |
| Qwen3.8 (agosto 2026) | 27B | Apache 2.0 | El más reciente; razonamiento y código |
| Gemma 4 (Google, abril 2026) | E2B, E4B, 26B-A4B, 31B | Apache 2.0 (la primera Gemma con esta licencia) | Calidad por tamaño; E2B y E4B entienden audio |
| gpt-oss (OpenAI, agosto 2025) | 20b, 120b (MoE) | Apache 2.0 | Razonamiento y herramientas; cuantización MXFP4 nativa |
| Mistral | Ministral 3 (3B, 8B, 14B), Devstral Small 2 (24B), Small 4 (119B-A6,5B) | Apache 2.0 | Europeo, buen multilingüe; Devstral para código |
| Muse (Meta, agosto 2026) | Glimmer-30B | Apache 2.0 | El relevo abierto de Llama; 76 % en SWE-bench Verified |
| Granite 4.1 (IBM, abril 2026) | 3B, 8B, 30B | Apache 2.0 | Empresa, contexto de 512.000 tokens |
| Phi-4 (Microsoft) | mini 3,8B, 14B, reasoning-vision 15B | MIT | Pequeños y razonadores; no hay Phi-5 |
| Llama 3.x y 4 (Meta) | 3B, 8B, 70B | Llama Community License | Muy usados, pero ya superados por tamaño |
Dos avisos sobre licencias:
- Llama no es Apache. Su licencia impone condiciones (entre ellas, pedir permiso a Meta por encima de 700 millones de usuarios activos al mes). Meta ha pasado a la marca Muse, y Muse Glimmer-30B sí es Apache 2.0.
- «Abierto» no siempre es comercial. MiniMax M2.7 prohíbe el uso comercial y Kimi K3 tiene condiciones de marca e ingresos. Antes de meter un modelo en un producto, lee su licencia, no la del programa que lo ejecuta.
Llama 3.1 sigue siendo el modelo más descargado de la biblioteca de Ollama, con 120,4 millones de descargas, frente a 27,2 millones de Gemma 4 y 22,6 de Qwen3.5. Es popularidad acumulada, no calidad actual: hoy, a igual tamaño, cualquiera de los nuevos le gana.
Recomendaciones por tipo de equipo
Portátil o VPS con 8 GB y sin GPU
Modelos de 2 a 4.000 millones de parámetros en Q4_K_M. Qwen3.5 4B (2,74 GB de fichero) es nuestra primera opción para redactar y explicar; Gemma 4 E2B (3,11 GB), la más equilibrada, y Gemma 4 E4B, la alternativa si te sobra algo de memoria. Úsalos para resumir, clasificar, extraer datos o redactar borradores que vas a revisar. No esperes que razonen bien ni que programen sin supervisión.
Medimos seis en una VPS con 3 vCPU de un Ryzen 9 5900X, solo CPU, con llama.cpp:
| Modelo (Q4_K_M) | Fichero | Generación | Prompt | Lo que hizo bien y mal |
|---|---|---|---|---|
| Qwen3.5 0.8B | 0,53 GB | 24,9 t/s | 191,5 t/s | Rápido, pero explicó mal un concepto básico |
| Qwen3.5 2B | 1,28 GB | 13,5 t/s | 69,1 t/s | Explicación correcta; código con dos errores |
| Gemma 4 E2B | 3,11 GB | 9,0 t/s (11-12 en uso real) | 54,1 t/s | Explicación correcta; el único con el código bien |
| Llama 3.2 3B | 2,02 GB | 8,9 t/s | 41,2 t/s | Explicación vaga |
| Ministral 3 3B | 2,15 GB | 8,0 t/s | 35,5 t/s | Un error en la explicación; código que funciona |
| Qwen3.5 4B | 2,74 GB | 6,7 t/s | 34,2 t/s | La mejor explicación; un fallo en el código |
Por debajo de 2B, la calidad no da para casi nada: el Qwen3.5 0.8B nos explicó que la cuantización «reduce la cantidad de palabras que puede generar» el modelo, lo cual es falso. Y ojo con los nombres: Gemma 4 E2B tiene 4.650 millones de parámetros en total (la «E» es de «efectivos») y ocupa más que Qwen3.5 4B. El detalle de las pruebas está en lo que corre en una VPS sin GPU.
16 GB de RAM sin GPU dedicada
Qwen3.5 9B es el salto de calidad: según Qwen, 82,5 en MMLU-Pro. No lo pudimos medir, pero por tamaño irá en CPU bastante más lento que los de 3 y 4B de nuestra tabla. gpt-oss-20b necesita 14,9 GB con 8.000 tokens de contexto según llama.cpp: en un equipo de 16 GB con el sistema operativo y el navegador abiertos, no cabe con holgura.
GPU de 8 a 16 GB
- 8 GB (RTX 4060, 3060 Ti): Qwen3.5 9B entero en la GPU. Para algo mayor, gpt-oss-20b con parte de los expertos en RAM.
- 12 GB (RTX 3060 12 GB, 4070): gpt-oss-20b. En los resultados de llama.cpp, una RTX 3060 de 12 GB lo mueve a 67 tokens por segundo con 16.000 tokens de contexto, con una parte en la RAM. Ministral 3 14B (unos 9 GB en Q4) cabe entero.
- 16 GB (RTX 4060 Ti 16 GB, 5060 Ti): gpt-oss-20b entero, o Devstral Small 2 si lo quieres para código.
GPU de 24 GB (RTX 3090, 4090)
El punto óptimo de la IA local en casa. Caben los densos de 27-31B en Q4:
- Qwen3.6-27B (unos 18 GB): el mejor para programar de los que caben, con un 77,2 % en SWE-bench Verified según Qwen.
- Qwen3.8-27B: el más nuevo, de agosto; Qwen publica 90,3 en LiveCodeBench v6 y 89,2 en GPQA.
- Gemma 4 31B: 85,2 en MMLU-Pro. Artificial Analysis le da 39 puntos en su índice de inteligencia, frente a 31 del Gemma 4 26B-A4B.
- Muse Glimmer-30B (unos 17 GB en 4 bits).
Con 24 GB y un modelo de 18 GB te quedan unos 5 GB para la caché KV: suficiente para conversaciones, justo para trabajar con repositorios enteros. Lo comparamos con Claude en modelos locales para programar frente a Claude.
Mac con Apple Silicon
La memoria unificada hace que un Mac cargue modelos que en un PC necesitarían una GPU cara. La velocidad depende del ancho de banda del chip: en las pruebas de llama.cpp con un modelo de 7B en Q4, un M4 básico genera 24,1 tokens por segundo, un M4 Pro 50,7, un M4 Max 83,1 y un M5 Max 119,9.
- 16 GB: Qwen3.5 9B o Gemma 4 E4B. No toda la memoria está disponible para el modelo.
- 32-64 GB: Qwen3.6-27B, Gemma 4 31B o Qwen3.6-35B-A3B, con margen para contexto.
- 96-128 GB: gpt-oss-120b. En las pruebas de llama.cpp, un M2 Ultra lo mueve a 79,7 tokens por segundo (y un M4 Max, el gpt-oss-20b a 92,4).
En Mac, Ollama (desde la versión 0.40) y LM Studio pueden usar MLX, la librería de Apple, y llama.cpp usa Metal: conviene probar las dos vías. Lo contamos en Ollama, llama.cpp o LM Studio.
128 GB de memoria: Strix Halo y DGX Spark
Los mini PC con AMD Ryzen AI Max+ 395 (hasta 128 GB de memoria unificada) y el NVIDIA DGX Spark (128 GB) están pensados para esto. En las pruebas de llama.cpp, el DGX Spark genera con gpt-oss-120b a 60,6 tokens por segundo. Aquí caben también Mistral Small 4 (119.000 millones, 6.500 millones activos) y Qwen3.5-122B-A10B.
Cómo leer los benchmarks sin engañarte
- Las cifras de las fichas las pone cada fabricante, con su propio método. Sirven para comparar modelos de la misma familia, pero no tanto entre familias.
- Artificial Analysis mide todos los modelos con el mismo método. Su índice es lo más parecido a una comparación justa. Gemma 4, por ejemplo: 31B, 39 puntos; 26B-A4B, 31; E4B, 19; E2B, 15.
- Tu tarea es el mejor benchmark. Diez ejemplos reales de lo que vas a hacer dicen más que cualquier tabla.
Visión, voz e imagen en local
Visión. Qwen3.5 y 3.6 entienden imágenes de serie, igual que toda la familia Gemma 4. Si te falta memoria, MiniCPM-V 4.6 tiene solo 1.300 millones de parámetros y licencia Apache 2.0.
Voz a texto.
- Whisper large-v3-turbo (809 millones de parámetros, MIT) con whisper.cpp o faster-whisper sigue siendo la opción por defecto. El modelo grande pide unos 3,9 GB de RAM en whisper.cpp.
- Para español, NVIDIA Parakeet-TDT-0.6B-v3 marca un 3,45 % de error por palabra en FLEURS, con licencia CC-BY-4.0.
- Cohere Transcribe (2.000 millones, Apache 2.0) también admite español.
Texto a voz.
- Piper funciona en una Raspberry Pi y tiene voces en español. Hoy su licencia es GPL-3.0.
- Qwen3-TTS (Apache 2.0, 10 idiomas, clona una voz con 3 segundos de audio) y VoxCPM2 (Apache 2.0, 30 idiomas) son lo más nuevo.
- Cuidado con XTTS-v2: su licencia solo permite uso no comercial.
Imagen. Aquí sí hace falta GPU.
- FLUX.1 [schnell] es Apache 2.0.
- FLUX.2 [klein] 4B (Apache 2.0) pide unos 13 GB de VRAM.
- Stable Diffusion 3.5 Medium necesita 9,9 GB sin contar los codificadores de texto, y su licencia es gratis por debajo de un millón de dólares de ingresos al año.
- Para ejecutarlos, una opción es ComfyUI, de código abierto (GPL-3.0).
Qué hacer ahora
- Mira cuánta memoria tienes: VRAM de la GPU, memoria unificada del Mac o RAM libre.
- Elige en la tabla del principio el modelo de tu fila y descárgalo en Q4_K_M.
- Instala la herramienta que te encaje: Ollama, llama.cpp o LM Studio.
- Pruébalo con diez tareas tuyas antes de decidir que «la IA local no sirve» o que «es igual que ChatGPT». Ninguna de las dos cosas es cierta.
- Si lo quieres para programar, lee antes cómo se compara con Claude y cuánto cuesta.
