Saltar al contenido

IA local en un mini PC o una tarjeta gráfica: ¿qué cabe en cada uno?

También puedes ejecutar un modelo de IA en tu propio ordenador. Así, tu texto no va al servidor de otro. Lo que puedes hacer depende sobre todo de la memoria: el modelo tiene que caber en ella. Aquí ves, para cada mini PC y tarjeta gráfica, qué modelos caben, para qué sirven, lo que cuesta en luz y lo que no funciona tan bien en local.

Así funciona

Tarjeta gráfica
El modelo cabe en la memoria de vídeoEntonces está entero en la tarjeta; según Ollama, así es como mejor funciona. Si no cabe, Ollama pasa una parte a la memoria RAM normal, y las respuestas pueden tardar más.
Mini PC
El modelo cabe en la memoria RAMSin tarjeta gráfica dedicada, el modelo usa la memoria RAM normal. El propio sistema también necesita una parte: Windows 11 pide al menos 4 GB.
Contexto
Más texto requiere más memoriaCuanto más texto retiene el modelo a la vez (la ventana de contexto), más memoria necesita. Por eso, con menos de 24 GB de memoria de vídeo, Ollama elige por defecto una ventana corta de unos 4000 tokens (fragmentos de palabra).

Lo que puede hacer un ordenador actual

Por tipo de equipo: qué modelos caben enteros en la memoria y para qué sirven, según Ollama.

Tarjeta gráfica, memoria de vídeo

Tarjeta gráfica de 8 GB

Como la RTX 4060 y la RTX 5060.

Sirve para: texto, imagen, herramientas

Caben
  • Gemma 3 4B
  • Llama 3.1 8B

Tarjeta gráfica de 12 o 16 GB

12 GB: RTX 4070 y RTX 5070. 16 GB: RTX 5080, y la RTX 4060 Ti y la RTX 5060 Ti en su versión de 16 GB.

Sirve para: texto, imagen, herramientas, razonamiento

Caben
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B

Tarjeta gráfica de 24 o 32 GB

24 GB: RTX 4090. 32 GB: RTX 5090.

Sirve para: texto, imagen, herramientas, razonamiento, programación

Caben
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B
  • gpt-oss 20b
  • Gemma 3 27B
  • Qwen3-Coder 30B
Al límite
  • Qwen3 32B

Mini PC, memoria RAM

Mini PC con 16 GB

Como el Umbrel Home.

Sirve para: texto, imagen, herramientas, razonamiento

Caben
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B

Mini PC con 32 GB

Como el GEEKOM A9 Max en su versión de 32 GB.

Sirve para: texto, imagen, herramientas, razonamiento, programación

Caben
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B
  • gpt-oss 20b
  • Gemma 3 27B
  • Qwen3-Coder 30B
  • Qwen3 32B

Mini PC con 64 GB

Como el GEEKOM A6 y el A8: dos ranuras de memoria para un total de hasta 64 GB.

Sirve para: texto, imagen, herramientas, razonamiento, programación

Caben
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B
  • gpt-oss 20b
  • Gemma 3 27B
  • Qwen3-Coder 30B
  • Qwen3 32B
  • Llama 3.3 70B

Mini PC con 128 GB de memoria compartida

Como el GEEKOM A9 Mega con AMD Ryzen AI Max+ 395. El procesador y el chip gráfico comparten la memoria.

Sirve para: texto, imagen, herramientas, razonamiento, programación

Caben
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B
  • gpt-oss 20b
  • Gemma 3 27B
  • Qwen3-Coder 30B
  • Qwen3 32B
  • Llama 3.3 70B
  • gpt-oss 120b

Un modelo de 70B, como Llama 3.3, no cabe en ninguna tarjeta gráfica dedicada de esta lista; para eso necesitas un mini PC con 64 GB o más. Buscar en tus propios documentos es posible en todos los equipos de arriba: para ello ejecutas un modelo de búsqueda pequeño, como EmbeddingGemma (622 MB), junto a un modelo de chat.

Qué significa cada término

  • Imagen: el modelo describe imágenes y responde a preguntas sobre ellas.
  • Herramientas: el modelo puede llamar a otros programas y usar su respuesta. En eso se basan los asistentes de IA que realizan tareas por su cuenta (agentes).
  • Razonamiento: el modelo primero razona paso a paso, aparte de la respuesta.
  • Programación: pensado para código y tareas de programación.

Clasificación según la biblioteca y la documentación de Ollama.

Todos los modelos: qué cabe en cada equipo

El tamaño es lo que descargas en Ollama, el programa con el que ejecutas modelos abiertos en tu propio ordenador, en la versión estándar de cada modelo. Si cabe o no es un cálculo nuestro a partir de ese tamaño: dejamos libre una quinta parte de la memoria para el contexto y lo demás, y en un mini PC reservamos antes 4 GB para el sistema. Es una orientación, no una medición.

8B significa 8000 millones de parámetros: los números con los que calcula el modelo. Los modelos más grandes están pensados para tareas más exigentes, pero necesitan más memoria.

Mini PC, memoria RAM
ModeloDescarga16 GB32 GB64 GB128 GB
Gemma 3 4B3,4 GBcabecabecabecabe
Llama 3.1 8B4,9 GBcabecabecabecabe
Gemma 3 12B8,2 GBcabecabecabecabe
Qwen3 14B9,3 GBcabecabecabecabe
gpt-oss 20b14 GBno cabe enterocabecabecabe
Gemma 3 27B17 GBno cabe enterocabecabecabe
Qwen3-Coder 30B19 GBno cabe enterocabecabecabe
Qwen3 32B20 GBno cabe enterocabecabecabe
Llama 3.3 70B43 GBno cabe enterono cabe enterocabecabe
gpt-oss 120b65 GBno cabe enterono cabe enterono cabe enterocabe
Tarjeta gráfica, memoria de vídeo
ModeloDescarga8 GB12 GB16 GB24 GB32 GB
Gemma 3 4B3,4 GBcabecabecabecabecabe
Llama 3.1 8B4,9 GBcabecabecabecabecabe
Gemma 3 12B8,2 GBno cabe enterocabecabecabecabe
Qwen3 14B9,3 GBno cabe enterocabecabecabecabe
gpt-oss 20b14 GBno cabe enterono cabe enteroal límite: solo con una ventana de contexto cortacabecabe
Gemma 3 27B17 GBno cabe enterono cabe enterono cabe enterocabecabe
Qwen3-Coder 30B19 GBno cabe enterono cabe enterono cabe enterocabecabe
Qwen3 32B20 GBno cabe enterono cabe enterono cabe enteroal límite: solo con una ventana de contexto cortacabe
Llama 3.3 70B43 GBno cabe enterono cabe enterono cabe enterono cabe enterono cabe entero
gpt-oss 120b65 GBno cabe enterono cabe enterono cabe enterono cabe enterono cabe entero
  • cabe
  • al límite: solo con una ventana de contexto corta
  • no cabe entero

Si un modelo no cabe entero en la memoria de vídeo, Ollama pasa el resto a la memoria RAM. Sigue funcionando, pero las respuestas pueden tardar más. En un mini PC significa que no hay memoria suficiente.

Instantánea del 23 de octubre de 2026; los modelos y sus tamaños cambian. Según OpenAI, 16 GB de memoria bastan para gpt-oss 20b. En una tarjeta gráfica de 16 GB va al límite, y en un mini PC con 16 GB queda demasiado poco después del sistema. Para asistencia de programación y agentes, Ollama recomienda una ventana de contexto de al menos 64.000 tokens; en ese caso, cuenta con un escalón más de memoria.

Memoria de vídeo y consumo por tarjeta

La memoria de vídeo forma parte de la tarjeta; no se puede ampliar. La RTX 4060 Ti y la RTX 5060 Ti existen con 8 y con 16 GB: fíjate en qué versión compras.

El consumo corresponde a dos horas al día a plena potencia, con el precio medio para hogares de 0,27 € por kWh (Eurostat).

TarjetaMemoria de vídeoPotencia a plena cargaConsumo al año
RTX 40608 GB115 W22,67 €84 kWh
RTX 5060 Ti8 / 16 GB180 W35,48 €131 kWh
RTX 407012 GB200 W39,42 €146 kWh
RTX 507012 GB250 W49,28 €183 kWh
RTX 508016 GB360 W70,96 €263 kWh
RTX 409024 GB450 W88,70 €329 kWh
RTX 509032 GB575 W113,33 €420 kWh

Según NVIDIA, para la versión de la propia marca. Las tarjetas de otros fabricantes pueden variar.

¿Tarjeta gráfica o mini PC?

Tarjeta gráfica

Según Ollama, un modelo funciona mejor cuando está entero en la tarjeta gráfica. Eso sí, necesitas un PC de sobremesa con una fuente de alimentación potente: para un PC con una RTX 5090, NVIDIA indica 1000 W. La memoria de vídeo es fija: de 8 a 32 GB en las tarjetas de arriba.

Mini PC

Ocupa poco espacio y puedes elegir más memoria de la que lleva una tarjeta gráfica: hasta 64 GB en ranuras o 128 GB de memoria compartida. Así caben también modelos que no entran en ninguna tarjeta dedicada. Pero se ejecutan desde la memoria RAM, y las respuestas pueden tardar más. En el mismo mini PC también puede funcionar tu nodo de bitcoin; en ese caso, calcula la memoria para los dos.

Consumo en reposo y en un mini PC

Si dejas el PC encendido día y noche, también cuenta el consumo en reposo. Según NVIDIA, una RTX 4090 consume 19 W en reposo; día y noche son 166 kWh al año, sin contar el resto del PC.

En un mini PC, el fabricante suele indicar solo la potencia de diseño del procesador (TDP): en el GEEKOM A9 Mega, de 45 a 120 W. No es una medición en la toma de corriente. Mídelo con un enchufe medidor de consumo y haz la cuenta.

Calcúlalo tú mismo

Lo que no funciona tan bien en local

No basta para todo

Incluso GEEKOM indica, sobre su A9 Max, que para modelos más grandes y preguntas que exigen mucho razonamiento o conocimiento conviene usar además un servicio en la nube.

Sin velocidad fija

La rapidez de las respuestas depende de la tarjeta, el modelo, la longitud del texto y el software. Por eso no damos velocidades.

Ventana de contexto corta

Con menos de 24 GB de memoria de vídeo, Ollama elige por defecto unos 4000 tokens. Para búsquedas en internet, agentes y asistencia de programación, Ollama recomienda al menos 64.000 tokens, y eso requiere más memoria.

La memoria se elige al comprar

La memoria de vídeo no se puede ampliar, y en algunos mini PC, como el GEEKOM A9 Mega, también la memoria RAM va soldada a la placa. Conviene elegir algo más de lo que necesitas ahora.

La electricidad se convierte en calor

Según NVIDIA, una RTX 5090 consume hasta 575 W a plena carga. Esa energía acaba como calor en tu habitación.

Preguntas frecuentes

¿Cuánta memoria de vídeo necesito para IA local?

Para modelos pequeños de alrededor de 8000 millones de parámetros (unos 5 GB) bastan 8 GB. Con 12 o 16 GB caben modelos de hasta unos 14.000 millones de parámetros, incluidos modelos con imagen, y con 16 GB cabe, al límite, gpt-oss 20b. Para modelos de alrededor de 30.000 millones de parámetros, como Qwen3-Coder para programar, necesitas 24 o 32 GB. Un modelo de 70.000 millones de parámetros no cabe en ninguna tarjeta gráfica dedicada de nuestra lista.

¿Puedo usar IA local en un mini PC sin tarjeta gráfica?

Sí. Ollama usa entonces la memoria RAM, pero las respuestas pueden tardar más que en una tarjeta gráfica en la que quepa el modelo. Con 32 GB caben modelos de hasta unos 20 GB; con 64 GB, también un modelo de 70B, y con 128 GB de memoria compartida, también gpt-oss 120b. Si Ollama aprovecha o no el chip gráfico de tu mini PC depende del chip y del sistema operativo; Ollama mantiene una lista al respecto.

¿Un modelo local es tan bueno como un servicio de IA en la nube?

No para todo. Los modelos pequeños se quedan cortos antes con las preguntas difíciles, e incluso GEEKOM recomienda usar además un servicio en la nube para modelos más grandes. La ventaja de lo local: tu texto se queda en tu propio equipo y, por cada pregunta, solo pagas la luz.

Sigue leyendo

Calcular el consumo eléctricoUn nodo de bitcoin en un mini PCMini PC y tarjetas gráficas

Fuentes