Saltar para o conteúdo

IA local num mini PC ou numa placa gráfica: o que cabe onde?

Um modelo de IA também pode correr no teu próprio computador. Assim, o teu texto não vai parar ao servidor de outra pessoa. O que consegues fazer depende sobretudo da memória: o modelo tem de caber nela. Aqui vês, por mini PC e por placa gráfica, que modelos cabem, para que servem, quanto custam em eletricidade e o que funciona menos bem localmente.

Como funciona

Placa gráfica
O modelo cabe na memória de vídeoNesse caso, fica inteiramente na placa; segundo o Ollama, é assim que funciona melhor. Se não couber, o Ollama coloca uma parte na memória RAM normal, e as respostas podem tornar-se mais lentas.
Mini PC
O modelo cabe na memória RAMSem placa gráfica dedicada, o modelo usa a memória RAM normal. O próprio sistema também precisa de uma parte: o Windows 11 exige pelo menos 4 GB.
Contexto
Mais texto exige mais memóriaQuanto mais texto o modelo retém de uma só vez (a janela de contexto), mais memória precisa. Por isso, abaixo de 24 GB de memória de vídeo, o Ollama escolhe por predefinição uma janela curta, de cerca de 4000 tokens (pedaços de palavras).

O que um computador atual consegue fazer

Por tipo de equipamento: que modelos cabem inteiramente na memória e para que servem, segundo o Ollama.

Placa gráfica, memória de vídeo

Placa gráfica com 8 GB

Como a RTX 4060 e a RTX 5060.

Serve para: texto, imagem, ferramentas

Cabe
  • Gemma 3 4B
  • Llama 3.1 8B

Placa gráfica com 12 ou 16 GB

12 GB: RTX 4070 e RTX 5070. 16 GB: RTX 5080, e a RTX 4060 Ti e a RTX 5060 Ti na versão de 16 GB.

Serve para: texto, imagem, ferramentas, raciocínio

Cabe
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B

Placa gráfica com 24 ou 32 GB

24 GB: RTX 4090. 32 GB: RTX 5090.

Serve para: texto, imagem, ferramentas, raciocínio, programação

Cabe
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B
  • gpt-oss 20b
  • Gemma 3 27B
  • Qwen3-Coder 30B
À justa
  • Qwen3 32B

Mini PC, memória RAM

Mini PC com 16 GB

Como o Umbrel Home.

Serve para: texto, imagem, ferramentas, raciocínio

Cabe
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B

Mini PC com 32 GB

Como o GEEKOM A9 Max na configuração de 32 GB.

Serve para: texto, imagem, ferramentas, raciocínio, programação

Cabe
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B
  • gpt-oss 20b
  • Gemma 3 27B
  • Qwen3-Coder 30B
  • Qwen3 32B

Mini PC com 64 GB

Como o GEEKOM A6 e o A8: duas ranhuras de memória, com um total de até 64 GB.

Serve para: texto, imagem, ferramentas, raciocínio, programação

Cabe
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B
  • gpt-oss 20b
  • Gemma 3 27B
  • Qwen3-Coder 30B
  • Qwen3 32B
  • Llama 3.3 70B

Mini PC com 128 GB de memória partilhada

Como o GEEKOM A9 Mega com AMD Ryzen AI Max+ 395. O processador e o chip gráfico partilham a memória.

Serve para: texto, imagem, ferramentas, raciocínio, programação

Cabe
  • Gemma 3 4B
  • Llama 3.1 8B
  • Gemma 3 12B
  • Qwen3 14B
  • gpt-oss 20b
  • Gemma 3 27B
  • Qwen3-Coder 30B
  • Qwen3 32B
  • Llama 3.3 70B
  • gpt-oss 120b

Um modelo de 70B, como o Llama 3.3, não cabe em nenhuma placa gráfica dedicada desta lista; para isso, precisas de um mini PC com 64 GB ou mais. Pesquisar nos teus próprios documentos é possível em todos os equipamentos acima: para isso, corres um pequeno modelo de pesquisa, como o EmbeddingGemma (622 MB), ao lado de um modelo de conversação.

O que significam estes termos

  • Imagem: o modelo descreve imagens e responde a perguntas sobre elas.
  • Ferramentas: o modelo pode chamar outros programas e usar a resposta deles. É nisto que assentam os assistentes de IA que executam tarefas por conta própria (agentes).
  • Raciocínio: o modelo pensa primeiro passo a passo, separadamente da resposta.
  • Programação: feito para código e tarefas de programação.

Classificação segundo a biblioteca e a documentação do Ollama.

Todos os modelos: o que cabe onde

O tamanho é o que descarregas no Ollama, o programa com que corres modelos abertos no teu próprio computador, na versão predefinida de cada modelo. Se cabe ou não, é uma dedução nossa a partir desse tamanho: deixamos um quinto da memória livre para o contexto e para o resto e, num mini PC, reservamos primeiro 4 GB para o sistema. É uma orientação, não uma medição.

8B significa 8 mil milhões de parâmetros: os números com que o modelo faz os cálculos. Os modelos maiores destinam-se a tarefas mais exigentes, mas precisam de mais memória.

Mini PC, memória RAM
ModeloDownload16 GB32 GB64 GB128 GB
Gemma 3 4B3,4 GBcabecabecabecabe
Llama 3.1 8B4,9 GBcabecabecabecabe
Gemma 3 12B8,2 GBcabecabecabecabe
Qwen3 14B9,3 GBcabecabecabecabe
gpt-oss 20b14 GBnão cabe inteiramentecabecabecabe
Gemma 3 27B17 GBnão cabe inteiramentecabecabecabe
Qwen3-Coder 30B19 GBnão cabe inteiramentecabecabecabe
Qwen3 32B20 GBnão cabe inteiramentecabecabecabe
Llama 3.3 70B43 GBnão cabe inteiramentenão cabe inteiramentecabecabe
gpt-oss 120b65 GBnão cabe inteiramentenão cabe inteiramentenão cabe inteiramentecabe
Placa gráfica, memória de vídeo
ModeloDownload8 GB12 GB16 GB24 GB32 GB
Gemma 3 4B3,4 GBcabecabecabecabecabe
Llama 3.1 8B4,9 GBcabecabecabecabecabe
Gemma 3 12B8,2 GBnão cabe inteiramentecabecabecabecabe
Qwen3 14B9,3 GBnão cabe inteiramentecabecabecabecabe
gpt-oss 20b14 GBnão cabe inteiramentenão cabe inteiramenteà justa: só com uma janela de contexto curtacabecabe
Gemma 3 27B17 GBnão cabe inteiramentenão cabe inteiramentenão cabe inteiramentecabecabe
Qwen3-Coder 30B19 GBnão cabe inteiramentenão cabe inteiramentenão cabe inteiramentecabecabe
Qwen3 32B20 GBnão cabe inteiramentenão cabe inteiramentenão cabe inteiramenteà justa: só com uma janela de contexto curtacabe
Llama 3.3 70B43 GBnão cabe inteiramentenão cabe inteiramentenão cabe inteiramentenão cabe inteiramentenão cabe inteiramente
gpt-oss 120b65 GBnão cabe inteiramentenão cabe inteiramentenão cabe inteiramentenão cabe inteiramentenão cabe inteiramente
  • cabe
  • à justa: só com uma janela de contexto curta
  • não cabe inteiramente

Se um modelo não couber inteiramente na memória de vídeo, o Ollama coloca o resto na memória RAM. Continua a funcionar, mas as respostas podem tornar-se mais lentas. Num mini PC, significa: memória insuficiente.

Situação a 23 de outubro de 2026; os modelos e os tamanhos mudam. A OpenAI indica que 16 GB de memória bastam para o gpt-oss 20b. Numa placa gráfica de 16 GB fica à justa e, num mini PC com 16 GB, depois do sistema não sobra memória suficiente. Para assistência à programação e agentes, o Ollama recomenda uma janela de contexto de pelo menos 64 000 tokens; nesse caso, conta com um escalão acima.

Memória de vídeo e eletricidade por placa

A memória de vídeo faz parte da placa; não a podes expandir. A RTX 4060 Ti e a RTX 5060 Ti existem com 8 e com 16 GB: confirma, por isso, que versão compras.

A eletricidade é calculada para duas horas por dia em potência máxima, ao preço médio doméstico de 0,24 € por kWh (Eurostat).

PlacaMemória de vídeoPotência em carga máximaEletricidade por ano
RTX 40608 GB115 W20,15 €84 kWh
RTX 5060 Ti8 / 16 GB180 W31,54 €131 kWh
RTX 407012 GB200 W35,04 €146 kWh
RTX 507012 GB250 W43,80 €183 kWh
RTX 508016 GB360 W63,07 €263 kWh
RTX 409024 GB450 W78,84 €329 kWh
RTX 509032 GB575 W100,74 €420 kWh

Segundo a NVIDIA, para a versão da própria marca. As placas de outros fabricantes podem ter valores diferentes.

Placa gráfica ou mini PC?

Placa gráfica

Segundo o Ollama, um modelo funciona melhor quando está inteiramente na placa gráfica. Precisas, no entanto, de um computador de secretária com uma fonte de alimentação robusta: para um PC com uma RTX 5090, a NVIDIA indica 1000 W. A memória de vídeo é fixa: de 8 a 32 GB nas placas acima.

Mini PC

É pequeno, e podes escolher mais memória do que a que existe numa placa gráfica: até 64 GB em ranhuras ou 128 GB de memória partilhada. Assim, cabem também modelos que não cabem em nenhuma placa dedicada. Correm, no entanto, a partir da memória RAM, e as respostas podem tornar-se mais lentas. No mesmo mini PC pode correr também o teu nó Bitcoin; nesse caso, conta com a memória para os dois.

Eletricidade em repouso e num mini PC

Se deixares o PC ligado dia e noite, também conta o consumo em repouso. Segundo a NVIDIA, uma RTX 4090 consome 19 W em repouso; dia e noite, isso dá 166 kWh por ano, sem contar com o resto do PC.

Num mini PC, o fabricante indica geralmente apenas a potência de projeto do processador (TDP): no GEEKOM A9 Mega, de 45 a 120 W. Isso não é uma medição na tomada. Mede o valor real com um medidor de consumo para tomada e faz as contas.

Fazer as contas

O que funciona menos bem localmente

Não chega para tudo

Até a GEEKOM escreve, sobre o seu A9 Max, que para modelos maiores e perguntas que exigem muito raciocínio ou conhecimento é melhor usar também um serviço na nuvem.

Sem velocidade fixa

A rapidez das respostas depende da placa, do modelo, do comprimento do texto e do software. Por isso, não indicamos velocidades.

Janela de contexto curta

Abaixo de 24 GB de memória de vídeo, o Ollama usa por predefinição cerca de 4000 tokens. Para pesquisa na internet, agentes e assistência à programação, o Ollama recomenda pelo menos 64 000 tokens, o que exige mais memória.

A memória escolhe-se na compra

A memória de vídeo não se pode acrescentar e, em alguns mini PC, como o GEEKOM A9 Mega, também a memória RAM vem soldada na placa-mãe. Escolhe, de preferência, um pouco mais do que aquilo de que precisas agora.

A eletricidade transforma-se em calor

Segundo a NVIDIA, uma RTX 5090 consome até 575 W em carga máxima. Essa eletricidade acaba na tua divisão sob a forma de calor.

Perguntas frequentes

De quanta memória de vídeo preciso para IA local?

Para modelos pequenos, de cerca de 8 mil milhões de parâmetros (uns 5 GB), 8 GB chegam. Com 12 ou 16 GB cabem modelos até cerca de 14 mil milhões de parâmetros, também com imagem, e em 16 GB cabe à justa o gpt-oss 20b. Para modelos de cerca de 30 mil milhões de parâmetros, como o Qwen3-Coder para programação, precisas de 24 ou 32 GB. Um modelo de 70 mil milhões de parâmetros não cabe em nenhuma placa gráfica dedicada da nossa lista.

Posso correr IA local num mini PC sem placa gráfica?

Sim. O Ollama usa então a memória RAM, mas as respostas podem ser mais lentas do que numa placa gráfica onde o modelo caiba. Com 32 GB cabem modelos até cerca de 20 GB, com 64 GB também um modelo de 70B e, com 128 GB de memória partilhada, também o gpt-oss 120b. Se o Ollama usa ou não o chip gráfico do teu mini PC depende do chip e do sistema operativo; o Ollama mantém uma lista para esse efeito.

Um modelo local é tão bom como um serviço de IA na nuvem?

Não para tudo. Os modelos pequenos ficam aquém mais facilmente em perguntas difíceis, e até a GEEKOM recomenda, para modelos maiores, usar também um serviço na nuvem. A vantagem de correr localmente: o teu texto fica no teu próprio equipamento e, por pergunta, pagas apenas a eletricidade.

Ver também

Fontes