IA locale sur un mini PC ou une carte graphique : quel modèle tient sur quel appareil ?
Un modèle d'IA peut aussi tourner sur votre propre ordinateur. Votre texte n'est alors pas envoyé au serveur de quelqu'un d'autre. Ce qui est possible dépend surtout de la mémoire : le modèle doit y tenir. Vous trouverez ici, pour chaque mini PC et chaque carte graphique, les modèles qui tiennent, à quoi ils servent, ce que cela coûte en électricité et ce qui fonctionne moins bien en local.
Le principe
- Carte graphique
- Le modèle tient dans la mémoire vidéoIl se trouve alors entièrement sur la carte ; selon Ollama, c'est ainsi qu'il fonctionne le mieux. S'il ne tient pas, Ollama en place une partie dans la mémoire vive classique, et les réponses peuvent alors arriver plus lentement.
- Mini PC
- Le modèle tient dans la mémoire viveSans carte graphique dédiée, le modèle utilise la mémoire vive classique. Le système en a lui aussi besoin d'une partie : Windows 11 exige au moins 4 Go.
- Contexte
- Plus de texte demande plus de mémoirePlus le modèle retient de texte à la fois (la fenêtre de contexte), plus il lui faut de mémoire. En dessous de 24 Go de mémoire vidéo, Ollama choisit donc par défaut une fenêtre courte d'environ 4 000 tokens (des fragments de mots).
Ce que peut faire un ordinateur actuel
Par type d'appareil : les modèles qui tiennent entièrement en mémoire, et ce à quoi ils servent selon Ollama.
Carte graphique, mémoire vidéo
Carte graphique de 8 Go
Comme la RTX 4060 et la RTX 5060.
Adapté à: texte, image, outils
- Gemma 3 4B
- Llama 3.1 8B
Carte graphique de 12 ou 16 Go
12 Go : RTX 4070 et RTX 5070. 16 Go : RTX 5080, ainsi que les RTX 4060 Ti et RTX 5060 Ti dans leur version 16 Go.
Adapté à: texte, image, outils, raisonnement
- Gemma 3 4B
- Llama 3.1 8B
- Gemma 3 12B
- Qwen3 14B
Carte graphique de 24 ou 32 Go
24 Go : RTX 4090. 32 Go : RTX 5090.
Adapté à: texte, image, outils, raisonnement, programmation
- Gemma 3 4B
- Llama 3.1 8B
- Gemma 3 12B
- Qwen3 14B
- gpt-oss 20b
- Gemma 3 27B
- Qwen3-Coder 30B
- Qwen3 32B
Mini PC, mémoire vive
Mini PC avec 16 Go
Comme l'Umbrel Home.
Adapté à: texte, image, outils, raisonnement
- Gemma 3 4B
- Llama 3.1 8B
- Gemma 3 12B
- Qwen3 14B
Mini PC avec 32 Go
Comme le GEEKOM A9 Max dans sa configuration 32 Go.
Adapté à: texte, image, outils, raisonnement, programmation
- Gemma 3 4B
- Llama 3.1 8B
- Gemma 3 12B
- Qwen3 14B
- gpt-oss 20b
- Gemma 3 27B
- Qwen3-Coder 30B
- Qwen3 32B
Mini PC avec 64 Go
Comme les GEEKOM A6 et A8 : deux emplacements mémoire, pour un total de 64 Go maximum.
Adapté à: texte, image, outils, raisonnement, programmation
- Gemma 3 4B
- Llama 3.1 8B
- Gemma 3 12B
- Qwen3 14B
- gpt-oss 20b
- Gemma 3 27B
- Qwen3-Coder 30B
- Qwen3 32B
- Llama 3.3 70B
Mini PC avec 128 Go de mémoire partagée
Comme le GEEKOM A9 Mega avec AMD Ryzen AI Max+ 395. Le processeur et la puce graphique se partagent la mémoire.
Adapté à: texte, image, outils, raisonnement, programmation
- Gemma 3 4B
- Llama 3.1 8B
- Gemma 3 12B
- Qwen3 14B
- gpt-oss 20b
- Gemma 3 27B
- Qwen3-Coder 30B
- Qwen3 32B
- Llama 3.3 70B
- gpt-oss 120b
Un modèle de 70B, comme Llama 3.3, ne tient sur aucune carte graphique dédiée présentée ici ; il vous faut pour cela un mini PC avec 64 Go ou plus. Faire des recherches dans vos propres documents est possible sur tous les appareils ci-dessus : il suffit de faire tourner un petit modèle de recherche comme EmbeddingGemma (622 Mo) à côté d'un modèle conversationnel.
Ce que signifient ces termes
- Image : le modèle décrit des images et répond à des questions à leur sujet.
- Outils : le modèle peut faire appel à d'autres programmes et utiliser leur réponse. C'est sur cette capacité que reposent les assistants IA qui exécutent eux-mêmes des tâches (agents).
- Raisonnement : le modèle réfléchit d'abord étape par étape, séparément de la réponse.
- Programmation : conçu pour le code et les tâches de programmation.
Catégories selon la bibliothèque et la documentation d'Ollama.
Tous les modèles : ce qui tient sur quoi
La taille correspond à ce que vous téléchargez dans Ollama, le logiciel qui permet de faire tourner des modèles ouverts sur votre propre ordinateur, dans la version par défaut de chaque modèle. Qu'un modèle tienne ou non, c'est notre propre déduction à partir de cette taille : nous laissons un cinquième de la mémoire libre pour le contexte et le reste, et sur un mini PC, nous réservons d'abord 4 Go au système. C'est une indication, pas une mesure.
8B signifie 8 milliards de paramètres : les nombres avec lesquels le modèle calcule. Les modèles plus grands sont destinés aux tâches plus lourdes, mais demandent plus de mémoire.
| Modèle | Téléchargement | 16 GB | 32 GB | 64 GB | 128 GB |
|---|---|---|---|---|---|
| Gemma 3 4B | 3,4 GB | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire |
| Llama 3.1 8B | 4,9 GB | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire |
| Gemma 3 12B | 8,2 GB | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire |
| Qwen3 14B | 9,3 GB | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire |
| gpt-oss 20b | 14 GB | ne tient pas entièrement | tient en mémoire | tient en mémoire | tient en mémoire |
| Gemma 3 27B | 17 GB | ne tient pas entièrement | tient en mémoire | tient en mémoire | tient en mémoire |
| Qwen3-Coder 30B | 19 GB | ne tient pas entièrement | tient en mémoire | tient en mémoire | tient en mémoire |
| Qwen3 32B | 20 GB | ne tient pas entièrement | tient en mémoire | tient en mémoire | tient en mémoire |
| Llama 3.3 70B | 43 GB | ne tient pas entièrement | ne tient pas entièrement | tient en mémoire | tient en mémoire |
| gpt-oss 120b | 65 GB | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement | tient en mémoire |
| Modèle | Téléchargement | 8 GB | 12 GB | 16 GB | 24 GB | 32 GB |
|---|---|---|---|---|---|---|
| Gemma 3 4B | 3,4 GB | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire |
| Llama 3.1 8B | 4,9 GB | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire |
| Gemma 3 12B | 8,2 GB | ne tient pas entièrement | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire |
| Qwen3 14B | 9,3 GB | ne tient pas entièrement | tient en mémoire | tient en mémoire | tient en mémoire | tient en mémoire |
| gpt-oss 20b | 14 GB | ne tient pas entièrement | ne tient pas entièrement | de justesse : uniquement avec une fenêtre de contexte courte | tient en mémoire | tient en mémoire |
| Gemma 3 27B | 17 GB | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement | tient en mémoire | tient en mémoire |
| Qwen3-Coder 30B | 19 GB | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement | tient en mémoire | tient en mémoire |
| Qwen3 32B | 20 GB | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement | de justesse : uniquement avec une fenêtre de contexte courte | tient en mémoire |
| Llama 3.3 70B | 43 GB | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement |
| gpt-oss 120b | 65 GB | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement | ne tient pas entièrement |
- tient en mémoire
- de justesse : uniquement avec une fenêtre de contexte courte
- ne tient pas entièrement
Si un modèle ne tient pas entièrement dans la mémoire vidéo, Ollama place le reste dans la mémoire vive. Il fonctionne encore, mais les réponses peuvent arriver plus lentement. Pour un mini PC, cela signifie : pas assez de mémoire.
Situation au 23 octobre 2026 ; les modèles et leurs tailles évoluent. Selon OpenAI, 16 Go de mémoire suffisent pour gpt-oss 20b. Sur une carte graphique de 16 Go, il tient de justesse, et sur un mini PC avec 16 Go, il reste trop peu de mémoire une fois la part du système déduite. Pour l'aide à la programmation et les agents, Ollama recommande une fenêtre de contexte d'au moins 64 000 tokens ; prévoyez alors un cran au-dessus.
Mémoire vidéo et électricité par carte
La mémoire vidéo est intégrée à la carte ; vous ne pouvez pas l'augmenter. Les RTX 4060 Ti et RTX 5060 Ti existent en 8 et en 16 Go : vérifiez donc quelle version vous achetez.
L'électricité est calculée pour deux heures par jour à pleine puissance, au prix moyen pour les ménages de 0,26 € le kWh (Eurostat).
| Carte | Mémoire vidéo | Puissance à pleine charge | Électricité par an |
|---|---|---|---|
| RTX 4060 | 8 GB | 115 W | 21,83 €84 kWh |
| RTX 5060 Ti | 8 / 16 GB | 180 W | 34,16 €131 kWh |
| RTX 4070 | 12 GB | 200 W | 37,96 €146 kWh |
| RTX 5070 | 12 GB | 250 W | 47,45 €183 kWh |
| RTX 5080 | 16 GB | 360 W | 68,33 €263 kWh |
| RTX 4090 | 24 GB | 450 W | 85,41 €329 kWh |
| RTX 5090 | 32 GB | 575 W | 109,14 €420 kWh |
Selon NVIDIA, pour sa propre version de la carte. Les cartes d'autres marques peuvent différer.
Carte graphique ou mini PC ?
Carte graphique
Mini PC
Consommation au repos et sur un mini PC
Si vous laissez le PC allumé jour et nuit, la consommation au repos compte aussi. Selon NVIDIA, une RTX 4090 consomme 19 W au repos ; jour et nuit, cela représente 166 kWh par an, sans compter le reste du PC.
Pour un mini PC, le fabricant n'indique généralement que l'enveloppe thermique du processeur (TDP) : de 45 à 120 W pour le GEEKOM A9 Mega. Ce n'est pas une mesure à la prise. Mesurez la consommation avec une prise wattmètre et faites le calcul.
Ce qui fonctionne moins bien en local
Pas suffisant pour tout
Vitesse variable
Fenêtre de contexte courte
La mémoire se choisit à l'achat
L'électricité devient chaleur
Questions fréquentes
De combien de mémoire vidéo ai-je besoin pour l'IA locale ?
Pour les petits modèles d'environ 8 milliards de paramètres (près de 5 Go), 8 Go suffisent. Avec 12 ou 16 Go, des modèles jusqu'à environ 14 milliards de paramètres tiennent, y compris des modèles qui traitent les images, et sur 16 Go, gpt-oss 20b tient de justesse. Pour des modèles d'environ 30 milliards de paramètres, comme Qwen3-Coder pour la programmation, il vous faut 24 ou 32 Go. Un modèle de 70 milliards de paramètres ne tient sur aucune carte graphique dédiée de notre comparatif.
Puis-je faire tourner une IA locale sur un mini PC sans carte graphique ?
Oui. Ollama utilise alors la mémoire vive, mais les réponses peuvent arriver plus lentement que sur une carte graphique dans laquelle le modèle tient. Avec 32 Go, des modèles jusqu'à environ 20 Go tiennent ; avec 64 Go, un modèle de 70B tient aussi, et avec 128 Go de mémoire partagée, gpt-oss 120b également. Qu'Ollama utilise ou non la puce graphique de votre mini PC dépend de la puce et du système d'exploitation ; Ollama tient à jour une liste à ce sujet.
Un modèle local est-il aussi bon qu'un service d'IA dans le cloud ?
Pas pour tout. Les petits modèles montrent plus vite leurs limites face aux questions difficiles, et même GEEKOM recommande un service cloud en complément pour les modèles plus grands. L'avantage du local : votre texte reste sur votre propre appareil, et chaque question ne vous coûte que l'électricité.
Aller plus loin
Sources
- Tailles de téléchargement et capacités des modèles : bibliothèque d'Ollama sur ollama.com (llama3.1, llama3.3, qwen3, qwen3-coder, gemma3, gpt-oss, embeddinggemma), consultée le 23 octobre 2026.
- Mémoire, fenêtre de contexte et répartition entre carte graphique et mémoire vive : documentation d'Ollama sur github.com/ollama/ollama, consultée le 23 octobre 2026.
- gpt-oss et 16 Go : README sur github.com/openai/gpt-oss, consulté le 23 octobre 2026.
- Mémoire vidéo, puissance, consommation au repos et alimentation : pages produits de NVIDIA (GeForce RTX séries 40 et 50), consultées le 23 octobre 2026.
- Mini PC : pages produits de GEEKOM (A6, A8, A9 Max, A9 Mega) et d'Umbrel (Umbrel Home), consultées le 23 octobre 2026.
- Configuration minimale de Windows 11 : microsoft.com, consulté le 23 octobre 2026.
- Prix de l'électricité : Eurostat, tarifs pour les ménages (nrg_pc_204), second semestre 2025.