Blog

Meilleurs petits LLM à exécuter en local : guide complet

Markdown

Les meilleurs petits LLM à exécuter en local en 2026 — Qwen3, Gemma 3, Llama 3.2 et Phi-4-mini — ainsi que la RAM nécessaire et la façon de les exécuter avec Ollama.

Les petits modèles de langage sont devenus discrètement l’un des outils les plus utiles qu’un développeur puisse garder sur sa propre machine. Vous n’avez plus besoin d’une baie de GPU ni d’une facture cloud pour obtenir un modèle performant qui répond à des questions, rédige du code et résume des documents entièrement hors ligne.

La situation a beaucoup changé depuis les débuts des poids ouverts de LLaMA, Alpaca et GPT-J. En 2026, un modèle de 4 milliards de paramètres sur un ordinateur portable peut effectuer des tâches qui nécessitaient auparavant un modèle dix fois plus grand. Ce guide présente les meilleurs petits LLM à exécuter en local aujourd’hui, le matériel dont ils ont besoin et les moyens les plus simples de les faire fonctionner.

Réponse rapide. Les meilleurs petits LLM à exécuter en local en 2026 sont Qwen3 (1,7B–14B), Google Gemma 3 (1B–12B), Meta Llama 3.2 (1B/3B) et Microsoft Phi-4-mini (3,8B). Qwen3 est le choix polyvalent le plus sûr par défaut. Exécutez-les avec Ollama ou LM Studio ; la plupart ne nécessitent que 8–16 Go de RAM.

Qu’est-ce qui est considéré comme un petit LLM en 2026 ?

Un petit LLM (parfois appelé petit modèle de langage, ou SLM) est un modèle compact que vous pouvez exécuter sur du matériel grand public plutôt que sur un cluster de GPU dans le cloud. Il n’existe pas de seuil officiel, mais, en pratique, les petits modèles actuels ont trois caractéristiques communes :

  • Environ 0,5B à 14B paramètres — suffisamment petits pour qu’une version quantifiée tienne dans la mémoire d’un ordinateur portable ordinaire ou d’un seul GPU de milieu de gamme.
  • Ils fonctionnent bien après une quantification sur 4 bits, qui réduit l’utilisation de mémoire d’environ 4x avec seulement une légère perte de qualité.
  • Ils sont proposés avec des poids ouverts, ce qui permet de les télécharger, de les exécuter et souvent de les affiner sans clé API.

Le changement majeur depuis 2023 concerne la qualité par paramètre. Un modèle moderne de 3–4B est réglé pour suivre des instructions, multilingue et souvent meilleur en raisonnement qu’un modèle de 13B datant de deux ans. C’est pourquoi les anciens choix habituels — LLaMA 7B vanilla, Alpaca, Vicuna, GPT-J, GPT-Neo, Falcon 7B — ont été remplacés par les familles ci-dessous.

Pourquoi exécuter un petit LLM en local ?

Exécuter un modèle sur votre propre machine vous apporte plusieurs avantages qu’une API hébergée ne peut pas offrir :

  • Confidentialité. Les prompts et les données ne quittent jamais votre appareil — un point important pour le code propriétaire et les travaux juridiques ou médicaux.
  • Coût. Pas de facturation par token. Une fois le modèle téléchargé, l’inférence est gratuite.
  • Utilisation hors ligne. Fonctionne dans un avion, sur un réseau sécurisé ou partout où la connexion Internet n’est pas fiable.
  • Latence et contrôle. Pas d’aller-retour réseau, pas de limites de débit, et vous pouvez épingler une version précise afin que le comportement ne change jamais sans que vous le sachiez.
  • Personnalisation. Vous pouvez affiner le modèle ou lui ajouter de la recherche pour l’adapter à votre domaine.

Quels sont les meilleurs petits LLM à exécuter en local en 2026 ?

Voici les familles de modèles qui valent le téléchargement en 2026, regroupées selon leur créateur et leurs meilleurs usages.

Qwen3 — le choix polyvalent par défaut

La famille Qwen3 d’Alibaba est discrètement devenue la réponse à « que devrais-je exécuter en local ? » pour la plupart des développeurs. Elle couvre un large éventail de tailles — 0,6B, 1,7B, 4B, 8B et 14B pour les modèles denses — le tout sous une licence permissive Apache 2.0, sans restrictions commerciales.

  • Idéal pour : le chat général, l’aide au codage, la refactorisation et les tâches multilingues.
  • Meilleur compromis : Qwen3 8B est largement considéré comme le meilleur choix global sur un GPU de 8 Go ; Qwen3 4B est un excellent choix pour les ordinateurs portables sans GPU, avec processeur uniquement.
  • Pourquoi il l’emporte : une excellente qualité par paramètre, une licence claire et une très bonne prise en charge par les outils.

Google Gemma 3 — performant et multimodal

Google Gemma 3 est disponible en tailles 1B, 4B, 12B et 27B. Les variantes 4B et supérieures sont multimodales (elles peuvent lire des images) et prennent en charge plus de 140 langues. Gemma est donc le choix à privilégier lorsque vous avez besoin de vision ou d’une large couverture linguistique sur l’appareil.

  • Idéal pour : les entrées multimodales, les tâches multilingues et l’usage général sur une machine de 16 Go (Gemma 3 12B).
  • Remarque : Gemma est distribuée sous la propre licence de Google — vérifiez les conditions pour un usage commercial.

Meta Llama 3.2 — le point de départ facile

Les petits modèles Llama de Meta — Llama 3.2 1B et 3B — sont le moyen le plus simple de commencer. Ils sont minuscules, bien documentés, pris en charge partout et efficaces pour des tâches sur l’appareil, comme le résumé et le chat simple.

  • Idéal pour : un premier modèle local, le résumé et les assistants sur l’appareil.
  • Compromis : les tailles 1B/3B sont en retrait par rapport à Qwen3 et Phi-4 pour le raisonnement complexe, mais elles sont difficiles à égaler en vitesse et en simplicité.

Microsoft Phi-4 et Phi-4-mini — un raisonnement supérieur à leur taille

Les modèles Phi de Microsoft sont entraînés intensivement sur des données sélectionnées et synthétiques, ce qui leur permet de dépasser les attentes pour leur taille en mathématiques, en logique et en résolution structurée de problèmes. Phi-4 est un modèle de 14B qui rivalise régulièrement avec des modèles bien plus grands sur les tâches de raisonnement, tandis que Phi-4-mini (3,8B) est sans doute le meilleur modèle de raisonnement compact que vous puissiez exécuter sur du matériel minimal — environ 3 Go de VRAM en 4 bits. Les deux sont proposés sous une licence MIT permissive.

  • Idéal pour : les mathématiques, la logique et le raisonnement étape par étape sur du matériel modeste.

Mistral 7B — une option mature axée sur le code

Mistral 7B reste un modèle de travail fiable, avec l’un des plus vastes écosystèmes de versions affinées et d’intégrations. Il est sous licence Apache 2.0, fonctionne confortablement sur un GPU de 8 Go et reste très apprécié pour les configurations locales axées sur le code. Les modèles Ministral plus petits de Mistral (3B et 8B) étendent la famille aux appareils périphériques.

  • Idéal pour : le codage, un modèle général bien pris en charge et un affinage facile.

Modèles distillés DeepSeek-R1 — pour les tâches axées sur la logique

DeepSeek a publié des modèles de raisonnement distillés, construits sur les bases Qwen et Llama (généralement 7B, 8B et 14B). Ils rendent possible un raisonnement de type chaîne de pensée à des tailles adaptées à une exécution locale et sont efficaces pour la résolution de problèmes étape par étape. Ils sont sous licence MIT et disponibles dans Ollama.

  • Idéal pour : le raisonnement, les mathématiques et les problèmes qui bénéficient d’étapes de réflexion visibles.

SmolLM2 — lorsque vous avez besoin du modèle le plus petit possible

SmolLM2 de Hugging Face est disponible en tailles 135M, 360M et 1,7B. Ce sont les modèles à choisir pour le matériel le plus limité, dans les navigateurs ou sur les appareils périphériques. Ils gèrent le résumé et les instructions simples, mais ne sont pas conçus pour le raisonnement complexe.

  • Idéal pour : une RAM extrêmement limitée, les usages embarqués et périphériques, et l’expérimentation.

Tableau comparatif des petits LLM

Valeurs approximatives pour des versions quantifiées en 4 bits (Q4). L’utilisation réelle de la mémoire varie selon la longueur du contexte et l’environnement d’exécution.

ModèleParamètresRAM/VRAM approx. (Q4)Idéal pourLicence
Qwen3 1.7B1.7B~2 GoChat rapide sur tout ordinateur portableApache 2.0
Qwen3 4B4B~3–4 GoChat équilibré + codage légerApache 2.0
Qwen3 8B8B~6–8 GoMeilleur choix polyvalent sur un GPU de 8 GoApache 2.0
Qwen3 14B14B~10–12 GoCodage, refactorisation, raisonnementApache 2.0
Gemma 3 4B4B~3–4 GoMultimodal / plus de 140 languesGemma
Gemma 3 12B12B~9–10 GoUsage général performant sur 16 GoGemma
Llama 3.2 3B3B~3 GoPoint de départ facileLlama
Phi-4-mini3.8B~3 GoRaisonnement/mathématiques sur matériel modesteMIT
Phi-414B~10–12 GoMathématiques/logique, au-delà de sa tailleMIT
Mistral 7B7B~5–6 GoAxé sur le code, écosystème matureApache 2.0
DeepSeek-R1 distill 8B8B~6–8 GoLogique, raisonnement étape par étapeMIT
SmolLM2 1.7B1.7B~1,5 GoAppareils périphériques / RAM extrêmement limitéeApache 2.0

Quelle quantité de RAM et quel matériel vous faut-il ?

Une règle générale utile : un modèle quantifié en 4 bits nécessite environ 0,6–0,75 Go de mémoire par milliard de paramètres, auxquels il faut ajouter un peu de marge pour le contexte. Un modèle 7B nécessite donc environ 5–6 Go, et un modèle 14B environ 10–12 Go. Les options varient selon la mémoire dont vous disposez :

Vous disposez deTaille de modèle confortableBons choix
8 Go de RAM, sans GPU1–4BQwen3 4B, Phi-4-mini, Gemma 3 1B, Llama 3.2 3B
GPU de 8 Go (VRAM)7–8BQwen3 8B, Mistral 7B, DeepSeek-R1 distill 8B
16 Go de RAM / VRAM12–14BGemma 3 12B, Qwen3 14B, Phi-4
GPU de 24 Go ou plus14–32BQwen3 32B, variantes DeepSeek plus grandes

Les Mac avec Apple Silicon constituent un cas particulier : leur mémoire unifiée permet au GPU d’utiliser la majeure partie de la RAM du système. Ainsi, un MacBook de la série M avec 16–32 Go peut exécuter des modèles qui nécessiteraient un GPU dédié sur PC.

Règle d’or : ne commencez pas par le plus gros modèle. Commencez par le meilleur modèle que votre matériel peut exécuter confortablement. Un modèle rapide de 4B est préférable à un modèle de 14B qui utilise la mémoire virtuelle et répond à un token par seconde.

Comment exécuter un petit LLM en local ?

Vous n’avez pas besoin de toucher à Python pour commencer. Trois outils couvrent presque tous les cas d’usage :

  • Ollama — la méthode la plus simple. Installez-le, puis téléchargez et exécutez un modèle avec une seule commande. Il prend en charge le téléchargement, la quantification et une API compatible avec OpenAI sur localhost:11434.
  • LM Studio — une application de bureau soignée avec une interface de chat, un navigateur de modèles et des téléchargements en un clic. Idéale si vous préférez une interface graphique.
  • llama.cpp — le moteur sous-jacent en C/C++ qui alimente une grande partie de l’écosystème. Choisissez-le lorsque vous voulez un contrôle maximal ou exécuter directement des fichiers GGUF sur CPU ou Apple Silicon.

Voici à quoi ressemble une première exécution avec Ollama :

# Pull and chat with Qwen3 8B (best all-rounder on an 8 GB GPU)
ollama pull qwen3:8b
ollama run qwen3:8b

# Lighter options for CPU-only laptops
ollama pull qwen3:4b
ollama pull llama3.2:3b
ollama pull phi4-mini
ollama pull gemma3:4b

Une fois le modèle lancé, Ollama et LM Studio exposent tous deux un point de terminaison compatible avec OpenAI. Vous pouvez ainsi diriger les outils et scripts existants vers votre modèle local en modifiant simplement l’URL de base.

Comment choisir le petit LLM qui vous convient ?

Adaptez le modèle à la tâche au lieu de courir après un classement :

  • Chat général et tâches quotidiennes : Qwen3 (4B ou 8B) — le choix par défaut le plus sûr.
  • Codage et refactorisation : Qwen3 14B, Mistral ou un modèle DeepSeek-R1 distillé sur un GPU de 12–16 Go.
  • Mathématiques, logique et raisonnement sur du matériel modeste : Phi-4-mini, puis Phi-4 si vous disposez de 16 Go.
  • Images ou nombreuses langues : Gemma 3 4B ou 12B.
  • Encombrement minimal absolu : Llama 3.2 1B, Gemma 3 1B ou SmolLM2.

Quelles sont les limites des petits LLM locaux ?

Les petits modèles sont réellement utiles, mais il est bon de savoir où se situent leurs limites :

  • Moins de connaissances générales. Ils en savent moins que les modèles cloud de pointe et peuvent se tromper avec assurance. Vérifiez donc les faits pour tout ce qui est important.
  • Moins performants sur les raisonnements très difficiles. Un modèle 3B n’égalera pas un grand modèle hébergé sur des problèmes complexes à plusieurs étapes.
  • Compromis entre contexte et vitesse. Les longs contextes utilisent davantage de mémoire ; sur CPU, les grands modèles peuvent être lents.
  • Une qualité variable selon la tâche. Un modèle excellent en chat peut être médiocre en code. Testez-en quelques-uns avant de vous décider.

Pour de nombreux flux de travail, la solution consiste à utiliser la recherche augmentée (RAG) ou à effectuer un affinage rapide avec vos propres données — ces deux options sont bien moins coûteuses en local qu’elles n’en ont l’air.

FAQ

Quel est le meilleur petit LLM à exécuter en local en 2026 ?

Pour la plupart des personnes, Qwen3 8B est le meilleur choix polyvalent sur un GPU de 8 Go, et Qwen3 4B ou Llama 3.2 3B fonctionnent bien sur les ordinateurs portables sans GPU, avec processeur uniquement. Choisissez le plus grand modèle que votre matériel peut exécuter confortablement plutôt que le plus grand modèle disponible.

Quel est le plus petit LLM que l’on puisse exécuter en local ?

Des modèles comme SmolLM2 (135M–1.7B), Llama 3.2 1B, Gemma 3 1B et Qwen3 0.6B fonctionnent sur presque tous les ordinateurs portables modernes, souvent avec moins de 2 Go de RAM lorsqu’ils sont quantifiés en 4 bits. Ils gèrent le résumé et le chat simple, mais sont faibles en raisonnement complexe.

De quelle quantité de RAM ai-je besoin pour exécuter un petit LLM en local ?

Un modèle de 3–4B quantifié en 4 bits nécessite environ 3–4 Go de RAM ou de VRAM disponible, un modèle de 7–8B environ 6–8 Go, et un modèle de 12–14B nécessite 10–16 Go. Une RAM système de 16 Go constitue une base confortable pour la plupart des petits modèles.

Quelle est la façon la plus simple d’exécuter un petit LLM en local ?

Installez Ollama ou LM Studio, puis téléchargez un modèle avec une seule commande (par exemple ollama pull qwen3:8b). Les deux outils gèrent le téléchargement, la quantification et une interface de chat locale, et exposent une API compatible avec OpenAI pour vos propres applications.

Puis-je exécuter un petit LLM sans GPU ?

Oui. Avec une quantification en 4 bits, les modèles jusqu’à environ 7–8B fonctionnent sur un CPU moderne et sont nettement plus rapides sur les Mac Apple Silicon grâce à la mémoire unifiée. La vitesse de génération des tokens sera inférieure à celle d’un GPU dédié, mais elle reste utilisable pour le chat et la rédaction.

Les petits LLM locaux sont-ils adaptés au codage ?

Ils peuvent l’être. Parmi les petits modèles, Qwen3 et les modèles de raisonnement distillés DeepSeek-R1 sont performants en code, et Mistral dispose d’un écosystème mature axé sur le code. Pour des refactorisations plus lourdes, un modèle 14B sur un GPU de 12–16 Go offre la meilleure qualité que l’on puisse obtenir en local.

En résumé

Les petits LLM locaux sont passés d’une expérience de passionnés à un outil pratique au quotidien. Commencez avec Qwen3 comme choix polyvalent par défaut, choisissez Phi-4-mini lorsque vous avez besoin de raisonnement sur du matériel léger et optez pour Gemma 3 lorsque vous avez besoin de vision ou de nombreuses langues — le tout avec Ollama ou LM Studio en quelques minutes. Pour obtenir de l’aide sur la documentation Ailoot, consultez la documentation Ailoot.