# Bedste små LLM'er til lokal kørsel: En omfattende guide

> De bedste små LLM'er til lokal kørsel i 2026 — Qwen3, Gemma 3, Llama 3.2 og Phi-4-mini — samt hvor meget RAM du skal bruge, og hvordan du kører dem med Ollama.

Source: https://ailoot.ai/blog/da/best-small-llms-to-run-locally/
Canonical: https://ailoot.ai/blog/da/best-small-llms-to-run-locally/
Language: da
Publisher: Ailoot (https://ailoot.ai/)
Translation: guide-100014
Revision: sha256-25f9dcd544804f2f1a8e048a3c0d087474e761c1b2d597afc6d4391f21a8d318


Små sprogmodeller er stille og roligt blevet et af de mest nyttige værktøjer, en udvikler kan have på sin egen maskine. Du behøver ikke længere et rack med GPU'er eller en cloudregning for at få en kompetent model til at besvare spørgsmål, skrive kodeudkast og opsummere dokumenter helt offline.

Meget har ændret sig siden de tidlige dage med åbne vægte fra de oprindelige LLaMA, Alpaca og GPT-J. I 2026 kan en model med 4 milliarder parametre på en bærbar computer udføre arbejde, der tidligere krævede noget ti gange så stort. Denne guide gennemgår de bedste små LLM'er til lokal kørsel i dag, hvor meget hardware de kræver, og de enkleste måder at få dem til at køre på.

**Kort svar.** De bedste små LLM'er til lokal kørsel i 2026 er Qwen3 (1.7B–14B), Google Gemma 3 (1B–12B), Meta Llama 3.2 (1B/3B) og Microsoft Phi-4-mini (3.8B). Qwen3 er det sikreste alsidige standardvalg. Kør dem med Ollama eller LM Studio; de fleste kræver kun 8–16 GB RAM.

## Hvad tæller som en lille LLM i 2026?

En **lille LLM** (undertiden kaldet en lille sprogmodel eller SLM) er en kompakt model, som du kan køre på almindelig forbrugerhardware i stedet for en cloudklynge med GPU'er. Der er ingen officiel grænse, men i praksis har nutidens små modeller tre fællestræk:

- Cirka **0.5B til 14B parametre** — små nok til, at en kvantiseret version kan være i hukommelsen på en almindelig bærbar computer eller et enkelt mellemklasse-GPU-kort.
- De fungerer godt efter **4-bit-kvantisering**, som reducerer hukommelsesforbruget med cirka 4x med kun et lille kompromis på kvaliteten.
- De udgives med **åbne vægte**, så du kan downloade, køre og ofte finjustere dem uden en API-nøgle.

Den vigtigste ændring siden 2023 handler om kvalitet pr. parameter. En moderne model med 3–4B parametre er instruktionsfinjusteret, flersproget og ofte bedre til ræsonnement end en model med 13B parametre fra to år tidligere. Derfor er de gamle favoritter — vanilla LLaMA 7B, Alpaca, Vicuna, GPT-J, GPT-Neo og Falcon 7B — blevet erstattet af familierne nedenfor.

## Hvorfor køre en lille LLM lokalt?

Når du kører en model på din egen maskine, får du flere fordele, som et hostet API ikke kan give dig:

- **Privatliv.** Prompter og data forlader aldrig din enhed — vigtigt ved proprietær kode samt juridisk eller medicinsk arbejde.
- **Omkostninger.** Ingen betaling pr. token. Når modellen er downloadet, er inferensen gratis.
- **Offlinebrug.** Fungerer i et fly, på et sikkert netværk eller hvor som helst uden pålideligt internet.
- **Forsinkelse og kontrol.** Ingen netværksrundtur, ingen hastighedsgrænser, og du kan fastlåse en bestemt version, så adfærden aldrig ændrer sig undervejs.
- **Tilpasning.** Du kan finjustere modellen eller tilføje informationssøgning for at tilpasse den til dit eget fagområde.

## Hvilke små LLM'er er bedst at køre lokalt i 2026?

Det er de modelfamilier, der er værd at downloade i 2026, grupperet efter producent og deres bedste anvendelse.

### Qwen3 — det alsidige standardvalg

Alibabas Qwen3-familie er stille og roligt blevet svaret på spørgsmålet »hvad skal jeg køre lokalt?« for de fleste udviklere. Den spænder over en bred vifte af størrelser — 0.6B, 1.7B, 4B, 8B og 14B på den tætte side — alle under en tilladende Apache 2.0-licens uden kommercielle begrænsninger.

- **Bedst til:** generel chat, kodehjælp, refaktorering og flersproget arbejde.
- **Det bedste kompromis:** Qwen3 8B anses bredt for at være det bedste samlede valg på et 8 GB GPU-kort; Qwen3 4B er et stærkt valg til bærbare computere, der kun bruger CPU.
- **Derfor vinder den:** høj kvalitet pr. parameter, en klar licens og fremragende værktøjsunderstøttelse.

### Google Gemma 3 — stærk og multimodal

Googles Gemma 3 fås i størrelserne 1B, 4B, 12B og 27B. Varianterne på 4B og derover er multimodale (de kan læse billeder) og understøtter 140+ sprog, hvilket gør Gemma til det oplagte valg, når du har brug for billedforståelse eller bred sprogunderstøttelse på enheden.

- **Bedst til:** multimodale input, flersprogede opgaver og generel brug på en maskine med 16 GB (Gemma 3 12B).
- **Bemærk:** Gemma udgives under Googles egen licens — tjek vilkårene for kommerciel brug.

### Meta Llama 3.2 — det nemme sted at begynde

Metas små Llama-modeller — Llama 3.2 1B og 3B — er den mest gnidningsfri måde at komme i gang på. De er små, veldokumenterede, understøttes overalt og er gode til opgaver på enheden som opsummering og enkel chat.

- **Bedst til:** den første lokale model, opsummering og assistenter på enheden.
- **Kompromis:** størrelserne 1B/3B halter efter Qwen3 og Phi-4 ved svære ræsonnementsopgaver, men de er svære at slå på hastighed og enkelhed.

### Microsoft Phi-4 og Phi-4-mini — ræsonnement over deres vægtklasse

Microsofts Phi-modeller trænes i høj grad på kuraterede og syntetiske data, hvilket får dem til at præstere over deres vægtklasse inden for matematik, logik og struktureret problemløsning. Phi-4 er en model med 14B parametre, som jævnligt konkurrerer med langt større modeller på ræsonnementsopgaver, mens **Phi-4-mini (3.8B)** måske er den bedste lille ræsonnementsmodel, du kan køre på minimal hardware — omkring 3 GB VRAM ved 4-bit. Begge udgives under en tilladende MIT-licens.

- **Bedst til:** matematik, logik og trinvis ræsonnement på beskeden hardware.

### Mistral 7B — det modne, kodeorienterede valg

Mistral 7B er stadig en pålidelig arbejdshest med et af de største økosystemer af finjusteringer og integrationer. Den er under Apache 2.0, kører komfortabelt på et 8 GB GPU-kort og er stadig en favorit til lokale opsætninger med fokus på kode. Mistrals mindre Ministral-modeller (3B og 8B) udvider familien til brug på edge-enheder.

- **Bedst til:** kodning, en velunderstøttet generel model og nem finjustering.

### Destillerede DeepSeek-R1-modeller — til logiktunge opgaver

DeepSeek udgav destillerede ræsonnementsmodeller bygget på Qwen- og Llama-baser (typisk 7B, 8B og 14B). De bringer ræsonnement i kæde-af-tanker-stil ned i størrelser, du kan køre lokalt, og er stærke til trinvis problemløsning. De er under MIT-licensen og fås i Ollama.

- **Bedst til:** ræsonnement, matematik og problemer, der har gavn af synlige tanketrin.

### SmolLM2 — når du har brug for den allermindste

Hugging Faces SmolLM2 fås i størrelserne 135M, 360M og 1.7B. Det er modellerne, du skal vælge til den mest begrænsede hardware, i browsere eller på edge-enheder. De klarer opsummering og enkle instruktioner, men er ikke bygget til komplekst ræsonnement.

- **Bedst til:** ekstremt lidt RAM, indlejret brug og edge-brug samt eksperimenter.

## Sammenligning af små LLM'er

Omtrentlige tal for kvantiserede versioner med 4-bit (Q4). Det faktiske hukommelsesforbrug varierer med kontekstlængde og runtime.

| Model | Parametre | Ca. RAM/VRAM (Q4) | Bedst til | Licens |
|----|----|----|----|----|
| Qwen3 1.7B | 1.7B | ~2 GB | Hurtig chat på enhver bærbar computer | Apache 2.0 |
| Qwen3 4B | 4B | ~3–4 GB | Afbalanceret chat + lettere kodning | Apache 2.0 |
| Qwen3 8B | 8B | ~6–8 GB | Bedste alsidige valg på et 8 GB GPU-kort | Apache 2.0 |
| Qwen3 14B | 14B | ~10–12 GB | Kodning, refaktorering og ræsonnement | Apache 2.0 |
| Gemma 3 4B | 4B | ~3–4 GB | Multimodal / 140+ sprog | Gemma |
| Gemma 3 12B | 12B | ~9–10 GB | Stærk generel brug på 16 GB | Gemma |
| Llama 3.2 3B | 3B | ~3 GB | Nem start | Llama |
| Phi-4-mini | 3.8B | ~3 GB | Ræsonnement/matematik på begrænset hardware | MIT |
| Phi-4 | 14B | ~10–12 GB | Matematik/logik over sin vægtklasse | MIT |
| Mistral 7B | 7B | ~5–6 GB | Kodeorienteret, modent økosystem | Apache 2.0 |
| DeepSeek-R1 distill 8B | 8B | ~6–8 GB | Logiktungt, trinvis ræsonnement | MIT |
| SmolLM2 1.7B | 1.7B | ~1.5 GB | Edge / ekstremt lidt RAM | Apache 2.0 |

## Hvor meget RAM og hardware har du brug for?

En nyttig tommelfingerregel: En kvantiseret 4-bit-model kræver cirka **0.6–0.75 GB hukommelse pr. milliard parametre** plus lidt ekstra plads til kontekst. En model med 7B parametre kræver altså omkring 5–6 GB, og en model med 14B parametre omkring 10–12 GB. Dine muligheder afhænger af, hvor meget hukommelse du har:

| Du har | Komfortabel modelstørrelse | Gode valg |
|----|----|----|
| 8 GB RAM, ingen GPU | 1–4B | Qwen3 4B, Phi-4-mini, Gemma 3 1B, Llama 3.2 3B |
| 8 GB GPU (VRAM) | 7–8B | Qwen3 8B, Mistral 7B, DeepSeek-R1 distill 8B |
| 16 GB RAM / VRAM | 12–14B | Gemma 3 12B, Qwen3 14B, Phi-4 |
| 24 GB+ GPU | 14–32B | Qwen3 32B, større DeepSeek-varianter |

Apple Silicon-Macs er et særligt tilfælde: Deres fælles hukommelse lader GPU'en bruge det meste af systemets RAM, så en M-serie-MacBook med 16–32 GB kan køre modeller, som ville kræve et dedikeret GPU-kort på en pc.

**Tommelfingerregel:** Start ikke med den største model. Start med den bedste model, som din hardware kan køre komfortabelt. En hurtig 4B-model slår en 14B-model, der skifter hukommelse ud og svarer med én token i sekundet.

## Hvordan kører du en lille LLM lokalt?

Du behøver ikke røre Python for at komme i gang. Tre værktøjer dækker næsten alle anvendelser:

- **Ollama** — den enkleste vej. Installer det, og hent og kør derefter en model med én kommando. Det håndterer download, kvantisering og et OpenAI-kompatibelt API på `localhost:11434`.
- **LM Studio** — en poleret desktopapp med chatgrænseflade, modelbrowser og downloads med ét klik. Bedst, hvis du foretrækker en grafisk grænseflade.
- **llama.cpp** — den underliggende C/C++-motor, som driver store dele af økosystemet. Vælg den, når du ønsker maksimal kontrol eller vil køre GGUF-filer direkte på CPU eller Apple Silicon.

En første kørsel med Ollama ser sådan ud:

```
# Pull and chat with Qwen3 8B (best all-rounder on an 8 GB GPU)
ollama pull qwen3:8b
ollama run qwen3:8b

# Lighter options for CPU-only laptops
ollama pull qwen3:4b
ollama pull llama3.2:3b
ollama pull phi4-mini
ollama pull gemma3:4b
```

Når en model kører, tilbyder både Ollama og LM Studio et OpenAI-kompatibelt endpoint, så du kan rette eksisterende værktøjer og scripts mod din lokale model ved blot at ændre base-URL'en.

## Hvordan vælger du den rigtige lille LLM?

Tilpas modellen til opgaven i stedet for at jagte en placering på en rangliste:

- **Generel chat og dagligdags opgaver:** Qwen3 (4B eller 8B) — det sikreste standardvalg.
- **Kodning og refaktorering:** Qwen3 14B, Mistral eller en destilleret DeepSeek-R1-model på et 12–16 GB GPU-kort.
- **Matematik, logik og ræsonnement på begrænset hardware:** Phi-4-mini, derefter Phi-4, hvis du har 16 GB.
- **Billeder eller mange sprog:** Gemma 3 4B eller 12B.
- **Mindst mulig plads:** Llama 3.2 1B, Gemma 3 1B eller SmolLM2.

## Hvad er begrænsningerne ved små lokale LLM'er?

Små modeller er virkelig nyttige, men det er godt at vide, hvor deres begrænsninger ligger:

- **Mindre viden om verden.** De ved mindre end de førende cloudmodeller og kan tage selvsikkert fejl, så kontrollér fakta, når noget er vigtigt.
- **Svagere til meget svært ræsonnement.** En model med 3B parametre matcher ikke en stor hostet model til komplekse problemer med flere trin.
- **Kompromiser mellem kontekst og hastighed.** Lange kontekster bruger mere hukommelse; store modeller kan være langsomme på CPU.
- **Kvaliteten varierer fra opgave til opgave.** En model, der er fremragende til chat, kan være middelmådig til kode. Afprøv et par stykker, før du beslutter dig.

For mange arbejdsgange er løsningen informationssøgning (RAG) eller en hurtig finjustering, der giver modellen dine egne data — begge dele er langt billigere lokalt, end det lyder.

## FAQ

### Hvad er den bedste lille LLM at køre lokalt i 2026?

For de fleste er Qwen3 8B det bedste alsidige valg på et 8 GB GPU-kort, og Qwen3 4B eller Llama 3.2 3B fungerer godt på bærbare computere, der kun bruger CPU. Vælg den største model, din hardware kan køre komfortabelt, i stedet for den største, der findes.

### Hvad er den mindste LLM, man kan køre lokalt?

Modeller som SmolLM2 (135M–1.7B), Llama 3.2 1B, Gemma 3 1B og Qwen3 0.6B kører på næsten enhver moderne bærbar computer, ofte med under 2 GB RAM, når de er kvantiseret til 4-bit. De klarer opsummering og enkel chat, men er svage til komplekst ræsonnement.

### Hvor meget RAM skal jeg bruge for at køre en lille LLM lokalt?

En 3–4B-model kvantiseret til 4-bit kræver cirka 3–4 GB ledig RAM eller VRAM, en model på 7–8B kræver omkring 6–8 GB, og en på 12–14B kræver 10–16 GB. 16 GB system-RAM er et komfortabelt udgangspunkt for de fleste små modeller.

### Hvad er den nemmeste måde at køre en lille LLM lokalt?

Installer Ollama eller LM Studio, og hent derefter en model med én kommando (for eksempel `ollama pull qwen3:8b`). Begge håndterer download, kvantisering og en lokal chatgrænseflade og tilbyder et OpenAI-kompatibelt API til dine egne apps.

### Kan jeg køre en lille LLM uden en GPU?

Ja. Med 4-bit-kvantisering kan modeller op til cirka 7–8B køres på en moderne CPU, og de kører mærkbart hurtigere på Apple Silicon-Macs takket være den fælles hukommelse. Forvent lavere tokeng hastigheder end med et dedikeret GPU-kort, men modellerne kan bruges til chat og udkast.

### Er små lokale LLM'er gode til kodning?

Det kan de være. Qwen3 og destillerede DeepSeek-R1-modeller er stærke til kode blandt små modeller, og Mistral har et modent, kodeorienteret økosystem. Til større refaktorering giver en model med 14B parametre på et 12–16 GB GPU-kort den bedste kvalitet, du kan få lokalt.

## Kort fortalt

Små lokale LLM'er er gået fra at være et hobbyeksperiment til et praktisk dagligt værktøj. Begynd med Qwen3 som et afbalanceret standardvalg, vælg Phi-4-mini, når du har brug for ræsonnement på let hardware, og vælg Gemma 3, når du har brug for billedforståelse eller mange sprog — alt sammen via Ollama eller LM Studio på få minutter. Hvis du har brug for hjælp til Ailoot-dokumentationen, kan du se [Ailoot-dokumentationen](https://ailoot.ai/docs/).


## Ailoot · Virksomheden og dens projektportefølje

Ailoot bygger på solid driftserfaring, en stor kundebase, stabil service og løbende kontrol af KPI.

Virksomheden og dens projektportefølje: millioner af kunder; månedligt salg for milliarder.

Ailoot bruger denne driftserfaring til API-adgang til AI-funktioner i kundernes produkter, agenter, applikationer og automatiseringer.
