En lille sprogmodel på jeres egen computer eller server er nok, når opgaven er afgrænset, sproget er det vigtigste, og I selv kan måle, at svarene er gode nok: rette stavning, skrive et referat sammen, opsummere en samtale eller et dokument. Fordelen er, at intet forlader maskinen. Modellen kan fås uden licensbetaling, men driften koster stadig tid, maskine og vedligehold.
Artiklen er en metode. Den hjælper jer med at afgøre, om en lille lokal model kan tage en opgave, før I køber en tjeneste til den.
Hvad “lille” betyder her
En lille model er en model, der kan køre på en almindelig kraftig computer eller en enkelt server, ofte i en komprimeret udgave. Komprimeringen kaldes kvantisering: vægtene gemmes med færre decimaler, så modellen fylder mindre i hukommelsen. Dokumentationen til et udbredt stykke serversoftware beskriver det som mindre hukommelsesforbrug på bekostning af lavere præcision. Det er altså en afvejning, I skal måle.
Hvad det kræver af maskinen, afhænger af modellens størrelse, hvor lange tekster den skal læse, og hvor mange der bruger den på én gang. Det er gennemgået i hvad kræver det af maskiner.
Opgaver, hvor en lille model ofte er et godt bud
Kendetegnet er, at svaret kan tjekkes af den, der bruger det, og at modellen ikke skal vide meget om verden:
- Rette stavning og grammatik i breve, tilbud og interne tekster.
- Skrive et mødereferat sammen ud fra noter eller en udskrift.
- Opsummere et langt dokument eller en mailtråd.
- Omskrive en tekst til et andet niveau eller en anden tone.
- Sortere og mærke korte tekster efter faste kategorier.
Det er også opgaver, hvor indholdet tit er fortroligt: personalesager, kundebreve, tilbud og interne notater. Netop dér er det en fordel, at teksten bliver på maskinen.
Opgaver, hvor en lille model sjældent er nok, er dem, der kræver bred viden, lange ræsonnementer eller meget præcis kode. Tag det som et udgangspunkt for, hvad I prøver først. Hvordan I måler det, står i byg jeres egen prøvesamling.
Fremgangsmåden i seks trin
1. Vælg én opgave. Skriv den ned i én sætning, og hvem der bruger svaret.
2. Byg en lille prøvesamling. Tyve til fyrre rigtige eksempler fra hverdagen, med det svar, en kollega ville have givet. Fjern det, der ikke må bruges til prøven.
3. Skriv kriterierne på forhånd. Hvad er godt nok? For stavning kan det være, at alle rettelser er rigtige. For et referat, at beslutninger og ansvarlige står korrekt. Skriv kriterierne, før I ser svarene.
4. Vælg to eller tre modeller med åben licens. Læs licensfilen for den præcise version. Licenser skifter fra version til version hos samme udgiver, se licenserne på åbne modeller. Tag gerne en model med, der er trænet med vægt på dansk.
5. Kør prøven på den maskine, modellen skal køre på. Mål kvaliteten, svartiden og om maskinen kan følge med.
6. Beslut og skriv ned. Model, version, licens, maskine, resultat og hvem der vedligeholder. Kan ingen af modellerne opfylde kriterierne, er det også et resultat.
Eksempler på små modeller med åben licens
Senest læst: 8. november 2026. Navnene er daterede eksempler:
- Mimir fra Danish Foundation Models er trænet med vægt på dansk og udgivet under Apache 2.0. SDU skriver, at den kan køres på en lokal computer eller egen server. Se danske sprogmodeller.
- Ministral 3 fra franske Mistral AI findes i flere små størrelser under Apache 2.0.
- Apertus 8B fra det schweiziske Swiss AI Initiative er under Apache 2.0. Filerne kræver login og accept af udgiverens vilkår, før de kan hentes.
Ingen af dem er målt af os på dansk. Licensen er læst i modelkort eller modeloplysninger på Hugging Face.
Når medarbejderne gør det selv
Værktøjer til at køre en model på en pc er lette at installere, og en medarbejder kan hente en model på kort tid. Så ser IT hverken model, version eller licens, og ingen ved, hvad der kører. Det er en anden sag end at vælge en lille model til en opgave. Den er gennemgået i medarbejdernes egne lokale modeller.
Hvad det kræver, og hvad det koster at lade være
Prøven i trin 1 til 6 tager nogle dage for en IT-ansvarlig og en fagperson, der kender opgaven. Driften bagefter er den post, der overses: nogen skal installere, opdatere modellen, når der kommer en ny version, læse licensen igen og holde øje med maskinen. Er modellen på hver medarbejders pc, gælder det for hver pc. Sæt timer på, og stil dem op mod en købt tjeneste til samme opgave med jeres egne tal.
Lader I være, går de fortrolige tekster fortsat til den tjeneste, medarbejderne selv har valgt. Eller også køber I en stor tjeneste til en opgave, en lille model på egen maskine kunne have klaret. Begge dele er dyrere end prøven.
Det skal I lade være med
- At regne en model uden licensbetaling som uden omkostning · driften er en post.
- At prøve på opfundne eksempler · prøven skal bygge på jeres egne tekster.
- At skrive kriterierne efter, at I har set svarene · så måler I ikke noget.
Det skal valget kunne vise
- ☐ Opgaven i én sætning og kriterierne skrevet på forhånd.
- ☐ Modeller, versioner og licenser, der er prøvet.
- ☐ Resultatet af prøven, også hvis det var nej.
- ☐ Maskine, ansvarlig for drift og dato for næste gennemsyn.
Kilder
- vLLM, Conserving Memory, https://docs.vllm.ai/en/latest/configuration/conserving_memory.html, læst 8. november 2026.
- SDU, AI på SDU: Mimir, 29. oktober 2026, https://www.sdu.dk/en/om-sdu/institutter-centre/imada_matematik_og_datalogi/nyt_fra_imada/ai-paa-sdu-mimir, læst 8. november 2026.
- Mistral AI, Models Overview, https://docs.mistral.ai/getting-started/models/, læst 8. november 2026.
- Hugging Face, modeloplysninger for swiss-ai, https://huggingface.co/api/models?author=swiss-ai, læst 8. november 2026.
Senest gennemgået: november 2026.
Næste skridt
Vælg én opgave med fortroligt indhold, byg prøvesamlingen og skriv kriterierne ned, før I henter en model.
Læs også: Byg jeres egen prøvesamling · Danske sprogmodeller
→ Kontakt · Tlf. 70 13 63 23 · Jurisdiktions- og afhængighedsvurdering hos Nielco IT
