Europæisk AI

Folkene bag en sprogmodel i drift

Folkene bag en sprogmodel i drift

En sprogmodel i drift kræver folk til at holde den kørende, til at teste den, når den skifter, til at vedligeholde prompter og dokumenter og til at følge leverandøren. Hvor mange timer det er, afhænger af driftsformen, og posten skal stå i regnestykket for alle spor, også for den købte tjeneste.

Hvor mange folk en sprogmodel i drift kræver, har vi ingen uafhængig kilde til. Derfor står her rollerne, så I selv kan sætte timer på. Pointen er, at timerne er en fast post, der ikke følger forbruget, og at den er let at glemme, når tilbuddet kun viser licensen eller maskinen.

Rollerne

Drift af modellen. Ved egen drift og lejet GPU: installation, opdatering af model og software, overvågning, kapacitet, fejlretning og genstart. Det er klassisk driftsarbejde med nye værktøjer.

Sikkerhed. Adgangsstyring, logning, opdateringer, kontrol af modelfiler og af, hvad modellen må hente og gøre. Ved egen drift er det hele jeres. Ved købt tjeneste er det opsætningen og kontrollen af leverandøren. Se sikkerhed, når I selv kører modellen.

Prompter og instruktioner. Den, der skriver og retter de instruktioner, der får modellen til at løse jeres opgaver. Det er et løbende arbejde, fordi opgaverne ændrer sig, og fordi en ny model kan reagere anderledes på de samme instruktioner.

Data og indeks. Ved søgning i egne dokumenter: hvilke dokumenter er med, hvem må se hvad, og hvornår skal indekset bygges igen? Et skift af model kan kræve, at dokumenterne indekseres på ny.

Test og kvalitet. Den, der måler, om svarene er gode nok, før valget, ved hvert modelskift og løbende. Kræver et testsæt, som nogen vedligeholder.

Leverandørstyring. Læsning af ændrede vilkår, varsler om udfasning, prisændringer og forbrug. Ved købt tjeneste er det en stor del af arbejdet med modellen. Det er arbejde, der ligger hos jer, uanset hvor meget leverandøren gør.

Support til brugerne. Hvilke opgaver er modellen godkendt til, hvad gør man, når den svarer forkert, og hvem samler fejlene op?

Jura og databeskyttelse. Gennemgang af aftaler, kundeaftaler og databehandleraftale ved køb og ved ændringer.

Rollerne pr. driftsform

Alle fire driftsformer har roller, men vægten er forskellig.

Købt tjeneste. Leverandørstyring, test ved modelskift, prompter, support og jura. Ingen drift af maskiner, men opsætning af adgange og overvågning af brug.

Model via API. Det samme, plus integrationen med jeres egne systemer, mellemlaget og overvågningen af forbrug.

Lejet GPU med åben model. Det samme, plus drift og opdatering af modellen og softwaren omkring den. Maskinerne er lejet, men alt over dem er jeres.

Egen drift. Alt ovenfor, plus maskiner, strøm, plads og reservedele. Se de driftsopgaver, ingen regner med.

Sårbarheden ved én person

I en mindre IT-organisation kan meget af ovenstående ende hos én person, der har fået interesse for AI og har bygget løsningen. Det virker, så længe personen er der. Når personen er syg, holder ferie eller stopper, står modellen uden nogen, der kender den.

Regn derfor med mindst to, der kan de kritiske opgaver, hvis modellen bliver forretningskritisk. Skriv ned, hvordan modellen er sat op, hvor prompter og testsæt ligger, og hvem der har adgang. Er det ikke realistisk at have to, peger det mod en driftsform, hvor leverandøren bærer mere. Det er et valg efter IT-modenhed. Hvem der kan gøre arbejdet ved forskellige grader af modenhed, står under hvem gør arbejdet.

Sådan sætter I timerne ind

Engangstimer. Opsætning, integration, første testsæt, første prompter, uddannelse og aftalegennemgang. Skøn med et lavt og et højt tal.

Løbende timer. Timer pr. måned for hver rolle. Skriv dem pr. rolle, så det kan ses, hvor de ligger.

Timer ved hændelser. Hvert modelskift, hver vilkårsændring og hver fejl koster timer. Tæl, hvor mange varsler om udfasning og ændring I kan forvente i en periode, ud fra de varsler, jeres leverandører har sendt hidtil.

Hvad timerne fortrænger. De timer, IT bruger på modellen, bruges ikke på noget andet. Skriv, hvad der skubbes.

Brug jeres egne interne satser, så posten kan sammenlignes med de andre. Hvordan driftsfolk ved infrastrukturen sættes ind, beskriver europaeisk-cloud.dk ud fra serverne. Her er det modellen og arbejdet omkring den.

Hvad det kræver, og hvad det koster at lade være

Opgørelsen kræver, at IT og den, der bruger modellen mest, gennemgår rollerne og giver timerne et lavt og et højt skøn. Vores skøn er mellem en halv og en hel arbejdsdag pr. afgrænset løsning.

Uden opgørelsen ser egen drift og lejet GPU billigere ud, end de er, fordi tilbuddet kun viser maskinen. Og den købte tjeneste ser ud, som om den ikke kræver noget af jer. Begge billeder holder kun, indtil personen, der bar arbejdet, er væk.

Det skal I lade være med

  • At sætte nul timer på den købte tjeneste · leverandørstyring og test er stadig jeres.
  • At bygge driften på én person · skriv ned, og hav en til, der kan opgaven.
  • At samle alle timer i én række · pr. rolle viser, hvor de ligger.

Det skal valget kunne vise

  • ☐ Roller pr. driftsform med lavt og højt skøn på timer.
  • ☐ Engangstimer og løbende timer adskilt.
  • ☐ Navne på mindst to, der kan de kritiske opgaver.
  • ☐ Dokumentation af opsætning, prompter og testsæt.

Senest gennemgået: november 2026.

Næste skridt

Skriv navnene ud for hver rolle ovenfor for den AI-løsning, I bruger mest.

Læs også: Hvornår betaler egen drift sig? · Prompter, instruktioner og testsæt er jeres aktiver

→ Kontakt · Tlf. 70 13 63 23 · Jurisdiktions- og afhængighedsvurdering hos Nielco IT

Skrevet af John Nielsen, indehaver af Nielco IT. Selvstændig siden 2009 og mere end 30 års erfaring med IT‑sikkerhed. Om John Nielsen · LinkedIn

John Nielsen, Nielco IT

Overvejer I, hvilken AI I skal vælge?

Skriv kort, hvilken AI-tjeneste eller model det drejer sig om, og hvad der sætter spørgsmålet i gang. Så vender jeg tilbage. Rådgivningen er uvildig og uafhængig, og Nielco IT har ingen forhandleraftaler.

Tak for din henvendelse. Jeg vender tilbage hurtigst muligt.