Driftsformer for en sprogmodel

Den samme model kan nå jer på fire måder: som færdig tjeneste, gennem en udbyders API, på lejede grafikkort eller på jeres egne maskiner. Jo tættere modellen kommer på jer, jo mere bestemmer I over data og version, og jo flere opgaver flytter ind i huset. Artiklerne her viser, hvad hver driftsform kræver, og hvad der ændrer sig, når modellen skal søge i jeres dokumenter eller handle i jeres systemer.

Egen drift

• Egen drift af en sprogmodel: hvornår giver det mening? Fire betingelser, der skal være opfyldt samtidig.
• Hvad kræver det af maskiner? Modelstørrelse, samtidige brugere og tekstlængde.
• De driftsopgaver, ingen regner med Otte opgaver, som en købt tjeneste løser i det skjulte.
• Fra forsøg på en bærbar til rigtig drift Det, et forsøg ikke viser.
• Sikkerhed, når I selv kører modellen Opgaverne, der flytter fra udbyderen til jer.
• Medarbejdernes egne lokale modeller Ingen data ud og intet overblik for IT.

Mellemvejene

• Lejet GPU med åben model: mellemvejen Kontrol over model og version uden egne maskiner.
• Åben model via europæisk API: hvad køber I egentlig? Adgang til en model, som udbyderen driver.
• Drift hos en dansk leverandør: hvad skal I vurdere? Samme felter som for enhver anden udbyder.

De store platforme

• Amerikansk platform, europæisk region Lagring og beregning læst hver for sig.
• Suveræne AI-tilbud fra de store leverandører Hvad der flytter tættere på, og hvad der bliver.

Tilpasning, søgning og agenter

• Prompt, egne dokumenter eller finjustering: tre måder at tilpasse en model Tre veje, der binder i stigende grad.
• Søgning i egne dokumenter: hvor ligger indekset? Indekset i jeres systemer eller hos udbyderen.
• Rettigheder i dokumenterne: det, en AI-søgning afslører Adgange, ingen har tænkt over.
• Agenter: hvad er anderledes, når modellen må handle? Forbindelser og rettigheder gennem en tredjepart.

Kapacitet og service

• Spidsbelastning: hvad sker der, når modellen er fuld? Flytning, kø eller afvisning.
• Servicemål for en AI-tjeneste: det, I kan bede om Oppetid, kapacitet, svartid og support.

Sådan bruger I siden

Vælg driftsform for én opgave ad gangen. Start med de krav, sorteringen af data har givet, og gå derefter den mindst krævende vej, der opfylder dem. Løser en købt tjeneste opgaven, når kontoen og indstillingerne er valgt rigtigt, er der ingen grund til at bære driften selv. Kræver data, at intet forlader jeres miljø, er det egen drift eller lejet kapacitet, og så skal folk og opgaver med i planen fra begyndelsen. Overblikket over de fire veje står i artiklen om driftsformerne.

Hvad det kræver, og hvad det koster at lade være

Hver driftsform har sin egen hovedpost. En købt tjeneste betales pr. bruger eller efter forbrug. Et API afregnes efter forbrug. Lejede grafikkort betales for tiden, de står til rådighed, også når de står stille. Egen drift binder penge i maskiner og timer hos dem, der passer dem. Regn posterne op med samme rækker for alle fire på siden om regnestykket. Vælger I driftsform efter et forsøg på en bærbar, opdager I først i drift, hvad overvågning, adgang, opdatering og kapacitet koster.

Det skal I lade være med

• At vælge egen drift for kontrollens skyld alene · driften skal kunne bæres hele året.
• At tro, at regionen afgør, hvor modellen regner · læs det løfte for sig.
• At give en agent bredere rettigheder end brugeren · den handler med dem.

Det skal valget kunne vise

• ☐ Driftsformen pr. opgave og de krav, den opfylder.
• ☐ Hvor beregning, lagring og indeks ligger.
• ☐ Hvem der står for drift, overvågning og opdatering.
• ☐ Servicemål og det, der sker ved spidsbelastning.

Senest gennemgået: november 2026.

Næste skridt

Tag den opgave, der stiller de strengeste krav til data, og find den mindst krævende driftsform, der opfylder dem.

• Egen drift af en sprogmodel: hvornår giver det mening?
• Lejet GPU med åben model

Læs også: Modeller med åbne vægte · Binding og skifte af model

→ Kontakt · Tlf. 70 13 63 23 · Jurisdiktions- og afhængighedsvurdering hos Nielco IT