I en medicinalvirksomhed, der arbejder efter GMP, er et skift af AI-model i et valideret system en ændring, der efter EU’s udkast til nye regler skal styres og kan kræve ny validering. Udkastet til et nyt bilag om AI, Annex 22, siger desuden, at generativ AI og sprogmodeller ikke bør bruges i kritiske GMP-anvendelser. Begge tekster er udkast og er ikke vedtaget.
GMP står for god fremstillingspraksis og er EU’s regler for fremstilling af lægemidler, samlet i EudraLex bind 4. Validering betyder, at virksomheden dokumenterer, at et system gør det, det skal, hver gang. Udkastene er gengivet forenklet. Med “efter vores læsning” angiver vi sitets egen fortolkning af dem.
Udkastet til Annex 22
Kommissionen sendte et udkast til et nyt Annex 22 om kunstig intelligens i høring fra 7. juli til 7. oktober 2025. Høringen er lukket. Da vi så Kommissionens side for EudraLex bind 4 den 8. november 2026, stod Annex 22 ikke blandt de gældende bilag.
Udkastet siger bl.a.:
- Det gælder AI-modeller i kritiske anvendelser med direkte betydning for patientsikkerhed, produktkvalitet eller dataintegritet (afsnit 1).
- Det gælder statiske, deterministiske modeller, altså modeller, der giver samme svar på samme input.
- Det gælder ikke generativ AI og sprogmodeller, og sådanne modeller bør ikke bruges i kritiske GMP-anvendelser.
- I ikke-kritiske anvendelser skal kvalificeret personale altid sikre, at resultatet passer til formålet.
- Dokumentationen skal være tilgængelig for den regulerede virksomhed, også når modellen leveres af en leverandør (afsnit 2.2).
- Kriterierne for at godkende en model skal være mindst lige så høje som for den proces, modellen erstatter (afsnit 4.3).
Udkastet til et nyt Annex 11
Samtidig var et udkast til et revideret Annex 11 om computersystemer i høring. Det nævner den stigende brug af cloudtjenester. Enhver ændring af et system, også software og platform, skal ske kontrolleret, og væsentlige ændringer med betydning for produktkvalitet, patientsikkerhed eller dataintegritet bør gennemgå ny kvalificering og validering. Den regulerede virksomhed har det fulde ansvar, også når den bruger en leverandørs drift, og skal vurdere leverandøren efter risiko, føre tilsyn efter serviceaftalen og have adgang til dokumentation. Udkastet er ikke vedtaget, og den gældende Annex 11 fra 2011 har vi ikke læst.
Hvad det betyder for valget af model
Efter vores læsning giver de to udkast fire konsekvenser.
Sprogmodeller holdes ude af de kritiske processer. Bliver Annex 22 vedtaget som i udkastet, er valget af sprogmodel kun relevant for ikke-kritiske opgaver: udkast til dokumenter, søgning i procedurer, oversættelse og lignende. Her skal en kvalificeret medarbejder stadig kontrollere resultatet. Det betyder, at tjenesten skal kunne bruges på en måde, hvor kontrollen er realistisk, fx ved at vise de kilder, et svar bygger på.
Modellen skal kunne fastholdes. En validering gælder en bestemt model i en bestemt version. Udbyderne af sprogmodeller som tjeneste udfaser modeller efter deres egne planer, og nogle tjenester flytter jer automatisk til en nyere version, hvis I ikke selv har valgt andet. For et valideret system betyder det, at et modelskift, man ikke selv har valgt, kan udløse ny validering. Sitets artikel om modeller med udløbsdato viser, hvordan varslerne læses.
Egen drift eller fast version. Hvor en model skal bruges i et valideret miljø, taler udkastene for en model, hvor versionen kan låses: en åben model i egen drift eller en tjeneste, der aftaler en fast version og et langt varsel. Det er vores vurdering. Udkastene kræver det ikke.
Dokumentationen skal kunne fås. Udkastet til Annex 22 forudsætter, at dokumentationen er tilgængelig, også fra en leverandør. Efter AI-forordningen har en almindelig bruger kun begrænset ret til oplysninger om modellen. Dokumentationen skal derfor sikres i aftalen. Se de oplysninger, I kan bede leverandøren om.
Hvad validering betyder for omkostningen ved at skifte leverandør, gennemgår vendor-lock-in.dk.
Hvad det kræver, og hvad det koster at lade være
At kortlægge, hvor AI bruges, og om anvendelsen er kritisk efter udkastets definition, tager en kvalitetsansvarlig og IT få dage. For hver ikke-kritisk anvendelse skrives ned, hvem der kontrollerer resultatet. For hver anvendelse tæt på et valideret system skrives ned, hvilken modelversion der bruges, og hvordan et skifte styres.
Lader I være, kan en model i en tjeneste skifte under jer i et miljø, hvor ændringer skal styres. Ny validering under tidspres er en tung post: egne timer i kvalitetsafdelingen, test og dokumentation, og måske en periode, hvor opgaven løses manuelt.
Det skal I lade være med
- At skrive Annex 22 som gældende · det er et udkast, høringen lukkede 7. oktober 2025.
- At bruge en sprogmodel i en kritisk GMP-proces · udkastet siger, at det ikke bør ske.
- At købe en tjeneste uden aftale om version og varsel · et modelskift kan kræve ny validering.
Det skal valget kunne vise
- ☐ En liste over AI-anvendelser opdelt i kritiske og ikke-kritiske.
- ☐ Hvem der kontrollerer resultatet i de ikke-kritiske anvendelser.
- ☐ Den modelversion, der bruges, og hvordan et skifte styres.
- ☐ Adgang til dokumentation fra leverandøren.
Kilder
- Kommissionen, Stakeholders’ Consultation on EudraLex Volume 4, med udkast til Annex 22 og Annex 11, høring 7. juli til 7. oktober 2025, https://health.ec.europa.eu/consultations/stakeholders-consultation-eudralex-volume-4-good-manufacturing-practice-guidelines-chapter-4-annex_en, læst 8. november 2026.
- Udkast til Annex 22, https://health.ec.europa.eu/document/download/5f38a92d-bb8e-4264-8898-ea076e926db6_en?filename=mp_vol4_chap4_annex22_consultation_guideline_en.pdf, læst 8. november 2026.
- Kommissionen, EudraLex Volume 4, https://health.ec.europa.eu/medicinal-products/eudralex/eudralex-volume-4_en, læst 8. november 2026.
Senest gennemgået: november 2026.
Næste skridt
Lav listen over AI-anvendelser, og markér dem, der ligger tæt på et valideret system.
Læs også: Modellen skifter under jer · De oplysninger, I kan bede leverandøren om
→ Kontakt · Tlf. 70 13 63 23 · Jurisdiktions- og afhængighedsvurdering hos Nielco IT
