Model cards i erhvervslivet
For virksomheder, der anvender AI, er model cards blevet et praktisk redskab til at skabe overblik og kontrol. Når en organisation har flere AI-modeller i drift, giver model cards et samlet overblik over, hvad hver model gør, hvor den performer godt, og hvor der er risici. Det er information, som både tekniske teams og ledelse har brug for.
I forbindelse med AI governance fungerer model cards som den dokumentation, der gør det muligt at føre tilsyn med AI-systemer. Bestyrelser og compliance-teams kan bruge dem til at forstå, hvilke AI-modeller organisationen anvender, uden at skulle gennemgå teknisk kode. Det understøtter den type human oversight, som regulering i stigende grad kræver.
Regulatorisk er model cards tæt knyttet til kravene i EU AI Act, som stiller krav om teknisk dokumentation for højrisiko-AI-systemer. Et velstruktureret model card dækker mange af de oplysninger, som forordningen kræver, herunder oplysninger om træningsdata, ydeevne og begrænsninger. Organisationer, der allerede arbejder med model cards, har et forspring i forhold til AI compliance.
Internt fungerer model cards også som kommunikationsværktøj. Når data scientists skal overdrage en model til et produktionsteam, eller når en ny medarbejder skal forstå en eksisterende model, giver model cardet en struktureret introduktion, der reducerer vidensgab og misforståelser.
Hvad et model card ikke er
Et model card er ikke en komplet teknisk specifikation. Det erstatter ikke den fulde dokumentation af en models arkitektur, hyperparametre og træningsproces. Model cardet er tænkt som et tilgængeligt overblik, der kan læses af både tekniske og ikke-tekniske interessenter. Den dybere tekniske dokumentation lever separat.
Det er heller ikke en garanti for kvalitet eller sikkerhed. At en model har et model card, betyder ikke automatisk, at modellen er pålidelig eller fri for bias. Model cardet dokumenterer, hvad udviklerne ved om modellen, men det kan kun afspejle de test og evalueringer, der faktisk er gennemført. Et model card med mangelfulde evalueringer kan give en falsk tryghed.
Endelig er et model card ikke en engangsøvelse. AI-modeller udvikler sig over tid gennem opdateringer, fine-tuning og ændringer i de data, de møder i produktion. Et model card skal vedligeholdes og opdateres løbende for at forblive relevant og præcist.
