Capability thresholds i erhvervslivet
For virksomheder har capability thresholds tre praktiske konsekvenser. Den første er compliance: hvis jeres AI-leverandør bruger en model, der krydser en regulatorisk grænse, kan det udløse krav om teknisk dokumentation, risikovurdering og løbende overvågning under EU AI Act. Det gælder, uanset om I selv har trænet modellen eller blot bruger den via en API.
Den anden konsekvens handler om leverandørvurdering. Når I evaluerer AI-platforme og -tjenester, bør capability thresholds indgå i jeres due diligence. Spørgsmålet er ikke bare, om modellen er god nok til opgaven, men også om den er kraftfuld nok til at udløse ekstra regulatoriske forpligtelser. En frontier model med højere kapabilitet kan paradoksalt nok kræve mere compliance-arbejde end en mindre model, der løser opgaven lige så godt.
Den tredje konsekvens er strategisk. Capability thresholds skaber et naturligt skel mellem AI-systemer, der kan implementeres hurtigt, og dem, der kræver grundigere forberedelse. Virksomheder med en solid AI governance-struktur kan navigere dette skel hurtigere end konkurrenter, der først skal bygge governance op, når regulering rammer.
I praksis betyder det, at jeres AI-strategi bør inkludere en vurdering af, hvilke capability thresholds jeres nuværende og planlagte AI-systemer befinder sig i forhold til. Det kræver ikke, at I selv evaluerer modellerne teknisk, men at I stiller de rigtige spørgsmål til jeres leverandører og forstår konsekvenserne af svarene.
Hvad capability thresholds ikke er
Capability thresholds er ikke en on/off-kontakt for, om AI er farlig. En model under en given grænse kan stadig producere hallucinationer, have bias eller bruges til skadelige formål. Thresholds handler om sandsynligheden for systemisk risiko, ikke om individuel misbrug. De er et regulatorisk og sikkerhedsmæssigt værktøj, ikke en kvalitetsstempel.
Det er også vigtigt at skelne capability thresholds fra risikoklassificering. EU AI Acts risikoniveauer (minimal, begrænset, høj, uacceptabel) handler om, hvad AI-systemet bruges til. Capability thresholds handler om, hvad modellen kan. En model kan krydse et capability threshold uden at blive brugt i en højrisiko-kontekst, og omvendt kan en mindre kapabel model bruges i en højrisiko-applikation. De to dimensioner supplerer hinanden.
Endelig er capability thresholds ikke statiske. Efterhånden som AI-teknologien udvikler sig, og mindre modeller opnår evner, der tidligere var forbeholdt de største systemer, vil grænserne blive justeret. Det er en løbende kalibrering mellem teknologisk udvikling og regulatorisk respons.
