Hvad er Human-in-the-Loop?
Human-in-the-Loop (HITL) er en tilgang til AI, hvor mennesker aktivt indgår i systemets arbejdsproces. Det kan være i træningsfasen, hvor data bliver annoteret og valideret, i driftsfasen, hvor et menneske godkender AI-systemets output, eller i en løbende feedback-cyklus, hvor menneskelig vurdering forbedrer modellen over tid.
Formålet er at kombinere maskinens hastighed og skalerbarhed med menneskets dømmekraft, kontekstforståelse og etiske vurdering. HITL er ikke et tegn på, at AI-systemet er utilstrækkeligt. Det er et designvalg, der sikrer kvalitet, compliance og tillid i de situationer, hvor konsekvenserne af fejl er for store til at overlade til automatisering alene.
Med EU AI Act er effektivt menneskeligt tilsyn blevet et lovkrav for højrisiko AI-systemer. HITL er én af flere måder at opfylde kravet på. Loven kræver ikke, at et menneske godkender hvert output. Efter Omnibus-forordningen, der trådte i kraft 27. juli 2026, gælder kravet fra 2. december 2027 for højrisikosystemer i bilag III og fra 2. august 2028 for AI i regulerede produkter.
Hvordan fungerer Human-in-the-Loop?
HITL dækker over flere forskellige roller, som et menneske kan have i forhold til et AI-system. Den mest grundlæggende er dataannotering: mennesker mærker, kategoriserer og validerer de data, som modellen trænes på. Kvaliteten af denne proces afgør direkte, hvor præcis modellen bliver.
Den næste rolle er kvalitetssikring af output. Her producerer AI-systemet et resultat, som et menneske gennemgår, før det sendes videre. Et eksempel er en AI Agent, der udarbejder et kontraktudkast, som en jurist godkender, før det sendes til kunden. Systemet håndterer det tunge arbejde, mens mennesket sikrer nuance og korrekthed.
En tredje variant er feedback-loopet: mennesket giver løbende feedback på AI-systemets output, og denne feedback bruges til at forbedre modellen. Det er kernen i RLHF (Reinforcement Learning from Human Feedback), som er den metode, der har gjort store sprogmodeller (LLM'er) som ChatGPT og Claude brugbare i praksis.
Der er også en vigtig skelnen mellem Human-in-the-Loop og Human-on-the-Loop. I førstnævnte skal mennesket aktivt godkende hvert output. I sidstnævnte overvåger mennesket systemet løbende og griber kun ind, når noget afviger fra det forventede. EU-Kommissionens ekspertgruppe for AI nævner i sine etiske retningslinjer for troværdig AI fra april 2019 en tredje form, human-in-command, hvor mennesket har overblik over systemets samlede virkning og beslutter, hvornår og hvordan det skal bruges. Ekspertgruppen skriver også, at menneskelig indgriben i hver eneste beslutning i mange tilfælde hverken er mulig eller ønskelig. Valget mellem modellerne afhænger af risikoniveauet og processens volumen.
Consile hjælper virksomheder med at designe HITL-processer, der balancerer automatisering med menneskelig kontrol. Kontakt os for en uforpligtende samtale om, hvordan I sikrer kvalitet og compliance i jeres AI-løsninger.
Human-in-the-Loop i erhvervslivet
Finanssektoren er et af de områder, hvor HITL er mest udbredt. AI-systemer kan flagge mistænkelige transaktioner for hvidvask eller svindel, men den endelige vurdering og indberetning foretages af en compliance-medarbejder. Systemet reducerer mængden af falske positiver, mens mennesket sikrer, at der ikke overses komplekse mønstre, som modellen ikke er trænet til at fange.
Inden for sundhed bruges HITL til diagnostisk støtte. AI kan analysere røntgenbilleder eller patologiprøver og foreslå diagnoser, men en læge tager den endelige beslutning. Forordningerne om medicinsk udstyr og om medicinsk udstyr til in vitro-diagnostik står i bilag I til AI Act. Medicinsk AI er derfor højrisiko, når udstyret skal vurderes af en uafhængig tredjepart, og her gælder kravet om menneskeligt tilsyn fra 2. august 2028.
I marketing og salg er HITL særligt relevant i forbindelse med generativ AI. AI-systemer kan producere udkast til kampagnetekster, produktbeskrivelser eller kundekommunikation, men en marketingansvarlig gennemgår og tilpasser indholdet, før det publiceres. Det sikrer brandkonsistens og reducerer risikoen for hallucinationer.
For virksomheder, der implementerer agentic AI, er HITL en central komponent i guardrails-arkitekturen. Agenter kan handle autonomt inden for definerede rammer, men eskalerer automatisk til et menneske, når de møder situationer uden for deres mandat.
Hvad Human-in-the-Loop ikke er
HITL er ikke en garanti for fejlfri AI. Forskning viser, at mennesker, der arbejder tæt med AI-systemer, over tid kan udvikle automation bias: en tendens til at stole blindt på systemets output og undlade at foretage kritisk vurdering. Hvis HITL-processer ikke designes med bevidst modstand mod denne tendens, kan det menneske, der skal fungere som sikkerhedsnet, reelt blive en stempelmaskine.
HITL er heller ikke en midlertidig løsning, der forsvinder, når AI bliver bedre. For mange anvendelser, særligt dem der involverer juridiske, etiske eller sikkerhedsmæssige beslutninger, vil menneskelig involvering forblive en permanent del af arkitekturen. Ansvarlig AI forudsætter, at nogen kan stilles til ansvar for en beslutning, og det kræver et menneske i processen.
HITL er også noget andet end lovkravet om human oversight. Artikel 14 i AI Act kræver, at et højrisikosystem gør det muligt for de personer, der fører tilsyn, at forstå og overvåge det, være opmærksomme på automation bias, se bort fra eller omgøre et output og standse systemet. Tilsynet skal stå i forhold til risikoen, graden af autonomi og den sammenhæng, systemet bruges i. Artiklen kræver kun, at mennesker bekræfter et konkret resultat ved biometrisk fjernidentifikation, hvor mindst to personer som udgangspunkt hver for sig skal verificere en identifikation, før der handles på den.
Endelig er HITL ikke gratis skalering. Hver gang et menneske skal ind i loopet, tilføjes tid og omkostninger. Virksomheder skal derfor designe deres HITL-processer med omhu: hvor i processen giver menneskelig involvering størst værdi, og hvor kan AI handle sikkert på egen hånd?
Relaterede termer
AI governance er den organisatoriske ramme for ansvarlig AI-brug. Forstå de fem områder, hvorfor det haster med EU AI Act, og hvor I begynder.
Guardrails er de tekniske og proceduremæssige kontroller, der holder AI-systemer inden for acceptable grænser. Lær hvordan guardrails beskytter din virksomhed.
Human-on-the-Loop placerer mennesket som overvåger af AI-systemer, der kører autonomt. Forstå forskellen fra Human-in-the-Loop og hvornår modellen passer.
Human oversight er kravet om, at mennesker kan overvåge og gribe ind i AI-systemer. Forstå kravene fra EU AI Act og hvad det betyder for din virksomhed.
Agentic AI er AI, der selv planlægger, bruger værktøjer og handler mod et mål. Forstå agent-loopet, hvad det bruges til, og hvad det ikke er.
AI-hallucinationer er, når en model lyder sikker men tager fejl. Forstå hvorfor det sker, hvor det er farligst, og hvordan du reducerer risikoen.
EU AI Act er verdens første samlede AI-lov. Forstå de fire risikokategorier, kravene, tidslinjen frem til 2028, og hvad det betyder for jer.
En AI-agent kan planlægge og udføre handlinger, ikke kun svare. Forstå byggeklodserne, brugen, og hvordan en agent adskiller sig fra en chatbot.
Ofte stillede spørgsmål om Human-in-the-Loop
Hvornår er Human-in-the-Loop nødvendigt?+
HITL er nødvendigt, når AI-systemets output har konsekvenser, der kræver menneskelig ansvarlighed: juridiske beslutninger, sundhedsdiagnoser og finansielle vurderinger. Det er også relevant, når AI-systemet arbejder med ustrukturerede data, hvor fejlraten er for høj til fuld automatisering. For højrisikosystemer kræver EU AI Act menneskeligt tilsyn, som også kan have andre former end HITL.
Gør Human-in-the-Loop AI langsommere?+
Ja, det tilføjer tid til processen. Men spørgsmålet er ikke hastighed alene. Det handler om afvejningen mellem hastighed, kvalitet og risiko. For mange processer er den ekstra tid en investering, der forhindrer langt dyrere fejl. Consile hjælper virksomheder med at designe HITL-processer, der finder den rette balance.
Hvad er forskellen på Human-in-the-Loop og Human-on-the-Loop?+
Human-in-the-Loop kræver aktiv godkendelse af hvert output. Human-on-the-Loop indebærer, at mennesket overvåger systemet og kun griber ind ved afvigelser. Valget afhænger af risikoniveau og volumen. Mange virksomheder bruger begge modeller i forskellige dele af samme proces.
Kræver EU AI Act Human-in-the-Loop?+
Ikke som sådan. Artikel 14 kræver effektivt menneskeligt tilsyn med højrisiko AI-systemer: de personer, der fører tilsyn, skal kunne forstå og overvåge systemet, se bort fra eller omgøre dets output og standse det. Artiklen foreskriver ikke en bestemt model, så løbende overvågning med reel mulighed for at gribe ind kan også opfylde kravet, når det passer til risikoen. Efter artikel 26 skal den organisation, der anvender systemet, give tilsynet til personer med den nødvendige kompetence, uddannelse og beføjelser. Kravet gælder fra 2. december 2027 for højrisikosystemer i bilag III og fra 2. august 2028 for AI i regulerede produkter.