AI-agent bombarderer danske myndigheder med aktindsigter

Siden den 19. oktober har en afsender sendt en strøm af enslydende anmodninger om aktindsigt til danske gymnasier, erhvervsskoler, kommuner, vandværker, fjernvarmeselskaber og nu også ministerier og styrelser. Myndighederne vurderer, at afsenderen er en AI-bot eller AI-agent, og den 7. november bekræftede Dansk Industri, at også private virksomheder har fået henvendelserne. Det er en af de første danske sager, hvor et automatiseret system tilsyneladende bruges til at udnytte en lovpligtig proces i stor skala.

Hvem der står bag, ved ingen endnu. Men sagen er vigtig af en anden grund: aktindsigt er en kanal, bygget til mennesker, som en agent nu kan fylde op billigt og døgnet rundt. Alle virksomheder har kanaler, der ligner: GDPR-indsigtsanmodninger, kundeservice, klager, kontaktformularer. Vi gennemgår her, hvad der er sket, hvad kilderne faktisk siger, og hvad I bør gøre, før den samme type henvendelse rammer jer.

Hvad er der sket

Den 30. oktober oplyste Undervisningsministeriet, at mindst 50 selvejende institutioner på undervisningsområdet siden den 19. oktober havde modtaget et stort antal enslydende anmodninger om aktindsigt fra samme afsender. Anmodningerne handlede om domme, journalplaner og hvilke sagssystemer institutionerne bruger. Ministeriet skrev, at der var indikationer på, at anmodningerne var sendt fra en AI-bot, og at Styrelsen for It og Læring var i dialog med Styrelsen for Samfundssikkerhed og Forsvarets Efterretningstjenestes Situationscenter. Nogle institutioner havde anmeldt sagen til politiet.

Siden har mønsteret bredt sig. Dansk Fjernvarme, DANVA og Danske Vandværker bekræftede over for DR, at også forsyningsselskaber var ramt. Flere selskaber fik henvendelser fra samme e-mailadresse, og nogle af anmodningerne spurgte til personer, der ikke fandtes i kundebaserne. Den 7. november bekræftede Styrelsen for Samfundssikkerhed, at listen også omfatter kommuner, organisationer, ministerier og styrelser, uden at gå i detaljer med hvilke. Styrelsen kaldte det et ekstraordinært stort antal skriftlige forespørgsler fra én afsender og skrev, at man forfølger forskellige spor, men at det er for tidligt at drage konklusioner.

Samme dag gik Dansk Industri ind i sagen. Chefkonsulent og cybersikkerhedsekspert Jeppe Engell vurderer, at der kan være tale om drengestreger eller chikane, men understreger, at det ikke betyder, at sagen ikke skal tages alvorligt. Dansk Industri valgte at interessere sig for den, netop fordi private virksomheder også har fået de AI-genererede henvendelser. Afsenderens identitet og formål er fortsat ukendt.

Sådan ser en AI-agents aktindsigt ud

Det, kilderne beskriver, er karakteristisk for en AI-agent: et program, der ikke bare skriver én mail, men selv følger op. Først kommer enslydende førstehenvendelser til mange modtagere på én gang. Derefter følger hurtige og kontekstuelle opfølgninger, ofte på skæve tidspunkter af døgnet, som en medarbejder sjældent kan matche. Et gymnasium fortalte DR, at opfølgningerne kom ekstremt hurtigt, og at man hurtigt kunne se, at der ikke sad et menneske bag.

Indholdet flytter sig undervejs. Dansk Fjernvarme beskriver, at anmodningerne startede med domme, kendelser og aktlister, og at flere selskaber derefter fik spørgsmål om interne systemer, søgemuligheder og journalplaner. Det er den eskalering, der gør historien værd at forstå: en agent kan bruge svarene fra den ene runde til at formulere den næste og dermed systematisk kortlægge, hvordan en modtager er bygget op. Ingen af kilderne har dokumenteret, hvilket værktøj eller hvilken model der er brugt, så vi kalder det det, myndighederne selv kalder det: en formodet AI-bot, ikke et bevist angreb.

Den tekniske tærskel for det her er lav. Det kræver ikke en avanceret model at læse en standardmail, slå en adresse op og sende en høflig anmodning af sted til hundrede modtagere. Det nye er skalaen og udholdenheden. En agent bliver ikke træt, og den arbejder lige så gerne klokken tre om natten som midt på dagen.

Hvorfor aktindsigt er en oplagt kanal at udnytte

Offentlighedsloven giver som udgangspunkt enhver ret til at bede om aktindsigt i den offentlige forvaltnings dokumenter, og anmodninger skal behandles hurtigt, typisk inden for få dage, med vejledning af den, der spørger. Det er en styrke ved et åbent samfund. Men den samme pligt gør aktindsigt til en kanal, hvor et automatiseret system kan tvinge en modtager til at bruge tid og i værste fald udlevere oplysninger, den ikke burde.

Problemet rammer bredere end det offentlige. Private virksomheder har ikke pligt til at give aktindsigt efter offentlighedsloven, men I har andre kanaler, der ligner. En indsigtsanmodning efter GDPR skal besvares. En klage skal håndteres. En kontaktformular skal læses. Alle de steder gælder den samme logik: en proces, der er bygget til et rimeligt antal menneskelige henvendelser, kan sættes under pres af en agent, der sender tusind. Og gennem svarene kan afsenderen lære noget om jeres systemer, jeres sagsgange og jeres sikkerhed.

Drengestreger eller kortlægning? Vurderingerne er delte

Kilderne trækker i hver sin retning, og det er værd at holde fast i. Dansk Industri vurderer, at der formentlig er tale om drengestreger eller chikane, og at aktørerne ikke på nogen måde giver anledning til bekymring. Brancheorganisationerne for forsyning er mere forsigtige. Direktør i Dansk Fjernvarme Kim Mortensen siger til DR, at man er bekymret for, om indsamlingen skal bruges til at få klarhed over, hvordan beredskabet i den kritiske infrastruktur er bygget op. Han sætter det ind i en geopolitisk sammenhæng, men der er ingen bekræftet forbindelse til nogen bestemt aktør.

For jer som virksomhed er det springende punkt, at I ikke kan vide det, mens det står på. En henvendelse, der isoleret set ser harmløs ud, kan være del af et mønster, I ikke kan se fra jeres egen postkasse. Som Jens Plesner fra DANVA formulerer det over for DR: det er, når flere parter i den kritiske infrastruktur fortæller, at de oplever det samme, at det kan være alvorligt. Den eneste måde at opdage et mønster på er at registrere og dele på tværs, ikke at vurdere hver mail for sig.

Det gælder også private virksomheder: GDPR-indsigt og kundekanaler

Den vigtigste overførsel til jeres hverdag handler om indsigtsanmodninger efter GDPR. Her har I et værn, som offentlige myndigheder ikke har på samme måde. Efter databeskyttelsesforordningens artikel 12, stk. 6, kan den dataansvarlige bede om yderligere oplysninger for at bekræfte identiteten på den, der beder om indsigt, når der er rimelig tvivl om, hvem afsenderen er. Det betyder, at I ikke skal udlevere personoplysninger til en uidentificeret afsender bare, fordi der står indsigtsanmodning i emnefeltet.

Brug det. Hvis en strøm af ens anmodninger kommer fra samme adresse og nægter at identificere sig, er det et legitimt grundlag for at kræve identifikation, før I behandler dem. Samtidig skal I passe på ikke at ramme de rigtige: en borger eller en kunde, der bruger et AI-værktøj til at formulere en helt legitim anmodning, skal stadig have svar. Skellet går ikke på, om teksten ser AI-skrevet ud, men på om afsenderen vil identificere sig, og om indholdet giver mening.

For jeres øvrige kanaler, kundeservice, klager og kontaktformularer, er den praktiske lære enklere: svar aldrig på spørgsmål om interne systemer, sagssystemer eller sikkerhedsprocedurer, uden at nogen har vurderet, om I overhovedet er forpligtet til at svare. Det er præcis den slags oplysninger, eskaleringen i denne sag gik efter.

Fem ting I bør gøre nu

Du behøver ikke en stor indsats for at være forberedt. Fem konkrete tiltag dækker det meste:

1. Lav en procedure for mistænkelige masseanmodninger. Registrér dem, gem de originale mails og eventuelle svar, eskalér til jura og it-sikkerhed, og politianmeld ved mistanke om kriminalitet. Det er præcis det råd, Dansk Fjernvarme og myndighederne giver forsyningsselskaberne.
2. Verificér identitet ved indsigtsanmodninger. Brug GDPR artikel 12, stk. 6, til at bede om yderligere oplysninger, når der er rimelig tvivl om, hvem der spørger, i stedet for at udlevere personoplysninger til en ukendt afsender.
3. Beskyt oplysninger om jeres egne systemer. Spørgsmål om sagssystemer, journalplaner, søgemuligheder og sikkerhedsprocedurer skal vurderes, før de besvares, uanset hvilken kanal de kommer ad.
4. Overvåg mønstre, ikke kun enkeltmails. Mange enslydende henvendelser, samme afsender og hurtige opfølgninger på skæve tidspunkter er signalet. Del på tværs af teams og gerne med branchen, så I kan se det, den enkelte postkasse ikke viser. Det er den samme logik, som ligger bag, at de store laboratorier overvåger deres egne agenter for uønsket adfærd.
5. Følg de officielle udmeldinger. Justitsministeriet er som ressortmyndighed for offentlighedsloven i gang med at udarbejde en generel vejledning til myndigheder og forsyningsselskaber. Er I omfattet af offentlighedsloven, så indarbejd den, når den kommer. Hold samtidig øje med det danske AI-tilsyn, der træder i kraft 1. december, hvis jeres brug af AI er omfattet.

Det her er i bund og grund AI-governance set fra den modtagende ende. I plejer at tænke på governance som styringen af jeres egne agenter. Denne sag minder om, at andres agenter også rammer jer, og at jeres processer skal kunne holde til det.

Den bredere lektie: processer bygget til mennesker

Aktindsigt er bare det første eksempel. Enhver proces i jeres virksomhed, der antager et menneskeligt tempo og et menneskeligt volumen, er nu i princippet eksponeret for et system, der ikke har nogen af delene. Tilmeldingsformularer, supportkøer, returneringer, prisforespørgsler, leadformularer. Grunden er enkel: omkostningen ved at sende ti tusind velformulerede henvendelser er faldet til næsten nul. Det ændrer, hvad der kan betale sig for den, der vil spilde jeres tid eller kortlægge jer. Alle de kanaler bliver ikke angrebet i morgen, men muligheden er der nu.

Den gode nyhed er, at forsvaret sjældent kræver ny teknologi. Det kræver, at I ved, hvilke af jeres kanaler der udleverer noget, at I har et trin, hvor en afsender kan verificeres, og at I kan se et mønster, før det bliver til hundrede enkeltsager. De virksomheder, der har styr på det, vil opleve den slags henvendelser som støj. De, der ikke har, vil opleve dem som en krise.

Vi følger sagen, især Justitsministeriets kommende vejledning, og opdaterer, når der er mere at sige om, hvem der står bag, og hvad formålet var. Indtil da er det klogeste ikke at vente på svaret, men at gøre jeres egne processer robuste nok til, at svaret ikke betyder så meget.

Ofte stillede spørgsmål

Danske skoler og vandværker får en bunke mærkelige mails. Varslet ligger dog et andet sted: vi ser for første gang i dansk sammenhæng en agent gøre noget, mennesker ikke gider, nemlig at sende tusind høflige, lovlige henvendelser og vente på svar. Den adfærd forsvinder ikke, uanset om denne konkrete afsender viser sig at være en spøgefugl eller noget mere alvorligt. Spørgsmålet, I bør stille jer selv, er ikke om det rammer jer, men hvilke af jeres processer der ville knække, hvis det gjorde.