Prompt injection i erhvervslivet
For virksomheder, der bygger AI-løsninger, er prompt injection ikke et akademisk problem — det er en konkret forretningsrisiko. Konsekvenserne afhænger af, hvad AI-systemet har adgang til, og hvad det kan gøre.
I kundesupport kan en angriber manipulere en AI-chatbot til at afsløre interne procedurer, kundeinformation eller give uautoriserede rabatter. I 2025 demonstrerede sikkerhedsforskere, hvordan en indirekte prompt injection i et enterprise RAG-system fik AI-systemet til at lække fortrolig forretningsinformation til eksterne endpoints.
I softwareudvikling har AI-copilots vist sig sårbare. GitHub Copilot blev i 2025 ramt af en sårbarhed (CVE-2025-53773), der muliggjorde fjernkørsel af kode via prompt injection — en potentiel trussel mod millioner af udvikleres maskiner.
Finansielle virksomheder er særligt udsatte. En bank rapporterede, at prompt injection-forsvar i deres AI-drevne fraud detection-system forhindrede tab på $18 millioner fra manipulerede transaktionsgodkendelser. Når AI-agenter får mulighed for at udføre handlinger — sende e-mails, oprette ordrer, tilgå databaser — bliver konsekvenserne af et succesfuldt angreb væsentligt større.
Risikoen vokser i takt med, at virksomheder giver AI-systemer flere beføjelser. Et AI-system, der kun svarer på spørgsmål, kan lække information. Et AI-system, der også kan handle, kan forårsage direkte skade.
Hvad prompt injection ikke er
Prompt injection forveksles ofte med jailbreaking, men de to er forskellige. Jailbreaking handler om at omgå en models sikkerhedstræning — fx at få den til at generere skadeligt indhold, den er trænet til at afvise. Prompt injection handler om at overtage de instruktioner, som udvikleren har givet modellen i en applikation. Jailbreaking angriber modellen selv; prompt injection angriber applikationsarkitekturen.
Prompt injection er heller ikke det samme som AI-hallucinationer. En hallucination er modellens egen fejl — den opfinder fakta. Prompt injection er en bevidst udnyttelse af en angriber, der får modellen til at gøre noget, den ikke burde.
Det er også vigtigt at forstå, at prompt injection ikke kun handler om ondsindede brugere. Indirekte angreb kan ramme helt normale medarbejdere, der uploader et dokument med skjulte instruktioner, uden selv at vide det. Derfor er det et organisatorisk problem, ikke kun et IT-sikkerhedsproblem.
