Hvad er en LLM?
En Large Language Model, forkortet LLM, er en AI-model trænet på enorme mængder tekst for at forstå og generere naturligt sprog. LLM'er er fundamentet under de mest kendte AI-værktøjer i dag: ChatGPT (bygget på GPT), Claude fra Anthropic, Gemini fra Google og open source-modeller som Llama og Mistral.
Det bemærkelsesværdige ved en LLM er, at den kan håndtere et bredt spektrum af sprogopgaver uden at være trænet specifikt til hver enkelt, fra opsummering og oversættelse til kodegenerering og analyse.
For virksomheder er en LLM sjældent målet i sig selv. Den er motoren, man bygger en assistent, en søgefunktion eller en agent oven på. Resten af siden gennemgår, hvordan den virker, hvad den bruges til, og de mest kendte modeller.
Hvordan virker en LLM?
En LLM bygger på en transformer-arkitektur og er trænet til at forudsige det næste ord i en sekvens. Under træningen har den set milliarder af tekster fra bøger, artikler, websites og kode og lært de statistiske sammenhænge mellem ord, sætninger og begreber.
Når du giver den et prompt, danner den svaret ord for ord. Hvert ord vælges ud fra sandsynlighed givet konteksten. Hvor meget kontekst den kan holde ad gangen, afgøres af dens context window, modellens arbejdshukommelse.
Evnen kommer i to faser: en pretraining, hvor modellen lærer sprog bredt, og en efterfølgende finjustering, ofte med menneskelig feedback, der gør den til en assistent, der følger instruktioner i stedet for bare at fuldføre tekst.
Modellen forstår ikke teksten, som et menneske gør. Den er ekstremt god til at producere sandsynlige svar, og det er også derfor, den kan hallucinere: lyde sikker og tage fejl på samme tid.
Vi hjælper med at vælge, implementere og integrere LLM'er i jeres forretningsprocesser, og bygger løsningen, så I kan skifte model uden at starte forfra. Kontakt os for en vurdering af, hvilken model der passer til jeres behov.
Hvordan bruger virksomheder LLM'er?
Intern vidensassistent: en LLM koblet med RAG kan svare på medarbejderspørgsmål ud fra virksomhedens egne dokumenter, politikker og processer.
Content og kommunikation: udkast til mails, rapporter, produktbeskrivelser og præsentationer.
Kodeassistance: udviklere bruger LLM'er til at skrive, forklare og fejlfinde kode.
Kundeservice: assistenter, der tager første niveau af henvendelser og eskalerer de komplekse.
Dataanalyse: oversættelse af naturligt sprog til SQL, så ikke-tekniske medarbejdere selv kan trække rapporter.
AI-agenter: en LLM fungerer som hjernen i en agent, der kan planlægge og udføre handlinger på tværs af systemer.
De mest kendte LLM'er
GPT fra OpenAI: bredt udbredt via ChatGPT og Azure, og en af de mest anvendte i erhvervslivet.
Claude fra Anthropic: kendt for lange context windows og fokus på sikkerhed.
Gemini fra Google: integreret i Google Workspace og Google Cloud.
Llama (Meta) og Mistral: open source-modeller, der kan hostes i eget miljø for virksomheder med strenge datakrav.
Valget afhænger af use case, datapolitik, budget og integrationsbehov. Modellerne udvikler sig hurtigt, så det, der er bedst i dag, kan være overhalet om et halvt år. Byg derfor løsningen, så I kan skifte model uden at bygge om.
Relaterede termer
Generativ AI skaber nyt indhold: tekst, billeder, kode. Se hvordan GenAI virker, hvad danske virksomheder bruger det til, og hvor det går galt.
En foundation model er en stor, pretrænet AI-model, du bygger ovenpå. Forstå hvad der kendetegner dem, de førende modeller, og hvad de ikke er.
Prompt engineering er kunsten at formulere instruktioner til AI, så den leverer bedre resultater. Lær grundteknikkerne, system prompts og hvad det ikke kan.
Context window er den mængde tekst, en AI-model kan behandle på én gang. Forstå hvorfor det påvirker kvaliteten af AI-løsninger og hvilke valg det kræver.
Fine-tuning træner en eksisterende AI-model videre på jeres egne data. Forstå hvordan det virker, og hvornår det slår RAG og prompt engineering.
RAG kombinerer en AI-model med virksomhedens egne data, så svarene er præcise og opdaterede. Lær hvordan RAG virker, og hvornår det giver mening.
AI-hallucinationer er, når en model lyder sikker men tager fejl. Forstå hvorfor det sker, hvor det er farligst, og hvordan du reducerer risikoen.
Ofte stillede spørgsmål om LLM'er
Hvad er forskellen på en LLM og en AI-agent?+
En LLM er en sprogmodel, der genererer tekst. En AI-agent bruger en LLM som hjerne, men kan derudover handle: søge i databaser, kalde API'er og træffe beslutninger. LLM'en er motoren, agenten er bilen.
Kan vi hoste en LLM selv?+
Ja. Open source-modeller som Llama og Mistral kan hostes on-premise eller i jeres eget cloud-miljø. Det giver fuld kontrol over data, men kræver GPU-infrastruktur og teknisk kompetence.
Hvad koster det at bruge en LLM?+
Managed LLM'er afregnes pr. token, altså pr. ordstump, og prisen varierer fra model til model. For de fleste er API-udgiften lille sammenlignet med den sparede tid. Selv-hosting kræver en større investering i hardware op front.