Hvordan virker fine-tuning?
Fine-tuning starter med en pretrænet model, der allerede har lært generel sprogforståelse fra enorme datamængder. Den trænes så videre på et mindre, men målrettet datasæt fra det domæne, den skal mestre.
Træningsdataene består typisk af input/output-par: kundehenvendelser parret med ideelle svar i virksomhedens tone, eller dokumenter parret med de rigtige kategorier.
Under træningen justeres modellens parametre, så den vægter mønstrene fra det nye datasæt højere. Den ender med at bevare sin generelle evne, men være tydeligt bedre til den konkrete opgave.
Kvaliteten af træningsdataene afgør resultatet. Et lille, rent og repræsentativt datasæt slår et stort og rodet. Derfor ligger hovedparten af arbejdet i at kuratere data, ikke i selve træningen.
Vi hjælper med at vurdere, om fine-tuning, RAG eller en kombination er den rette vej til jeres use case, og bygger løsningen. Kontakt os for en indledende vurdering.
Fine-tuning, RAG eller prompt engineering: hvad vælger du?
Det er et af de hyppigste spørgsmål i enterprise AI, og svaret afhænger af opgaven.
Vælg prompt engineering først. Det er hurtigst og billigst, og overraskende meget kan løses ved at formulere instruktionen bedre, uden at røre modellen.
Vælg RAG, når svaret afhænger af fakta, der ændrer sig: priser, politikker, dokumentation. RAG henter information dynamisk og kræver ingen ny træning.
Vælg fine-tuning, når du vil ændre modellens adfærd, stil eller domæneviden mere permanent, for eksempel en model, der altid skriver i jeres tone eller forstår jeres fagsprog.
Kombinér dem, når du har brug for både domænespecifik adfærd og adgang til opdaterede data. En fine-tunet model med RAG giver ofte det bedste resultat på komplekse enterprise-opgaver.
Hvad fine-tuning ikke er
Fine-tuning er ikke det samme som prompt engineering. Prompt engineering ændrer instruktionen til modellen. Fine-tuning ændrer selve modellen.
Det er heller ikke en garanti for bedre resultater. Er datasættet for lille, for dårligt eller ikke repræsentativt, kan fine-tuning faktisk forringe modellens generelle evner. Datakvalitet er den vigtigste succesfaktor, ikke datamængde.
Og det er sjældent det første, du skal gribe til. Mange opgaver, der lyder som fine-tuning, løses bedre og billigere med RAG eller en skarpere prompt. Fine-tuning giver mest mening, når de enklere veje er afprøvet og kommer til kort.