Temperature i erhvervslivet: Hvornår skruer du op og ned?
Valget af temperature er en afvejning mellem pålidelighed og kreativitet. For virksomheder handler det om at matche AI-outputtet til den specifikke opgave.
Lav temperature (0,0-0,3) er det rigtige valg til kundesupport, juridisk compliance, teknisk dokumentation og dataudtræk. Her er konsistens og faktuel korrekthed afgørende. En Conversational AI-løsning til kundeservice bør give det samme korrekte svar, uanset hvornår kunden spørger.
Medium temperature (0,4-0,7) passer til de fleste forretningsscenarier: e-mails, rapportopsummeringer, produktbeskrivelser og intern kommunikation. Outputtet er professionelt og sammenhængende, men med nok variation til at føles naturligt.
Høj temperature (0,8-1,2) egner sig til brainstorming, idégenerering, marketingkoncepter og kreativt indhold. Når et marketingteam bruger Generativ AI til at producere ti forskellige kampagnevinkler, er en højere temperature en fordel. Men outputtet kræver altid menneskelig gennemgang.
En tommelfingerregel: Jo højere konsekvensen af en fejl er, desto lavere bør temperature være. Kundevendt compliance-indhold kræver temperature tæt på 0. Intern idéudvikling kan tåle mere frihed.
Hvad temperature ikke er
En udbredt misforståelse er, at høj temperature gør modellen klogere eller mere kreativ i egentlig forstand. Det gør den ikke. Temperature påvirker kun sandsynlighedsfordelingen over de mulige næste ord. Modellens viden, kontekstforståelse og ræsonneringsevne er uændrede. En høj temperature kan give overraskende kombinationer, men den kan lige så vel producere inkoherente output.
Temperature har heller ikke noget med modellens hukommelse at gøre. Context window og arkitekturen bestemmer, hvor meget kontekst modellen kan holde styr på. Temperature ændrer kun, hvordan modellen vælger sit næste ord inden for den kontekst, den allerede har.
Endelig er temperature ikke den eneste parameter, der påvirker output. Top-p (nucleus sampling) og frequency penalty spiller også en rolle. I praksis er det samspillet mellem disse parametre, der bestemmer, hvordan AI-outputtet føles.
