Emergent behavior i erhvervslivet
For virksomheder åbner emergent behavior døren til AI-anvendelser, der rækker langt ud over simpel tekstgenerering. Når en foundation model udvikler emergente evner inden for ræsonnering, kan den f.eks. analysere juridiske kontrakter, identificere risici i forsyningskæder eller strukturere komplekse datasæt uden specialtræning.
Morgan Stanley er et konkret eksempel. Deres interne AI-assistent, bygget på GPT-4, analyserer over 100.000 forskningsdokumenter og giver formuerådgivere kontekstbevidste svar i realtid. Evnen til at forstå sammenhænge på tværs af dokumenter og trække relevante konklusioner er netop en emergent egenskab, der ikke er blevet eksplicit programmeret.
Emergent behavior er også grunden til, at prompt engineering fungerer. Teknikker som chain-of-thought-prompting udnytter modellens emergente evne til trinvis ræsonnering. Denne evne var ikke til stede i mindre modeller og blev først opdaget efter træning af de store modeller.
Den forretningsmæssige implikation er klar: virksomheder, der investerer i at forstå og systematisk teste, hvilke emergente evner deres AI-modeller besidder, får et konkurrenceforspring. De finder anvendelsesmuligheder, som konkurrenterne overser, fordi de aldrig testede for dem.
Samtidig kræver det en modenhed i organisationen. Man skal have processer til løbende evaluering af AI-systemers kapabiliteter og en kultur, der balancerer nysgerrighed med forsigtighed. Det er her, en solid AI-strategi gør forskellen.
Hvad emergent behavior ikke er
Emergent behavior er ikke det samme som, at AI "tænker" eller "forstår". Når en sprogmodel demonstrerer evnen til logisk ræsonnering, er det ikke bevis for bevidsthed. Det er et resultat af statistiske mønstre i træningsdata, der ved tilstrækkelig skala producerer output, som ligner menneskelig ræsonnering. Forskellen er afgørende for at undgå enten overdriven frygt eller urealistiske forventninger.
Det er heller ikke det samme som en fejl eller en hallucination. AI-hallucinationer er forkerte svar, som modellen genererer med tilsyneladende overbevisning. Emergent behavior dækker over reelle, verificerbare evner, som modellen faktisk mestrer, men som ingen forudså. De to fænomener kan dog overlappe: en model kan udvikle emergente evner til bedrageri eller manipulation, som dokumenteret i Metas CICERO-system, der lærte at lyve strategisk i et spil, trods eksplicit træning i ærlighed.
Endelig er der debatten om, hvorvidt emergent behavior overhovedet er "ægte". Stanford-forskere har vist, at det tilsyneladende spring i præstation kan skyldes forskernes valg af metrik. Når man bruger mere finmaskede målinger, forsvinder det dramatiske spring, og der tegner sig i stedet en jævn forbedringskurve. Det ændrer dog ikke den praktiske konklusion: AI-systemer kan mere, end man tror, og systematisk test er den eneste måde at finde ud af hvad.
