Skip to content
AI Ordbog / DSPy (Deklarativ AI-programmering)

DSPy (Deklarativ AI-programmering)

DSPy er et framework til at bygge AI-systemer deklarativt i Python. Lær hvordan DSPy erstatter manuel prompt engineering med automatisk optimering.

DSPy (Deklarativ AI-programmering)
Frame 4
Frame 3
Frame 2
Frame 1
Frame 5
DSPy (Deklarativ AI-programmering)
AI ORDBOG

Hvordan virker DSPy?

DSPy bygger på tre kernebegreber: signatures, modules og optimizers. Tilsammen danner de en pipeline, hvor du specificerer adfærd deklarativt, og frameworket håndterer den konkrete interaktion med sprogmodellen.

En signature definerer input og output for et trin i din AI-pipeline. Det kan være så simpelt som "question -> answer" eller mere komplekst med flere felter og typer. Signaturen beskriver hvad trinnet skal producere, uden at du skriver den faktiske prompt.

Et module tildeler en strategi til din signature. Det bestemmer, hvordan sprogmodellen skal aktiveres: skal den tænke trin for trin (Chain of Thought), bruge eksempler (few-shot), eller kombinere flere tilgange? Du vælger modulet, og DSPy genererer den prompt, der implementerer strategien.

En optimizer (tidligere kaldet teleprompter) tager din pipeline, et sæt træningseksempler og en kvalitetsmetrik, og justerer automatisk prompts og parametre, indtil dit system performer bedst muligt. Det svarer til, at en erfaren prompt engineer itererer hundredvis af gange, men automatisk og reproducerbart.

I praksis betyder det, at du kan ændre sprogmodel, tilføje nye trin eller justere kvalitetskrav uden at omskrive prompts manuelt. Du rekompilerer dit DSPy-program, og frameworket tilpasser sig.

DSPy i erhvervslivet

DSPy er særligt relevant for virksomheder, der bygger AI-produkter eller interne AI-værktøjer, hvor pålidelighed og vedligeholdelse er afgørende. Typiske anvendelser inkluderer avancerede RAG-systemer, der kombinerer søgning og generering, automatiserede analysepipelines, og intelligente kundesupportsystemer.

En konkret fordel er reduceret afhængighed af individuelle prompt-specialister. Når prompts er kode i stedet for tekst, kan de versionsstyres, testes og reviewes som enhver anden software. Det gør AI-udvikling til en ingeniørdisciplin frem for en håndværksmæssig øvelse.

For teams, der arbejder med prompt engineering i dag, tilbyder DSPy en vej til systematisk optimering. I stedet for at gætte på, hvilken formulering der virker bedst, definerer du succeskriterier og lader frameworket finde den optimale tilgang. Resultatet er typisk mere konsistente og pålidelige AI-svar.

DSPy har også vist sig nyttigt i scenarier, hvor virksomheder skifter mellem sprogmodeller. Fordi prompts genereres automatisk baseret på signaturer, kan du skifte fra én LLM til en anden uden at omskrive hele din promptsamling. Det reducerer vendor lock-in og giver fleksibilitet i en verden, hvor nye modeller lanceres hyppigt.

Hvad DSPy ikke er

DSPy er ikke en erstatning for alle former for prompt engineering. Til simple, enkeltstående opgaver, hvor en velformuleret prompt giver pålideligt output, er DSPy overkill. Frameworket giver størst værdi i komplekse pipelines med flere trin, hvor promptkvaliteten skal optimeres systematisk.

DSPy er heller ikke et no-code-værktøj. Det kræver Python-kompetencer og en forståelse af AI-pipeline-arkitektur. Det er rettet mod udviklere og AI-ingeniører, ikke mod forretningsbrugere, der ønsker at interagere direkte med en sprogmodel.

Det er også vigtigt at forstå, at DSPy ikke fjerner behovet for træningsdata og evalueringskriterier. Frameworkets optimeringsalgoritmer kræver eksempler at lære fra og en metrik at optimere mod. Uden begge dele kan DSPy ikke levere bedre resultater end manuelt skrevne prompts.

Relaterede termer

Prompt Engineering: Den manuelle disciplin, som DSPy automatiserer. Prompt engineering handler om at formulere instruktioner til sprogmodeller, mens DSPy genererer og optimerer dem programmatisk.

LLM (Large Language Model): De sprogmodeller, som DSPy programmerer imod. DSPy understøtter flere LLM-udbydere og kan skifte mellem modeller uden kodeændringer.

RAG (Retrieval-Augmented Generation): En arkitektur, der kombinerer søgning og tekstgenerering. DSPy bruges ofte til at bygge og optimere RAG-pipelines.

Fine-tuning: En alternativ tilgang til at tilpasse sprogmodeller. Hvor fine-tuning ændrer modellens vægte, optimerer DSPy de prompts, der sendes til modellen.

Chain of Thought: En ræsonneringsteknik, der er tilgængelig som et modul i DSPy. Det får sprogmodellen til at tænke trin for trin.

Foundation Model: De basismodeller, som DSPy bygger oven på. DSPy er modelagnostisk og kan arbejde med forskellige foundation models.