Hvad er Cloud AI?

Hvordan virker Cloud AI?

Cloud AI fungerer ved, at en cloud-udbyder stiller computerkraft, storage og AI-specifikke tjenester til rådighed over internettet. Virksomheden tilgår disse ressourcer via API'er eller managed services og betaler efter forbrug. Det fjerner behovet for at eje, installere og opdatere hardware lokalt.

De store cloud-platforme tilbyder tre niveauer af AI-tjenester. Det første er færdigbyggede AI-API'er til opgaver som billedgenkendelse, talegenkendelse og tekstanalyse. Disse kræver ingen ML-ekspertise og kan integreres direkte i eksisterende applikationer. Det andet niveau er managed ML-platforme som AWS SageMaker, Azure AI Studio og Google Vertex AI, hvor datateams kan træne, evaluere og deploye egne modeller i et styret miljø. Det tredje niveau er adgang til foundation models via tjenester som AWS Bedrock og Azure OpenAI Service, der giver virksomheder adgang til store sprogmodeller uden selv at skulle hoste dem.

En central fordel er elastisk skalering. Når en model skal trænes, kan cloud-platformen allokere hundredvis af GPU'er i timer eller dage og frigive dem bagefter. Det er en fleksibilitet, der er praktisk umulig at opnå med on-premise infrastruktur.

Cloud AI understøtter også hurtig iteration. Fordi infrastrukturen er tilgængelig med det samme, kan teams eksperimentere med nye modeller, datasæt og arkitekturer uden at vente på hardware-indkøb eller opsætning.

Overvejer I Cloud AI, men er usikre på den rette platform og datasetup? Consile hjælper med at navigere valget mellem cloud, on-premise og hybrid AI-infrastruktur.

Cloud AI i erhvervslivet

Cloud AI er den foretrukne indgang for virksomheder, der vil starte med AI, fordi barrieren er lav og time-to-value er kort. En marketingafdeling kan tage en LLM i brug til indholdsgenerering inden for dage. Et kundeserviceteam kan bygge en Conversational AI-løsning på en managed platform uden at vente måneder på infrastruktur.

I praksis bruger virksomheder Cloud AI til alt fra prædiktiv vedligeholdelse i produktion til personalisering i e-commerce, automatisk dokumentbehandling i finans og intelligent søgning i vidensbaser. Fælles for disse cases er, at de kræver computerkraft i varierende mængder og sjældent retfærdiggør en dedikeret on-premise opsætning.

Cloud AI understøtter også generativ AI i stor skala. Virksomheder, der vil bruge GPT-4, Claude eller Gemini i deres produkter og processer, gør det typisk via cloud-udbydernes API'er. Det giver adgang til de nyeste modeller uden at skulle drifte dem selv.

For mange virksomheder fungerer Cloud AI desuden som en bro til mere avancerede opsætninger. Man starter i skyen, validerer sine use cases, og beslutter derefter, om visse workloads skal flyttes on-premise eller til en hybrid arkitektur baseret på krav til omkostninger, latency eller datasikkerhed.

Hvad Cloud AI ikke er

Cloud AI er ikke det samme som at "leje nogen andres computer." Det er en forsimpling. Cloud AI-platforme tilbyder specialiserede tjenester, optimerede chipsets (som NVIDIA H100, Google TPU) og softwarelag, der ville koste millioner at replikere internt. Værdien ligger ikke kun i computerkraften, men i det samlede økosystem af værktøjer, sikkerhedsforanstaltninger og integrationer.

Cloud AI er heller ikke altid den billigste løsning. Ved høje, stabile workloads, eksempelvis kontinuerlig inferens i stor skala, kan on-premise infrastruktur være markant billigere over tid. Analyser viser, at on-premise kan være op til 62% mere omkostningseffektivt for stabile workloads sammenlignet med public cloud. Valget afhænger af forbrugsmønsteret, og mange virksomheder ender med en hybrid tilgang.

Endelig er Cloud AI ikke frigjort fra compliance-udfordringer. Europæiske virksomheder skal være opmærksomme på, at data behandlet hos amerikanske cloud-udbydere potentielt er underlagt CLOUD Act, uanset hvor serverne fysisk står. Det er et centralt punkt i diskussionen om datasuverænitet og kræver en bevidst strategi for datahåndtering, særligt i forhold til GDPR og EU AI Act.