Vigtigste pointer

• Infrastruktur:

  LLM'er kræver typisk GPU-hardware og kan deployes på tre måder: on-premise (eget udstyr), cloud (skalerbar leje) eller lokalt på en laptop – valget påvirker hastighed, omkostninger og kapacitet





• Modeller:

  Kan vælges ud fra tre dimensioner: open source vs. proprietære, størrelse (store vs. små sprogmodeller) og specialisering (fx reasoning, kodegenerering eller sprogstyrker) – over 2 millioner modeller findes allerede i kataloger som Hugging Face





• Datalaget:

  Grundmodeller har en vidensafskæringsdato og er trænet på offentlig data, så de skal suppleres med ekstra datakilder via pipelines og vektordatabaser (RAG – Retrieval-Augmented Generation)





• Orkestreringslagets:

  Komplekse opgaver kræver nedbrydning af brugerforespørgsler i delopgaver som planlægning, udførelse (tool calling) og gennemgang med feedback-loops – området udvikler sig hurtigt med nye protokoller som MCP





• Applikationslaget:

  Brugergrænsefladen behøver ikke begrænses til tekst ind/tekst ud – billeder, lyd og andre dataformater er mulige, ligesom funktioner til redigering og kildehenvisninger er vigtige for brugbarheden





• Integrationer:

  AI-systemer skal kunne modtage input fra og sende output til andre værktøjer, som brugere allerede anvender i deres daglige arbejde

En velfungerende AI-løsning kræver bevidste valg på tværs af hele stakken – fra hardware og modeller til data, orkestrering og applikation. Disse valg har direkte indvirkning på systemets kvalitet, hastighed, omkostninger og sikkerhed, uanset om man bygger fra bunden eller anvender managed services.