Hva er egentlig en LLM – og hva kan den gjøre for deg?

LLM står for Large Language Model – stor språkmodell. Du trenger ikke forstå motoren for å kjøre bil, men det hjelper å vite hva bensin er. Tenk på en LLM som en assistent som har lest hele internett, millioner av bøker og utallige samtaler – og som kan bruke alt det til å hjelpe deg akkurat nå.

Modellen tenker ikke slik du gjør. Den forutsier hva som er det mest sannsynlige neste ordet, setning etter setning – basert på mønstre fra enorme mengder tekst. Det høres enkelt ut, men resultatet er en assistent som kan skrive, analysere, forklare, oppsummere, kode og planlegge på et nivå som var science fiction for bare noen år siden.

Hva kan du faktisk bruke det til? Her er noen eksempler som faktisk fungerer i hverdagen:

• Skrive og forbedre e-poster, søknader og rapporter
• Forklare kompliserte kontrakter eller legenotater på vanlig norsk
• Analysere regneark og finne mønstre i data
• Planlegge ferier, møteagendaer og prosjekter
• Lage kode – selv om du aldri har kodet før
• Brainstorme idéer, teste argumenter og forbedre presentasjoner

Lokal AI og retningslinjer – to sider av samme mynt

Når du bruker ChatGPT eller Claude via nettleseren, sender du dataene dine til en sky-server i USA. For de fleste er det helt greit. Men for bedrifter, advokater, leger og alle som håndterer sensitiv informasjon? Det er et problem.

Det er nettopp derfor NUC-er (Intel NUC) og mini-PCer som ASUS NUC, Mac Mini og Beelink har eksplodert i popularitet. AI trenger kraftig GPU/CPU + mye RAM, og kompakte, kraftige maskiner passer perfekt til dette. Verktøy som Ollama og LM Studio gjør det overraskende enkelt å kjøre Llama, Mistral og andre åpne modeller lokalt – uten å skrive en linje kode.

📋 Ekte retningslinjer – hva betyr det i praksis?

Teknisk oppsett er én ting. Men før du i det hele tatt skrur på noe, trenger du regler for menneskene som skal bruke verktøyene. Manglende retningslinjer er årsaken til de fleste AI-relaterte sikkerhetshendelser – ikke tekniske feil.

Her er hva som faktisk må på plass i en organisasjon:

• 1

  Klassifiser dataene dine

  Hva er åpent, internt, konfidensielt og strengt hemmelig? Ansatte må vite hvilke data som aldri skal limes inn i et eksternt AI-verktøy. Kundeopplysninger, helseopplysninger og forretningshemmeligheter hører ikke hjemme i ChatGPT.

• 2

  Lag en godkjent verktøyliste

  Bestem hvilke AI-verktøy som er tillatt til hva. ChatGPT til brainstorming av ikke-sensitiv tekst? OK. ChatGPT til å oppsummere kundekontrakter? Ikke OK. En enkel, tydelig liste er bedre enn ingen policy.

• 3

  Formålsbegrensning

  AI-verktøy skal brukes til det de er godkjent for – ingenting annet. Dette er det samme prinsippet som gjelder i GDPR: data og verktøy skal ha et klart, avgrenset formål. En HR-chatbot skal ikke brukes til å analysere salgsdata.

• 4

  Logging og sporbarhet

  Hvem spurte AI-en om hva, og når? I regulerte bransjer er dette ikke valgfritt. Loggene beskytter deg – de dokumenterer at du fulgte reglene, og hjelper deg å finne ut hva som gikk galt hvis noe gjør det.

• 5

  Opplæring – det svakeste leddet er alltid et menneske

  Retningslinjer ingen har lest, er verdiløse. Alle som bruker AI-verktøy på jobb bør vite hva som er tillatt, hva som er forbudt, og hva de gjør hvis de er usikre. Én times opplæring forhindrer 80% av feilene.

Sett opp gjerdet – avgrens AI-en

En LLM som får tilgang til alt er som å ansette noen uten jobbeskrivelse. Den vil prøve å hjelpe, men kan gjøre mye rart. Det viktige er å avgrense hva modellen har tilgang til og hva den har lov til å gjøre.

• 1

  System prompt = reglene

  Fortell modellen hvem den er og hva den får lov til. "Du er en kundeservice-assistent for vår nettbutikk. Du svarer kun på spørsmål om bestillinger og produkter. Du diskuterer ikke politikk, religion eller annet irrelevant."

• 2

  RAG – gi den kun riktig kunnskap

  RAG (Retrieval-Augmented Generation) betyr at du gir AI-en tilgang til dine dokumenter og data, ikke alt internett. Den svarer basert på det du har godkjent – ingenting annet.

• 3

  Egne kontoer og nøkler

  Opprett separate og egne kontoer for AI-integrasjonene dine. Ikke del API-nøkler. Ikke bruk samme konto til alt. Tenk det som egne låser til egne rom.

• 4

  Nettverksgjerde

  Hvis du kjører lokalt – sett opp brannmur. AI-en skal ikke kunne ringe hjem. VLAN og nettverkssegmentering hindrer at modellen snakker med omverdenen uten din tillatelse.

Agenter og orkestrering – AI som leder andre AI-er

En agent er en LLM som ikke bare svarer – den handler. Den kan søke på nett, åpne filer, sende e-post, kalle API-er og ta beslutninger over tid. Tenk på den som en ansatt som faktisk gjør jobben, ikke bare gir deg råd.

Når du har flere agenter som samarbeider, trenger du en orkestrator – en overordnet modell som fordeler oppgaver, sender resultatene videre og syr det hele sammen. Det er som en prosjektleder som delegerer til spesialister.