Når jeg snakker med elever og studenter, får jeg inntrykk av at mange tror ChatGPT er en slags avansert google. Det er ikke riktig. Men å forklare nøyaktig hva en språkmodell er, uten å gå i detaljer, kan være utfordrende. Og selv med alle detaljene, er det ikke sikkert at man forstår nytten, begrensningene og utfordringene som følger med.
I slike tilfeller kan det være nyttig med en analogi, og i denne bloggposten vil jeg presentere min (hittils) yndlingsanalogi for hva en språkmodell er: en grønnsakssuppe.
Gjennom denne analogien finner en slags forklaring på flere ting, blant annet:
- Hvordan språkmodellene er forskjellige fra søkemotorer som google
- Hvordan man skriver gode ledetekster
- Hva «temperatur» er i denne konteksten, og hvorfor man ikke kan stole 100% på det en språkmodell sier
Grønnsakssuppa
I en grønnsakssuppe heller man i mange ulike ingredienser, setter kjelen på komfyren, slår på varmen, rører om en gang i blant og forsyner seg når maten er tilstrekkelig varm og blanda.

En språkmodell fungere på samme måte, ved at man gir den mye tekst som input, rører det sammen og ut kommer ferdigrørt tekst som språkmodellen ser på som en naturlig fortsettelse av det den har blitt gitt til nå.
Dette forklarer hvorfor språkmodellene ikke nødvendigvis bryr seg om du staver alt riktig – eller hvilken rekkefølge du gir den teksten du jobber med. Rekkefølge har noe å si, men stort sett går alt i den samme gryta.
Ingrediensene
Det viktigste når man skal lage god grønnsakssuppe inkludert, er å ha bra ingredienser. I tilfellet språkmodeller, er ingrediensene konteksten du gir den for å utføre oppgaven. Jo mer presis, og tydelig, du klarer å være i hva du ønsker at den skal gjøre, jo bedre.
Hvordan bli en bra kokk? Prøv deg fram!
Det viktigste for å bli en god kokk er trening. Derfor er det viktig å prøve seg fram. Har du hatt i nok salt? Har du gitt språkmodellen en god rolle? Har du
Kokebøker
Det finnes mange kokebøker for god framspørring. Her er en slik kokebok: KROM.
Kontekst: Dette er alt språkmodellen ikke vet, men burde vite for å besvare spørsmålet ditt.
Rolle: Du bør gi språkmodellen en tydelig rolle. Den kan være en lærer, en elev, eller kanskje en kjent politiker?
Oppgave: Har du et konkret mål for hva du ønsker å få ut av språkmodellen? Kanskje vil du ha en punktliste? En historie? En tidslinje? Jo mer presist du klarer å formulere deg, jo bedre vil suppa smake.
Mål: Hvorfor vil du har grønnsakssuppe? Er du sulten? Vil du bare ha noe digg? SKal suppa være sunn? På samme måte må du spørre deg hva hensikten med at du spør språkmodellen om hjelp er. Fortell den! «Målet er at jeg skal lære mest mulig,» «målet er bare å idemyldre litt,» eller «målet er å overbevise noen om å selge meg bilen deres.»
Temperatur, og hvorfor du aldri kan stole på grønnsakssuppa
Under panseret på språkmodeller, så ligger det en innstilling som man kan endre på, som kalles for temperaturen. Temperatur brukes for å kontrollere hvor forutsigbar svaret du får er – jo lavere temperatur – jo mer forutsigbar. Jo høyere temperatur – jo mer kreativ. Dersom temperaturen blir for høy, kan språkmodellen bli litt vel kreativ.
Temperatur = 0

Første gang jeg spør

Andre gang jeg spør

Temperatur = 1

Første gang jeg spør

Andre gang jeg spør

Temperatur = 2

Første gang jeg spør

Andre gang jeg spør



Som vi ser gir lavere temperatur mer forutsigbarhet, men mindre kreativitet. Det er ganske åpenbart at vi ikke kan gå til språkmodeller for å finne sannhet.
Legg igjen en kommentar