Det er viktig å lese tittelen på dette blogginnlegget nøyaktig. Jeg skriver ikke at KI ikke kan gi deg et svar på noe du ikke visste svaret på. Jeg skriver at den bare kan gi deg svar på ting du vet du trenger svar på. Sagt på en annen måte – en KI kan ikke gi deg det du ikke visste at du trengte. Du får ikke KI-en til å gi deg svaret på det du ikke visste du trengte et svar på.
Hvis du vet hva du trenger svar på, så kan du finne det ut uten en praterobot også. En praterobot blir bare en veldig enkel måte å få svaret på. Med det forbeholdet om at prateroboten kan konfabulere, og at du faktisk må kunne vite fra før om det prateroboten skriver faktisk er riktig. Så hvis du allerede vet hva du trenger å vite, kan det være lurt å søke svaret et annet sted enn en praterobot.
Språkmodeller er fundamentalt reaktive. De responderer på det mennesker spør om eller ber om. De kan ikke ta initiativ på egen hånd, identifisere behov du ikke har uttrykt eller si «Hei, jeg ser at du egentlig burde spørre om X i stedet». Dette er en viktig begrensning. De er en avansert samtalepartner som sitter og venter på at noen skal starte en samtale og sette retningen. Kvaliteten på interaksjonen er derfor veldig avhengig av at du vet hva du vil oppnå, at du klarer å formulere dette på en tydelig måte og at du stiller de riktige spørsmålene. Dette er ganske forskjellig fra for eksempel et menneske som aktivt kan identifisere problemer og foreslå løsninger… uoppfordret.
Det høres kanskje teit ut og selvfølgelig å si, men det er mye viktig her. Det er dette som er grunnen til at en KI aldri kan erstatte en lærer.
Men ingen regel uten unntak. Det er mulig for en KI å gi deg beskjed om hva du trenger å gjøre – uten at du vet at du trenger det, eller at du har bedt om det. Det er dette mange håper at KI i form av læringsanalyse skal kunne hjelpe til med. Jeg er ikke helt der, som jeg nokså tydelig uttrykte det i et intervju med Bedre Skole under NKUL2024.
I intervjuet trekker jeg frem at tilpassete prateroboter har mer for seg enn automatiserte læringsanalyser. Selv om slike systemene kan gi læreren mye data om hva elevene får til og ikke får til, forteller de oss aldri hvorfor elevene gjør det de gjør. Min erfaring er at lærere får mye bedre innsikt ved å tilbringe tid sammen med elevene og observere hvordan de jobber. Dessuten ser vi at elever ofte misliker å bli overvåket på denne måten. Mange velger til og med å gjøre oppgavene utenfor systemet, og bare legge inn de riktige svarene for å unngå at feilene deres blir registrert. Min tilnærming med prateroboter er annerledes. Her lagrer vi ingen informasjon om elevene, og samtalen slettes når prateroboten lukkes. Dette gir elevene en trygghet til å eksperimentere og prøve seg fram. Det fine er at elevene må ta en aktiv rolle. De må selv formulere hva de lurer på eller ikke forstår. Når de får svar som er for vanskelige, må de selv finne ut hva de ikke skjønner og spørre videre. Dette skaper en helt annen læringsprosess enn når de bare løser oppgaver som blir analysert av et system. Samtidig er det viktig å være tydelig på én ting. Dette fungerer ikke uten en aktiv lærer som veileder elevene. Mange elever trenger hjelp til å komme videre når de får vanskelige svar, og læreren må være der for å hjelpe dem med å stille gode spørsmål og få i gang en konstruktiv dialog med KI-en. Ganske raskt vil eleven lære hvordan de holder samtalen gående selv.
Selv om en KI kan si at du må jobbe mer med blandet brøk eller lese deg bedre opp på frelse i religionene, så kan den ikke si det til deg før du har forsøkt å løse noen oppgaver med brøk eller skrevet noe om hva frelse i religionene er – og denne KI-en må huske informasjonen du gir den for å gi denne tilbakemeldingen.
Det er her det er viktig å trekke inn noe som er innlysende, men kanskje utfordrende å forstå konsekvensene av. Prateroboter er språkmodeller. Språkmodeller er KI-er som har trent på hva som er naturlig å skrive som fortsettelsen av tekst du gir til den. De er ufattelig gode til akkurat dette. Faktisk er de så gode til å skrive tekst du leser som meningsfull, at du lett tror den forstår det du skriver til den og det den svarer deg. Det gjør den ikke, slik du gjør det. Artikkelen «AI And The Limits Of Language«, skrevet av Jacob Browning and Yann LeCun, forklarer elegant og enkelt ting som kan være vanskelig å forstå om språkmodeller.
Som artikkelen sier – Språk er problemet. Siden språkmodeller bare har trent på språk er de som et speil. De kan reflektere nesten alt, men er bare en millimeter tykke. De mangler den dype, kroppslige forståelsen som kommer fra å faktisk eksistere i og samhandle med den fysiske verden. Selv om språk er viktig, er det bare én del av menneskelig intelligens. Den dypere forståelsen kommer fra direkte kroppslig erfaring, fysisk utforskning og sosial interaksjon med verden rundt oss. Dette betyr at en KI som kun er trent på språk aldri vil kunne oppnå genuin menneskelig intelligens eller bevissthet, uansett hvor omfattende språktreningen er.
Språk har lav båndbredde for å overføre informasjon. Isolerte ord og setninger formidler faktisk veldig lite uten kontekst. Vi mennesker forstår språk, fordi vi har en dyp ikke-språklig forståelse av konteksten rundt ordene. Ord er for oss mennesker mer enn ord. Det representerer noe i virkeligheten. For en språkmodell er et ord bare noe som er knyttet opp til et annet ord.
Siden en språkmodell bare kan «reflektere» det du gir den, kan en KI bare gi deg det du vet du trenger – og ikke det du ikke visste du trengte. Den mangler konteksten som er nødvendig for å gjøre det. Det er bare læreren, som kjenner eleven og konteksten rundt, som kan gå til eleven i klasserommet, legge hånden forsiktig på skulderen, ikke se eleven inn i øynene og lavt si akkurat de forløsende ordene, med det rette tonefallet, for at eleven løftes opp og klarer å fortsette det som var viktig å komme videre med. Der en lærer kan se det usagte i elevens øyne, fornemme frustrasjonen i trykkingen på tastaturet, eller høre forvirringen bak et tilsynelatende enkelt spørsmål, er KI-en blind og døv for alle disse nyansene.
Læreren kan gjøre dette, fordi læreren er et menneske som ser hva et annet menneske trenger å høre eller oppleve for å komme videre, og fordi læreren selv vet hva det er å være et menneske fullt og helt. Underveisvurdering (og undervisning) er en dyp menneskelig og empatisk aktivitet bare et menneske kan gi et annet menneske. Et menneske kan gi deg det du ikke visst at du trengte.
PS! Dette henger selvfølgelig sammen med om KI (og språkmodeller) kan være kreative eller ikke. Jeg mener at de ikke kan, og støtter meg godt på artikkelen til Sæbø og Brobold i så henseende.
Legg igjen en kommentar