Et drøyt halvår med cc.tenkemotoren.no

cc.tenkemotoren.no har nå vært i drift siden 14. mai 2024, og jeg tenkte det var på tide med et tilbakeblikk på hva jeg har lært av prosjektet så langt.

Jeg hadde et par intensjoner når jeg startet prosjektet. Den første var at jeg ville gi elever og lærere en trygg og gratis praterobot til alle som manglet det, som samtidig viste hvor enkelt, effektivt, trygt og billig det er å sette opp. Den andre intensjonen var å være et sleivspark til «systemet» i undervisningssektoren som ikke fikk dette opp og gå, til tross for hvor enkelt jeg med dette nettstedet viste at det faktisk var. «Systemet» er her IT-avdelinger, personvernansvarlige, skoleledere, lærere og andre som trenerer dette i egen kommune eller på egen skole. Og jeg ville gjerne ha et sted hvor jeg kunne vise frem og promotere løsningen jeg tross alt har satt opp i KI i Randabergskolen.

I begynnelsen var CC Tenkemotoren satt opp med Meta sin språkmodell Llama 3.1 70B via tjenesten Hugging Face. Tanken var at jeg kunne vise at dette i praksis var mer eller mindre gratis og drevet med så åpen kode som mulig. Det fungerte helt til CC Tenkemotoren ble populær, og Hugging Face samtidig reduserte tokens per time, som førte til at brukerne fikk meldinger om at KI-kapasiteten var sprengt. Heldigvis skjedde det omtrent med at OpenAI slapp gpt-4o-mini, som er både bra og billig, og jeg la over til denne. Det er fremdeles mulig å sette alt opp med Llama 3.3 70B, som vi er kommet til nå, men da må jeg sette opp språkmodelltjenerne selv til en betraktelig høyere kost enn via OpenAI.

Den første jeg vil trekke frem som lærdom er at det skal lite ressurser til for å dekke praterobotbehovet for veldig mange elever og lærere. Hele løsningen er satt opp på en liten barebone PC med en Intel Core i3, 32GB minne og en 240GB M.2 disk til den nette sum av rundt kr 5 500 + mva. Det er den du ser på bildet øverst på siden. Den har siden mai putret rolig på kontoret mitt hjemme og levert CC Tenkemotoren til mange brukere. Under ser du trafikken med unike besøkende hver dag fra august og ut desember 2024:

Grafen forteller at til tross for at dette er noe mange savner og at det er godt promotert på store konferanser og kurs, så tar det tid før folk får med seg at det finnes et slikt tilbud. Dette vet jeg fra andre situasjoner også, men jeg er alltid noe overrasket. Det tar tid før nye ting sprer seg i norsk skole. Du ser også de to ukene med høstferie, og du ser når norsk skole begynner å ta det med ro før jul. Jeg kan røpe at nå to uker ut i nyåret er trafikken tilbake til toppen i november. Det blir spennende å se hvordan det går videre mot sommeren.

Hvis noen lurte kan jeg også si noe om antallet unike besøkende per måned – august: 4 921 / september: 9 360 / oktober: 10 123 / november: 16 146 / desember: 10 006. Her er det viktig å påpeke at jeg ikke kan følge unike brukere, siden det ikke er noen form for pålogging, men jeg kan følge unike besøkende. Det betyr at jeg ikke kan skille mellom eleven sin Chromebook og den samme eleven sin private datamaskin hjemme. Hvis en elev bruker CC Tenkemotoren på to maskiner teller det som to unike besøkende og ikke som én unik bruker. Uansett er dette passe store tall til å være en tjeneste som i praksis ikke koster noe, og den lille webtjeneren min er ikke i nærheten av å være belastet.

Det andre jeg har lært er at kommuner gir helt forskjellige svar på spørsmålet om CC Tenkemotoren er en trygg tjeneste til bruk i skolen eller ikke. I en kommune ble CC Tenkemotoren ansett som en risiko, og de stengte faktisk ned tilgangen for elever i brannmuren i kommunen. De stengte ikke ned for andre åpne prateroboter som Skolebot eller DuckDuckGo. I en annen kommunen tok personvernansvarlig, en jurist, seg bryet med å ringe meg, fordi det var noe hun lurte på. Det ble en hyggelig samtale hvor juristen konkluderte med at dette var den mest sikre og trygge praterobot-løsningen av dem alle. I denne kommunen ble derfor CC Tenkemotoren anbefalt som en av de løsningene elever og lærere trygt kunne bruke, om de ønsket det. Dette forteller en del om hvor tilfeldig ting kan bli mellom kommunene.

Så her er vi, over to år etter at OpenAI slapp ChatGPT og ga tilgang til APIene sine. KI i Randabergskolen kom på banen i april 2023 og var åpen for alle til november 2023, og CC Tenkemotoren overtok stafettpinnen i mai 2024. I mellomtiden kom Oslo-skolen tidlig på plass med sin egen løsning, og det gjorde også NDLA for offentlige videregående skoler. Udir sin «løsning» på KI-tilgang til utdanningssektoren med Sikt sin KI-chat har så vidt kommet seg over startstreken, og jeg tror de enda er i en pilotfase. Det kjekkeste er at KI i Randabergskolen-oppsettet er kopiert av over hundre norske kommuner. Det er en klapp på skulderen til alle der ute i skolenorge, som faktisk har tatt KI-tyren med hornene og virkelig gjort noe – i stedet for å bare vente på at verden ramler noe motvillig inn i skolen. Samtidig synes jeg fremdeles at det er litt spesielt at en så enkel og billig løsning som CC Tenkemotoren kan gi (snart) over 20 000 elever og lærere et fullverdig praterobot-tilbud for undervisning, og at det ikke er noe som er ordnet sentralt.

Mottoet for CC Tenkemotoren står seg enda – «Denne runden er på meg!»

Kommentarer

Legg igjen en kommentar

Din e-postadresse vil ikke bli publisert. Obligatoriske felt er merket med *

This site uses Akismet to reduce spam. Learn how your comment data is processed.