SkoleGPT er en generativ AI chatbot, som stilles til rådighed af Center for Undervisningsmidler (CFU) og som frit kan bruges af lærere i undervisningen. Chatbotten er udviklet specifikt til, at lærerne kan undervise i kunstig intelligens uden frygt for at bryde regler om databehandlingsaftaler og GDPR. SkoleGPT videregiver ikke data fra eleverne, som kan bruges af tredjeparter. SkoleGPT bygger på teknologien open source og er hostet i Danmark.
Formålet med SkoleGPT er at skabe et alternativ til andre AI-produkter, som for eksempel ChatGPT, så eleverne kan udforske og eksperimentere med AI, lære om dens potentiale og forholde sig kritisk til AI. Pædagogiske konsulenter fra CFU understøtter i brugen af SkoleGPT i undervisningen. De guider lærerne med ideer undervisningsforløb, der bruger AI til fagene i grundskolen og særligt i forhold til at kunne understøtte teknologiforståelse i skolen. Ligesom lærerne også kan blive klædt på til at tale om, hvordan AI kan bruges til både gode og dårlige ting.
Øger sikkerhed ved brug af stopord i SkoleGPT
SkoleGPT har modtaget en henvendelse fra DR, der har testet, hvordan platformen svarer på problematiske ord som selvmord og selvskade. Da SkoleGPT blev spurgt til gængse metoder for selvmord, svarede SkoleGPT på spørgsmålene. Det har mødt kritik fra eksperter indenfor selvskade og IT.
SkoleGPT’s svar på de problematiske ord, er på linje med de svar, der gives på andre Chatbots som f.eks. ChatGPT, Deepseek og andre produkter som bruges af børn og unge. Ligesom informationen kan søges frem på Google og Wikipedia, der også bruges i skolen.
Martin Sønderlev, Chef for Center for Undervisningsmidler på Københavns Professionshøjskole udtaler:
“På CFU er vi dagligt i kontakt med mange skoler og lærere, der bruger SkoleGPT. Vi er ikke stødt på problemer med elever, der har brugt SkoleGPT til personlige problemstillinger før. Vi er glade for, at dette ikke kommer fra skoler og organisationerne omkring skolen; lærere, børn eller forældre. Men vi tager naturligvis oplysningerne seriøst, og på den baggrund har vi nu implementeret nogle tiltag, der skal afværge, at eleverne kan få svar på problematiske emner, uden at få henvisning til hjælp fra fx livslinjen. “
SkoleGPT har eksisteret i godt 1,5 år. I den tid er platformen løbende blevet udviklet, justeret og forbedret.
“Platformen er under stadig udvikling, særligt inden for faglige emner, som vi løbende forbedrer til skolebrug. Henvendelsen fra DR har dog gjort, at vi så et behov for at ændre indstillingerne på platformen. SkoleGPT havde i forvejen et regelsæt og nogle etiske retningslinjer, som den fulgte, men kritikken har gjort os opmærksom på ting som skal reguleres skarpere. Helt konkret så har vi indsat nogle stopord og fraser, som SkoleGPT ikke længere svarer konkret på. Derimod, så vil robotten svare, at det er et alvorligt emne, som spørgeren opfodres til at søge hjælp til at snakke om dette” udtaler Martin Sønderlev Christensen.
Ved brugen af SkoleGPT i undervisningen, spiller læreren en vigtig rolle i at forklare og vejlede eleverne i, hvordan platformen bruges og de skal klædes på til at navigere i SkoleGPT, samt forholde sig kritisk til de svar, de kan få.
SkoleGPT er et læremiddel, som lærerne kan anvende på mange forskellige måder. Censurering er altid en hårfin balance, da SkoleGPT gerne stadig skal kunne bruges til fx historiske data om begivenheder, selvom selvmord måske indgår som en del af fortællingen. Det er vigtigt, at platformen stadig kan formidle den slags uden at det censureres væk.
“Vi har her og nu indlagt nogle stærke stopord, som en del af et øget fokus på sikkerhed. Næste fase bliver at undersøge, hvordan disse stopord ikke bliver en hindring for fremsøgning af data, hvor ordene er en del af en større fortælling, som er relevant for eleverne. Det er noget af det, vi skal arbejdere videre med i balancen mellem, hvad er farligt og hvad er fagligt” siger Martin Sønderlev Christensen.
Kontaktperson
Louise Berggreen
Email: loube@kp.dk
Telefon: 61371516
