Juridiska och etiska aspekter
Parallellt med att göra överväganden kring användning av generativ AI ur pedagogiska perspektiv är det också helt avgörande att förhålla sig till juridiska och etiska aspekter.
Personuppgifter, känsliga uppgifter och sekretess
Om man använder tjänster eller verktyg som inte har upphandlats av Göteborgs universitet behöver man säkerställa att de inte används på ett sätt som riskerar att bryta mot någon lagstiftning, till exempel Dataskyddsförordningen eller Offentlighets- och sekretesslagen. Sannolikheten är mycket stor att data överförs till länder utanför EU och det är då inte tillåtet att mata in exempelvis personuppgifter i dem. Man får heller inte mata in känsliga uppgifter eller uppgifter som omfattas av sekretess. Som lärare behöver man därför vara mycket försiktig med hur man använder dessa tjänster och säkerställa att det inte görs på ett sätt som bryter mot någon lagstiftning. Ett grundläggande förhållningssätt behöver vara att det endast är data som skulle kunna publiceras helt öppet som matas in i tjänsten. I nuläget gäller detta även Microsoft Copilot och Copilot for Microsoft 365.
Studenters användning av generativ AI. Likvärdighet i tillgång till teknologier och delning av data.
Om man som lärare planerar att låta studenter använda generativ AI i undervisningsaktiviteter eller vid examination är det viktigt att säkerställa likvärdig tillgång till verktygen. I de situationer där Göteborgs universitet inte erbjuder tillgång till dem kan studenter inte förväntas att kunna använda dem. Det finns också andra etiska överväganden som behöver göras, framför allt om man kan kräva att studenter använder tjänster som innebär delning av data eller personuppgifter. Med utgångspunkt i detta blir det tydligt att det finns svårigheter att utveckla upplägg som på ett hållbart sätt inkluderar studenters användning av generativ AI.
Medvetenhet om bias och begränsningar
Den data som används för att träna generativ AI påverkar i sin tur utfallet när man använder tjänster för att generera material. Om man tittar specifikt på språkmodellen GPT har tidigare modeller i huvudsak tränats på engelska texter som härstammar från västerländska kulturer (vilken data som använts för att träna GPT4 är inte offentliggjort). Förutom att modellen har tränats för att tolka och generera språk har det med tiden också blivit tydligt att den har ”färgats” av underliggande kultur och därmed också reproducerar den när den genererar text. Vid användning av generativ AI är det därför nödvändigt att vara medveten om att det som genereras kan vara färgat av den träningsdata som använts för modellen. Frågor kring bias i träningsdata, reproduktion av kultur och fördomar etc, behöver också lyftas tillsammans med studenterna så att de får möjlighet att utveckla ett ansvarsfullt och medvetet förhållningssätt till generativ AI. Tyvärr är transparensen kring träningsdata, algoritmer etc i princip obefintlig, så det kan vara en utmaning att arbeta med dessa frågor.
Miljö- och klimatpåverkan
Såväl träning som användning av generativ AI kräver stora mängder energi, vilket i sin tur har en betydande miljöpåverkan. Stora datacenter som används för både träning och användning förbrukar enorma mängder elektricitet, samt vatten för att kyla ner systemen. Enbart träningen av OpenAI:s tidigare modell GPT-4 uppskattas ha förbrukat cirka 50 GWh el (källa: RISE). Om denna träning skulle ha skett i norra Sverige, där elproduktionen är relativt koldioxidsnål, skulle utsläppen ändå motsvara att köra en genomsnittlig bil runt jorden cirka 300 gånger. Utöver detta förbrukas stora mängder vatten, både direkt för kylning och indirekt genom elproduktionen, vilket kan påverka vattenförsörjningen, särskilt i områden med vattenbrist. De miljömässiga konsekvenserna begränsas i viss mån av att vissa datacenter drivs med förnybar energi och att effektivare algoritmer utvecklas, men den totala resursförbrukningen fortsätter att öka i takt med användningen av generativ AI. Det är därför viktigt att ha en medvetenhet om teknikens klimatavtryck och att överväga hur och när den används i utbildningssammanhang.
Ekonomiska aspekter
I de fall där universitetet inte har upphandlat en tjänst eller ett verktyg kan det vara aktuellt att göra överväganden kring ekonomiska aspekter innan man börjar använda tjänsten eller verktyget. Vid användning av gratistjänster för generativ AI kan man behöva "betala" med den data som matas in i systemet och/eller resultaten som genereras. Dessa kan sedan till exempel komma att användas för att utveckla befintliga eller nya tjänster eller i marknadsföringssyfte. Det kan därför vara aktuellt att göra överväganden kring om man kan acceptera det.