Problematisk håndbok i kunstig intelligens

Store deler av Morten Goodwins nye bok Håndbok i kunstig intelligens kan en i teorien lese gratis. Den er nemlig basert på hans «KI-skole» som har gått som en føljetong i Khrono i 11 innlegg.

I utgangspunktet er en slik håndbok, i det minste som idé, kjærkommen. Boken er skrevet for «studenter og ansatte i høyere utdanning», og er det noen som kan ha behov for en bok om fornuftig bruk av KI så er det nettopp denne gruppen, særlig sett i lys av økingen av juksesaker i kjølvannet av lanseringen av ChatGPT høsten 2022.

Problemet er derimot at dette ikke er blitt en bok som handler om fornuftig bruk. Boken oppfordrer lesere til å utføre handlinger som for studenter vil være problematiske med tanke på plagiat, samtidig som den med manglende etisk refleksjon oppfordrer til bruk av forskjellige KI-verktøy uten å vurdere hensikten med bruken ut fra et læringsperspektiv. Goodwin sier mye om hvordan man kan bruke KI, og bidrar med kreative grep og en solid liste over ulike verktøy og deres formål. Han sier dessverre lite om man bør bruke disse.

Goodwin ber blant annet leseren om å få ChatGPT til å skrive en refleksjonstekst (se. s 50). Hos Høyskolen Kristiania er refleksjonsnotater av og til brukt som del av det skriftlige vurderingsunderlaget for å sette karakterer. Dersom en student leverer inn refleksjonsnotat skrevet av ChatGPT, er dette for plagiat å regne, og studenten risikerer å bli tatt for juks.

Men Goodwin adresserer i liten grad problematikk relatert til plagiat, eller spørsmål om når en student eier teksten selv, og når eventuell endring av teksten av KI fører til at teksten ikke lenger kan sies å være skrevet av studenten. Ettersom det har vært en kraftig økning i juksesaker på grunn av bruk av KI, burde tematikken vært håndtert med mye større klarhet og varsomhet.

Ved flere anledninger oppfordres leseren til å laste opp fagartikler til blant annet ulike versjoner av ChatGPT. Goodwin adresserer problematikk relatert til åndsverkloven i et avsnitt på side 130, det han kaller en «juridisk utfordring». Da har han allerede ved flere anledninger bedt leseren om å laste opp fagartikler til kommersielle språkmodeller, stikk i strid med norsk lov. Han skriver at han har lastet opp hele boken leseren sitter og leser i til ChatGPT, men at det «kunne like gjerne være hvilken som helst publisert pensumbok eller et kompendium man har som PDF, som for eksempel en student kan laste opp noen uker før eksamen med hensikt å forbedre seg» (s. 130).

Slike eksempler ser vi flere av i boken. På s. 78-79, skriver han «for eksempel kan du laste opp en forskingsartikkel du vil ha et sammendrag av, utkast til rapport du skriver på datasett, spørreundersøkelser, Excel-ark eller hele bøker i PDF-format». Eller på s. 116-117, der leseren i en praktisk oppgave om å lage forskingshypoteser bes om å finne relevante fagartikler og så laste de opp i ChatGPT, for så å få KI til å foreslå hypoteser. Videre ber Goodwin leseren på s. 190 om å laste opp «5-10 artikler om et tema du jobber med, i NotebookLM».

Men disse eksemplene er ikke «juridisk utfordrende». Det er brudd på norsk lov. I tillegg er det bekymringsfullt at oppfordringer til å la KI-verktøy foreslå hypoteser ikke pakkes inn i diskusjoner om læring, egen kreativ prosess og at behovet for at studenter klarer å ta slike analytiske valg selv øker i dagens samfunn.

Foruten det som relaterer seg til åndsverkloven, har boken også et uklart forhold til personvernloven. Ved flere anledninger oppfordres leseren til å laste opp datasett for å bli analysert av KI. På for eksempel s. 70 har Goodwin et eget avsnitt som heter «analyse av datasett», men uten å nevne personvernloven som i høyeste grad vil ha noe å si for i hvilken grad man faktisk kan dele datasett med kunstig intelligens. Man kan selvsagt ikke dele hvilken som helst spørreundersøkelse med eksempelvis ChatGPT.

Goodwin har et meget viktig kapittel som heter «Etikk og fallgruver», men dessverre er det plassert helt på slutten av boken. Dette opplever vi som symptomatisk for boken; at de viktige etiske refleksjonene blir håndtert nærmest som en parentes, og gjerne etter å allerede ha oppfordret til uetisk eller ulovlig bruk av KI. Et eksempel på dette er delkapittelet «Avstand til læringen», som først kommer på s. 317 av en bok på 320 sider.

I samme ånd tar Goodwin enkelte grep som fra et pedagogisk perspektiv framstår problematiske. Innledningsvis, på s. 19, sammenlikner han kunstig intelligens med menneskelig intelligens. KI er ikke, skriver Goodwin, «en motsetning til menneskelig intelligens». Intelligensen som oppstår i ChatGPT «er akkurat like ekte som intelligensen som oppstår i meg og deg». Det er en påstand så overforenklet at den grenser til uriktig. Diskusjonen om hvorvidt KI er lik menneskelig intelligens er en større filosofisk diskusjon. For eksempel har ikke ChatGPT hverken sjelsliv, følelsesregister eller bevissthet. Den har ikke et etablert forhold til sannhet, som er en av de store utfordringene man har ved bruk av KI på et kunnskapsfelt som har jakten på sannhet som kjerneverdi.

En av de store utfordringene med studenters bruk av for eksempel ChatGPT er at de har en tendens til å ha alt for høy tillit til svarene ChatGPT gir. Påstander om at kunstig intelligens er det samme som menneskelig intelligens blir derfor problematiske. Særlig når det ikke følges av faglige argumenter og drøftinger, men i større grad bare slåes fast som en sannhet. Det kan understøtte en students tillit til språkmodeller studenten i aller største grad heller burde vært skeptisk til.

Slik overdreven tillitstenking preger også en del av Goodwin sine forslag til bruk av KI. I enkelte forslag til instrukser bes leseren om å gi KI en rolle som for eksempel «verdens beste underviser» eller «verdens mest pedagogiske professor», men helt uten å forklare at slike instrukser i realiteten ikke gjør at ChatGPT på noen som helst måte faktisk blir verdens beste, eller best, eller i det heletatt bra på det studenten vil den skal gjøre. Hver språkmodell er aldri bedre enn materialet den er trent opp på, uavhengig om man ber den være «verdens beste» eller ei.

Vi mener at håndbøker i kunstig intelligens for studenter og ansatte i høyere utdanning er et viktig konsept som svarer på et stort samfunnsbehov, men som i denne utgaven blir problematisk. Slike håndbøker som er rettet mot studenter bør altså etter vårt syn ta hensyn til tre viktige aspekter som beskrevet over: Det bør sikres at norsk lovverk opprettholdes (både når det gjelder opphavsrett og GDPR, osv.).

Videre bør etiske og rettslige implikasjoner håndteres tidlig i teksten, for å gjøre leseren i stand til å ta lovlige og gjennomtenkte valg før de fordyper seg i temaet. Til sist mener vi at enhver håndbok som retter seg mot studenter og ansatte i høyere utdanning bør undersøke og synliggjøre hva disse verktøyene gjør med det aller viktigste vi vil at våre studenter skal utvikle: refleksjonsevne og analytisk atferd i møte med ny informasjon.