En KI-håndbok må også vise hvor grensene går

Morten Goodwin titulerer sitt tilsvar «Å vise hva KI kan, er ikke å oppfordre til juks». Dette blir etter vårt syn representativt for hans egen vranglesing av vårt innlegg.

For det første sier vi ikke at boken eller Goodwin selv oppfordrer til juks. Vi påpeker at en konsekvens av at Goodwin ikke problematiserer KI-bruken og adresserer plagiat på en klar og varsom måte kan føre til juks. Vi er enige i at boken viser hva KI kan gjøre, men selve tittelen på boken – Håndbok i kunstig intelligens for studenter og ansatte i høyere utdanning – indikerer at boken gjør langt mer enn å bidra med generell innsikt i hva «KI kan». Kjernen i vår kritikk er at boken retter seg mot studenter i høyere utdanning mens nyanser, refleksjoner og drøftinger som tar hensyn til bokens tilsiktede lesere mangler.

Han avviser deler av vår kritikk over manglende pedagogiske grep fordi hans bok er forankret i teknologi, og ikke i pedagogikk. Her må vi si vi blir forundret. Dersom boken ikke skal ta hensyn til læringssituasjonen studenter er i, hvorfor er denne solgt inn som en håndbok spesifikt for studenter i høyere utdanning da? Goodwin selv sier i forordet av boken at den retter seg blant annet mot studenter «i starten av sin akademiske reise», og at boken vil bidra til kompetanse i hvordan bruke språkmodeller til «eksamensforberedelser» og hvordan «kvalitetssikre og forbedre eget arbeid uten at bruken tipper over i juks». Når Goodwin i sitt tilsvar hevder at boken ikke er forankret i pedagogikk, men i teknologi blir det lite sammenheng mellom det forordet sier boken skal være og det Goodwin sier om boken i sitt tilsvar til oss i ettertid. Vi kan sitere Goodwin fra boken: «KI-språkmodellen blir da ikke først og fremst et verktøy for å skrive, men et støtteverktøy gjennom hele lærings- og forskningsprosessen fra idéutvikling til ferdig tekst. Slik kan du få nye metodiske ferdigheter som gjør deg i stand til å bruke kunstig intelligens på en kritisk, effektiv og faglig forsvarlig måte».

Det spiller ingen rolle at Goodwin i et motinnlegg i Forskerforum sier at han bare laster opp sine egne verk, når han i en håndbok rettet mot studenter ikke opplyser om dette. Her ligger kjernen i vår kritikk: å publisere en håndbok for ansatte og studenter i høyere utdanning påkrever en større nyansering av læring, ansvarlig bruk og en forståelse for at en håndbok kan bli brukt som akkurat det – en håndbok.

Goodwin har oppfordret leseren til å laste opp pensumbøker og artikler til ulike språkmodeller, uten å nyansere utfordringer med opphavsrett. Det er kort og godt ikke lov ifølge norsk lov å laste opp «hvilken som helst publisert bok» (s.130) som jo er det Goodwin skriver. Og det er vitterlig ikke «eget materiale» han nevner når han, som påpekt i vårt første innlegg, skriver «for eksempel kan du laste opp en forskningsartikkel du vil ha et sammendrag av, utkast til rapport du skriver på et datasett, spørreundersøkelser, Excel-ark eller hele bøker i PDF-format» (s. 78-79). Er det egenskrevne bøker Goodwin forventer studentene skal laste opp? Siden dette er skrevet som en håndbok mener vi derfor at formuleringene risikerer å gi studenter oppfatningen at man kan gjøre nettopp det som Goodwin foreslår, til tross for at det bryter mot åndsverkloven. Unntaket ville vært dersom man har spesiell tillatelse eller lisenser, men Goodwin nevner altså ikke dette når han skriver at studenter kan følge hans forslag på «hva KI kan gjøre». Heldigvis er han til dels enig med oss om at han burde adressert dette bedre.

Vi har aldri skrevet at Goodwin oppfordrer studenter til å levere inn tekster skrevet av KI på eksamen, slik Goodwin påstår. Vi har påpekt at Goodwin skriver at studenter kan bruke språkmodeller til å skrive refleksjonstekster for seg, samtidig som vi påpekte at refleksjonsnotater blir brukt som vurderingsgrunnlag. Det er altså potensiale for en utilsiktet konsekvens vi påpeker. Som igjen var grunnen til at vi etterlyste mer klarhet og varsomhet med tanke på plagiat og juks. Men i sitt svar til oss virker Goodwin å forveksle konsekvens med intensjon.

Ved flere anledninger i boken skriver han at studenter kan laste opp egne tekster til ChatGPT for at teksten skal bli språkrettet og forbedret. Eksempelvis på s. 69 der han foreslår en instruks til ChatGPT som ber om forslag til «mer profesjonelle setninger og samtidig sikre at den er lesbar for et bredt akademisk publikum». Dette er problematisk fordi Goodwin, når han foreslår for studenter å bruke ChatGPT til å omskrive tekst, ikke adresserer den særs viktige utfordringen med å vurdere når en tekst er skrevet selv og når en tekst er endret i så stor grad at teksten må sies å være skrevet av ChatGPT. Vi påpeker derfor igjen at det vi ser som problematisk ikke er Goodwins intensjoner, men de mulige implikasjonene for studenter som leser håndboken som en guide til hva som er akademisk forsvarlig i høyere utdanning.

Som del av vår kritikk, påpekte vi også at en del viktige etiske refleksjoner kommer sent i boken, gjerne etter det har blitt oppfordret til det som etter vårt syn er problematisk bruk. Det er også tilfellet når Goodwin har skrevet om KI og juks. Dette kommer altså helt i slutten av boken i et kapittel kalt «Studenter som jukser» og ikke sammen med instruksene om selve bruken. Men det kapittelet handler mest av alt om at det jukses og hvordan man eventuelt kan detektere juks. Det handler altså ikke om hva som er å regne som juks og, ikke minst, hvordan unngå juks. Dette er grunnen til at vi skriver at etikk blir håndtert nærmest som i en parentes i Goodwin sin bok. Videre er det problematisk at en bok som selges inn til studenter som en håndbok i bruk av KI ikke advarer mot mulige konsekvenser av å levere inn tekst skrevet av KI.

Goodwin skriver også at det virker som vi tror all deling av dataanalyse med språkmodeller er et brudd på GDPR. Hvordan Goodwin kommer fram til den slutningen er vanskelig å forstå. Vi har aldri ment det, ei heller har vi skrevet det. Her er det fristende å parafrasere Goodwin selv og si at vi gjerne tar kritikk, men at kritikken må handle om det vi faktisk har skrevet. Vår kritikk gikk på at Goodwin selv ved flere anledninger i boken skriver at leseren kan laste opp datasett til ulike språkmodeller, og det uten å adressere problematikk med personvernloven. I Forskerforum påpeker Goodwin at dataen han i sine eksempler har delt med KI ikke inneholder personopplysninger og at en anklage om GDPR-brudd er skivebom. Også her har Goodwin tydeligvis ikke forstått hva det er vi faktisk kritiserer. Det er ikke Goodwin sin egen datadeling vi reagerer på. Vi anklager ikke han personlig for brudd på GDPR. Vår kritikk er at han ikke adresserer problematikken med personvern når han ber studenter laste opp data til KI. Hans omtale av personvernloven kommer først mot slutten av boken og kun i den ene setningen han selv refererer til i innlegget sitt. Og her refererer han spesifikt til GDPR. Men er Goodwin av den oppfatning at det bare er personopplysninger som er problematiske å laste opp til KI? De fleste utdanningsinstitusjonene i Norge, inkludert hans egen, opererer med trafikklysmodellen, altså fargekoder på data. Grønn, gul, rød og sort indikerer offentlig, intern, fortrolig og strengt fortrolig data. Denne kategoriseringen er spesifikt ment å guide studenter og ansatte i å avgjøre hva man kan og ikke kan dele med språkmodeller. Og slik data omfatter mere enn bare personopplysninger, selvsagt. Men i en håndbok om kunstig intelligens rettet mot studenter, som blant annet gir instrukser om å laste datasett opp til ChatGPT, så er ikke dette nevnt. Vi lurer selvsagt på hvorfor.

Dette er igjen en representasjon av det som var en del av vår overordnede kritikk av bokens format. I den grad det lovmessige og det etiske blir nevnt er det først helt til slutt i boken, etter alle oppfordringene, etter alle praktiske oppgaver, og etter alle forslag til instrukser. Vi mener dette burde kommet mye tydeligere frem og på et overordnet nivå før Goodwin foreslår for studenten å laste datasett opp til ChatGPT.

Goodwin mener også vi misforstår KI sine evner når vi påstår at KI ikke er bedre enn materialet den er lært opp på og viser til at OpenAI har løst Navier-Stokes-problemet. Men hvordan dette skal være relevant for vår kritikk er vanskelig å forstå. Det er vitterlig ikke Navier-Stokes studentene sliter med når de benytter ChatGPT til informasjonsinnhenting. Det er heller ikke en agentsverm på 10.000 KI-botter spesifikt rette inn mot matteproblemet de ber språkvaske semesteroppgaven sin, som var det OpenAI gjorde da de håndterte Navier-Stokes. Det forunderlige er at Goodwin selv underbygger vårt poeng i sin egen bok når han skriver at ChatGPT «…reflekterer rett og slett det den er trent opp på», og at ChatGPT derfor inneholder skjevheter og bias (s. 307). Her er vi jo enige. Vår kritikk gikk på at Goodwin sin lemfeldige omtale av at kunstig intelligens er det samme som menneskelig intelligens i boken kan bidra til å forsterke tilliten til modeller studentene strengt tatt burde vært skeptisk til. Et annet eksempel fra boken er når Goodwin foreslår å bruke KI til å rydde i referanselister (s. 73). Det er dog nettopp falske referanser som er den største årsaken til at studenter blir tatt for juks med KI. Studenter har for høy tillit til at resultatet ChatGPT gir er korrekt. Så hvordan kan Goodwin oppfordre til å bruke ChatGPT til noe den ikke bare er dårlig på, men som potensielt kan forårsake at en student blir tatt for juks, uten å ramme det inn i nettopp denne problematikken? Og nok en gang finnes det en problematisering av akkurat dette, men helt til slutt i boken. På s. 300 skriver Goodwin om at KI hallusinerer i referanser. Så hvorfor foreslår han at studenter kan be KI rydde i referanselister tidligere i boken da? Vi kunne også her brukt mye plass på å adressere Goodwins unyanserte påstand om at det er en etablert konsensus om at KI og menneskelig intelligens er det samme, men det ville være å flytte fokus bort fra det som er vår faktiske kritikk.

Samlet sett opplever vi at Goodwin i liten grad faktisk adresserer kritikken vår. Han feilrepresenterer vårt ståsted og ilegger oss meninger vi aldri har gitt utrykk for. Vi er også noe forundret over at forlaget til Goodwin, Cappelen Damm, har latt denne boken gli gjennom det redaksjonelle arbeidet uten at disse innlysende problemene særlig med åndsverkloven har blitt plukket opp. En av de største utfordringene ved denne boken er at den er solgt inn som en håndbok for studenter, men den tar lite til ingen hensyn til læringsprosessen studentene faktisk er i. Å avskrive nødvendigheten for pedagogiske grep med at hevde dette er en bok forankret i teknologien blir for svakt. Opplæring i bruk av KI bør ikke ses uavhengig av spørsmålet om hva man bør og ikke bør bruke teknologien til. En håndbok rettet mot studenter bør derfor ikke bare vise hva KI kan gjøre, men også gi studenter et grunnlag for å vurdere hvordan teknologien kan brukes på en måte som støtter, snarere enn svekker, egen læring og utvikling. Her mener vi Goodwins bok svikter.