Nyheter | KI-agenter
Publisert 16. april 2026 kl. 17:00
Det var lett å la seg begistre, eller forferde, alt ettersom, av Tore Wigs kommentarspalte i Morgenbladet for noen uker siden. ‘KI-revolusjonen skjer nå’ var overskriften, ‘Det akademia jeg kjente for noen uker siden kommer aldri tilbake’.
For KI-agentene har gjort sitt inntog – i hvert fall i den offentlige samtalen. Nå kan vi visstnok skaffe oss fullblods forskningsassistenter på PhD-nivå – og flere av dem, ved et par tastetrykk.
De kan kjøre analyser av datasett, gjøre kompliserte utregninger og syntetisere store mengder data, mens vi tar en joggetur. Vi kan få personlige assistenter som kan synkronisere og følge opp kalendere, avtaler og dokumenter, eller bygge nye dataprogram og applikasjoner med minimale forkunnskaper.
En ny hverdag for overarbeidede forskere, saksbehandlere, studieledere og andre akademikere?
– Nei, sier Anja Salzmann. Hun forsker på KI ved SLATE og det nye nasjonale KI forskningssenteret AI LEARN ved Universitetet i Bergen.
– Teknologien bak KI-agentene er egentlig ikke noe nytt. Men det er nytt hype-begrep. Det brukes litt som en paraply for ulike KI-systemer som også kan kobles sammen for å selvstendig utføre ulike oppgaver. Altså systemer som automatiserer ulike oppgaver hvor vi mennesker er «out of the loop». For å bruke et annet bilde, er selvkjørende biler også strengt tatt KI-agenter.
Salzmann forsker på samfunnsmessige implikasjoner rundt KI, læring og demokratiet, og peker på at KI-agentene i hovedsak bygger på ulike typer eksisterende KI. Dette kan være store språkmodeller eller regelbasert KI, som kan kobles sammen og agere mer autonomt. Hun beskriver dem som ‘autonome kybernetiske systemer i stand til samle data fra omgivelsene sine, ta selvstendige beslutninger og agere selv.`
– For å forestille deg hvordan det kan se ut kan du tenke deg om du har IT- support med fjernstyring. Så sitter du på den andre siden og ser hvordan PC-en din jobber selv.
Som en selvkjørende bil er KI-agenter kybernetiske systemer som i forutsigbare omgivelser og med godt datagrunnlag ofte fungerer overraskende bra, forklarer hun.
– Utfordringen er at når de settes inn i komplekse omgivelser, da blir det ofte problemer – i tillegg til en rekke etiske utfordringer. En selvkjørende bil kan kjøre i omgivelser og gater som er kontrollerte og forutsigbare, men prøver man å sette dem inn i på gatene i Mumbai…
Her ligger også utfordringen i å slippe løs KI på forskningsdata, analyser og annet kunnskapsarbeid.
Salzmann påpeker at KI og agentiske systemer er fristende å bruke fordi de fungerer som en ‘kognitiv protese’, men går så langt som å kalle dem et ‘kunnskapsdestruksjonsvåpen’. Hun peker på at ‘kunstig intelligens’ i seg selv er et komplisert og misvisende begrep som i sin tid var et markedføringsbegrep på det som het ‘automata studies’,
– De er fristende å bruke fordi at de tilbyr oss en lovnad om at; Nå kan vi forstå mer! Nå er vi mer effektive og produktive! Altså at disse maskinene kan strukturere mye bedre og prosessere større mengder av data, det er helt sant. Men på grunn av sin indre logikkog høye abstraksjonsnivå er de knyttet til flere problemstillinger som er viktige å huske på.
Hun peker på at de har en innebygd konservatisme som alltid vil forholde seg til fortiden, og «aldri avbilder den komplekse omverdenen som dataene i systemene skal representere».
– Vi må også stille spørsmålet om hvilke verdier som er bygget inn i disse systemene. For eksempel, hvis vi bruker KI-agenter enten det er Claude, Llama, GROK eller Chat GPT, så er det bygget inn kulturelle og normative verdier. Vi må være bevisst på en potensiell ideologisk snikkolonialisering og språklig homogenisering gjennom språkmaskiner. Hvis alle i verden bruker de samme maskinene, så er det det som skjer. Dessuten matematiserer maskiner språket, og språket bestemmer måten vi tenker, hvordan vi forstår. Men menneskelig språk er ikke et nøytralt instrument, språket er makt, den skaper identitet og preger vårt syn på oss og verden.
Men også i rene tall støter KI-agentene på problemer.
Matematikken skulle man kanskje tro var spesielt godt egnet til et apparat som KI. Men det er ikke nødvendigvis erfaringen til matematikerne Thomas Surowiec og Adrian Kirkeby ved Numerical Analysis and Scientific Computing ved Simula Research Laboratory i Oslo. I et svar til Wig i Morgenbladet innvendte de at ‘KI-agenter er som å ha en veldig kunnskapsrik og rask PhD-student, men med svært svak forståelse av fagets essens’.
– Jeg tror vi liker tanken på at det finnes noe som på en eller annen måte har en helt enorm breddekunnskap og utrolig rask tilgang til den, sier Surowiec på Zoom fra Brown-universitetet i USA, der han er for å holde en forelesning.
Han forsker og jobber ved SURE-AI, et nytt KI-senter med vekt på matematiske studier av kunstig intelligens. Her har de som mål nettopp å forstå bedre hva som gjør at KI fungerer, og utvikle nye metoder som gjør KI mer bærekraftig, risikoavers og etisk.
Erfaringene så langt fordrer et varsko;
– Hvis en prøver å få den til å gjøre ordentlig matematikk, i den forstand at du starter et sted og vil vise at noe er sant eller ikke, da finnes det en veldig tydelig struktur. Hvis du jukser i ett trinn, kan du skrive ti sider etterpå, men gjorde du noe feil eller noe som ikke er sant, så faller alt sammen. Dette noe alle som jobber med matematikk vet: slik fungerer det. Men denne superkunnskapsrike og superraske KI-en ser ikke helt ut til å forstå det poenget.
En vitenskapelig assistent, eller KI-agent som aktivt vil bortforklare og skjule feil er av naturlige grunner problematisk. Og problemet er grunnleggende.
– Når man driver med matematikk, må man være litt pessimistisk og tvile på alt, også det man selv gjør. Og det er imot mye av min erfaring med KI når jeg prøver å bruke den til noe som ikke er publisert, ikke finnes i litteraturen og derfor ikke i datasettet. Den rett og slett ikke trent til dette, sier Surowiec.
– Det virker som dette går igjen når en bruker AI i matematisk forskning, sier Kirkeby.
– Og det kan virke som disse problemene er iboende for språkmodeller.
Selv om de holder den unna forskningsfronten, bruker begge KI aktivt; til idétesting, feilsøk av kode, tekstredigering og annet tidkrevende arbeid. Felles for det er at KI-en slett ikke kan overlates til seg selv, men må korrigeres, testes, overses og monitoreres.
– Du må være veldig forsiktig, fordi hvis du prøver å gjøre noe nytt og den bare er trent på ting som allerede er kjent, kan den lede tankene i feil retning, sier Surowiec.
Forskerne mener KIs rolle heller bør brukes som nettverksbygger i forskningsmiljø, enn som dypttenkende assistent og kollega.
– Et problem med mye matematisk forskning er at den blir for smal og utilgjengelig til å få ringvirkninger i andre deler av vitenskapen, selv om den ofte har potensial til det, sier Kirkeby.
– Her kan KI potensielt hjelpe spesialiserte forskere med å bli mer tverrfaglig orienterte. Og det tror jeg vi trenger mer av, heller enn å bli enda mer nisjepreget og produsere resultater som er utilgjengelige for de aller fleste.
Men forskning er forskning og KI er big business og geopolitisk maktinstrument.
Anja Salzmann peker på at KI-forskning siden 2014 i stor grad har gått over til privatisert industriforskning.
Når de store firmaene nå lanserer autonome KI-agenter som kan virke som personlige assistenter fører det til en rekke spørsmål. Rundt integrasjon, sikkerhet, personvern og pålitelighet av systemene med tanke på de dataene man ønsker å anvende systemene på, men også til hvilket formål.
– De store Tek-gigantene trenger adgang til menneskelige adferdsdata for å videreutvikle modellene sine og agentiske systemer åpner for helt nye forretningsmodeller i den digitale økonomien. Man kan lage små og store megaplattformer, der agentene betjener ulike plattformer som vi i hverdagen benytter oss av, for eksempel. Det andre er at de får adgang til aktive data, realitetsdata og et langt mer intimt bilde av hvem vi er og hva vi gjør. Hva vi gjør på PC-en i det øyeblikket vi holder på de forskjellige systemene. Og det er viktig fordi disse store KI-modellene ellers over tid vil møte på et stort problem.
Problemet kalles Ouroboros, etter den egyptiske slangen som biter seg selv i halen. Den viser til et lukket kretsløp som livsnærer seg på sin egen avføring – og illustrerer begrepet KI-slop.
Salzmann forklarer at KI per i dag har støvsuget nettet for data, og man har testet hva som skjer hvis man forer de store språkmodellene utelukkende med syntetisk data, altså generert tekst;
– Da kollapser den. Da produserer den bare mer tull. Det betyr i effekt at det er nødvendig med menneskelig genererte, ferske data, sier hun.
– Og da spørs det om KI-agentene er våre, eller om vi er KI-ens agenter.
