Nyheter | Kunstig intelligens
Publisert 17. september 2026 kl. 13:32
I sommer opplevde Open AI, et av verdens ledende selskaper innen kunstig intelligens (KI), at nye modeller under utvikling hadde tatt kontroll over deler av selskapets digitale infrastruktur og hacket seg inn i et annet selskap, Hugging Face.
Deretter kom en uavhengig rapport med oppsiktsvekkende detaljer om hva som skjedde da de såkalte KI-agentene, selvstyrte programmer med stor grad av autonomi, koordinerte seg om oppgaver de ikke var ment å gjøre. I går meldte Open AI om flere nye uregelmessigheter under utprøving av nye modeller det siste halvåret.
Ønsket om økt regulering av forskningsfronten innen KI øker i styrke, også fra KI-selskapene selv. Det mener Kristian Wold, stipendiat ved Oslomet og styremedlem i nettverket Tryggere KI, er helt på sin plass.
– Bør vi ta disse hendelsene med KI-agenter på alvor?
– Ja, hendelsen med Open AI og Hugging Face er et varselskudd. Dette er noe som aldri har hendt før, og det er veldig oppsiktsvekkende. Det som har gått opp for meg etter at jeg har sett på rapportene som har kommet, er hvor smarte disse agentene tilsynelatende er. Det disse agentene har gjort, er at de har funnet masse svakheter i den digitale infrastrukturen til oss mennesker. Det er snakk om veldig mange små, subtile svakheter. Og det tok mange dager for at denne svermen av agenter fant dem, koordinerte seg imellom og samlet disse svakhetene til det som til slutt ble et stort og sammensatt angrep.
– Det har vært advart mot at dette kan være siste gang vi kan spore en slik hendelse, fordi agentene neste gang kan bli flinkere til å dekke seg?
– Jeg synes det er et godt poeng. Jeg forstår det slik at disse agentene har forsøkt å skjule sporene sine. Grunnen til at vi vet det, er at de har gjort en ganske dårlig jobb med det. Da kan det tenkes at neste gang, hvis modellene er mer kapable og smartere og mer ressurssterke – og det trenes de til å bli – at de gjør en bedre jobb i å skjule sporene sine. Dersom de har intensiver og driv til det.
– Hva betyr det vi nå har opplevd for forskning på KI-sikkerhet i Norge og internasjonalt?
– Jeg tror vi kan og bør forske mer på KI-sikkerhet i Norge. Det har vært en trend hvor en del av det som dreier seg om KI-sikkerhet har vært preget av etterpåklokskap. Vi prøver å lage disse agentene smarte og trygge, men når de blir for smarte, så gjør de noe uventet som kan være skadelig. Så prøver vi å fikse på det. Men så går ting skeis og det sklir ut på en ny og uventet måte. Dette er en veldig dårlig trend. Jeg skulle ønske vi kunne jobbe mer med det man kan kalle proaktiv KI-sikkerhet.
– Norge er i ferd med å innføre et nytt EU-regelverk, AI Act, på området. Hva innebærer det?
– EU-regelverket er godt og en god start. Blant annet reguleres hvordan kunstig intelligens kan brukes og ikke. Det har også et par svakheter. Det ene er at det bare gjelder for EU. Det andre er at det kun er reguleringer av produktene i seg selv. Det vi ser fra hendelsene i sommer, er skadevirkninger som kom under utvikling av produktene. Det er noe AI Act ikke regulerer direkte.
– Hva betyr det som nå har skjedd for norske forskeres bruk av KI-agenter? Må de nå slutte med det, eller legge strengere forskningsetiske betraktninger til grunn?
– Det er godt spørsmål. Jeg vil si at det viser at vi i større grad må være klar over at systemene ikke nødvendigvis lar seg styre helt. Vurderingene kommer an på bruksområde og om man for eksempel behandler sensitive data. Men jeg er ikke så bekymret for dette i dag. En modell som Chat GPT-5 er for eksempel sofistikert og kraftig nok, men er ikke helt der hvor den klarer å hacke seg ut og koordinere med andre agenter. Tar man i bruk Chat GPT-6 eller senere generasjoner, blir det nok et større ansvar for forskerne. Nå i dag ville jeg først og fremst lagt ansvaret på KI-selskapene. Det er det som dukker opp i utviklingslabene deres som er mest bekymringsfullt, ikke produktene som havner i fanget hos oss.
– Hvor står du i spørsmålet om hvorvidt det er ti prosent risiko for at KI vil utrydde menneskeheten i løpet av de nærmeste ti år eller ikke?
– Det ligger ikke en dyp analyse til grunn her. Man kan spørre hvorfor 10 prosent og ikke 5 prosent? Og hvorfor ikke 5 år eller 20 år? Det kommer jo ikke fra noen kalkulasjon. Men det er et dypere poeng, og det er hvordan disse utsagnene viser en subjektiv bekymring. Vi kan ikke si at i morgen smeller det. Det er det ingen som vet. Vi har ingen krystallkule. Men spør du meg så er vi ikke i en bra trend akkurat nå.
– I den norske debatten er det lagt vekt på at selskaper som Open AI kan ha økonomisk egeninteresse av å framheve hvor potensialt risikable de er og dermed indirekte hvor avanserte modellene deres er?
– Jeg synes det er et godt poeng. Vi skal ta det disse selskapene sier med en klype salt. Men jeg vil si at det ikke er et godt nok poeng til å avskrive alt de sier. Vi skal også veie det opp mot uavhengige kilder og uavhengige rapporter. Og så kan vi være åpne for at her kan det være flere ting som er sant på en gang. Bare så det er sagt, så tror jeg at risikoen er reell.
– Hvorfor er det så vanskelig å få på plass reguleringer av KI-selskapenes utvikling av nye modeller?
– Kompetansenivået og oppmerksomheten til regjeringer og stater i verden er rett og slett lavt. Politisk vilje må opp, og vi må snakke mye mer om hva de potensielle framtidige skadevirkningene kan være. De store KI-selskapene klarer ikke å koordinere seg imellom og har profittinsentiver på kort sikt å ta hensyn til. De vil gjerne at myndighetene skal hjelpe dem å koordinere. Jeg tror den politiske viljen til regulering er økende. Det er mulig innen kort tid tror jeg.
– Presidentene Xi Jinping og Donald Trump skal etter planen møtes i Washington i neste uke. KI kan stå på agendaen. Hva kan vi håpe på derfra med hensyn til et globalt rammeverk?
– Jeg håper at begge kan uttale at dette er et potensielt stort problem. Her har vi faktisk litt historie å trekke på, fordi menneskeheten har navigert lignende ting før. Jeg tenker på atomnedrustning. En gang i tiden sa eksperter at vi aldri vil klare å navigere atomtrusselen: Alle land i verden kommer til å få atomvåpen og atomkrig er uunngåelig. Og det er jo ikke sant. Det ble aldri atomkrig. Det er ikke slik at alle land i verden har atomvåpen. Jeg håper vi får de første stegene mot en ikkespredningsavtale for avansert kunstig intelligens som vi ikke vet er trygg.
