Publisert 28. september 2017 kl. 11:25
Då fristen nyleg gjekk ut for å kome med innspel til revideringa av langtidsplanen for forsking og høgare utdanning, peika fleire av høyringsinstansane på at kunnskap om personvern og risikoanalysar i IKT må få større plass i utdanninga. Datatilsynet er mellom aktørane som nemner dette i sitt innspel.
– Reint generelt er erfaringa frå dei tilsyna vi gjennomfører, at mange verksemder har mangelfulle risikovurderingar eller ikkje gjer risikovurderingar i det heile, seier Martha Eike, teknolog i Datatilsynet.
– Mange har ikkje oversikt over kva personopplysingar dei har, og kva dei blir brukte til, og det kan gjelde verksemder i alle sektorar.
Eike fortel at dei ofte ser at verksemder tek i bruk appar eller programvare utvikla av andre, i den trur at utviklarane sikkert har risikoen under kontroll.
– Men ansvaret for personvern og risikoanalyser er ikkje noko ein kan fråskrive seg på den måten, seier ho.
«Svarte boksar»
Datatilsynet nemner også dei potensielle problema som ligg i at stadig fleire avgjerder blir tekne ved hjelp av algoritmar og automatiserte system. For at slike avgjerder skal ha legitimitet, er det særskilt viktig at dei er etterrettelege, men det er slett ikkje alltid tilfelle.
– Det er ei utfordring at mange automatiserte system opptrer som svarte boksar og tek avgjerder som ikkje kan ettergåast eller forklarast av menneske, seier fagdirektør Catharina Nes.
Dei fleste av oss nyttar slike automatiserte tenester kvar dag, men no blir dei i stadig større grad tekne i bruk på område som kan få store konsekvensar for einskildpersonar.
– Når automatiserte system etter kvart vil avgjere om du er kredittverdig, om du får lån, kor stor forsikringspremie du skal betale eller om du har rett til ytingar frå NAV, er det utruleg viktig at beslutningane kan forklarast og ettergåast, seier Nes.
Urettferdige algoritmar
Automatiserte system har mange fordelar, mellom anna at dei kan ta meir objektive avgjerder. Men Nes peikar på at avgjerdene ikkje blir betre enn datagrunnlaget dei byggjer på. Dersom datagrunnlaget slår skeivt ut i høve til enkelte grupper, kan det få store konsekvensar. I ein kronikk ho skreiv om temaet, nemnte ho til dømes korleis eit bildeattkjenningsprogram utvikla ved University of Virginia, konsekvent kategoriserte menneske som var avbilda på eit kjøken, som kvinner, fordi databasen som utgjorde grunnlaget, hadde fleire bilete av kvinner på kjøken enn av menn på kjøken.
– Det ligg mykje pengar i å lage algoritmar som kan predikere både det eine og det andre, og slike algoritmar har mange nyttige anvendingsområde, til dømes innan medisin. Men dei som forskar på å utvikle slike system, må kunne forklare korleis og kvifor systemet kom fram til dei beslutningane det gjorde. Og dei må også kunne fange opp systematiske skeivheiter og diskriminerande utfall, seier ho.
Innebygd personvern
Tilsynet ber difor regjeringa passe på at forsking på automatiserte system blir følgt opp med forsking på korleis ein kan sikre at systema tek rettferdige avgjerder. Også Tekna ber i sitt innspel om at regjeringa styrkar norsk IKT-forsking og -utdanning for å sikre den digitale beredskapen, og tilliten til nye digitale teknologiar. Tekna viser til at dei spelte inn dette allereie før langtidsplanen først vart lagt fram i 2014, og at det berre er blitt viktigare i mellomtida.
I mai neste år vil EUs forordning for personvern bli norsk lov. Eit sentralt krav i det nye regelverket vil vere at når nye IKT-system blir utvikla, skal personvern takast omsyn til og byggast inn i systemet i alle fasar i utviklingsprosessen. «Innebygd personvern» må difor bli sentralt i all høgare utdanning i IKT, skriv Datatilsynet.
– Vi har akkurat lansert ein rettleiar for programutvikling med innebygd personvern, og vi merkar stor interesse frå verksemder som er nysgjerrige på det nye regelverket no. Det tek vi som eit godt teikn, seier Martha Eike.
LES OGSÅ:
