Som enkeltperson kan du klage til Datatilsynet dersom du har opplevd noe du mener er et brudd på personvernregelverket.

De siste årene har Datatilsynet opplevd en markant økning i antall klager vi mottar, og veksten tok skikkelig fart i 2025. Fra 2024 til 2025 mer enn doblet antallet seg, fra 902 til 1848 klager. Basert på antallet klager så langt i år, er det mye som tyder på at denne trenden fortsetter.

Denne økningen sammenfaller med en annen trend: Offentlig sektor i hele landet opplever en dramatisk økning i saker fra enkeltpersoner som er utformet ved hjelp av generativ kunstig intelligens (KI), mer spesifikt språkmodeller som for eksempel ChatGPT eller Gemini.

I Datatilsynet har vi analysert klagene som virker å være generert ved hjelp av KI. Ikke bare får vi flere klager, men klagene som er skrevet ved hjelp av KI er ofte vanskeligere og mer tidkrevende å behandle på vår kant.

Hvor mange klager får vi som virker å være KI-generert?

For å finne ut i hvor stor grad KI blir brukt i klager, har vi gått igjennom klagene fra noen utvalgte måneder i løpet av det siste året.

Vi delte klagene i tre kategorier:

• Uten KI – Klager som ikke ser ut til å ha vært laget ved hjelp av språkmodeller
• Hybrid – Klager som ser ut til å være delvis skrevet selv og delvis skrevet ved hjelp av språkmodeller
• Med KI – Klager som gjennomgående hadde et karakteristisk preg av å være skrevet av enspråkmodell

Se kriteriene vi brukte for å vurdere hvorvidt en klage er KI-generert eller ikke nederst i denne teksten.

Ett av funnene våre var at andelen klager vi mottok, som hadde et karakteristisk KI-preg gjennom hele teksten, økte fra 15 prosent i mars 2025 til 34 prosent i desember 2025 (se figur over). Dette betyr at ved årets slutt kan så mye som én av tre klager ha blitt utformet med hjelp av KI.  

For å få et innblikk i når denne trenden startet, sammenlignet vi også klagene vi mottok i mai 2024 med samme måned i 2025. I mai 2024 var det kun 2 prosent av klagene som hadde et karakteristisk preg av å være utarbeidet ved hjelp av KI, mot 23 prosent i 2025. Siden den tid har altså andelen vokst ytterligere

Hvordan påvirker KI saksbehandlingen?

Mange av de KI-genererte klagene mangler en beskrivelse av hva som faktisk har skjedd, og dokumentasjon på kontakt med virksomheten eller personen som de ønsker å klage på. Dette gjelder spesielt de tilfellene der klageren i liten grad redigerer tekstforslaget fra språkmodellen før de sender klagen til oss.

Vi ser også ofte at slike klager inneholder overflødig og generell informasjon, og kan dermed bli svært omfattende. Klagere presenterer gjerne en rekke klagemål og henviser til bestemmelser i lovverket som angivelig har blitt brutt, gjerne også bestemmelser som ikke gir klageadgang, eller ikke eksisterer. Resultatet ser imponerende ut, men mangler ofte vesentlig eller korrekt informasjon.

På mottakersiden sitter en saksbehandler som må forholde seg til store mengder tekst, et mangelfullt faktagrunnlag, og hvor det er uklart hva klageren egentlig ønsker å klage på. For å kunne behandle saken må saksbehandleren avgrense klagen og etterspørre nødvendig informasjon fra klager, et merarbeid som gir lengre saksbehandlingstid.   

Klage til Datatilsynet? Bare fakta, takk!

Enten du skriver klagen ved hjelp av KI eller helt for egen maskin: Her er noen tips til deg som skal sende inn en klage som kan bidra til mest mulig effektiv og god behandling.

Sørg for at klagen inneholder:

1.  En kort forklaring om hva den du klager på har gjort med dine personopplysninger som du mener er ulovlig.

For eksempel: «Min arbeidsgiver har satt opp kameraer på min arbeidsplass som peker mot min arbeidsstasjon, lageret og pauserommet. Sjefen min bruker opptakene til å kontrollere eller sjekke om jeg gjør jobben min riktig. Sjefen sitter hjemme og følger med på hva jeg gjør og ringer for å kjefte når hen mener jeg gjør noe galt.»

2. Dokumentasjon på hvilken kontakt det har vært med virksomheten eller personen du klager på. Om dere ikke har vært i kontakt, forklar hvorfor.

For eksempel: «Jeg har sendt en epost til sjefen min og sagt ifra om at dette ikke er ok, og fikk beskjed om at jeg bare måtte finne meg i det eller slutte. Se vedlagt e-postutveksling».

Det er ikke nødvendig å vise til hvilke bestemmelser i regelverket som kan ha blitt brutt, eller hva Datatilsynet skal gjøre for å løse saken. Dette er oppgaver som Datatilsynet selv vil kunne identifisere basert på faktagrunnlaget.

Hva så vi på for å vurdere om klagen var utformet ved hjelp av KI?

• Format: Hyppig bruk av fet skrift, punktlister, lange tankestreker m.m.
• Språk og tone: Uvanlig korrekt og polert språk, henvisninger til lovhjemler, krav m.m.
• Struktur: Rapportformat, lange avsnitt, generelle argumenter m.m.
• Innhold: Mangler detaljer som dato, navn, hendelser og steder, kommunikasjon m.m.

Utdannings- og forskningskomiteen har nå avgitt sin innstilling om opprettelsen av individregistre over alle barn i barnehager og grunnopplæring. Mandag 26. mai går den til behandling i Stortinget. Til tross for at majoriteten av Stortingets opposisjonspartier går tydelig imot de foreslåtte registrene, ser det ut til at det likevel kan bli flertall for å vedta lovforslaget. Innstillingen viser imidlertid at de fleste er enige om at regjeringen ikke har utredet personvernkonsekvensene godt nok.

Ved å vedta forslaget, aksepteres dermed en stor risiko for at barn og unges personvern nå vil svekkes på uopprettelig vis. I tillegg vil Stortinget gjennom sin aksept muliggjøre ytterligere inngrep ved å gi Kunnskapsdepartementet forskriftshjemler til å utvide individregistrene i omfang og formål. 

Det som overrasker oss mest, er at Høyre og Venstre, som er de eneste partiene som støtter Arbeiderpartiregjeringens lovforslag, i innstillingen snur alle personvernprinsipper og -prosedyrer på hodet. De vil gjennomføre lovarbeidet først, og heller forholde seg til personvernkonsekvensene etterpå. Dette er foruroligende.

Personvernet er under stadig press

To ulike regjeringsoppnevnte personvernkommisjoner har, både i 2009 og 2022, poengtert at barn og unges personvern er under stadig press. Likevel synes ikke myndighetene å kunne stagge sin iver etter å registrere og koble personopplysninger om alle landets innbyggere, innenfor stadig nye områder. I iveren glemmer de å gjøre nødvendige vurderinger av konsekvensene dette medfører for personvernet.

Dette har blitt svært tydelig gjennom de politiske prosessene som danner grunnlag for lovforslaget Stortinget nå skal behandle. 

Stortingets grunnlag for å beslutte opprettelsen av registrene er for svakt

Datatilsynet og Utdanningsforbundet har gjennom lang tid synliggjort hvor mangelfullt Kunnskapsdepartementets lovarbeid har vært. Departementet har blant annet valgt å se bort fra sin egen utredningsinstruks, der det fremheves at tiltak som berører prinsipielle spørsmål må drøftes på en balansert og systematisk måte – en skal «unngå å systematisk overvurdere nyttevirkninger og undervurdere kostnadsvirkninger». 

Som vi gjentatte ganger har påpekt, er ikke dette unngått. Antakelser om individregistrenes potensielle samfunnsnytte overdrives, mens de rent faktiske svekkelsene av personvernet underkommuniseres. Selv om Kunnskapsdepartementet har gjort endringer fra det opprinnelige høringsnotatet til den endelige lovproposisjonen, har det aldri blitt gjort en reell vurdering av de konkrete personvernkonsekvensene opprettelsen av de foreslåtte registrene vil innebære.

Med andre ord preges regjeringens lovforslag av ikke å tilfredsstille forventningene som følger av Norges forpliktelser overfor Den europeiske menneskerettighetskonvensjonen og personvernforordningen. Dermed har heller ikke Stortinget et godt nok grunnlag for å kunne vedta lovendringene som vil gi hjemmel for å opprette individregistrene.

Bedre etter snar enn føre var, Høyre og Venstre?

Personvernkommisjonen anbefalte i 2022 at det skal iverksettes systematiske personvernvurderinger i alle lovarbeider. Dette ble begrunnet med at «dersom personvernkonsekvenser ikke utredes i tilstrekkelig grad som en del av regelverksarbeidet, risikerer vi at det legges til rette for uforholdsmessig store inngrep i personvernet». 

Det ser ut som om Utdannings- og forskningskomiteens medlemmer fra Høyre og Venstre også ser dette, til tross for at de støtter Arbeiderparti-regjeringens individregisterforslag. Medlemmene fra disse partiene, som historisk har vært å anse som personvernpartier som hegner om enkeltmenneskets ukrenkelighet og krav på respekt og vern mot statlig inngripen, forutsetter nemlig at regjeringen ved en eventuell etablering av registrene må gjøre en nøye vurdering av personvernkonsekvensene for barn. Men dette vil i så fall først skje etter at loven er vedtatt, og dermed snur de som sagt alle personvernprinsipper og -prosedyrer på hodet.

Når personvern, som personvernkommisjonen uttrykker det, dypest sett «handler om hvilket samfunn vi ønsker å leve i, i dag og i dagene som kommer», kan man ikke som Høyre og Venstre tilnærme seg personvernspørsmål med innstillingen om at det er bedre etter snar enn føre var. 

I prosessen med å bli verdens mest digitaliserte land risikerer vi å få verdens mest overvåkede innbyggere.

I den norske debatten om personvern vises det gjerne til USA eller Kina når det er behov for eksempler på ukontrollert og inngripende overvåking. Nå holder det å se til våre naboland  for å finne disse eksemplene.

Hva skjer når du digitaliserer en velferdsstat og åpner døren på gløtt for de statlige etterretningstjenestene?

Svensken og dansken

Mye av grunnen til at velferdsstater som Norge, Sverige og Danmark fungerer godt, er at de har tilgang til store mengder digitaliserte data. Norge har mange statlige registre blant annet knyttet til helse, utdanning, arbeid, inntekt, velferdsytelser, straff, skatt og eiendom. Dette gjør det lettere å levere gode tjenester til innbyggerne. Men det har også en risiko. I en gjennomdigitalisert stat ligger potensialet for masseovervåking.

I Danmark pågår det nå en omfattende diskusjon om et nytt lovforslag. Forslaget gir etterretningstjenesten PET lov til å lage en analyseplattform der de kan samle data fra offentlige registre. Det kan for eksempel være informasjon om sykehusbesøk, kontakt med psykiatrien og sosialtjenester. De skal også kunne hente inn data fra sosiale medier – som hva folk skriver, liker og deler – og følge med på hvordan folk beveger seg på internett og i virkeligheten.

Ved hjelp av kunstig intelligens skal PET finne mønstre og peke på mistenkelig atferd. Mange er bekymret for at dette gjør at alle blir behandlet som potensielle mistenkte. Det kan føre til frykt for å ytre seg, og påvirke folks forhold og tilgang til velferdstjenester. Koplingen mellom registre, kunstig intelligens og overvåking er noe Danmark også tidligere har blitt kritisert for, blant annet i en rapport fra Amnesty.

I Sverige er det også snakk om mer overvåkning. Der ønsker myndighetene å gi sikkerhetstjenestene økt mulighet til å overvåke internettrafikk og pålegge meldingsapper å opprette en bakdør for å oppheve kryptering. «Nasjonal sikkerhetslagring» innebærer omfattende innsamling av borgernes datatrafikk ved behov. Målet er å bekjempe digital kriminalitet, men innsamlingen vil omfatte vanlige, lovlydige borgere.

Det er fristende å bruke informasjon som allerede er samlet inn til nye formål. Vi ser denne tendensen også i Norge.

Nye holdninger til bruk og deling av data setter personvernet under press i Norge

Fra fødsels- til dødsmelding, registreres norske borgere i utallige registre og vårt livsløp dokumenteres fra fosterstadiet på helsestasjonen, videre i barnehagen, skolen, helsetjenesten, arbeidslivet og NAV. Vi gir fra oss informasjon til staten som nødvendig ledd i å motta diverse tjenester og velferdsgoder. Opprinnelig har informasjonen vært organisert som små «øyer» i offentlig sektor, og kun vært brukt til det formålet som den ble samlet inn for. Men endringer har skjedd. I vår digitaliseringsiver har vi tilpasset oss en ny måte å forholde oss til data på: den har ofte stor verdi utenfor det opprinnelige formålet. Alle offentlige data anses mer og mer som et statlig felleseie.

Lisa Reutter, som er ekspert på datadrevet offentlig sektor, satte ord på det optimistiske forholdet vårt til offentlige data i en episode av Datatilsynets podkast: «Vi holder data atskilt slik at opplysninger samlet inn i én kontekst ikke skal ha noe å si i en annen. Men ideen om data som en muliggjørende teknologi, bidrar til å flytte grensene for hva vi aksepterer og synes er greit».

Sammenstilling av data skaper uklarheter

På Altinget har det i den siste tiden pågått en debatt om de såkalte individdataregistrene. De forslåtte registrene skal samle mye informasjon om barn i skole og barnehage – som fravær, prøveresultater, spesialundervisning, språkopplæring, foreldrenes bakgrunn og økonomisk situasjon. Disse opplysningene skal igjen kobles med data om foreldre og barnets videre liv, som utdanning, jobb, inntekt og helse, samt foreldrenes livsløp. Forskningen på registrene skal benyttes som kunnskapsgrunnlag for å skape en bedre skole. Datatilsynet har advart mot at store og sammenkoblede registre innebærer en endret maktbalanse mellom myndighetene og enkeltindividet, noe som kan påvirke tilliten til statlige myndigheter negativt.

Forbudet vårt mot Statistisk sentralbyrå (SSB) sin planlagte innsamling av data fra den norske befolkningens dagligvarekjøp i 2023 var et eksempel på det samme. Ideen om å koble bongdata opp mot sosioøkonomiske data slik som husholdningstype, inntekt og utdanningsnivå, var noe vi mente var et uforholdsmessig inngrep i norske borgeres privatliv.

Dette kommer i tillegg til utvidelsene av justismyndighetenes overvåking av borgerne de siste årene, med blant annet lagring av IP-adresser, passasjeropplysninger, Etterretningstjenestens overvåking av internettrafikk og senest PSTs hjemler til å overvåke åpne kilder. Når store deler av kommunikasjonen og kunnskapsinnhentingen vår skjer på digitale plattformer, vil summen av data som samles inn av offentlige og private aktører medføre et stort overvåkingspotensial. Ekstra bekymringsfullt er det når etterretningstjenester kjøper metadata fra apper på det uregulerte markedet, og når Kripos vil bruke private slektsdatabaser i etterforskning.

Alt dette bidrar til å skape uklarhet som forsterker de negative effektene av overvåking og kan svekke personvernet ved at legges press på å utforme tjenester med svakere beskyttelse. Alt dette ble på dramatisk vis satt på spissen i debatten og snuoperasjonen knyttet til sivilbeskyttelsesloven. En situasjon hvor personvernlovgivningen settes til side kan få alvorlige konsekvenser for samfunnet. Det å innføre økte kontrolltiltak på for eksempel internett eller ansiktsgjenkjenning i det offentlige rom vil innebære en svekkelse av sivilsamfunnet. Kontrollmekanismer blir også satt under press i krisesituasjoner. Det er ingen tvil om at Datatilsynet opplevde det svært krevende å si nei til Smittestopp-appen under Covid.

Overvåkingspotensialet i en gjennomdigitalisert stat

At hvert enkelt tiltak kan aksepteres som et nødvendig inngrep i personvernet, kan isolert sett fremstå tilforlatelig. Advokatforeningen har i en kronikk påpekt dilemmaet under overskriften «Jeg vil svekke rettsstaten – gi meg en hjemmel!». Det at nye tiltak hjemles, begrenser ikke nødvendigvis skadevirkningene av selve inngrepet. Mulighetene og hjemlene for sammenkobling av ulike offentlige registre eller private datasett gjør uforutsigbarheten for den enkelte desto større.

Det er godt dokumentert at økt overvåkingstrykk påvirker vår ytre frihet, hvordan vi lever, kommuniserer og bruker tjenester. Enda mer bekymringsfullt er at den også truer vår indre frihet – mange begynner å føle seg overvåket hele tiden. Det er ikke uten grunn at den nye KI-forordningen forbyr bruk av kunstig intelligens som manipulerer folk til å gjøre ting de ellers ikke ville gjort.

Datatilsynet vil advare mot et samfunn hvor all offentlig informasjon og private data samles og gjøres tilgjengelig for nye formål og bruksområder. Et demokrati kjennetegnes ved at det er borgerne som kontrollerer staten, ikke motsatt. Norge, Sverige og Danmark ligger fortsatt på topp på internasjonale demokratiindekser, men vi kan ikke ta slike målinger for gitt. Det fremstår som et paradoks at suksessen til de skandinaviske velferdsstatene – å bruke store mengder data til å levere gode velferdstjenester – kan gjøre oss ekstra sårbare.

Det kan være fristende å se til våre naboland når vi utformer politikk som skal løse fremtidens utfordringer. Men uansett om målet er velferd, forskning eller sikkerhet, er det viktig at politikerne er bevisst det enorme overvåkingspotensialet som ligger i en heldigital og gjennomregistrert stat.

Registerdataforskerne Fartein Ask Torvik, Camilla Stoltenberg, Martin Flatø og Karin Monstad skriver i sitt innlegg på Altinget 30. april 2025, at Datatilsynet og Utdanningsforbundet tegner et skremmebilde av de foreslåtte individregistrene over barn i barnehager og grunnopplæring. De antyder også at vi ikke ser nytten av kunnskap, for å utvikle tilbudet til landets barnehagebarn og elever.

Selv tegner de et vrengebilde av det vi faktisk har skrevet, og bidrar dermed til en avsporing av debatten om hvordan regjeringens lovforslag utfordrer barn og unges menneskerettslige, grunnlovfestede rett til personvern.

Personvern og menneskerettigheter er ikke en avsporing

Den europeiske menneskerettighetskonvensjonen (EMK) artikkel 8 slår fast at offentlige myndigheter kun kan gjøre inngrep i privatlivet, herunder i retten til personvern, dersom inngrepet har lovhjemmel og er nødvendig for å ivareta andre demokratiske samfunnsverdier. Tilsvarende følger også av grunnleggende personvernprinsipper, blant annet regulert i personvernforordningen.

Nødvendighetskriteriet i EMK forutsetter at det gjøres en avveining mellom de ulike hensynene, i dette tilfellet hvilke personverninngrep lovforslaget innebærer opp mot nytteverdien av det. Våre henvisninger til menneskerettighetene retter seg nettopp mot hvordan lovforslaget legger grunnlag for disse avveiningene, og vårt gjennomgående hovedpoeng har vært at dette er mangelfullt.

Vi har påpekt at personvernkonsekvensene ikke har blitt tilstrekkelig presentert og vurdert, og at behovet for, og nytteverdien av, registrene ikke har blitt drøftet på en overbevisende måte. Regjeringens lovforslag har med andre ord klare mangler sett opp mot forventningene som følger av EMK artikkel 8, og vi er derfor grunnleggende uenige i de fire forskernes påstander om at koblingen til menneskerettigheter er en avsporing.

Sammenligningen med eksisterende helseregistre bommer

Ask Torvik, Stoltenberg, Flatø og Monstad sammenligner de foreslåtte individregistrene med de lovregulerte helseregistrene vi allerede har i Norge. Med dette argumenterer de for opprettelsen av nye registre, ved å anføre at det allerede registreres mer inngripende opplysninger om barn andre steder. Vi mener dette uttrykker en bagatellisering av personvernkonsekvensene som følger med opprettelsen av individregistrene.

Det er her nødvendig å påpeke at det er en vesensforskjell i reguleringsformen av helseregistrene, sett i forhold til de foreslåtte individregistrene over barn i barnehager og grunnopplæring. Helseregistrene er tematisk avgrenset, og helseregisterloven – som gir hjemmelen for opprettelse av helseregistrene – inneholder en rekke krav knyttet til behandling av personopplysninger. I tillegg reguleres hvert enkelt register nærmere i dedikerte forskrifter.

De foreslåtte individregistrene skal hjemles i barnehageloven, opplæringsloven og privatskoleloven, uten at det medfølger tilsvarende krav og plikter som helseregisterloven gir. Dette innebærer at garantiene som ligger i lovregulert behandling av personopplysninger, vil være svakere ivaretatt i individregistrene enn i helseregistrene. Når det samtidig åpnes for at det gjennom forskrift skal være mulig å endre registrene, og dermed også premissene for opprettelsen av dem, blir det heller ikke mulig å overskue de langsiktige personvernkonsekvensene av regjeringens forslag.

Ulike fagfelt har ulike kunnskapsbehov

De fire forskerne går også langt i å fremstille Datatilsynet og Utdanningsforbundet som kunnskapsfiendtlige. De hevder blant annet at vi skulle mene at barnehager og skoler ikke trenger mer kunnskap. Dette er åpenbart å legge ord i munnen på oss, og samtidig tåkelegge at spørsmålet om å opprette de foreslåtte individregistrene må besvares etter en reell avveielse av personverninngrepet opp mot nytteverdien. Dette gjøres på sviktende grunnlag når personverninngrepet underkommuniseres, og den påståtte nytten samtidig mangler en overbevisende underbygning.

For to år siden la kvalitetsutviklingsutvalget frem sin NOU 2023:1 Kvalitetsvurdering og kvalitetsutvikling i skolen. Et kunnskapsgrunnlag. Det bredt sammensatte utvalget utredet nettopp spørsmålet om hvilke behov ulike nivåer i skolesektoren har for informasjon og støtte til å drive kvalitetsutvikling. Det var ingenting i deres analyser som peker i retning av at nasjonale myndigheter trenger å registrere og sammenkoble individdata for å kunne ivareta sitt ansvar, ei heller at det eksisterer store kunnskapshull som bare kan tettes med omfattende registrering og kobling av barns personopplysninger.

Datatilsynet og Utdanningsforbundet er med andre ord ikke imot kunnskap, men lovforslaget gir ingen overbevisende begrunnelser for at kunnskapen som skal komme ut av registerdataforskningen er nødvendig eller viktig nok, til å veie opp for det omfattende personverninngrepet individregistrene medfører. Som vi har skrevet tidligere, holder det ikke å sette en reell svekkelse av personvernet opp mot antakelser og forhåpninger om at registrene skal være til barnas beste. Nytteverdien må presenteres som mer enn en generell ønsketenkning.

Stortinget må ikke la seg avlede – registrene truer barns personvern

Etter omfattende kritikk i en mengde høringsinnspill, har Kunnskapsdepartementet gjort flere endringer i lovforslaget som Stortinget nå skal behandle. Disse endringene er gjort med mål om å redusere personvernkonsekvensene i forhold til det opprinnelige høringsnotatet, men vi mener fortsatt at lovforslaget som legges til grunn for opprettelsen av individregistrene er mangelfullt.

Konsekvensen av manglene er at Stortinget ikke i tilstrekkelig grad blir satt i stand til å gjennomføre avveiningen mellom de reelle fordelene og ulempene de foreslåtte individregistrene over alle barn i barnehager og grunnopplæring medfører. Som vi tidligere har kommentert, utfordrer dette tilliten til offentlige myndigheter, og grunnleggende demokratiske verdier.

Datatilsynet og Utdanningsforbundet håper derfor Stortingets politikere ikke lar seg avlede av lettvint retorikk, og fordreining av hva dette egentlig handler om. For oss er det viktig å presisere at det ikke er snakk om små, tilforlatelige endringer av barnehageloven, opplæringsloven og privatskoleloven. Det dreier seg om opprettelsen av store, inngripende individregistre som rent faktisk utfordrer både det grunnlovfestede vernet av barns personlige integritet og personvernet som demokratisk samfunnsverdi.

Forslaget om et nasjonalt individregister for barn dreier seg ikke om små, tilforlatelige endringer av barnehageloven, opplæringsloven og privatskoleloven. Det handler om opprettelsen av store, inngripende individdataregistre som både utfordrer det grunnlovfestede vernet av barns personlige integritet og personvernet som demokratisk samfunnsverdi, skriver Camilla Nervik og Geir Røsvoll.

Regjeringen har nå lagt frem en lovproposisjon for å kunne registrere en mengde personopplysninger om alle barn og unge i Norge. Opplysningene skal kunne kobles med annen informasjon om barna og deres familier. Lovendringene gir dermed staten mulighet til å overvåke oss alle gjennom livet – fra vugge til grav.

Registreringen av personopplysningene vil skje uten at noen skal bes om samtykke, eller få mulighet til å reservere seg. At den enkelte ikke skal gis mulighet til selv å bestemme over egne personopplysninger, begrunnes med en risiko for at registrene da ikke vil oppfylle sin hensikt. Det anføres at den enkeltes valgfrihet vil medføre skjevrepresentasjon, og at dette særlig vil gå utover de sårbare barna som ofte er underrepresentert i forskning basert på utvalgsundersøkelser. Med dette som bakteppe hevder ulike statlige aktører, som Kunnskapsdepartementet, Barne- og familiedepartementet og Barneombudet, at opprettelsen av de foreslåtte individregistrene er helt nødvendige og til «barnets beste». 

Utdanningsforbundet og Datatilsynet mener at de foreslåtte registrenes påståtte nytteverdi mangler en overbevisende underbygning. Vi undres: Hvor ble det av vurderingene av barnas personvern? Er det ikke til barnets beste at deres lovfestede rett til vern om sin personlige integritet ivaretas?

«Barnets beste» er ikke et argument i seg selv

Det er ikke mer enn tre år siden personvernkommisjonen poengterte følgende:

«Hva som vil være til beste for det enkelte barn i en konkret situasjon, beror på en individuell og konkret vurdering.»

Det samme uttrykker FNs barnekomité i sin generelle kommentar til barnekonvensjonens artikkel 3 om barnets rett til at hans eller hennes beste skal være et grunnleggende hensyn.

Kunnskapen de foreslåtte individregistrene angivelig vil gi oss, rommer ikke den faktiske konteksten det enkelte barn inngår i. Den gir ikke svar på hvilke grunner barnet har for å gjøre som det gjør, eller hvorfor deres liv – både i og utenfor barnehagen og skolen – tar den retningen det tar. Å påstå at opprettelsen av individregistrene er til barnets beste, er med andre ord direkte misvisende.

Det holder altså ikke bare å påstå at registerdata er til barnets beste, ved å hevde at individregistrene «fremmer barns beste generelt» og vil «være til barns beste på et overordnet nivå», slik Kunnskapsdepartementet har gjort i sitt høringsnotat.

«Barnets beste» er ikke et argument i seg selv. 

Kunnskapsmangel er ikke problemet

Det er vanskelig å se hvordan inngrepene den enkelte må tåle, vil gi direkte verdi tilbake til den som «betaler kostnaden» i form av svekket personvern. Det hevdes at kunnskapsgrunnlaget fra individregistrene skal bidra til utviklingen av bedre skoler og barnehager, men det er uklart hva som egentlig skal endres og forbedres i praksis.

Forskning på registerdata frembringer gjennomsnittskunnskap om grupper av mennesker som deler noen bestemte kjennetegn. Denne typen kunnskap virker sikkert verdifull for den offentlige forvaltningen, men vi mener det er for enkelt å konkludere med at kunnskapen dermed er til barnets beste.

For lærerne i landets barnehager og skoler, er slik gjennomsnittskunnskap til liten nytte i møte med helt unike mennesker. Det er ikke primært individdatabasert kunnskap barnehagene og skolene mangler for å kunne ivareta barnets beste, men at kunnskapen vi allerede har om det som står i veien for å oppfylle barnas rettigheter, omsettes til handling.

Det reelle personverntapet må trumfe usikre gevinstforhåpninger

Et grunnleggende personvernprinsipp, slik det går frem av den europeiske menneskerettskonvensjonens artikkel 8, er at ethvert inngrep i personvernet skal avveies mot nytteverdien og formålet som begrunner inngrepet. 

Det er ingen tvil om, og heller ingen som synes å være uenig i, at opprettelsen av individregistrene innebærer et rent faktisk inngrep i personvernet. Hver ny personopplysning som registreres, og hver kobling som gjøres med andre opplysninger, øker dette inngrepet. Samtidig er det heller usikkert om omfattende registrering av barns personopplysninger fra barnehage og skole, og koblingen av disse opp mot en mengde andre opplysninger, vil føre til at barnehage- og skoletilbudet blir bedre for den enkelte.

De som ønsker at individregistrene opprettes, setter med andre ord et reelt personverninngrep opp mot antakelser og forhåpninger om at registrene vil være til barns beste. Vi mener det reelle tapet av personvern må vurderes nøye, og at eventuelle positive gevinster må presenteres som mer enn en generell ønsketenkning.

Nå må Stortingets politikere være seg sitt ansvar bevisst

Snart skal Stortinget behandle regjeringens lovforslag. For oss er det viktig å understreke at dette ikke dreier seg om små, tilforlatelige endringer av barnehageloven, opplæringsloven og privatskoleloven. Det handler om opprettelsen av store, inngripende individdataregistre som både utfordrer det grunnlovfestede vernet av barns personlige integritet og personvernet som demokratisk samfunnsverdi.

Dette må i stor grad forstås som et samvittighetsspørsmål, og Datatilsynet og Utdanningsforbundet ønsker å minne landets stortingspolitikere om deres individuelle ansvar for å vurdere det reelle personverninngrepet som følger av registrene, og ber dem stille seg følgende spørsmål:

Kan lovforslagene virkelig sies å være til barnets beste, når det ikke tas hensyn til barnas grunnleggende personvernrettigheter? 

1. Kan vi bruke personopplysninger i KI-løsningen?

Et spørsmål som går igjen i Datatilsynets sandkasse er: Har vi lov til å bruke personopplysninger i løsningen vår?

Svaret er som regel: Det kommer an på.

For at behandlingen av personopplysninger skal være lovlig, må virksomheten ha et rettslig grunnlag, også ved utvikling av kunstig intelligens. Dette er i tråd med personvernforordningen artikkel seks.

Kunstig intelligens omfatter ofte flere faser: utvikling, anvendelse (bruken av selve løsningen) og etterlæring. Disse fasene kan overlappe, noe som gjør det krevende å avgjøre når én fase slutter og en annen begynner. Og selv om virksomheten har rettslig grunnlag for én fase, betyr det ikke nødvendigvis at dette grunnlaget dekker andre faser.

Vi møtte på denne problemstillingen sammen med NAV – i et av de første sandkasseprosjektene våre. Her kom vi frem til, at NAV hadde hjemmel i folketrygdloven til å behandle brukernes opplysninger for å yte tjenester. Loven er derimot ikke tydelig på om de kan bruke historiske data om sykemeldinger til trening av algoritmene.

En annen viktig læring, er at det er viktig å identifisere hvilke data som faktisk inneholder personopplysninger. I sandkasseprosjektet med Juridisk ABC kom vi frem til at de kunne nytte lovtekster, forskrifter, forarbeider og lignende juridiske kilder i den generative KI-løsningen for arbeidsrett. Det var ikke krav om rettslig grunnlag ganske enkelt fordi kildene ikke inneholdt personopplysninger. Derimot inneholdt dommer og kjennelser ofte omfattende mengder personopplysninger – som kan være svært sensitive for de som er involvert. Derfor måtte Juridisk ABC ha et rettslig grunnlag for å inkludere disse i KI-løsningen.

2. Er anonymisering løsningen?

Flere av virksomhetene i sandkassen har ønsket å anonymisere personopplysninger. Anonymiserte data er jo ikke omfattet av personvernregelverket, så det kan forenkle mye. Men – det har i praksis vist seg krevende å få til faktisk anonymisering.

Til tross for betydelige fremskritt innen anonymiseringsteknologi, som skal hindre identifisering av enkeltpersoner i datasett, har det parallelt vært en utvikling av analyseteknologi som øker risikoen for re-identifisering. Mer offentliggjøring av offentlige data har også gjort det mulig å sammenstille flere datapunkter fra ulike kilder, hvilket øker utfordringen.

I sandkassen har vi sett flere eksempler på bruk av ny teknologi for å redusere risikoen for re-identifisering. Finansvirksomheten Finterai ville bruke føderert læring for å kunne dele innsikt fra transaksjonshistorikk mellom banker – uten å eksponere opplysninger som kunne knyttes til enkeltpersoner.

Teknologiselskapet Mobai hadde en lignende tilnærming, men benyttet homomorfisk kryptering for å gjøre re-identifisering vanskeligere. Ved hjelp av denne teknologien kunne aktører analysere krypterte personopplysninger uten at de måtte dekrypteres. Dette skjer ved at de bevarer de egenskapene ved personopplysningene som de ønsker å bruke, og fjerner resten.

Personvernfremmende teknologier, som føderert læring og homomorfisk kryptering, markerer viktige skritt i riktig retning for å få til godt personvern i praksis. De bidrar ikke bare til å redusere risikoen for re-identifisering av personer som er i et KI-datasett. De gir også virksomheter bedre muligheter til å balansere innovasjon med personvern og informasjonssikkerhet.

3. Kan kunstig intelligens bidra til dataminimering?

Prinsippet om dataminimering kan ved første øyekast virke som en motpol til kunstig intelligens. Kunstig intelligens trenger store mengder personopplysninger for å lære. Prinsippet om dataminimering slår fast at du skal samle inn minst mulig personopplysninger – kun det som er nødvendig for å oppnå formålet.

I flere sandkasseprosjekter har vi utforsket dette tilsynelatende dilemmaet. For eksempel har vi i sammen med sikkerhetsselskapet Doorkeeper sett på hvordan KI-baserte overvåkingskameraer kan minimere innsamlingen av personopplysninger. Blant annet kan de sladde mennesker i videostrømmen eller aktivere løpende opptak kun når en spesifikk hendelse utløser det. Vi har også diskutert situasjoner man ikke vet hvilke opplysninger som er nødvendige før de har analysert data over tid. Er det brudd på dataminimeringsprinsippet, om det i ettertid viser seg at personopplysninger har blitt behandlet uten å være relevante? Vi har utforsket problemstillingen i sandkassen, men som i mange andre tilfeller vil svaret avhenge av den konkrete konteksten.

4. Hvordan skaper algoritmer urettferdighet?

Helsesektoren har vært godt representert i sandkassen, blant annet gjennom prosjekter med Helse Bergen og Ahus. Disse har fokusert på KI-løsninger som skulle forutsi hjertesvikt og peke ut pasienter med fare for rask reinnleggelse på sykehus.

Kunstig intelligens i helsesektoren reiser viktige spørsmål om algoritmeskjevheter, som kan føre til at pasientene blir diskriminert. I begge prosjektene var KI-verktøyene ment som beslutningsstøtte og ikke for å gjennomføre automatiserte avgjørelser uten menneskelig innblanding. Likevel, det er en utbredt forståelse for at kunstig intelligens kan videreføre og forsterke eksisterende diskriminering i samfunnet. I tilfeller hvor algoritmene kommer til feil vurdering av folks helse, kan dette ha alvorlige konsekvenser.

I Ahus-prosjektet så de at dårlig datakvalitet og feil i datagrunnlaget potensielt kunne resultere i uriktige og diskriminerende resultater. Og de så på forskjellige metoder for å avverge dette.

For virksomheter som vil avverge algoritmeskapt diskriminering, har Likestillings- og diskrimineringsombudet en nyttig veileder om innebygd diskrimineringsvern. Den er rettet mot de som er ansvarlige for utvikling, anskaffelse og bruk av ML-systemer, og skal gjøre dem kjent med diskrimineringsregelverket, slik at de kan forebygge ved å vurdere diskrimineringsrisikoen teknologien medfører.

5. Hvem har ansvaret: utvikler eller kunde?

I flere sandkasseprosjekter har vi diskutert ansvarsforhold knyttet til behandlingen av personopplysninger i KI-løsninger: Hvem er behandlingsansvarlig? Hvem er databehandler? Og bør utviklere ta et større ansvar for å hjelpe virksomheter med å etterleve personvernregelverket?

En leverandør har ikke nødvendigvis et direkte ansvar for at kjøperne av produktet følger personvernregelverket, når løsningen blir brukt til å samle inn og behandle personopplysninger. Likevel bør de levere løsninger som legger til rette for at kunden, som ofte er å regne som behandlingsansvarlig, kan overholde regelverket i praksis.

I noen tilfeller kan det også være hensiktsmessig at utviklere eller leverandører tar på seg mer ansvar, for å sikre viktige personvernhensyn. Dette kan for eksempel være knyttet til tilgangskontroll eller informasjonssikkerhet.

Et eksempel på at utvikleren tar mer ansvar for å forbedre personvernet, ser vi i prosjektet med Secure Practice. Denne teknologivirksomheten hadde som mål å gi persontilpasset opplæring i cybersikkerhet. Sikkerhetsopplæringen var ment for ansatte i virksomheter, som ville kjøpe tjenesten fra Secure Practice. I tillegg ville ledelsen i disse virksomhetene få statistikk over ansattes kunnskaps- og interessenivå innenfor informasjonssikkerhet. For å kunne levere tjenesten uten at informasjon om ansatte kan misbrukes av ledelsen, drøftet deltakerne i prosjektet at det kunne være nødvendig å holde tilbake personopplysninger fra kunden. For at dette skulle være mulig, vurderte de en løsning med felles behandlingsansvar. Secure Practice og kunden vil da i fellesskap fastsette formålene og midlene for behandlingen av arbeidstakers personopplysninger.

Dette viser hvor viktig det er å avklare og plassere ansvarsforhold for å utvikle løsninger med godt personvern. Klare ansvarsforhold bidrar ikke bare til bedre etterlevelse av regelverket. Det kan også bidra til økt tillit mellom leverandører og kunder.

6. Hvorfor maser vi så fælt om at personvernet må tidlig på plass?

Har du hørt om innebygd personvern? Det er et prinsipp i personvernregelverket om at tekniske systemer og løsninger blir utviklet slik at personvernet blir ivaretatt. Poenget er å sikre at personvernet i systemet er gjennomtenkt, heller enn å forsøksvis bli klattet på til slutt. I den nye digitaliseringsstrategien slår regjeringen fast at alle relevante IT-løsninger i offentlig sektor skal ha innebygd personvern. Men hva betyr det i praksis?

Mange av virksomhetene har kommet til sandkassen med KI-prosjekter i konseptfasen. Erfaringen fra disse prosjektene er at tidlige veivalg har stor betydning for hvor lett eller vanskelig det blir å etterleve kravene i personvernregelverket. 

Flere eksempler fra sandkassen illustrer dette, spesielt når det gjelder lagring av personopplysninger for KI-formål. For eksempel kan lagring av store mengder personopplysninger sentralt på en felles server, gjøre dataene sårbare og øke angrepsflatene. Da må strenge organisatoriske og tekniske tiltak til for å sikre opplysningene, ettersom lagringen innebærer en større risiko for de registrerte. På en annen side kan desentralisert lagring – for eksempel ved kantprosessering (edge computing) – i visse tilfeller redusere personvernrisikoen. Det forenkler virksomhetens arbeid med informasjonssikkerhet.

Ett eksempel på desentralisert lagring er Doorkeepers løsning, der videostrømmen fra et overvåkingskamera ble sladdet direkte i kamerahuset før opptakene ble sendt videre til et brukergrensnitt. Et annet eksempel var et prosjekt med Ruter, som ønsket lokal lagring på brukernes egne mobiltelefoner i forberedelsesfasen til å utvikle KI.

Hvor data skal lagres, er neppe det første du tenker på etter å ha fått en ide om en genial ide. Å tenke på det tidlig nok kan riktignok spare deg for mye frustrasjon, og brukerne for risiko.

Dette er særlig relevant for virksomheter med begrensede ressurser – å utvikle løsninger som fra starten ikke krever omfattende tiltak for å oppfylle personvernregelverket. Å tilpasse ferdigutviklede løsninger i etterkant kan være både tidkrevende og kostbart.

Yngve Milde og Elias Meling belyser en rekke utfordringer knyttet til datadeling i Norge i sitt innlegg i Digi.no. De peker blant annet på at en streng tolkning av personvernregler kan hindre effektiv datadeling, noe som igjen kan forsinke digitaliseringen av offentlige tjenester. De mener at Datatilsynet oppleves som «et organ som setter terskelen for akseptabel risiko så høyt at det for mange oppleves som nullrisiko».

Det er viktig å finne en balanse mellom personvern og behovet for datadeling. Datatilsynet har som oppgave å sikre at personvernlovgivningen etterleves, og dette er et regelverk med et klart handlingsrom og som absolutt ikke krever nullrisiko. Formålet med regelverket er å nettopp legge til rette for bruk og deling av data – innenfor trygge rammer.

Slik vi ser det er personvern ikke en hindring, men en ressurs for å sikre forsvarlig digitalisering. Datatilsynet jobber hver dag for at regelverket praktiseres på en måte som legger til rette for innovasjon og utvikling, innenfor de rammene loven gir.​ Vi har både prosjekter i den regulatoriske sandkassen og løpende veiledning som går helt i kjernen av dette. Hvert år har vi over 5000 veiledningssamtaler der vi gir råd i håndtering av regelverket. Vi kjenner oss derfor ikke igjen i Mildes og Melings påstander om at vi utelukkende hindrer datadeling og er ute etter nullrisiko-løsninger.

Vår visjon er at vi skal jobbe sammen for menneskeverd og tillit i det digitale Norge. I dette ligger det at også Datatilsynet skal være med på den utviklingen Norge og samfunnet må ha, for å løse tidens og fremtidens utfordringer. Vi er imidlertid ikke så opptatt av at Norge skal bli verdens mest digitaliserte land innen 2030 – vi vil heller at Norge skal bli verdens best digitaliserte land.

Vi ønsker derfor debatten om datadeling velkommen. Den er viktig for å komme videre, og skape en bedre gjensidig forståelse av utfordringene og hvordan vi skal nå målet. Verken forsiktighetskultur og nullrisiko eller for stor risikoappetitt er positivt. Flere faktorer spiller inn i mulighetsbildet: Både intern kultur, kompetanse, datakvalitet, tekniske løsninger og jussen kan legge begrensninger for datadeling. Det må også konkretiseres hvilke datakilder man ønsker å dele fra og mellom, for å gjøre gode vurderinger av behov, hindringer og løsninger. For å avklare faktiske hindringer trenger vi flere konkrete eksempler og en mer nyansert debatt om balansegangen mellom personvern og datadeling.

I samarbeid med Finanstilsynet utforsker vi nå fem sandkasseprosjekter innen finanssektoren, der målet er å bekjempe økonomisk kriminalitet gjennom trygg og lovlig datadeling. Vår erfaring viser at veiledning fungerer best når vi jobber med faktiske problemstillinger, hvor personvern er med fra start. Vi ønsker derfor at flere bransjer kommer sammen, identifiserer spesifikke utfordringer og tar dem opp med oss i Datatilsynet.

Ansvarlig datadeling er et av Datatilsynets hovedfokusområder. Vårt arbeid må alltid skje innenfor rammene av personvernforordningen (GDPR), som er et felles europeisk regelverk som Norge er forpliktet til å etterleve. Samtidig er det alltid et tolkningsrom i regelverk, og dette rommet er vi i Datatilsynet opptatt av å utforske. Rettsutvikling er imidlertid en prosess som tar tid – saker må behandles, eventuelt overprøves, og i noen tilfeller kan det være behov for nye lover eller forskrifter, noe som er lovgivers ansvar. Nødvendig og etterspurt rettsutvikling er også avhengig av saker som rommer problemstillinger hvor det er behov for endring.

For å sikre best mulig digitalisering i Norge må vi finne løsninger sammen. Vi inviterer derfor næringslivet, offentlig sektor og bransjeaktører til å delta i vår regulatoriske sandkasse og dialogbaserte veiledning. Vi ønsker saker om datadeling, slik at vi sammen kan finne måter å realisere digitaliseringsgevinster uten at personvernet svekkes. La oss ta debatten fra teori til praksis.

I undersøkelsen presenterer vi funnene fra en befolkningsundersøkelse som ble utført av analyseselskapet Opinion på vegne av Datatilsynet. Vi spurte blant annet om hva folk tenker om kunstig intelligens, og vi ba dem om å ta stilling til ulike påstander.

For at maskinlæringsløsninger skal kunne gi presise prediksjoner eller anbefalinger, kreves det ofte bruk av store mengder data. Disse dataene handler ofte om mennesker og vil derfor være å anse som personopplysninger.

I undersøkelsen vår er nesten syv at ti enige i at kunstig intelligens vil utfordre personvernet ved at informasjon om dem samles inn og brukes på måter de ikke er enige i.

Vi har også stilt spørsmål om kunstig intelligens i arbeidslivet. Historisk sett har teknologiske endringer i arbeidslivet skapt stort engasjement ettersom det kan rokke på folks livsgrunnlag, for eksempel om de vil ha en jobb og inntekt i fremtiden.

Omtrent halvparten (51 prosent) sier seg enige i at kunstig intelligens vil føre til at flere mister jobben, uten at det skapes nok nye jobber. Samtidig sier nesten halvparten (47 prosent) seg enige i at kunstig intelligens vil bedre arbeidslivet fordi mennesker slipper å gjøre oppgaver som er kjedelige eller farlige.

Holdninger til konkret bruk av kunstig intelligens

I undersøkelsen vår ba vi videre folk om å ta stilling til konkrete scenarioer hvor KI kan brukes.

Den aktiviteten flest (42 prosent) er positive til, er å bruke kunstig intelligens til å stille diagnoser og foreslå behandlinger. Dette kan være fordi mange ser potensialet og nytten ved slik bruk, samt en allerede etablert tillit til helsesektoren. Samtidig er 41 prosent negative, noe som indikerer bekymring for mulige negative konsekvenser.  

Når det gjelder bruken av kunstig intelligens til å behandle lånesøknader i banken, er den største andelen (45 prosent) av folk negative. Dette er bruksområder hvor det har foregått diskusjoner om etiske problemstillinger, slik som rettferdig behandling og diskriminering, og hvorvidt en algoritme kan ta en god beslutning om hvem som får – eller ikke får – stønad eller lån.

Det folk er mest negative til er bruk av kunstig intelligens for måling og kontroll av produktivitet på jobben. Gjennomgående i undersøkelsene Datatilsynet har gjennomført, ser vi at folk er skeptiske til ulike former for kontrolltiltak i arbeidslivet, uavhengig av hvilken teknologi som blir brukt.

Myndighetene bør ta en aktiv rolle

Det er naturlig å tenke på regulering som en løsning på mange av utfordringene som kunstig intelligens kan by på. Men i hvilken grad mener folk at myndighetene bør ta en aktiv rolle i å regulere kunstig intelligens for å sikre en ansvarlig utvikling?

Svarene viser at det er bred støtte (84 prosent) for at myndighetene bør ta en aktiv rolle i reguleringen av kunstig intelligens.

Dette synet har også vært fremtredende i den politiske debatten de siste årene. For eksempel var hovedbudskapet i Personvernkommisjonens rapport fra 2022 at det er nødvendig å få på plass en nasjonal personvernpolitikk for at digitaliseringen skal skje i tråd med grunnleggende menneskerettigheter.

I den nye digitaliseringsstrategien skriver regjeringen at de ser på digitalisering som en viktig del av løsningen på samfunnsutfordringene våre. Hvordan strategien følges opp i praksis, vil vise om myndighetene faktisk kan bidra og oppfordre til en utvikling av kunstig intelligens på en måte som bevarer tilliten i samfunnet, eller om folk vil være mer skeptiske til bruken av kunstig intelligens på måter som påvirker deres hverdag.

Etter den første bølga med generative KI-verktøy som kunne gjere mykje artig, var 2024 året for integrerte KI-verktøy i systema vi allereie brukar. Slik som Microsofts M365 Copilot. Vi blir lokka med ein enklare og meir effektiv arbeidskvardag. Men det har også ein pris. Ikkje berre i kroner og øre.

Grundig kalkyle frå NTNU

Kva den prisen blir, er eit komplekst reknestykke. Så kva er vel betre enn at ein tung og truverdig aktør som NTNU tok på seg oppgåva med å rekne seg fram til eit svar. I god akademisk ånd gjekk dei grundig til verks. Og dei involverte oss i Datatilsynet ved å bli med i vår regulatoriske sandkasse. Det er eit veiledningtilbud, der vi kan gå djupare i materien – og ja, på ein måte vere meir løysningsorienterte – enn rammene tillet oss i tradisjonelle veiledningsformer.

Vi merka at mange «der ute» venta i spenning på vurderingane og erfaringane frå prosjektet. I slutten av november lanserte vi rapporten som ser på korleis ein stor offentleg aktør som NTNU eventuelt kan ta i bruk M365 Copilot.

Sjå rapporten «Copilot med personvernbriller på».

Før det hadde NTNU også laga ein rapport med viktige funn utover det reint personvernmessige, der dei tar for seg både forvaltning, opplæring, økonomiske kostnader og korleis eit slikt verktøy kan påverke organisasjonen og arbeidsmiljøet.

Sjå NTNUs funnrapport.

Forsiktig med den røde knappen

Hovedbudskapet er at verksemder bør vere varsame med å berre trykke på den røde knappen og ta i bruk dette eller liknande integrerte KI-verktøy utan å gjere grundige vurderingar i forkant, i tillegg til å sikre kontrollmekanismar og god opplæring av brukarane. For dette er kraftfulle saker.

Begge rapportane er pedagogisk oppbygd og delt inn i 8-9 funn eller hovedpunkt. Det er verdt å lese dei begge, men som ein appetittvekker, skal du få fem sentrale punkt her:  

1. Start med ein strategi.

Definer tydeleg kva verksemda ønsker å oppnå, kva områder som er aktuelle for KI-bruk og kva områder ein bør halde utanfor. Som hovedregel er generativ KI best når du allereie kan det du vil at den skal hjelpe deg med, du har kapasitet til å kvalitetssikre arbeidet, og er villig til å ta det heile og fulle ansvaret for feil i det den leverer.

2. Sørg for orden i eige hus.

Dette er superviktig. Copilot finn (og behandlar) all informasjon du har tilgang til. Det er godt muleg at du har tilgang til mykje meir informasjon enn du er klar over. Det kjem an på om verksemda di har stålkontroll, eller ikkje, på tilgangsstyring og alt som fins av personopplysningar i systema som blir brukt. Sjølv om lova krev at verksemder har stålkontroll – om enn i meir juridiske formuleringar – ville det vere naivt av Datatilsynet å ta for gitt – slik leverandøren av Copilot gjer – at absolutt alle faktisk har det.

Ei utfordring med Copilot er at svakheter i «den digitale grunnmuren» blir synlege og kraftig forsterka med eit verktøy som har tilgang til alt du har tilgang til – og veit å utnytte seg av det.

Eller for å ta den positive tilnærminga: premien til dei som har skikkeleg orden i eige hus, er at dei har ein langt kortare veg til å kunne ta i bruk integrert KI, som for eksempel Copilot.

3. Tenk grundig (og kreativt) gjennom kva som kan gå galt?

Brukarar vil dele alle typar data med, og bruke, generativ kunstig intelligens til det dei kan. Sånn er det berre. Er det muleg, vil det bli gjort. Det er viktig å ta med seg inn når ein skal gjere vurderingar av kva personvernkonsekvensar det vil få å ta i bruk eit slikt verktøy. Ein kan ikkje ta for gitt at folk berre brukar verktøyet slik sjefane har tenkt.

Og apropos sjefane: dette verktøyet kan brukast som bossware. «Kan» her som i teknologisk – ikkje juridisk – mulighet. La meg sitere frå NTNUs funn:

«arbeidsgivere kan vurdere ansattes prestasjoner og adferd basert på skriftlig innhold de har tilgang til, som filer, dokumenter, Teams-chatter, e-postkorrespondanse, Teams-innhold, følelsesreaksjoner (emojis), transkripsjoner fra møter med automatisk opptak, osv. Ansatte har ingen mulighet til å finne ut om en slik vurdering av dem selv har skjedd.»

NTNU oppdaga at det er lett å få verktøyet til å seie noko om humør og sinnsstemning til andre tilsette. Og:

«Når Copilot har for lite informasjon å jobbe med, kan det oppstå utfordringer med løgn og hallusinasjoner. Det er sannsynlig at Copilot kan «finne på» følelser for de ansatte, noe som gjør denne problemstillingen enda mer utfordrende.»

Ein kanskje litt kontroversiell tanke i NTNU-rapporten er å vurdere om for eksempel leiarar med personalansvar ikkje skal få tilgang til Copilot, mens tilsette «på gølvet» kan få det?

På toppen av det heile er dette eit verktøy i stadig endring – på godt og vondt. Feil blir fortløpande retta, verktøyet blir stadig justert, men nye funksjonar blir også stadig lagt til. Det gjer det utfordrande å forvalte. Det krev ei vaken IT-avdeling. Det krev masse opplæring. Og det krev disiplinerte brukarar.

Så sett frå eit personvernperspektiv; det er mykje som kan gå galt og mange ledd det kan svikte i. Og det er verksemda sitt ansvar å ha tenkt grundig gjennom alt.

4. Vurder alternative løysingar.

Viss nokon av blomstrane i bedet ser litt tørste ut, set du ikkje heile hagen under vatn. Då er vi tilbake til strategien. Kanskje held det med eit par meir spissa KI-verktøy, som gjer akkurat dei arbeidsoppgåvene det er (mest) behov for, i staden for dei integrerte som skal slurpe i seg det som fins av data i organisasjonen?

Det er definitivt verd å ta med i kalkuleringane, når arbeidet i organisasjonen skal effektiviserast, at det kan vere langt meir ressurskrevande å forvalte eit stort og komplekst verktøy, enn eit par små.

Og – kanskje litt pussig, men eit siste punkt:

5.  Ikkje hopp på KI-toget utan ein exit-strategi.

Ha ein klar plan for korleis verktøyet kan bli skrudd av, om nødvendig, før du slår det på.

Nederland har nyleg fraråda statlege verksemder å ta i bruk Copilot. Nokon vil kanskje påstå at vi i praksis gjer det samme. Men nei, teknologien har mykje bra i seg, og det handlar om å finne gode og praktiske tilnærmingar for å ta den i bruk på ein forsvarleg måte. Vår oppfordring er å gjere det i små og kontrollerte steg.

Men – dersom både dei som bygger KI-toget og passasjerane som kastar seg på er drevet av frykt for å ikkje vere fremst i toget, er det nok oppskrifta på ein ganske forutsigbar 💥 🙈

Personvernundersøkelsen 2024, utført av analyseselskapet Opinion på vegne av Datatilsynet, gir innsikt i dette spørsmålet.

Kjenner folk flest sine rettigheter?

En viktig forutsetning for at vi skal kunne ta vare på rettighetene våre er at vi kjenner til dem. Kjenner den norske befolkningen egentlig til sentrale rettigheter i personvernregelverket?

De aller fleste har hørt om retten til informasjon om hva en virksomhet samler inn, innsyn i personopplysninger, retten til å slette og at det i blant er lov å protestere mot bruk. Det er et godt utgangspunkt. Det betyr, i det minste i teorien, at de har noen verktøy de kan bruke når de føler at opplysningene ikke blir brukt i tråd med forventningene.

Opplever folk at de har kontroll?

Når så mange har kjennskap til sentrale rettigheter i personvernregelverket – betyr det at folk flest opplever at de har kontroll over hvordan personopplysningene deres brukes på internett?

Svaret på det spørsmålet er mer sprikende. Det er flest som velger «verken eller» på påstanden om opplevd kontroll, noe som kan tyde på at mange er usikre, eller at graden av opplevd kontroll er avhengig av hvilken tjeneste det er snakk om. Totalt sett er det flere som føler at de i svært liten eller liten grad har kontroll, enn som føler at de har stor eller svært stor grad av kontroll.

Undersøkelsen viser også at eldre mennesker i større grad enn yngre oppgir å ha kontroll over personopplysningene sine. Dette kan ha en sammenheng med at de trolig bruker færre tjenester på internett enn sine yngre, mer digitalt avanserte landsmenn. Jo flere tjenester som samler inn opplysninger, desto mer krevende kan det være å ta kontroll over opplysningene sine. Variasjonen i svarene kan også henge sammen med graden av tillit til de ulike tjenestene. Undersøkelsen viser at nordmenn flest har tillit til at offentlige virksomheter og banker behandler opplysningene deres på en god måte, mens kommersielle tjenester som sosiale medier og spill ikke nyter den samme tilliten.

Forstår folk flest hva som samles inn om dem?

De fleste har altså kjennskap til personvernrettighetene sine, men mange opplever at de ikke har kontroll over personopplysningene sine. En forutsetning for å kunne ta kontroll er å i første instans forstå hva de ulike virksomhetene samler inn av informasjon. I undersøkelsen har vi bedt respondentene ta stilling til om de forstår hva som samles inn gjennom ett av mange eksempler på sporingsteknologi vi omgir oss med, nemlig informasjonskapsler.

Informasjonskapsler er sporingsteknologi som vi som brukere stadig blir bedt om å ta stilling til. Hva skal virksomheten få lov til å samle inn? Kapslene brukes til å huske informasjon om de som besøker et nettsted, slik som foretrukne innstillinger eller innloggingsdetaljer, som gjør det enklere å bruke tjenesten. Andre kapsler kartlegger i detalj hvilke sider brukerne besøker, hvor lenge de er der og hva de gjør.

Det er flere som sier at de ikke forstår, enn som forstår, hva de bes om å ta stilling til når et nettsted ber om samtykke til å samle inn opplysninger om dem. Vi stilte også et oppfølgingsspørsmål om i hvilken grad folk flest tenkte seg om før de valgte innstilling. Selv blant de som tenker seg om sier halvparten at de fortsatt ikke forstår hva virksomheten ber om å få samle inn av opplysninger. Dette indikerer at det er vanskelig å få en oversikt over hva som samles inn om oss når vi besøker ulike nettsteder. Og jo flere nettsteder vi besøker, desto vanskeligere er det å opprettholde en oversikt, og dermed også å ha kontroll over egne personopplysninger.

Undersøkelsen viser også at mange av de som forstår hva virksomhetene ber om å få samle inn ikke har kontroll over personopplysningene sine. Resultatet gir sterke indikasjoner om at det er vanskelig å ha oversikt over sporingen som foregår på internett, og at det oppleves som vanskelig å ta kontroll over egne personopplysninger.

Det kan altså se ut som at det ikke er mangelen på kunnskap som hindrer oss fra å ta kontroll over personopplysningene våre, men at det snarere er måten de samles inn på og brukes som er vanskelig å få oversikt over. Uten reelle verktøy for å ivareta rettighetene våre, ligger vårt personvern i stor grad i virksomhetenes hender.