Den viktigste personvernarrangementet for datatilsyn finner sted i Marokko denne uka. Rundt 150 delegater fra tilsyn fra hele verden deltar og diskuterer hvordan vi kan samarbeide for å sikre best mulig personvern på tvers av grenser.
Kunstig intelligens og roboter
Første del av konferansen var dedikert til kunstig intelligens og roboter. Her kommer det til å skje mye spennende i skjæringspunktet big data og maskinlæring i årene framover. Intelligente systemer kan ta til seg store mengder informasjon (for eksempel hva vi ser, hva de observerer koblet med andre tilgjengelige kilder på nett eller i andre registre). Ideen er at de etter hvert skal kunne lære og ta egne valg basert på all informasjonen de samler inn og erfaringene de gjør seg. Vi er på starten av denne utviklingen. Et eksempel på denne typen teknologi som eksisterer i dag er en robot som kan gi en mer presis kreftdiagnose enn en menneskelig lege. Smarte roboter blir også brukt for å snakke med kunder og vi kan se for oss bruk i offentlig sektor i fremtiden.
Med kunstig intelligens kommer også personvernutfordringer. En av dem er at det kan være vanskelig å vite hvordan en intelligent maskin kommer fram til en avgjørelse. Vi står muligens ovenfor en situasjon hvor algoritmene og maskinens egeninnsats blir så komplisert at verken maskinen selv eller de som programmerte den kan si hvordan den kom fram til resultat X (sjekk ut Little Britians «the computer says no»). Et viktig personvernprinsipp er at du skal vite hva slags informasjon andre har om deg og hva de bruker den til.
Det var enighet på konferansen av at for å sikre åpenhet og for å forebygge diskriminering gjennom algoritmer er det viktig å utvikle maskiner med kunstig intelligens på en måte som ivaretar personvernet vårt. Vi ser ofte at teknologien driver utviklingen, noen ganger på en måte som går på bekostning av grunnleggende rettigheter som kontroll over egne data. Spesielt når det gjelder intelligente systemer, som kan analysere enorme mengder informasjon og aldri glemmer, er det viktig at det er vi som mennesker som setter agendaen og sørger for innebygd personvern i systemene vi lager.
Kryptering
Et annet tema for konferansen er kryptering. James Baker fra FBI og Amie Stepanovich fra Access Now (NGO som fronter digitale rettigheter) fikk opp temperaturen i panelet. Stepanovich mente at å lage bakdører eller på andre måter kompromittere krypteringsløsninger vil underminere sikkerheten på internett – og være en veldig dårlig ide både for myndigheter og enkeltpersoner. Kryptering er det beste verktøyet vi har for å beskytte oss på internett. Det er helt avgjørende for utøvelsen av grunnleggende rettigheter: personvern og ytringsfrihet. Det er også et viktig verktøy for virksomheter og myndigheter når de håndterer konfidensiell informasjon. Hun argumenterte at det må finnes andre løsninger å løse utfordringene myndighetene har med å bekjempe terror og annen kriminalitet på nettet.
Baker fra FBI var overraskende enig med Stepanovich på enkelte punkt. Han sa at kryptering er kommet for å bli. Men at det har en kostnad. Det gjør det vanskeligere å beskytte folk mot overgrep og terror. Baker trodde det finns andre løsninger enn å forby eller ha bakdører i krypteringsløsninger, men han sa at FBI ikke vet hva løsningen er enda.
Fire resolusjoner
Datatilsynene som deltok på konferansen ble enige om å adoptere fire resolusjoner. Det betyr at vi har forpliktet oss til å inkludere følgende temaene i vårt arbeid hjemme i Norge:
- Utvikle nye måter å måle personvernets status og kår nasjonalt og internasjonalt
- Bidra til å forsvare personvern som en menneskerettighet
- Internasjonalt samarbeid på tvers av grenser
- Adoptere internasjonale retningslinjer for digital kompetanse for personvern i lærerutdanningen