Personvernbloggen

«Etisk bruk av data er ikke lenger et valg, det er en forpliktelse», uttalte Isabelle Falque-Pierrotin, leder av den internasjonale personvernkonferansen og direktør i det franske datatilsynet. I oktober var personvernmyndigheter fra hele verden samlet i Brüssel for den årlige personvernkonferansen. Her var 1000 deltakere fra 75 land samlet for å diskutere etikk og personvern i dagens datadrevne samfunn.

Medforfatter: Catharina Nes

Globale løsninger og etiske perspektiver

De to første dagen var konferansen lukket for personvernmyndigheter. I åpningstalen pekte Frans Timmermanns, førstevisepresident i Europakommisjonen, at vi må få på plass de etiske perspektivene for å løse de juridiske problemstillingene. Timmermans understreket også behovet for globale løsninger på globale problemer, som dagens datadrevne liv representerer.

Konferansen vedtok en deklarasjon om etisk og personvernvennlig kunstig intelligens. Forhåpentligvis vil denne deklarasjonen bidra til globale løsninger for utvikling og bruk av systemer med kunstig intelligens. Ettersom konferansen samler datatilsynsmyndigheter fra hele verden, tillegges konferansens avgjørelser stor vekt.

Deklarasjonens formål er å bidra til en global diskusjon om temaet, samt å fremme behovet for internasjonale styringsprinsipper for kunstig intelligens. Den inneholder blant annet seks veiledende prinsipper som skal ivareta menneskerettigheter ved utvikling av kunstig intelligens. Prinsippene er først og fremst knyttet til personopplysningsvern, men omfatter også etiske vurderinger som er knyttet til utviklingen av kunstig intelligens.

Deklarasjonen er på offentlig høring og kan leses her.

Ulike former for kunstig intelligens er på god vei til å gjøre sitt inntog på alle samfunnsområder, fra Netflixs forslag til hvilken film du skal se til å fastslå hvilken straff en forbryter skal få. I Kina har myndighetene gått så langt som å etablere et sosialt skåringssystem hvor din sosiale skår blant annet avgjør om du kan få reise til andre byer. Kinas system viser at det er helt avgjørende at verdenssamfunnet diskuterer den fremtidige bruken av kunstig intelligens slik at bruken skjer til det beste for menneskeheten.

Andre saker som er verdt å nevne er resolusjon om e-læringsplattformer og resolusjon om samarbeid mellom personvernmyndigheter og forbrukermyndigheter for bedre rettigheter for innbyggerne og forbrukerne i den digitale økonomien.

Etiske utfordringer i et datadrevet samfunn

De to siste dagene var konferansen åpen for alle som ville delta. EU-parlamentets hovedsal var pyntet i lilla lys da den ønsket et stjernelag av talere, paneldeltakere og personvernentusiaster velkommen til to innholdsrike dager.

Ett av konferansens definitive høydepunkter var Giovanni Butarellis tale. Butarelli er leder for EU-institusjonenes datatilsyn (European Data Protection Supervisor). Talen vekket stor begeistring blant tilhørerne. Butarelli talte klokt om forholdet mellom jus og etikk, mellom etikk og retten til personvern og om hvilke verdier som står på spill i dagens digitale økonomi.
Skal du bare ta med ett sitat fra hans tale, må det være dette:

«Not everything that is legally compliant and technically feasible is moral sustainable.»

Talen til Buttarelli kan ses her og leses her.

En annen taler som har fått mye oppmerksomhet er Tim Cook (CEO hos Apple). Noe av oppmerksomheten er nok begrunnet i hans uttalelser om at Apple anerkjenner retten til personvern som en grunnleggende menneskerettighet, og at Apple vil støtte en føderal amerikansk personvernlov bygget på samme prinsipper som EUs personvernforordning.

Men talen har nok fått vel så mye oppmerksomhet for Cooks angrep på andre teknologigiganter, som Facebook og Google (uten av navn ble nevnt). Cook uttalte blant annet:

«Our own information, from the everyday to the deeply personal, is being weaponized against us with military efficiency.»

Talen til Cook kan ses her eller leses her.

Også andre talere og paneldeltakere holdt gode og tankevekkende innlegg. World Wide Webs far, Tim Berners-Lee, snakket om utvikling av nye verktøy som skal bidra til at folk kan ta kontroll over egne opplysninger på Internett. Tristan Harris, tidligere utvikler for Google, snakket om hvordan teknologigiganter jobber for å overtale oss til å dele mer. Han brukte følgende sammenligning for å beskrive det som skjer:

«Imagine a priest in the confession booth, listening to all 2 billion confessions. Going with you and hearing conversations, and then predicting what confessions you might make and monitizing them.»

Mange pekte også på demokratiske utfordringer når så mye makt er samlet hos få teknologigiganter, og hvordan verktøyene de utvikler kan misbrukes, for eksempel av autokrater. Andre pekte på den store risikoen for at underliggende skjevheter i datagrunnlaget fører til økt diskriminering i samfunnet.

Disse utfordringene, og flere til, viser at det er viktig at retten til personvern og personopplysningsvern blir satt på agendaen, også ved utvikling og bruk av kunstig intelligens. Og ikke minst er det viktig at de etiske sidene ved teknologien blir debattert.