Personvernbloggen

Skal vi styre utviklingen av kunstig intelligens i riktig retning, trenger vi et felles etisk kompass.
(Artikkelen sto opprinnelig på trykk i Dagens Næringsliv 30.11.2018)

Bruken av kunstig intelligens er i startgropen, men påvirker allerede livet ditt. Automatiserte, algoritmestyrte avgjørelser er ansvarlig for 70 prosent av alt innholdet du ser på nett. Kanskje kan du takke algoritmene til Tinder for at du har funnet kvinnen eller mannen i ditt liv. Er du bekymret over en føflekk, kan kunstig intelligens brukes til å gjenkjenne om den er ondartet eller ikke.

Kunstig intelligens kan forbedre livene våre og gjøre samfunnet bedre. Samtidig ser vi at teknologien også brukes til å overvåke innbyggere, undergrave demokratiske institusjoner, sementere fordommer og bidra til økt diskriminering.

Kampen om å ta ledertrøya innen utvikling av kunstig intelligens foregår mellom nasjoner og mellom globale teknologiselskap. Disse nasjonene og teknologiselskapene har svært ulik tilnærming til hvordan de utvikler og bruker kunstig intelligens. Hvis vi skal sikre at utviklingen av kunstig intelligens ivaretar hensynet til grunnleggende menneskerettigheter, er det viktig å få på plass noen felles etiske retningslinjer.

Etter andre verdenskrig samlet vitenskapsmenn fra hele verden seg for å formulere etiske retningslinjer for medisinsk forskning. Bakgrunnen var de dramatiske bruddene på god lege- og forskningsetikk som hadde skjedd i de tyske konsentrasjonsleirene. Målsettingen var å få på plass et felles etikkregelverk som kunne forhindre liknende hendelser i fremtiden. Resultatet var Nürnbergkodeksen, som siden har fungert som et etisk rammeverk og utgangspunkt for lovgivning. Rettsoppgjøret i Nürnberg markerte et tidsskille for legeetikk og forskningsetikk. Nå trenger vi en Nürnbergkodeks for etisk bruk av data i utviklingen av kunstig intelligens.

Etisk bruk av personopplysninger var diskusjonstemaet da personvernmyndigheter fra hele verden var samlet for den årlige internasjonale personvernkonferansen i oktober. Den internasjonale konferansen for personvernmyndigheter vedtok en deklarasjon om etisk og personvernvennlig kunstig intelligens. Målsettingen med deklarasjonens er å bidra til en global diskusjon om temaet, samt å fremme behovet for internasjonale etiske styringsprinsipper for kunstig intelligens. Deklarasjonen inneholder seks veiledende prinsipper:

• Prinsippet om rettferdighet
  Kunstig intelligens må utvikles og brukes på en måte som har respekt for enkeltindividets interesser. Det vil si at den må utvikles og brukes på en måte som ikke bryter med folks forventninger til hvordan data som er samles inn om dem, blir brukt.
• Prinsippet om åpenhet og gjennomsiktighet
  Løsninger basert på kunstig intelligens må være åpne og gjennomsiktige. En bekymring knyttet til kunstig intelligens er at man ikke alltid vet hvordan beslutningene blir produsert. Ofte vil systemene produsere et svar uten noen forklaring. Dette gjør det vanskelig for enkeltindivider å imøtegå, og eventuelt klage på, beslutningene som systemene tar.
• Prinsippet om ivaretakelse av individets rettigheter
  Kunstig intelligens må utvikles og brukes på en måte som bygger opp om individets rettigheter. Folk skal blant annet ha rett til innsyn i hvilke data som samles inn om dem og til informasjon om hvordan opplysningene brukes. Folk skal ha rett til en forklaring på beslutningene maskinene tar og til å klage på dem.
• Prinsippet om ansvarlighet
  Virksomheter som utvikler og bruker kunstig intelligens må evaluerer effekten systemene har. De må sikre at systemene ikke produserer beslutninger som fører til usaklig forskjellsbehandling av enkeltpersoner.
• Prinsippet om «innebygd etikk»
  Systemer for kunstig intelligens må bygges etter prinsippene for innebygd personvern. Det vil si at systemene teknisk og organisatorisk må være bygd opp på en måte som ivaretar individets interesser.
• Prinsippet om ikke-diskriminering
  Kunstig intelligens må utvikles og brukes på en måte som hindrer at algoritmene trenes opp til å ta diskriminerende og fordomsfulle beslutninger. Dette kan blant annet gjøres ved å være oppmerksom på viktigheten av å ha oppdaterte, korrekte og representative data.

I Europa har vi fått en oppdatert personvernlovgivning, GDPR. Oppdateringen kom i grevens tid. Personvernforordningen er, så langt, den første i verden som regulerer utvikling og bruk av kunstig intelligens. «Etisk bruk av data er ikke lenger et valg, det er en forpliktelse», uttalte Isabelle Falque-Pierrotin, direktør i det franske datatilsynet, ved avslutningen av konferansen.

Kraftfull håndheving av personvernforordningens prinsipper er viktig fremover. Uten effektiv håndheving av disse verdiene og prinsippene, vil vår måte å organisere samfunnet på bli utsatt for press. I tillegg til kraftfull håndheving fra europeiske datatilsynsmyndigheter, må vi enes om noen felles globale etiske prinsipper for kunstig intelligens. Bare slik kan vi sikre at utviklingen styres i en retning som underbygger grunnleggende menneskerettigheter og et velfungerende demokrati – også utenfor Europa.