get_queried_object(); $id = $cu->ID; ?>
Catharina Nes

Vi trenger en global digital etikk

Skal vi styre utviklingen av kunstig intelligens i riktig retning, trenger vi et felles etisk kompass.
(Artikkelen sto opprinnelig på trykk i Dagens Næringsliv 30.11.2018)

Bruken av kunstig intelligens er i startgropen, men påvirker allerede livet ditt. Automatiserte, algoritmestyrte avgjørelser er ansvarlig for 70 prosent av alt innholdet du ser på nett. Kanskje kan du takke algoritmene til Tinder for at du har funnet kvinnen eller mannen i ditt liv. Er du bekymret over en føflekk, kan kunstig intelligens brukes til å gjenkjenne om den er ondartet eller ikke.

Kunstig intelligens kan forbedre livene våre og gjøre samfunnet bedre. Samtidig ser vi at teknologien også brukes til å overvåke innbyggere, undergrave demokratiske institusjoner, sementere fordommer og bidra til økt diskriminering.

Kampen om å ta ledertrøya innen utvikling av kunstig intelligens foregår mellom nasjoner og mellom globale teknologiselskap. Disse nasjonene og teknologiselskapene har svært ulik tilnærming til hvordan de utvikler og bruker kunstig intelligens. Hvis vi skal sikre at utviklingen av kunstig intelligens ivaretar hensynet til grunnleggende menneskerettigheter, er det viktig å få på plass noen felles etiske retningslinjer.

Etter andre verdenskrig samlet vitenskapsmenn fra hele verden seg for å formulere etiske retningslinjer for medisinsk forskning. Bakgrunnen var de dramatiske bruddene på god lege- og forskningsetikk som hadde skjedd i de tyske konsentrasjonsleirene. Målsettingen var å få på plass et felles etikkregelverk som kunne forhindre liknende hendelser i fremtiden. Resultatet var Nürnbergkodeksen, som siden har fungert som et etisk rammeverk og utgangspunkt for lovgivning. Rettsoppgjøret i Nürnberg markerte et tidsskille for legeetikk og forskningsetikk. Nå trenger vi en Nürnbergkodeks for etisk bruk av data i utviklingen av kunstig intelligens.

Etisk bruk av personopplysninger var diskusjonstemaet da personvernmyndigheter fra hele verden var samlet for den årlige internasjonale personvernkonferansen i oktober. Den internasjonale konferansen for personvernmyndigheter vedtok en deklarasjon om etisk og personvernvennlig kunstig intelligens. Målsettingen med deklarasjonens er å bidra til en global diskusjon om temaet, samt å fremme behovet for internasjonale etiske styringsprinsipper for kunstig intelligens. Deklarasjonen inneholder seks veiledende prinsipper:

  • Prinsippet om rettferdighet
    Kunstig intelligens må utvikles og brukes på en måte som har respekt for enkeltindividets interesser. Det vil si at den må utvikles og brukes på en måte som ikke bryter med folks forventninger til hvordan data som er samles inn om dem, blir brukt.
  • Prinsippet om åpenhet og gjennomsiktighet
    Løsninger basert på kunstig intelligens må være åpne og gjennomsiktige. En bekymring knyttet til kunstig intelligens er at man ikke alltid vet hvordan beslutningene blir produsert. Ofte vil systemene produsere et svar uten noen forklaring. Dette gjør det vanskelig for enkeltindivider å imøtegå, og eventuelt klage på, beslutningene som systemene tar.
  • Prinsippet om ivaretakelse av individets rettigheter
    Kunstig intelligens må utvikles og brukes på en måte som bygger opp om individets rettigheter. Folk skal blant annet ha rett til innsyn i hvilke data som samles inn om dem og til informasjon om hvordan opplysningene brukes. Folk skal ha rett til en forklaring på beslutningene maskinene tar og til å klage på dem.
  • Prinsippet om ansvarlighet
    Virksomheter som utvikler og bruker kunstig intelligens må evaluerer effekten systemene har. De må sikre at systemene ikke produserer beslutninger som fører til usaklig forskjellsbehandling av enkeltpersoner.
  • Prinsippet om «innebygd etikk»
    Systemer for kunstig intelligens må bygges etter prinsippene for innebygd personvern. Det vil si at systemene teknisk og organisatorisk må være bygd opp på en måte som ivaretar individets interesser.
  • Prinsippet om ikke-diskriminering
    Kunstig intelligens må utvikles og brukes på en måte som hindrer at algoritmene trenes opp til å ta diskriminerende og fordomsfulle beslutninger. Dette kan blant annet gjøres ved å være oppmerksom på viktigheten av å ha oppdaterte, korrekte og representative data.

I Europa har vi fått en oppdatert personvernlovgivning, GDPR. Oppdateringen kom i grevens tid. Personvernforordningen er, så langt, den første i verden som regulerer utvikling og bruk av kunstig intelligens. «Etisk bruk av data er ikke lenger et valg, det er en forpliktelse», uttalte Isabelle Falque-Pierrotin, direktør i det franske datatilsynet, ved avslutningen av konferansen.

Kraftfull håndheving av personvernforordningens prinsipper er viktig fremover. Uten effektiv håndheving av disse verdiene og prinsippene, vil vår måte å organisere samfunnet på bli utsatt for press. I tillegg til kraftfull håndheving fra europeiske datatilsynsmyndigheter, må vi enes om noen felles globale etiske prinsipper for kunstig intelligens. Bare slik kan vi sikre at utviklingen styres i en retning som underbygger grunnleggende menneskerettigheter og et velfungerende demokrati – også utenfor Europa.

Catharina Nes

«Alexa – hører du meg nå?»

Mange inviterer nå talestyrte assistenter fra verdens mektigste selskap inn i hjemmet. Men de smarte assistentene kommer også med en kostnad. (Artikkelen sto opprinnelig på trykk i Dagens Næringsliv 5. oktober 2018). Talestyrte assistenter er et av de raskest voksende...

les mer
Bjørn Erik Thon

Personvernåret 2018

Dette innlegget er basert på et foredrag jeg holdt på Norsk Informasjonssikkerhetsforum (ISF) høstkonferanse 29. august, og er derfor skrevet i lett muntlig stil. Jeg vil gå gjennom de viktigste personvernhenvendelsene det siste året, og hva vi kan lære av dem, og...

les mer
Catharina Nes

Snart kan sjefen «se» alt du gjør

Ny teknologi gjør det mulig å effektivisere arbeidsprosesser, men samtidig også å overvåke ansatte på nye og mer invaderende måter. (Artikkelen sto opprinnelig på trykk i Dagens Næringsliv 10. august 2018) For et par år siden gikk journalisten James Bloodworth...

les mer
Tobias Judin

Ingen frihet uten personvern

De nye personvernreglene trår i kraft i dag. Du kommer kanskje ikke til å merke dem til vanlig, men du hadde merket det hvis de ikke var der. [Denne teksten sto på trykk i VG 20. juli 2018.] I dag feirer vi at personvernet styrkes. Denne styrkingen er nødvendig i en...

les mer
Bjørn Erik Thon

En personvernguide til Arendalsuka

Den nye personopplysningsloven trer i kraft 20. juli 2018. Mange norske virksomheter har gjort en formidabel jobb med å tilpasse seg det nye regelverket, men det er først nå, når reglene trer i kraft, vi vil se om forberedelsene har vært gode nok. Ikke minst er det...

les mer
Eirin Oda Lauvset

Jeg vil vite om noen vil sette meg i bås…

…og få et valg om å slippe det! «Hvorfor i all verden får jeg tilsendt helt andre tilbud fra nærbutikken enn naboen?!» Disse ordene falt i en telefonsamtale mellom meg og min far for et år tilbake da min far (76) hadde oppdaget at nærbutikken brukte opplysninger om...

les mer
Knut Kaspersen

Personvernlovgivningen er 40 år

Lørdag 9. juni er det 40 år siden personregisterloven ble vedtatt i Stortinget. Bakgrunnen for at denne loven kom, var at utviklingen av «databanker» i det offentlige skapte bekymring. Man så en utstrakt registering av enkeltmenneskers og gruppers adferd. I en...

les mer

Arkiv

Følg oss:

Ønsker du å motta e-post når nye innlegg postes på Personvernbloggen, kan du registrere din e-postadresse her.

E-postadressen blir lagret på vår server og kun brukt til dette formålet. Om du velger å slutte å følge oss, vil e-postadressen bli slettet fra vår server. Du samtykker til denne bruken av din e-postadresse ved å registrere den her.