get_queried_object(); $id = $cu->ID; ?>

Algoritmer, tillit og sandkasser

Mot slutten av 1800-tallet i USA undersøkte kjemikeren Harvey Wiley innholdet i en rekke industrielt produserte matvarer. 90 prosent av honningkrukkene inneholdt ikke honning. Lønnesirup var stort sett ikke lønnesirup. Og syltetøy bestod, som de nevnte matvarene, også stort sett av billig maissirup, hvor «syltetøy» var tilsatt epleskall for tekstur. Verre var det at melk ble tilsatt formaldehyd og gipspulver for å fremstå som frisk, hvit og ubedervet. Barn ble syke og døde. I 1906 opprettet USA sin første forbrukervernlov for å sikre trygg mat. 1

En digital nedkjølingseffekt

Datatilsynet gjennomførte i årskiftet 2019/2020 en personvernundersøkelse som blant annet påviser en digital nedkjølingseffekt. Det betyr at mange begrenser bruken av digitale tjenester eller lar være å bruke dem. Effekten av digitalisering bremses fordi man ikke har den nødvendige tilliten til tjenestene – med rette.

Det blir stadig tydeligere at gigantene bak «sosiale medier» – som 1800-tallets matprodusenter – ikke tilbyr tjenestene til samfunnets og enkeltmenneskenes beste. Google, Facebook mfl. er i realiteten først og fremst annonsesalgsselskaper. Gjennom kynisk bruk av algoritmer, ønsker de først og fremst at du trykker på så mange annonser som mulig via deres plattformer.

Dette er den moderne varianten av maissirup og utvannet melk – en dystopisk og polariserende digital virkelighet skapt fordi man ønsker å selge annonser.

Eirik Gulbrandsen

Algoritmene som benyttes i disse sammenhengene faller i mange tilfeller innenfor (en relativt bred) definisjon av «kunstig intelligens» (KI). 2

Enormt potensial

Det positive potensialet for løsninger som benytter KI-algoritmer er enormt. Som f.eks. bedre og mer effektive helsetjenester, inkludert nyttige og effektive offentlige og private tjenester generelt. Ikke bare i industrialiserte land, men kanskje spesielt i land med krevende utfordringer knyttet til økonomi og samfunnsinfrastruktur.

Samtidig kan teknologien – tilsiktet eller ikke – føre til løsninger som konsekvent foreslår menn til tekniske stillinger i Google. Eller sørge for at det systematisk blir foreslått strengere straffer for afroamerikanere i det amerikanske rettssystemet. Eller foreslår kostbare helsebehandlinger for noen grupper, og ikke for andre. Uten av vi – inkl. «ekspertene» – kanskje helt skjønner hvorfor?

Der Wiley satt blant glasskolber og målebegre for å finne forklaring på hva «syltetøyet» egentlig var, trenger vi gode metoder, mekanismer og prosesser for å forklare hva komplekse algoritmer med kunstig intelligens egentlig gjør.

Dette behovet for forklarbarhet er grunnleggende viktig for å kunne håndheve et av de grunnleggende prinsippene i Personvernforordningen – rettferdighetsprinsippet (Personvernforordningen/GDPR Art 5.1).

Men hva er en god og forståelig forklaring? Når er forklaringen «god nok»? Når må man forklare og på hvilken måte? Dette gjelder ikke spesielt løsninger som benytter kunstig intelligens, men får ekstra gyldighet når man benytter akkurat denne teknologien. KI som konsept er ikke nytt, men den massive utbredelsen og tilgjengeligheten av teknologien siste årene gjør at dette har fått helt ny aktualitet.

Sandkasse for kunstig intelligens

Som en del av Nasjonal strategi for KI (tidlig 2020) var et av tiltakene å opprette en såkalt sandkasse spesifikt for kunstig intelligens. Datatilsynet fikk oppdraget med å realisere denne, og allerede 1. desember 2020 ble det åpnet for søknader. Her skal alle typer virksomheter av alle størrelser kunne melde inn prosjekter, som benytter KI og persondata, gjerne på måter som krever en grundig forståelse av hvordan man skal sikre at dette gjøres innenfor lover, regler og god praksis for ansvarlig bruk av teknologien. Mange svar på dette er ubesvarte, uklare eller krever en god og bredt sammensatt kompetanse for å avklares. Sandkassen er et sted hvor man sammen kan lære, også Datatilsynet. Og resultatene vil publiseres for å dele kunnskapen med alle. Målet er at det skapes løsninger med nytteverdi for samfunnet og enkeltmennesket, samtidig som enkeltmenneskets rettigheter ivaretas.

Dette legger også grunnlaget for tillit – kanskje det aller viktigste elementet for å lykkes over tid. Å produsere KI-løsninger i Norge som har stor forbrukertillit er også en eksportartikkel med enormt potensial for hele verden.

Eirik Gulbrandsen

Nysgjerrig på sandkassen? I gang med å etablere eller godt i gang med et prosjekt, en tjeneste eller et selskap som enten utvikler eller benytter løsninger hvor KI og persondata er viktige elementer?

Ta en kikk på datatilsynet.no/sandkasse og hvis du kjenner «kallet» – send inn en søknad om deltagelse! Søknadsfristen for første runde er 15. januar 2021.

  • 1 Fra boken «Det store spillet», Bår Stenvik
  • 2 «Kunstig intelligente systemer utfører handlinger, fysisk eller digitalt, basert på tolkning og behandling av strukturerte eller ustrukturerte data, i den hensikt å oppnå et gitt mål.» Nasjonal strategi for kunstig intelligens, KMD.

Om algoritmer og bearnaisesaus

En sausoppskrift er egentlig litt som en algoritme. Noe av det beste jeg vet er bearnaisesaus. Jeg skal kort fortelle hvilke muligheter man har til å lage en bearnaise. Vi kan kjøpe en pose fra Toro, ha i smør og melk, og koke i fem minutter. Resultatet blir helt ok....

les mer

Helseministeren skyter på feil blink

Det pågår en kamp om hvem som har skylden for at Smittestopp ble vraket. Helse- og omsorgsminister Bent Høie har ved flere anledninger gått langt i å antyde at Datatilsynet har skyld i at Folkehelseinstituttet (FHI) avviklet appen og slettet alle data. Han kritiserer...

les mer

Trenger hjernen egne rettigheter?

Denne bloggen er basert på et innlegg som jeg holdt på lanseringen av Dag Hareides bok «Mennesket og teknomakten» i september, og er derfor muntlig i formen. Mennesket, hjernen og teknologi er et interessant, skummelt og fortsatt litt science fiction-aktig tema. Det...

les mer

Influensatrender

Koronapandemien avdekker hvor mye verden har endret seg det siste tiåret. Kampen mot koronaviruset foregår over hele verden og på mange fronter samtidig. En viktig frontlinje er forsøkene på å etablere systemer som kan spore smitte og bryte smittekjeder mer effektivt...

les mer

Koronasvindlerne

Koronapandemien har vist at også cyberkriminelle vet å omfavne en god krise. Mange forbinder cyberkriminalitet utelukkende med tradisjonell hacking – å utnytte tekniske sårbarheter i datasystemene for å bryte seg inn i dem. Av den grunn er det også mange som knytter...

les mer

Siste kommentarer

    Arkiv

    Følg oss:

    Ønsker du å motta e-post når nye innlegg postes på Personvernbloggen, kan du registrere din e-postadresse her.

    E-postadressen blir lagret på vår server og kun brukt til dette formålet. Om du velger å slutte å følge oss, vil e-postadressen bli slettet fra vår server. Du samtykker til denne bruken av din e-postadresse ved å registrere den her.

    Loading