Algoritmene har innfridd – hva nå?
Algoritmene er kodet for å påvirke oss, og har langt på vei lykkes med å forandre livene våre. Det påkaller et krav om at politikerne våre også må være politikere i det digitale samfunnet. Bare slik kan vi styre teknologien i riktig retning.
Vi har alle sett den vennegjengen som går sammen, men med nesa ned i hver sin mobil. Eller de gjestene på den festen som følger med på siste oppdatering fra verden der ute heller enn å snakke med sidemannen. Eller den kollegaen på møtet som taster som gal fremfor å vie sin fulle oppmerksomhet til det som blir sagt. Selv er jeg dessverre også ofte en av disse. Samtaleemnet blir det du ser på sosiale medier, hva noen har sagt, gjort, ment eller følt. Men hvor er vi da, i et eller annet ekkokammer? Jeg, enheten, «dingsen» og teknologiselskapet – vi deler tiden sammen uansett hvor jeg går og er.
Én definisjon av digitalisering er introduksjonen av (ny) teknologi som skaper en forandring samfunnet.
Et oppgjør innenfra
For 5-6 år siden sluttet en rekke utviklere i Google og Facebook. De ønsket ta et oppgjør med det de selv har skapt (nrk.no). Google og Facebook har verdens største superdatamaskiner som, med god hjelp av deres algoritmer, er rettet mot og designet for å påvirke folks hjerner, ikke minst mot barn. I denne sammenheng kan vi snakke om «nevroteknologi», eller om avhengighetsskapende teknologi. Her er en liste over hvordan de hadde kodet algoritmen for å påvirke oss:
- Vinne kappløp om å klare beholde oppmerksomheten vår 24/7 på skjerm og gjøre det vanskelig å logge av (medium.com). Forskning knytter dette til økt stress, angst, og mindre søvn.
- Trene barn i å erstatte egenverd med likes, oppmuntre dem til å sammenligne seg med andre, og skape en illusjon av å være utenfor/innenfor.
- Intensjon om å foretrekke virtuelle interaksjoner og belønninger på skjerm fremfor møter ansikt-til-ansikt.
- Belønne utagering og falske fakta, slik at vi ikke lenger riktig klarer å skille hva som er sant eller ei
- En følelse av å være en del av noe større (linkedin.com).
Vi ser at dette gjør noe med vår mentale helse, med våre barn, vårt sosiale fellesskap og vårt demokratiet (medium.com). Og vi ser at algoritmene har oppnådd formålet.
Vi vet at de store techselskapene samler inn personopplysninger om oss, hva vi mener, føler tenker, liker, kjøper, hvor vi går, og mye til.. Dernest sorterer de oss i kategorier, såkalt profilerering. De bruker det de har samlet inn til å fortelle oss hvem vi er, hva vi skal mene, hva vi skal tro, føle, stemme på, kjøpe osv.
Deres mål er å tjene penger, og de pengene tjener de på oss. Vi går fra å være subjekter i eget liv til å være objekter. Techselskapene profitterer, og sitter igjen med stor makt.
Et spørsmål om verdier
Menneskeheten har i alle år solgt og kjøpt til høyest mulig pris, det er ikke nytt. Det nye er at inntjening og salg styres direkte via digitale kanaler og med skjulte mekanismer – med større kraft og på en måte som vi enkeltpersoner ikke klarer å følge med på. Og kanskje er deres definisjon av politikk bygget på Paul Valérys (1871-1945) definisjon : «Politikk er kunsten å hindre folk i å blande seg opp i det som angår dem».
Min definisjon av politikk er noe slik: «felles vedtatte retningslinjer og føringer for hvordan vi ønsker styre samfunnet vårt og virkemidler for å sette dett ut i live». Retningslinjene for samfunnet skal hegne om våre felles verdier, verdier som vi nordmenn setter høyt.
Åpenhet om faktiske forhold er en slik verdi. Personvern er en annen verdi som folk flest setter høyt. Og kanskje er disse grunnverdiene årsaken til at vi nordmenn har så høy tillit til våre myndigheter.
Ny teknologi og digitalisering av tjenester kan skape et mer effektivt samfunn og gi oss et enklere liv. Det kan dessuten avdekke kriminalitet og løse helseutfordringer. Men samtidig har vi lover, og disse lovene må følges også i vårt digitale samfunn. Vi skal styre teknologien i riktig retning, det er ikke teknologien som skal styre oss. Våre politikere må også være politikere i vårt digitale samfunn.
Vi trenger en personvernpolitikk
En personvernpolitikk må gi overordnede føringer på en måte som gjør at du og jeg kan være trygge på og ha tillit til tjenestene, samt sikre minimumskrav til menneskeverd også i vårt digitale Norge. Skal politikken baseres på personvernprinsippene, rettighetene våre, frihetene våre? Og hva med prinsipper for ivaretagelse av nasjonal innovasjonskraft, prinsipper for datadeling eller prinsipper for integritet i offentlig sektor?
Vi er nå inne i det tredje året der Datatilsynet har en regulatorisk sandkasse for ansvarlig kunstig intelligens og personvern. Vi har så langt hatt ti ferdigstilte prosjekter i sandkassa. To prosjekter pågår i skrivende stund. Vi ser at innovasjon og personvern er verdier som det er fullt mulig å ivareta samtidig, og ser dessuten at kombinasjonen skaper tillit. Personvern må være innebygd i løsningene og tjenestene vi bygger. Sammen skaper vi tillit og menneskeverd i det digitale Norge.
Vi kan med trygghet si at algoritmene har innfridd på bred front, i mange tilfeller ikke til vårt beste. Likevel vil jeg avslutte med noe positivt: la oss ha store forventninger til digitaliseringsstrategien og personvernstrategien som regjeringen nå skal komme med. Jeg forventer at den er konkret og at også den innfrir!
Teknologilandskapet fremover sett med personvernbriller
Det teknologiske landskapet flommer over av personopplysninger og mer skal det bli. Hvilke teknologier vil utfordre personvernet fremover, og på hvilken måte? Fremover vil flere trender og teknologier utfordre personvernet. Spesielt kunstig intelligens (KI) er for...
Kameraovervåking med personvern i fokus?
«Intelligente» overvåkingskameraer blir stadig oftere tatt i bruk. Disse kameraene gjør dyptgående analyser av atferden til de som blir overvåket, og kan derfor potensielt være særdeles inngripende. Men hvordan sikrer vi personvernet ved bruk av slik teknologi?...
En reklamefri skole uten sporing skulle vel bare mangle?
Denne bloggen er opprinnelig et innlegg som ble sendt inn i tilknytning til debatten om reklame i skole som har gått på NRK Ytring (nrk.no). De valgte dessverre å ikke publisere vårt tilsvar til Tonje Brenna, men det kan leses i sitt hele her. Innlegget er signert...
En personvernguide til Arendalsuka 2023
Den andre uka av august, butt i butt med sommerferien for mange, er det Arendalsuka igjen. I år som i fjor er digitalisering og kunstig intelligens tema hos flere. Et raskt søk i programmet viser ikke overraskende at generativ AI har gjort sin inntogsmarsj. Hele 13...
Vurdering av personvernkonsekvenser i lovprosessen
Uten en oversikt over personvernkonsekvensene av et lovforslag, er det svært vanskelig for Stortinget å sørge for at innbyggernes personvern er ivaretatt. Denne teksten er utdrag fra et foredrag jeg holdt under Lovkonferansen i juni 2023. Norge er et av verdens mest...
GDPR: Fem år med spennende utfordringer – og litt magi
Personvern er et praktisk fag. Alle norske virksomheter må, i en eller annen utstrekning, forholde seg til personvernregelverket – personvernforordningen (GDPR) og personopplysningsloven. Det å tilegne seg både grunnleggende kunnskap om selve regelverket og praktisk...
Vi kan ikke ta pause nå: Ketchup, personvern og hverdags-kunstig intelligens
Det skjer en ketchup-effekt innen utvikling av kunstig intelligens (KI) akkurat nå, eksemplifisert gjennom gøyale bildegenereringstjenester og ikke minst Chat GPT som lynraskt produserer ofte overraskende presis tekst og litt rare dikt – for å nevne noe. Samtidig vil...
Sandbox Experiments: controlled explosions
Dette er et utdrag av et innlegg som ble holdt av Datatilsynets direktør, Line Coll, i EU-parlamentet den 7. mars 2023. Anledningen var et seminar om "EU AI Act", en ny forordning foreslått av EU-kommisjonen for å regulere kunstig intelligens. Coll snakket om...
Kunsten å invitere på teknologisk blåtur
Kunstig intelligens er som en ustoppelig arbeidshingst. Den kan kjapt kan se sammenhenger, som tradisjonell intelligens kanskje aldri ville oppdaget. Kunstig intelligens (KI) kan derfor gi mange nye muligheter. Akkurat til hva, kan likevel være vanskelig å spå før...
Menneskerettslige perspektiver i den digitale tidsalderen
Den grunnleggende retten til en privat sfære, fri for andres blikk, er under press når samfunnets behov for sikkerhet blir ivaretatt ved å ta i bruk kraftige digitale overvåkningsverktøy. Dette truer våre grunnleggende menneskerettigheter. Denne bloggen er basert på...