Verdens første KI-lov til Norge: Hvilke utfordringer vil reglene løse?
Dette innlegget, signert direktør Line Coll og seksjonssjef Tobias Judin, sto på trykk i Aftenposten 29. januar 2024.
EU finpusser verdens første kunstig intelligens(KI)-lov, og en lekket versjon begynte å sirkulere på nett denne uken. Hvilke utfordringer vil reglene løse, og hvilke gjenstår?
Førsteamanuensis og Aftenposten-spaltist Inga Strümke skriver med rette at vi trenger EUs KI-forordning for å regulere KI. Samtidig er vi ikke helt enige i at reglene rydder opp i paragrafjungelen.
Forordningen samler ikke KI-regler på ett sted, men kommer i tillegg til andre lover som regulerer KI, slik som GDPR (personvernforordningen). Det er også mange KI-systemer som ikke er omfattet av forordningen.
Strümke har også rett i at Norge må jobbe godt med å få reglene inn i norsk rett. Utfordringen er å innføre reglene på en måte som tar ned kompleksiteten for virksomheter og samtidig ivaretar verdiene i samfunnet.
Forbud og samspill
Forordningen inneholder flere forbud og vil tilrettelegge for KI som vi kan stole på, og som ivaretar menneskerettigheter og demokrati. For eksempel forbys manipulativ KI som forårsaker vesentlig skade.
Imidlertid forbys ikke KI som bare fører til medium skade. Det skaper uklarhet og rom for omgåelse. Spørsmålet er da hvor effektive reglene vil være. Dette er et av mange eksempler på at forordningen må suppleres, helst av klare nasjonale regler. I det minste av etikk og fornuft.
Reglene oppstiller også plikter for høyrisiko-KI. Eksempler er KI som brukes til rekruttering eller avgjørelser om trygdeytelser. Det stilles krav til risikovurdering, gode treningsdata, testing, dokumentasjon og involvering av mennesker. Algoritmene må være nøyaktige og sikre nok.
Mange av pliktene overlapper med GDPR. Det er derfor både viktig og ressursbesparende å se de to lovene i sammenheng, av hensyn til gode helhetsvurderinger og for å unngå dobbeltarbeid.
De fleste av de nye pliktene gjelder tilbyderne. Samtidig reguleres hele verdikjeden, også de som skal bruke KI, som får en huskeliste: Følg bruksanvisningen, husk opplæring, bruk representative data og meld avvik.
Generativ KI
Forordningen vil også regulere KI-modeller som kan brukes til ulike formål, som generativ KI.
Tilbyderne må dokumentere modellenes evner og begrensninger, tenke opphavsrett samt publisere oversikt over treningsdata. De mest kompliserte modellene må ha risikoreduserende tiltak.
Det blir EU-kommisjonen som skal håndheve akkurat disse reglene.
Tilsyn
Hva gjelder tilsyn med de øvrige reglene, peker forordningen i ulike retninger: til datatilsynene for justissektoren og til finanstilsynene for finanssektoren. Ut over det må hvert land velge sin(e) tilsynsmyndighet(er).
Spørsmålet nå er om vi ønsker å legge mest mulig ett sted, eller om vi ønsker en sektorvis og fragmentert tilnærming.
Tilsynsmyndighetene skal imidlertid ikke bare sanksjonere, men også støtte ansvarlig innovasjon gjennom regulatoriske sandkasser, slik Datatilsynet tilbyr.
KI-forordningen løser ikke alt. Det er smutthull, mange former for KI er ikke omfattet, vi må unngå dobbeltarbeid, og vi må lage et godt system for tilsyn.
Hvordan vi løser dette, vil avgjøre om Norge lykkes med KI.
Stortinget må huske våre grunnleggende rettigheter idet de gir politiet videre fullmakter til overvåking
Da avisene Washington Post og The Guardian i 2013 publiserte dokumentene de hadde fått av Edward Snowden, ble verdens oppmerksomhet rettet mot overvåkningsprogrammene til etterretningsmyndighetene i Vesten. Dokumentene avslørte at etterretningsmyndighetene hadde tatt...
Hva vet bilen din om deg?
Fremtidens bil vil være en datamaskin. Den vil kunne registrere nærmest ubegrensede mengder informasjon om sin egen tekniske tilstand og om sjåførens kjøreatferd og kjørehistorikk. Data som bilen registrerer slik som fart, geolokasjon, oppbremsing og akselerasjon,...
Nedkjølingseffekten indikerer at ytringsfriheten er under press etter Snowden
Funn fra en ny studie fra Universitetet i Oxford bekrefter en nedkjølingseffekt etter Snowden-avsløringene. «Nedkjølingseffekten» er i denne sammenheng ideen om at vi endrer oppførsel dersom vi mistenker at noen titter oss over skulderen. Begrepet beskriver at vi lar...
Internasjonale personverneksperter møtes i Oslo
Mandag og tirsdag denne uken er det norske Datatilsynet vertskap for the International Working Group on Data Protection in Telecommunications (IWGDPT), også kalt Berlingruppen. 52 personverneksperter fra hele verden har kommet til Oslo for å diskutere personvern....
Vi sjekker helsetestdingser for hjemmebruk
Å jobbe i Datatilsynet er morsomt, og noen ganger er det særlig gøy: Denne uken sjekker vi, i mangel av et bedre ord, dingser. Vi ser på utstyr som brukes til å teste helsen din, hjemme eller hvor du måtte ha lyst. Små testapparater altså, som kan sjekke blodtrykket...
Dataavlesing med datostempling
7. april 2016 deltok Datatilsynet i justiskomiteens høring om regjeringens forslag om å gi politiet adgang til å bruke nye tvangsmidler, blant annet dataavlesing. Nedenfor kan dere lese det notatet Datatilsynet overleverte til komiteen. Vårt viktigste forslag var at...
Personvern og andre godsaker på registerkonferansen
I går var første dag av Helse- og kvalitetsregisterkonferansen 2016, hvor vi også er i dag. Konferansen er fulltegnet, og det har vært venteliste for deltakerne som ikke fikk plass i første omgang. Konferansen arrangeres hvert annet år, og har slagordet «Gode...
En oppsummering av personvernåret 2015
Dette innlegget er skrevet som en innledning til Datatilsynets årsmelding for 2015 Det mest spennende med å være leder i Datatilsynet er at det alltid dukker opp store saker som gjør at vi må snu opp ned på prioriteringene våre. Noen opplever kanskje dette som...
Tilpasset reklame – irriterende eller faktisk ganske praktisk?
Hvis folk kunne velge, ville de valgt å se reklame som er tilpasset deres adferd og interesser, eller «dum» reklame som viser tilfeldige produkter? Svaret fra undersøkelsen vi gjennomførte overrasket oss. Tilpasset reklame? Nei, takk Det store flertallet i vår...
Ønsker vi økt lagring av opplysninger om barnehagebarn?
Dette innlegg er skrevet sammen med Steffen Handal, som er leder i Utdanningsforbundet. Det har også blitt publisert på www.utdanningsnytt.no Kunnskapsdepartementet har lagt frem et forslag til endring i barnehageloven. Mange aktører, deriblant vi i Datatilsynet og...