Verdens første KI-lov til Norge: Hvilke utfordringer vil reglene løse?
Dette innlegget, signert direktør Line Coll og seksjonssjef Tobias Judin, sto på trykk i Aftenposten 29. januar 2024.
EU finpusser verdens første kunstig intelligens(KI)-lov, og en lekket versjon begynte å sirkulere på nett denne uken. Hvilke utfordringer vil reglene løse, og hvilke gjenstår?
Førsteamanuensis og Aftenposten-spaltist Inga Strümke skriver med rette at vi trenger EUs KI-forordning for å regulere KI. Samtidig er vi ikke helt enige i at reglene rydder opp i paragrafjungelen.
Forordningen samler ikke KI-regler på ett sted, men kommer i tillegg til andre lover som regulerer KI, slik som GDPR (personvernforordningen). Det er også mange KI-systemer som ikke er omfattet av forordningen.
Strümke har også rett i at Norge må jobbe godt med å få reglene inn i norsk rett. Utfordringen er å innføre reglene på en måte som tar ned kompleksiteten for virksomheter og samtidig ivaretar verdiene i samfunnet.
Forbud og samspill
Forordningen inneholder flere forbud og vil tilrettelegge for KI som vi kan stole på, og som ivaretar menneskerettigheter og demokrati. For eksempel forbys manipulativ KI som forårsaker vesentlig skade.
Imidlertid forbys ikke KI som bare fører til medium skade. Det skaper uklarhet og rom for omgåelse. Spørsmålet er da hvor effektive reglene vil være. Dette er et av mange eksempler på at forordningen må suppleres, helst av klare nasjonale regler. I det minste av etikk og fornuft.
Reglene oppstiller også plikter for høyrisiko-KI. Eksempler er KI som brukes til rekruttering eller avgjørelser om trygdeytelser. Det stilles krav til risikovurdering, gode treningsdata, testing, dokumentasjon og involvering av mennesker. Algoritmene må være nøyaktige og sikre nok.
Mange av pliktene overlapper med GDPR. Det er derfor både viktig og ressursbesparende å se de to lovene i sammenheng, av hensyn til gode helhetsvurderinger og for å unngå dobbeltarbeid.
De fleste av de nye pliktene gjelder tilbyderne. Samtidig reguleres hele verdikjeden, også de som skal bruke KI, som får en huskeliste: Følg bruksanvisningen, husk opplæring, bruk representative data og meld avvik.
Generativ KI
Forordningen vil også regulere KI-modeller som kan brukes til ulike formål, som generativ KI.
Tilbyderne må dokumentere modellenes evner og begrensninger, tenke opphavsrett samt publisere oversikt over treningsdata. De mest kompliserte modellene må ha risikoreduserende tiltak.
Det blir EU-kommisjonen som skal håndheve akkurat disse reglene.
Tilsyn
Hva gjelder tilsyn med de øvrige reglene, peker forordningen i ulike retninger: til datatilsynene for justissektoren og til finanstilsynene for finanssektoren. Ut over det må hvert land velge sin(e) tilsynsmyndighet(er).
Spørsmålet nå er om vi ønsker å legge mest mulig ett sted, eller om vi ønsker en sektorvis og fragmentert tilnærming.
Tilsynsmyndighetene skal imidlertid ikke bare sanksjonere, men også støtte ansvarlig innovasjon gjennom regulatoriske sandkasser, slik Datatilsynet tilbyr.
KI-forordningen løser ikke alt. Det er smutthull, mange former for KI er ikke omfattet, vi må unngå dobbeltarbeid, og vi må lage et godt system for tilsyn.
Hvordan vi løser dette, vil avgjøre om Norge lykkes med KI.
Skoler og barnehager trenger hjelp til å håndtere personopplysninger skikkelig
De siste årene har det skjedd en stor teknologisk utvikling i skole– og barnehagesektoren. Borte er håndskrevne meldingsbøker og innleveringer på slutten av timen. Nå blir anmerkninger for dårlig oppførsel lagret digitalt og besvarelser innlevert elektronisk. Det er...
Hjem til Makedonia med kunnskap og inspirasjon i bagasjen
Etter noen travle dager med tettpakket program sitter syv medarbeidere fra det makedonske datatilsynet akkurat nå på flyet hjem fra Norge, etter sin studietur hos oss. Forhåpentligvis er de strålende fornøyde med den kunnskapen og de ideene de har tilegnet seg fra de...
GPS – sporing av barn
Er det riktig å utstyre barn med en GPS slik at vi som foreldre til enhver tid kan se hvor de er? Ta et søk på nettet, og vi kan se at mange selskaper tilbyr nettopp en slik mulighet. Alle foreldre har vel kjent den vonde følelsen av redsel for at noe har skjedd med...
Rapport fra et nordisk møte i Stockholm
I to dager er de nordiske datatilsynene samlet i Stockholm for å diskutere felles utfordringer, muligheter og samarbeid. I tidligere tider var det en tradisjon at disse møtene skulle avholdes på en øy, men dette er nå forlatt, så dagens møte finner sted i tjukkeste...
Retten til å bli glemt styrkes
I en nylig avsagt avgjørelse har EU-domstolen trukket opp grensene for når en person kan kreve at en artikkel publisert på for eksempel en nettavis ikke lenger skal være søkbar på Internett. Dette styrker den enkeltes rett til å bli glemt. Mange legger igjen tydelige...
Vi sjekker personvernet i apper
I dag er den store sveipedagen hos Datatilsynet. Sju medarbeidere sitter med hver sin smarttelefon og sjekker personvernet i apper. Vi er en del av et internasjonalt prosjekt - Internet Sweep Day - og er ett av 27 land som ser på hva slags personverninfo appene gir...
Datatilsynet på Nasjonal konferanse om bruk av IKT i utdanning og læring (NKUL)
I tre dager arrangeres Nasjonal konferanse om bruk av IKT i utdanning og læring (NKUL) på NTNU i Trondheim. Her er det 1200 deltakere som snakker sammen om bruk av IKT i utdanning og læring. Konferansens målgruppe er blant annet lærere, leverandører av digitale...
Rapport fra et internasjonalt møte i Makedonia
Det er et utstrakt internasjonalt samarbeid på personvern-omådet. En viktig gruppe er den såkalte Berlin-gruppen, som nå holder møte i Skopje i Makedonia. I et staselig lokale med god takhøyde, og et klimaanlegg med lav grunntemperatur, diskuteres i skrivende stund...
Obama med rapport om Big Data: behov for ny og oppdatert personvernlovgivning
En stor utredning om Big Data, bestilt av President Obama, ble presentert 1. mai. Rapporten trekker frem flere positive sider ved bruk av Big Data, men advarer samtidig mot de alvorlige personvernkonsekvensene som innsamling og analyse av enorme datamengder kan ha....
Vi trenger et nytt DNA-utvalg
De siste dagene har politiet lagt fram dokumentasjon som viser at uoppklarte kriminalsaker har blitt oppklart fordi gjerningsmenn har avgitt DNA-prøve for nye forhold. Et eksempel som er nevnt omhandler en mann som måtte avlegge DNA-prøve fordi han nappet en veske, og...