VG har lansert chatboten heiVG og det har allerede blitt oppdaget at den gir uriktige opplysninger om levende personer. Hvem har ansvaret når chatboten gjør feil?

Feilinformasjon er utvilsomt et samfunnsproblem. Ikke bare gir det folk feil fakta, men det kan også bidra til å svekke tilliten til redaktørstyrte medier hvis de formidler den type informasjon.

Redaktørstyrte medier er én av vår siste, og kanskje viktigste, skanser mot flommen av oppspinn. Hvordan blir det da når VG lanserer en upålitelig chatbot?

Under lanseringen uttalte VG at «Når vi ser tilbake på denne lanseringen om ett eller to år, tror jeg vi potensielt kan omtale den som startskuddet på noe helt nytt for måten journalistikk konsumeres og formidles på.»

En ny måte journalistikk konsumeres og formidles på? Da må det vel være underlagt redaktøransvaret og medieansvarsloven?

Ikke ifølge VG. På nettsiden opplyser de at «heiVG er en ikke-redaksjonell tjeneste og feil kan forekomme.»

Feil kan forekomme? Eksempelet som kom frem i media var uriktig omtale av om en person som hadde begått et lovbrudd. Datatilsynet behandler allerede i dag en klagesak på en annen tjeneste, der en person feilaktig ble beskyldt for å ha drept sine egne barn.

Har det noe å si? Ja. For hvis tjenesten er ikke-redaksjonell så er den underlagt personvernlovgivning hvor et av hovedprinsippene er at personopplysninger skal være korrekte. For selv uriktig informasjon om en person kan være personopplysninger.

En setning på nettsiden om at feil kan forekomme kan ikke unnta en hel tjeneste fra et lovverk som skal sikre den enkeltes beskyttelse. Faren er at vi slutter å bry oss om sannheten hvis vi stadig utsettes for løgn.

Så VG, hva blir det til? Redaktøransvar eller underlagt et regelverk som skal sikre korrekt informasjon?

I DN 14. februar uttrykker PST frustrasjon over at ansatte i norske virksomheter i mindre grad er tilgjengelige for forebyggingssamtaler. Kan det være at PSTs metoder utfordrer rettsstaten på en slik måte at de gjør arbeidet med å sikre Norge vanskeligere?

Hva er forebyggingssamtaler?

PST gjør forebyggingssamtaler med personer som ikke har gjort noe straffbart. De bruker det som et konkret virkemiddel for å kartlegge og forebygge trusler. Forutsetningen for å gjennomføre en samtale er at PST har kartlagt enkeltpersoner eller miljøer som potensielt utgjør en trussel.

Dette er en form for over overvåkning, og nettopp uklarhetene rundt forebyggingssamtalene kan forsterke de negative effektene av overvåkning.

Rettsstatens prinsipper bygger tillit

Rettsstatsprinsipper er til for å verne borgerne. Som en heldig bieffekt gir de også en stat bygget på tillit. Utgangspunktet i en rettsstat er at myndighetene ikke har noe med privatlivet til borgerne eller opplysningene til virksomhetene å gjøre, uten at det er godt begrunnet. Gode grunner kan for eksempel være kriminalitetsbekjempelse, nasjonal sikkerhet eller andre viktige samfunnshensyn. Men det må også rammes inn av et solid lovverk.

Problemet med forebyggingssamtaler er at de beveger seg i rettsstatens yttergrense. De har et svakt og lite utviklet rettslig grunnlag. Både form og innhold kan disse politimetodene skape usikkerhet knyttet til overvåkning og bruk av makt.

Eksempler på problematisk metodebruk

Når det gjelder form, så kan både DNs artikkel 14. februar med personer i sikkerhetssensitive virksomheter, og PSTs «dawn raid» mot ungdom som er aktive i radikale grupper på nettet, tjene som eksempel metodebruk som kan forsterke negative konsekvenser.

PST oppsøkte en rekke barn hjemme tidlig om morgenen 13. juni i fjor, i en koordinert aksjon for å ta en prat om ytringer de hadde kommet med på nett. PST selv omtaler det som en « «skånsom håndsrekning». Det er enkelt å tenke seg mer skånsomme måter å gjennomføre en forebyggingssamtale på.

Uformelle møter svekker tilliten

I DNs artikkel leser vi om at enkeltpersoner kontaktes direkte og at samtalen kan gjennomføres på «kafé eller restaurant. Det kan være å gå en tur i en park, eller ta en biltur.» Men det er også påpekt at det ikke må virke for hemmelig.

Personer som er undergitt virksomhetenes taushetsplikt, skal altså dele informasjon med PST på et tynt rettslig grunnlag, gjerne på en kafé og uten noen form for notoritet. Hvem ville i den sikkerhetspolitiske situasjonen vi står i dra på kafé med en tilfeldig person for å snakke om sikkerheten i virksomheten?

Dette innlegget sto på trykk først i DN 7. mars 2025.

Dette innlegget ble først publisert i NRK Ytring 25.10.2022. Innlegget er skrevet av juridisk senirorådgiver Jan Henrik Mjønes Nielsen og direktør Line Coll i Datatilsynet.

På NRK Ytring har det vært en debatt mellom forsvarsminister Bjørn Arild Gram og Tekna. Det ble da spurt om det foreslåtte systemet for avdekking av digitale trusler, såkalt tilrettelagt innhenting, er å regne som digital masseovervåking.

Det klare svaret er ja.

Da Datatilsynet først vurderte forslaget i 2018, konkluderte vi med at det riktige begrepet var digital masseovervåking. Det er fordi det best forklarer hva systemet er og hvilke konsekvenser det har. Systemet vil utilsiktet fange opp store deler av norske borgeres internettkommunikasjon.

Etterretningstjenesten vil ende opp i dilemmaet om hva de skal gjøre med kunnskap om en trussel de ikke skal ha lov til å vite noe om.

Datatilsynet mener at loven må endres

Datatilsynets analyse baserer seg på grunnleggende samfunnsteorier om makt. Disse kan sammenfattes i det kjente utsagnet «kunnskap er makt». Et inngrep fra myndighetene i privatlivet resulterer i kunnskap, som igjen medfører en overføring av makt fra individet til staten.

Denne endringen i maktbalansen påvirker i hvilken grad vi våger å bruke internett til å hente kunnskap og utveksle meninger.

I Personvernundersøkelsen 2019/2020 svarte 13 prosent at de har unnlatt å søke på nett på grunn av usikkerhet knyttet til om myndighetene har tilgang til informasjonen.

Det er åpenbart at det norske systemet fraviker kravene fra menneskerettighetsdomstolen.

Det er derfor avgjørende å forstå at overvåkingspotensialet oppstår allerede ved innsamlingen, og at lagringen omfatter nesten alle norske borgere. Dette er digital masseovervåking. Systemet vil utilsiktet fange opp store deler av norske borgeres internettkommunikasjon.

Systemet fraviker kravene fra menneskerettsdomstolen

Menneskerettighetsdomstolen stiller et sentralt krav til hemmelige overvåkingssystemer: Nemlig at systemet skal være underlagt uavhengig forhåndskontroll i alle ledd. Før innsamling begynner, må grunnlaget vurderes av en uavhengig instans. Det er derfor åpenbart at det norske systemet fraviker kravene fra menneskerettighetsdomstolen.

Loven legger opp til at det skal gjøres en maskinell test og analyse av kommunikasjonsstrømmene for å finne relevant utenlandsetterretnings-informasjon før domstolen har godkjent søk.

Så hva betyr «maskinell test og analyse»? Det er grunn til å anta at Etterretningstjenesten i det minste vil bruke verktøy som er vanlig tilgjengelig – som søkemotorer, stordataanalyse og løsninger basert på maskinlæring og kunstig intelligens.

Ifølge EOS-utvalgets høringsuttalelse gjøres det en«etterretningsfaglig vurdering».

Mye av skaden er derfor allerede skjedd når domstolen skal ta stilling til ytterligere søk i et materiale som allerede er gjennomsøkt.

Det er liten grunn til å tro at domstolskontrollen blir reell, fordi den vil komme på et for sent tidspunkt. Datatilsynet mener derfor at loven må endres.

Stortinget må sikre at vi får de nødvendige mekanismene for rettssikkerhet, slik at loven ikke virker negativt inn på friheten vår og vårt demokratiske samfunn.