get_queried_object(); $id = $cu->ID; ?>
Catharina Nes

«Alexa – hører du meg nå?»

Mange inviterer nå talestyrte assistenter fra verdens mektigste selskap inn i hjemmet. Men de smarte assistentene kommer også med en kostnad. (Artikkelen sto opprinnelig på trykk i Dagens Næringsliv 5. oktober 2018).

Talestyrte assistenter er et av de raskest voksende elektroniske forbrukerproduktene. Assistenten brukes til å utføre enkle oppgaver i hjemmet. Du kan be den sette på musikk, fortelle hvordan været blir i morgen og til å slå av lysene når du går på jobb. I USA har én fjerdedel av alle husstander allerede skaffet seg en smart assistent. I 2018 vil man, ifølge beregninger gjort av Consumer Technology Association, selge flere produkter som inneholder talestyrte assistenter enn man vil selge bærbare datamaskiner. Alle de store internett-selskapene har sine versjoner av slike assistenter. Amazon har Alexa, Google har Google Assistant og Apple har Siri. I september ble Google Assistant tilgjengelig på norsk, og snart kommer Google Home.

Amazons Echo, boksen som inneholder talegjenkjenningssystemet Alexa, sklir inn i hjemmet med sin nøytrale design. Boksen står på kjøkkenet, soverommet eller stua, og gjør opptak av det vi sier. Den er utstyrt med syv mikrofoner for å kunne ta opp lyd i ulike retninger. Samtalene sendes videre til Amazons datasentre, der de brukes til å lære opp Alexa til å forstå oss bedre. Få selskap i verden vet mer om oss en Amazon og Google. Når de nå også får en lyttepost i våre hjem, blir vi enda mer tilgjengelig for dem.

Å plassere teknologi i hjemmet som gjør det mulig for et selskap å ta opp alt vi sier, ville for noen år siden virket som en ganske vill ide. Hjemmet er stedet hvor våre mest private og intime aktiviteter foregår. Det er der vi først lærer hvordan vi skal forholde oss til verden og hvor vi først utvikler oss som mennesker. Etter hvert som digitale assistenter får fotfeste i våre hjem, vil det påvirke hvordan vi oppfører oss i vår private sfære?

Echos diskre ytre forteller lite om hvilken avansert teknologi den skjuler. Kan det være derfor folk med så stor letthet plasserer den i hjemmene sine? Eller kan det være fordi talestyrte assistenter gir folk så stor glede og nytte i hverdagen, at det veier opp for eventuelle innvendinger folk måtte ha til teknologien? Sikkert er det at selskaper som leverer talestyrte assistenter er avhengig av tillit. Teknologiens utbredelse og popularitet er avhengig av at folk kan stole på at assistentene kun tar opp lyd når brukerne har bestemt det. Folk må også være trygge på at opplysningene den samler inn bare benyttes til ting de har samtykket til.

Cambride Analytica/Facebook-skandalen viste at vi ikke alltid har kontroll over hvordan teknologiselskapene bruker personopplysningene de samler inn om oss. Det britiske dataanalyseselskapet høstet opplysninger om 50 millioner Facebook-brukere og brukte disse videre til politisk påvirkning. Skandalen var ødeleggende for tilliten til Facebook. Fra å ha tillit fra 80 prosent av sine brukere, sank denne til 27 prosent som følge av denne saken, i følge en spørreundersøkelse gjennomført i USA. Facebook hadde planer om å lansere sin egen talestyrte assistent i mai i år, men valgte å utsette det. Selskapet innså at uten tillit er det ikke mulig å få forbrukerne til å ha denne typen teknologi i hjemmet sitt.

Google og Amazon hevder assistenten kun tar opp samtaler når brukeren slår den på ved å si «OK Google» og «Alexa». Det har imidlertid vært rapport om hendelser som viser at assistentene også tar opp samtaler når brukeren ikke har aktivert dem. Det siste og mest alarmerende eksemplet er fra i vår: En familie i Portland i USA oppdaget at Alexa hadde tatt opp en samtale i hjemmet og sendt den videre til en tilfeldig kontakt i deres kontaktliste. Alexa slo seg på da den oppfattet at det ble sagt «Alexa» i en bakgrunnssamtale i hjemmet, og startet opptaket. Fra samtalen som pågikk, oppfattet boksen at den fikk beskjed om å sende den videre. Alexa spurte derfor høyt «til hvem?» Alexa oppfattet så at det ble sagt et navn, og sendte derfor meldingen videre til vedkommende. Amazon har bekreftet at hendelsen fant sted og sier at dette ikke skulle vært mulig. Det har imidlertid vært rapport om lignende hendelser tidligere, der taleassistenter tar opp samtaler uten at brukeren har aktivert enheten. Det er trolig heller ikke siste gang det blir rapportert om slike hendelser.

Alexa utløser ikke bare bekymringer knyttet til personvern. Konkurransekommisjonær Vestager signaliserte nylig at EU-kommisjonen vil gå Amazon nærmere etter i sømmene. EU vil undersøke hvordan Amazon bruker data de samler inn på sin plattform til å styre konkurrerende tredjeparter. Flere er bekymret over hvordan de dominerende teknologiselskapene kan bruke markedsmakten sin til å «tvinge» produsenter av smarthusløsninger til å implementere deres talegjenkjenningsteknologi i produktene sine. Pressmiddelet er at produsentene ikke vil slippe til på deres plattform hvis de bruker teknologi utviklet av andre. På denne måten kan Amazon og Google bli en portvakt til hjemmene våre og bestemme hvilke tjenester og produkter vi benytter oss av. Dette vil virke negativt både på innovasjon av nye produkter og på vår valgfrihet som forbrukere.

Systemer som Alexa og Google Assistant krever så mye data, infrastruktur og oppfølging at det bare er et fåtall selskap i verden som har mulighet til å bygge og drive dem. Det er viktig å reflektere over hva det betyr over tid hvis vi som samfunn skal klare å styre disse systemene på en god måte.

 

Catharina Nes

Tre ting vi kan lære av Facebook-skandalen

Ny lov vil tvinge frem større åpenhet om hvordan våre data samles inn og brukes. (Artikkelen sto opprinnelig på trykk i Dagens Næringsliv 20. april 2018) Forrige uke satt en av verdens rikeste og mektigste menn skolerett i det amerikanske Senatet. Spørsmålet fra en av...

les mer
Tobias Judin

Facebook er i hardt vær – men er det noe nytt?

Cambridge Analytica-skandalen har åpnet øynene til mange. Facebook-brukere er usikre på om de kan stole på nettsamfunnet. Facebook på sin side bedyrer at dette var en tabbe som nå er reparert og at brukerne kan føle seg trygge i fremtiden. I tillegg slapp nettopp...

les mer
Tobias Judin

Hva vet de om deg?

Hvor mye lagrer fire helt vanlige, norske virksomheter om kundene sine? To testpersoner har brukt innsynsretten for å finne det ut. Jeg snakker med mange enkeltpersoner og virksomheter i løpet av et år. Noen trenger veiledning om loven, noen mener Datatilsynet ikke...

les mer
Catharina Nes

Autoritær Intelligens

Med tilgang til enorme datamengder - og få restriksjoner på hvordan disse kan utnyttes - tar Kina nå ledertrøyen i kappløpet om utviklingen av kunstig intelligens.  (artikkelen sto på trykk i Dagens Næringsliv 15. februar 2018) Kina har vokst frem som et gigantisk...

les mer
Gullik Gundersen

Vi trenger en ny IKT-sikkerhetsstrategi

Regjeringen la i juni 2017 frem stortingsmeldingen IKT-sikkerhet – Et felles ansvar. For å følge opp denne er det satt i gang et arbeid med en ny nasjonal strategi, med tilhørende handlingsplaner. Disse skal erstatte Nasjonal strategi for informasjonssikkerhet og...

les mer
Veronica Jarnskjold Buer

Hvorfor enda en konkurranse?

Datatilsynet utlyste i august 2017 konkurransen Innebygd personvern i praksis. Målet med konkurransen er å skape fokus på og få etablert personvernfremmende teknologi. Innlegget er skrevet av Martha Eike og Veronica Jarnskjold Buer. Digitaliseringsskrivet fra...

les mer
Bjørn Erik Thon

Personvern og kunstig intelligens

I en kronikk på Ytring beskylder Morten Goodwin Datatilsynet for å være en bremsekloss for bruken av kunstig intelligens, at folk vil ofre personvernet sitt for bedre helsetjenester og at det digitale Norge bør få like stor tilgang på data som Facebook. Vi mener at...

les mer
Bjørn Erik Thon

Algoritmene må temmes

Å kjenne igjen en venn tar kun et millisekund. Å resonnere seg fram til at en kvinne med hvit frakk og stetoskop rundt halsen er lege, kanskje ørlite gang lenger. I trafikken tar vi beslutninger som bestemmer liv og død på under ett sekund. For at maskiner skal ta...

les mer

Arkiv

Følg oss:

Ønsker du å motta e-post når nye innlegg postes på Personvernbloggen, kan du registrere din e-postadresse her.

E-postadressen blir lagret på vår server og kun brukt til dette formålet. Om du velger å slutte å følge oss, vil e-postadressen bli slettet fra vår server. Du samtykker til denne bruken av din e-postadresse ved å registrere den her.