Personvernbloggen

Mange inviterer nå talestyrte assistenter fra verdens mektigste selskap inn i hjemmet. Men de smarte assistentene kommer også med en kostnad. (Artikkelen sto opprinnelig på trykk i Dagens Næringsliv 5. oktober 2018).

Talestyrte assistenter er et av de raskest voksende elektroniske forbrukerproduktene. Assistenten brukes til å utføre enkle oppgaver i hjemmet. Du kan be den sette på musikk, fortelle hvordan været blir i morgen og til å slå av lysene når du går på jobb. I USA har én fjerdedel av alle husstander allerede skaffet seg en smart assistent. I 2018 vil man, ifølge beregninger gjort av Consumer Technology Association, selge flere produkter som inneholder talestyrte assistenter enn man vil selge bærbare datamaskiner. Alle de store internett-selskapene har sine versjoner av slike assistenter. Amazon har Alexa, Google har Google Assistant og Apple har Siri. I september ble Google Assistant tilgjengelig på norsk, og snart kommer Google Home.

Amazons Echo, boksen som inneholder talegjenkjenningssystemet Alexa, sklir inn i hjemmet med sin nøytrale design. Boksen står på kjøkkenet, soverommet eller stua, og gjør opptak av det vi sier. Den er utstyrt med syv mikrofoner for å kunne ta opp lyd i ulike retninger. Samtalene sendes videre til Amazons datasentre, der de brukes til å lære opp Alexa til å forstå oss bedre. Få selskap i verden vet mer om oss en Amazon og Google. Når de nå også får en lyttepost i våre hjem, blir vi enda mer tilgjengelig for dem.

Å plassere teknologi i hjemmet som gjør det mulig for et selskap å ta opp alt vi sier, ville for noen år siden virket som en ganske vill ide. Hjemmet er stedet hvor våre mest private og intime aktiviteter foregår. Det er der vi først lærer hvordan vi skal forholde oss til verden og hvor vi først utvikler oss som mennesker. Etter hvert som digitale assistenter får fotfeste i våre hjem, vil det påvirke hvordan vi oppfører oss i vår private sfære?

Echos diskre ytre forteller lite om hvilken avansert teknologi den skjuler. Kan det være derfor folk med så stor letthet plasserer den i hjemmene sine? Eller kan det være fordi talestyrte assistenter gir folk så stor glede og nytte i hverdagen, at det veier opp for eventuelle innvendinger folk måtte ha til teknologien? Sikkert er det at selskaper som leverer talestyrte assistenter er avhengig av tillit. Teknologiens utbredelse og popularitet er avhengig av at folk kan stole på at assistentene kun tar opp lyd når brukerne har bestemt det. Folk må også være trygge på at opplysningene den samler inn bare benyttes til ting de har samtykket til.

Cambride Analytica/Facebook-skandalen viste at vi ikke alltid har kontroll over hvordan teknologiselskapene bruker personopplysningene de samler inn om oss. Det britiske dataanalyseselskapet høstet opplysninger om 50 millioner Facebook-brukere og brukte disse videre til politisk påvirkning. Skandalen var ødeleggende for tilliten til Facebook. Fra å ha tillit fra 80 prosent av sine brukere, sank denne til 27 prosent som følge av denne saken, i følge en spørreundersøkelse gjennomført i USA. Facebook hadde planer om å lansere sin egen talestyrte assistent i mai i år, men valgte å utsette det. Selskapet innså at uten tillit er det ikke mulig å få forbrukerne til å ha denne typen teknologi i hjemmet sitt.

Google og Amazon hevder assistenten kun tar opp samtaler når brukeren slår den på ved å si «OK Google» og «Alexa». Det har imidlertid vært rapport om hendelser som viser at assistentene også tar opp samtaler når brukeren ikke har aktivert dem. Det siste og mest alarmerende eksemplet er fra i vår: En familie i Portland i USA oppdaget at Alexa hadde tatt opp en samtale i hjemmet og sendt den videre til en tilfeldig kontakt i deres kontaktliste. Alexa slo seg på da den oppfattet at det ble sagt «Alexa» i en bakgrunnssamtale i hjemmet, og startet opptaket. Fra samtalen som pågikk, oppfattet boksen at den fikk beskjed om å sende den videre. Alexa spurte derfor høyt «til hvem?» Alexa oppfattet så at det ble sagt et navn, og sendte derfor meldingen videre til vedkommende. Amazon har bekreftet at hendelsen fant sted og sier at dette ikke skulle vært mulig. Det har imidlertid vært rapport om lignende hendelser tidligere, der taleassistenter tar opp samtaler uten at brukeren har aktivert enheten. Det er trolig heller ikke siste gang det blir rapportert om slike hendelser.

Alexa utløser ikke bare bekymringer knyttet til personvern. Konkurransekommisjonær Vestager signaliserte nylig at EU-kommisjonen vil gå Amazon nærmere etter i sømmene. EU vil undersøke hvordan Amazon bruker data de samler inn på sin plattform til å styre konkurrerende tredjeparter. Flere er bekymret over hvordan de dominerende teknologiselskapene kan bruke markedsmakten sin til å «tvinge» produsenter av smarthusløsninger til å implementere deres talegjenkjenningsteknologi i produktene sine. Pressmiddelet er at produsentene ikke vil slippe til på deres plattform hvis de bruker teknologi utviklet av andre. På denne måten kan Amazon og Google bli en portvakt til hjemmene våre og bestemme hvilke tjenester og produkter vi benytter oss av. Dette vil virke negativt både på innovasjon av nye produkter og på vår valgfrihet som forbrukere.

Systemer som Alexa og Google Assistant krever så mye data, infrastruktur og oppfølging at det bare er et fåtall selskap i verden som har mulighet til å bygge og drive dem. Det er viktig å reflektere over hva det betyr over tid hvis vi som samfunn skal klare å styre disse systemene på en god måte.