Kunstig intelligens, data og “storebror ser deg” tilstander

Vi overlater mer og mer viktige veivalg og beslutninger til algoritmer, men er vi bevisst konsekvensene av at vi nå stoler mer og mer på de valgene som blir gjort for oss, og konsekvensene av at vi gir fra oss makt til maskiner og algoritmer?


“Relying on the government to protect your privacy is like asking a peeping tom to install your window blinds.” – John Perry Barlow


Jeg vil påstå at Kina har i den senere tid tatt store skritt i retning av George Orwells “1984” og “storebror ser deg” scenario. De tar nå i bruk avansert teknologi for å både overvåke og kontrollere egne innbyggere. Gjennom kombinasjon av kunstig intelligens, overvåkingsteknologi og ulike måter å identifisere personer på, blir det etableret et helintegrert system som kan gi kinesiske myndigheter metoder og verktøy til å kontrollere, regulere og forme (og til og med forutse) menneskelig adferd. Det i et omfang som var helt utenkelig bare for noen få år siden.


Systemet baserer seg på algoritmer og kunstig intelligens underbygd av enorme mengder av data, kontinuerlig samlet inn gjennom ulike kanaler som netthistorikk, sosiale medier, shoppingvaner, videoopptak m.m. Tanken er at man vil kunne identifisere uønsket og/ eller ønsket sosial oppførsel – og justere individers sosiale kredittvurdering gjennom noe som kalles Sesame Credit. Tenk deg at din kredittrangering vil avgjøre hvor stort lån du kan få, hvor du kan reise, hvilke jobber du kan få, hvor stor trygd du mottar, hvilke skoler dine barn kan få lov til å gå på, og om du får sitte- eller ståplass på toget.



“Spiller du du dataspill ti timer om dagen, blir du ansett som en sløv person. Men dersom du ofte kjøper bleier, er du antageligvis mor eller far, folk som i gjennomsnitt har en høyere grad av ansvarsfølelse”, sa Li Yingyun, teknologidirektør i Sesame Credit, til den kinesiske avisen Caixin i 2015. Sesam Credit og løsningene for overvåking og sporing vil etter sigende være i drift i løpet av 2020.


Nå er Kina veldig langt unna Norge, både i avstand og demokratiske prinsipper. Men vi blir kartlagt gjennom ulike kanaler, legger igjen digitale spor og informasjon overalt hvor vi beveger oss. Den gjennomsnittlige nordmann deler ukritisk på facebook, "Godtar" ukritisk enhver forespørsel om å samle inn data og de fleste av oss slår alltid på "Allow location access" = always. Et godt eksempel er bruk av Google Maps. Her samler Google Maps inn all lokasjonsdata gjennom hele dagen uten at du i det hele tatt har brukt appen. Jeg vil påstå at veien blir bare kortere og kortere for den ene som eventuelt vil dra dette sammen i en større sammenheng, og eventuelt misbruke de spor og data vi legger igjen. Dataene er der - det som mangler er systematikk og løsning, samt noen som er desperate nok.



Et annet relevant spørsmål og problemstilling som kanskje ikke er direkte knyttet til kunstig intelligens, men mer relatert til deling av data. Hva skjer med de data vi deler fra oss enten gjennom våre fordelsprogrammer, kjøpekort, lokasjons sporing, eller enkle morsomme spørreskjema eller tester?


“Privacy means people know what they’re signing up for, in plain language, and repeatedly. I believe people are smart. Some people want to share more than other people do. Ask them.” – Steve Jobs


Litt usikker på om Steve Jobs hadde rett i alt han sa. Er vi så smarte og bevisste? Hver gang du handler på nettet, hver gang du melder deg på et nyhetsbrev eller registrerer deg på en nettside, sjekker ut ny bil, kjøper ny bolig, tar valgtest eller annen morsom test på nettet - gir du fra deg data. Det du gir fra deg, kan i teorien bli solgt videre til data meglere. Disse kan igjen kombinere data og kjøre kryssreferanser til forskjellig informasjon de har skaffet til veie om deg og lage din såkalte digitale skygge. Man kan ved å krysskoble dine digitale spor skaffe til veie både navn, fødselsdato, religiøs tilhørighet, ferievaner, seksuell legning, politisk tilhørighet og mye mer. Det gjør at man kan målrette både reklame og annonser, samt rette budskap og innhold formet etter din digital skygge.


Leste forleden om et eksempel som ikke er helt uvanlig, men ganske beskrivende i forhold til hva man kan komme opp i av situasjoner helt ufrivillig. Artikkelen refererte til en ung dame som spontanaborterte litt ut i svangerskapet. Alle forstår at dette både er en tragisk og traumatisk opplevelse og at vedkommende helst vil unngå å bli minnet om den vonde opplevelsen i tiden etter abort. Vedkommende meldte seg selvsagt sporenstreks ut av både mailinglister, kundelister, fordelsprogrammer og nyhetsbrev, men dessverre klarte hun ikke - enn så mye som hun forsøkte - å melde seg av reklame knyttet til graviditets- og småbarnsprodukter. Reklamene fulgte henne som en skygge på nettet over lang tid. Hun kom seg rett og slett ikke ut av den spiralen.



Slike eksempler er det mange av - hvor vi som forbrukere står maktesløse og ut av stand til å ta eierskap og kontroll over våre egne data. Heldigvis begynner vi å få ordninger som demmer opp og bidrar til å begrenser virksomheters mulighet for å gjenbruke eller selge data som du bevisst/ubevisst legger igjen. Europa innførte for noen år siden GDPR som skal beskytte bruker mot virksomheter som tar eierskap og gjør bruk av data uten samtykke. Mange andre land er ikke fullt så heldige og har ikke kommet så langt som oss. Men - selv med gode intensjoner, lovverk og løsninger, er det verdt å fortsatt være våken. Selv om vi nå har på plass både lovverk og løsninger som skal beskytte oss mot misbruk, vil det fortsatt kreve en viss innsats og årvåkenhet fra hver av oss. Hvem av dere leser samtykkeerklæringene som dere blir presentert? Hvem av dere vurderer konsekvensen av å samtykke til deling av dine data?


Om forfatteren

Richard Johnsen er seniorkonsulent og partner i Cloudberries. Han har mer enn 20 års erfaring fra med å håndtere komplekse og virksomhetskritiske IT-prosjekter og programmer. Han har bred erfaring fra ulike roller både som rådgiver, prosjektleder, testleder og leder i ulike bransjer. Richard ønsker ikke å titulere seg selv som innovasjonsekspert, men heller en som er veldig nysgjerrig på både begrep og metoder, og har et stort engasjement for å lære mer.


Ta kontakt med Richard for å høre hvordan Cloudberries kan hjelpe organisasjonen din til å komme i gang med innovasjon: richard.johnsen@cloudberries.no.

Org. nr. 921957319

Tel. +47 90 84 84 32

Besøksadresse: Arbins gate 2, 0253 Oslo
Postadresse: Postboks 115, 2027 Kjeller 

©2019 by Cloudberries AS.