Ukens analyse, 25. september 2020

Sosiale medier, usosiale egenskaper


Denne Ukens analyse er skrevet av Arild Bergh, seniorforsker ved Forsvarets forskningsinstitutt (FFI). Han skriver om påvirkningsoperasjoner i sosiale medier. Er det slik at Facebook, Twitter og Instagram kan utgjøre en trussel mot demokratiske land?

Den norske Atlanterhavskomité (DNAK) publiserer jevnlig Ukens analyse, skrevet av en av DNAKs samarbeidspartnere, egne ansatte eller andre. Hvis du ønsker å bidra, ta kontakt med kristoffer@dnak.org. Innholdet i Ukens analyse representerer forfatterens egne synspunkter og ikke nødvendigvis DNAKs.


Flere land, men også grupperinger, bruker sosiale medier til påvirkning og overvåkning. Foto: Pixabay

Sosiale medier benyttes i økende grad for desinformasjon og påvirkning rettet mot demokratiske land, for eksempel i forbindelse med valg eller Covid-19 pandemien. Men spiller det noen rolle om noen bruker sosiale medier fremfor radio eller aviser?

For 310 år siden oppsummerte den politiske aktivisten og forfatteren Jonathan Swift den politiske løgnens kunst. Han påpekte at slike løgner er fra anonyme kilder og selv de største løgnene er det noen som tror på. Har en løgn blitt trodd i en time har den gjort sitt arbeid sa han, og falskhet flyr mens sannheten halter etter den. Swift ville neppe blitt overrasket om han kunne se påvirkningsforsøkene som statlige aktører utfører på sosiale medier i dag. Vi vet også at noen aktører benytter metoder utviklet under den kalde krigen. Skal vi forstå problemene ved påvirkningsoperasjoner i sosiale medier må vi derfor se hva det er som skiller sosiale medier fra tidligere kanaler for manipulering og ikke anta at desinformasjon i seg selv er nytt.

Noen sosiale medie-egenskaper er «forbedringer» av tidligere tiders manipuleringsmuligheter. Swifts anonyme løgner er erstattet av pseudonymitet, falske profiler som bygges opp for å tiltrekke en viss type brukere. Pamfletter som ble sirkulert i et geografisk begrenset område for en relativt høy kostnad og avhengig av dedikerte støttespillere er erstattet av innlegg som er gratis tilgjengelig via umiddelbar og automatisk distribusjon verden over. Det kun en stat med dype lommer og en fysisk infrastruktur kunne oppnå for noen tiår siden kan nå individer gjøre gratis med telefonen de har i lomma.

Disse forsterkede elementene understøttes av nye egenskaper. Gjennom sosiale mediers design og desentraliserte, ikke-geografiske natur blir alle innlegg revet ut av større sammenhenger og mangler forklarende kontekst. Vi er dermed ute av stand til å skille mellom bråkjekke innlegg fra en umoden fjortenåring og veloverveide uttalelser fra en politisk aktivist. Alt presenteres og oppleves likt, inkludert falske nyheter.

I motsetning til papir med fysiske begrensninger på lagring og tilgang og radio og TV som er flyktige medier, er alt innhold som legges ut på sosiale medier kontinuerlig lagret – for alltid. Disse enorme datamengdene benyttes av selskapenes algoritmer. Algoritmer er automatisert programvare som skal løse spesifikke oppgaver. For de sosiale medie-plattformene er oppgaven å få brukerne til å benytte mest mulig tid på deres nettverk. Dette gjøres ved at maskinlæring (et område innen kunstig intelligens) kategoriserer innlegg. Et innlegg om det tredje rike vil forståes å ha en tilknytning til Hitler, innlegg om Hitler relateres til nynazisme og så videre. Samtidig observeres brukernes handlinger online – hvem de blir venner med, hva de skriver om, liker eller videresender. Målet er å bruke denne kunnskapen til å finne innhold som brukeren vil like og dermed bli værende på det aktuelle sosiale mediet. Resultatet er automatisert utvelgelse av innlegg som fra et enormt datasett alltid kan finne noe som får en sosial mediebruker til å føle at deres verdenssyn støttes av «alle», et algoritmisk narrativ.

Sist men ikke minst er sosiale medier en konstant popularitetskonkurranse. Funksjoner som «trending topics» viser til enhver tid hva som er mest lest eller likt, noe som igjen påvirker hva andre velger å lese. Disse statistikkene kan manipuleres gjennom bruk av programvare som automatisk får visse innlegg til å virke mer populære enn de egentlig er. I tillegg er det ofte aggressivt og lite nyansert innhold som får mest oppmerksomhet.

Den stadige sanntidsevalueringen av hva brukere liker, og påfølgende justering av hva de ser, er unikt for sosiale medier. Swift kunne nok vite hvilke løgner ble spredt, men han kunne ikke se hvilke deler av løgnen som appellerte til forskjellige typer mennesker. I sosiale medier kan en type desinformasjon som ikke appellerer til brukere erstattes med andre varianter. Dette gir påvirkningsoperasjoner i sosiale medier en selvforsterkende positiv tilbakemeldingsløkke som strømlinjeformer desinformasjonen. Individuelle innlegg fra desinformasjonskampanjer vil også kobles sammen med innlegg fra vanlige brukere som en del av denne løkken.

Hva betyr disse egenskapene for noen som sprer desinformasjon? Sosiale mediers globale direktelinje til enkeltindivider gjør at påvirkningsaktører kan gjemme sitt innhold i strømmen av ekte innlegg. Som Swift konstaterte, en løgn kan oppfattes som troverdig selv om den kun er synlig en kort tid. Påvirkere kan også manipulere populariteten til innlegg fra vanlige brukere med ytterliggående synspunkter som dermed fremstår som mer akseptable og vanlige. Gitt de lave kostnadene i tid, penger og mulighet for represalier kan motstandere velge å påvirke Norge i saker som uten sosiale medier ville krevd for store ressurser.

For et demokratisk land er langtidsbildet problematisk. Gitt at data lagres for alltid vil falske nyheter, innhold fra påvirkningsoperasjoner, ytterliggående innlegg og generell negativ informasjon om Norge akkumuleres. Algoritmene som velger matchende innhold kan bidra til å skape troverdige, negative narrativ om Norge. Over tid kan dette skape mer splid blant befolkningen og redusere tilliten som et demokrati er avhengig av for å fungere.

Anbefalt videre lesing:

FFI har nylig gitt ut en rapport som oppsummerer påvirkning i sosiale medier: https://www.ffi.no/publikasjoner/arkiv/pavirkningsoperasjoner-i-sosiale-medier-oversikt-og-utfordringer

En introduksjon til problemet med algoritmer og innholdsutvelgelse: https://www.nbcnews.com/tech/social-media/algorithms-take-over-youtube-s-recommendations-highlight-human-problem-n867596

NATOs Strategic Communications Centre of Excellence har jevnlige rapporter om automatiserte påvirkningsforsøk i sosiale medier, her er den nyeste: https://www.stratcomcoe.org/robotrolling-20203

En evaluering av kommunestyre- og fylkestingsvalget i 2019 og mulig utenlandsk påvirkning: https://www.sintef.no/prosjekter/utenlandsk-informasjonspavirkning-og-det-norske-kommunestyre-og-fylkestingsvalget-2019/