Algoritmene er problemet

Stian Botnevik mener jeg bommer når jeg i Minerva fremhever skyggesidene ved sosiale medier, og at jeg undervurderer hvor mye befolkningen og demokratiet faktisk tåler.

La oss starte med en viktig presisering: Jeg har ikke på noe tidspunkt tatt til orde for en innskrenking av ytringsfriheten, eller at myndighetene skal ha en mening om hvilke meninger som er «riktige». Tvert om – forutsetningen for et velfungerende demokrati og en opplyst offentlig samtale, er nettopp at ulike meninger kan brytes mot hverandre.

Mitt innlegg var derfor ikke et angrep på alternativer til redaktørstyrte medier, ei heller har jeg tatt til orde for å sensurere folks meninger. Og det er kanskje her jeg språklig sett burde vært mer presis i bruken av ordene alternativ virkelighet. Det handler altså ikke om at folk har en ulike mening om politiske saker. Det er utelukkende positivt, og bringer den offentlige samtalen fremover.

Mitt anliggende var det motsatte – hvordan sosiale medier skaper ekkokamre og kaninhull der man nettopp presenteres for et sett med meninger og verdier, uten at man presenteres for det motsatte syn. Algoritmene er designet for å gjøre nettopp dette – å skape ekkokamre. Å sørge for at du får mer av det algoritmen tror du ønsker. Resultatet av dette er polarisering.

Dette kan i makroperspektiv se ut som om vi presenteres for flere meninger, som er bra for demokratiet. I et mikroperspektiv blir imidlertid effekten motsatt – du får bekreftet ditt verdenssyn og møter færre motforestillinger.

Dette er spesielt alvorlig dersom det kaninhullet du har falt ned i, er basert på konspirasjonsteorier eller målrettede påvirkningskampanjer. På det personlige plan kan det også være alvorlig dersom man for eksempel faller ned i kaninhull som omhandler overdrevent kroppsfokus eller eksperimentelle behandlingsmetoder mot alvorlige sykdommer.

Når PST varsler at barn i økende grad eksponeres for ekstrem islamisme på TikTok, er det et talende eksempel. Men det er ikke bare barn som utsettes for målrettede påvirkningskampanjer. Det gjør også voksne, og det skjer hver eneste dag. Kampanjenes formål er å bygge ned tilliten i vestlige samfunnet. 

Jeg mener det er naivt å tro at vi mennesker ikke lar oss påvirke av ensidig informasjon over tid. Det må jo være noe i det, når «alle» mener det samme? Problemet er at «alle» i disse tilfellene gjerne er russiske trollfabrikker, boter og falske kontorer. I økende grad er det også innhold generert av kunstig intelligens.

Jeg er helt enig med Botnevik at det beste er å møte folk med reelle argumenter, og han nevner vaksinemotstandere som et eksempel. Men i kampen mot algoritmene, så blir en svale ingen sommer. Selvsagt skal vi behandle hverandre som oppegående mennesker, ta hverandre seriøst og ha respekt for ulike meninger, slik Botnevik skriver. Mitt poeng er at algoritmene står i veien for nettopp den gode samtalen Botnevik og jeg er enige om at kjennetegner et konstruktivt offentlig ordskifte.  

Det er prisverdig å ha som ideal å ta til motmæle i sosiale medier, og ingenting hadde vært bedre enn om vår kritiske sans kunne avsløre KI, fake news og deep fakes. Men sannheten er at det er lettere sagt enn gjort, særlig når omfanget er så stort, teknologien blir stadig bedre og man fort føler seg ensom i møte med de alternative virkelighetene - på grunn av algoritmene, men også at den store majoriteten er taus.  

At folk endrer holdninger og verdier basert på reell meningsbrytning er grunnleggende positivt i et demokrati. Problemet er at algoritmene er designet for at meningsbrytningen ikke skal være reell. I tillegg premieres innlegg i den spisse enden av skalaen, og endrer dermed tonen i hvordan vi forholder oss til våre meningsmotstandere. Det forsterker en negativ spiral med økt polarisering.  

En politisk løsning må derfor starte med å stille krav til techselskapene om å endre, og være åpen om, hvordan algoritmene er satt opp, og følges opp med mer effektive tiltak mot desinformasjonskampanjer, falske kontoer og utenlandske trollfabrikker. Techselskapenes interesser er ikke sammenfallende med brukernes interesser, og derfor må politikerne sette rammene. Alternativet til at vi styrer teknologien, er at teknologien styrer oss.   

Mitt innlegg må ikke leses som et uttrykk for mistillit til befolkningen, slik Botnevik antyder, men mistillit mot hvordan algoritmene er designet.