Googles hær mod had skal fjerne højreekstremisme og skille sandt fra falskt

Google har indsat over 10.000 hemmelige kvalitetstjekkere i kampen mod fake news, misinformation og had. Det er et positivt skridt, mener kilder, men det øger risikoen for, at vi bliver præsenteret for et bestemt verdensbillede i en tid, der er præget af kaos og dyb uenighed mellem højre og venstre. Facebook og Apple er nu også gået ind i kampen mod had.

Du er logget ind

Din profil kan bruges på Berlingske.dk, Business.dk og bt.dk, der alle er en del af Berlingske Media. Du kan altid logge ud eller opdatere dine oplysninger ved at klikke på dit profilnavn.

Spredt over verden sidder 10.000 mennesker, der som anonyme, digitale skygger i det skjulte bruger deres år på at kvalitetsteste Googles søgeresultater. De er sjældent direkte ansat af Google, men tilknyttet underleverandører som løsarbejdere med en helt særlig opgave.

De er algoritmens frontløbere. Deres arbejde er med til at danne det verdensbillede, der toner frem, når vi søger.

Hidtil har de mest ryddet op. Fjernet uhensigtsmæssigt placerede annoncer eller registreret sider, der forsøger at snyde algoritmen.

Men henover sommeren har de fået en ny opgave. I et forsøg på at bekæmpe fake news, misinformation og had, har Google opdateret kvalitetstjekkernes retningslinjer. Nu skal de rydde op i hvad der er sandt eller falsk, had eller modargument, coverup eller konspirationsteori. Konkret skal de kategorisere sider der indeholder misinformation, konspirationsteorier præsenteret som fakta, stødende eller hadefuldt indhold og indhold i strid med for eksempel etableret lægevidenskab, som »offensive« eller »low quality«. Googles ingeniører vil så tage stilling til, om de vurderinger kan bruges som eksempler til at fintune algoritmen, så den selv kan genkende tegnene på uønsket indhold, der skal gemmes langt nede i søgeresultaterne.

Googles servere arbejder altid på at bringe os et udsnit af verdens information, her i Pryor, Oklahoma.
Googles servere arbejder altid på at bringe os et udsnit af verdens information, her i Pryor, Oklahoma.

Det er et forsøg på at skabe orden i en verden, der er kastet ud i en altomfattende kulturkamp mellem venstre- og højrefløjen, fordi midten, den udbredte enighed, er væk.

Spørgsmålet er hvilken orden?

Henrik Jøker Bjerre, der er lektor i filosofi ved Aalborg Universitet finder svaret i et signalement af tiden. Han mener, at den fornemmelse af en objektiv fælles virkelighed, som vi havde indtil for ganske kort tid siden er helt væk. Postfaktualitet og fake news er istedet ved at tvinge os til at erkende, at virkeligheden altid har været redigeret.

»Grunden til, at der opstår en konflikt nu, er fordi det på den ene side er blevet klart, at ingen har adgang til at beskrive virkeligheden som den objektivt er i sig selv, selvom det for mange stadig er et ideal, som de måske endda selv mener at leve op til. Risikoen ved troen på én sand version af virkeligheden er, at man kommer til at afvise ting, fordi man påstår allerede at vide, hvad der er objektivt sandt,« siger han.

Konsekvensen af den tro er tabt neutralitet og netop nu, mens disse linjer skrives, er Google, Apple og Facebook aktivt begyndt at fjerne det de betragter som højreekstremistisk indhold fra deres tjenester.

Dybt i algoritmerne

Google er paradosalt nok selv involveret i et af de seneste eksempler på verdens opbrud. De blev midtpunkt for en uforsonlig konflikt om, hvad der er sandt og falsk, da de fyrede ingeniøren James Damore for med afsæt i regulær forskning at fremføre det som Google mente objektivt var »forkerte antagelser om køn« og »sårende kønsstereotyper«. Andre fordømte ham som højreekstremistisk stenaldermand og ny-nazist, mens Google blev beskyldt for at tryne valid forskning. Amerikanske Ezra Klein fra Vox Media spekulerede efterfølgende på, hvorfor det førte til så voldsom ideologisk opstandelse. Han indså, at opstandelsen viser, at vi faktisk er klar over i hvor høj grad, Google dominerer vores liv med deres søgealgoritmer, Youtube og Androidmobiler. Vi lever kort sagt på Google Earth.

»Bag opstandelsen over notatet er vores ængstelighed over den ukontrollerbare, uigennemsigtige magt Google har over vores liv. Hvis Google – og techverdenen generelt – er sexistiske, eller er fanget i en totalitær kult af politisk korrekthed eller er et hemmeligt arnested for alt-right reaktionære, så har det vidtgående konsekvenser for vores verden. Problemet er, at tech industriens synspunkter og biases altid vil eksistere dybt i algoritmerne.«

De biases kan med kvalitetstjekkernes nye opgave få endnu større indflydelse på den verdensopfattelse, vi får af den information Google finder.

I en skriftlig kommentar til denne artikel gør Google opmærksom på, at de er åbne om, hvordan Google Search fungerer, lægger retningslinjerne for deres kvalitetstjekkere offentligt frem og at vurderingerne ikke direkte påvirker søgeresultat:

»Vores søgekvalitetstjekkere har ikke direkte indflydelse på rangeringen af søgeresultaterne, men hjælper os med at benchmarke og forbedre kvaliteten af vores søgeresultater, så brugere over hele verden kan finde den information, de leder efter.«

Tidligere i år bekræftede en af Googles fremtrædende ingeniører, hvor stor betydning kvalitetstjekkerne har for Googles algoritmer til sitet SearchEngineLand.

For lektor på RUC i programmering, logik og intelligente systemer Troels Andreasen, der hilser initiativet mod fake news velkomment, er der ingen tvivl om, at det overordnede mål er at justere algoritmerne. Kvalitetstjekkerne er så at sige algoritmens følehorn, der registrer den verden, algoritmen skal tilpasse sig.

»Jeg kan ikke forestille mig andet end, at Googles ambition er, at bruge kvalitetsvurderingerne som eksempler, der kan 'lære' algoritmerne, hvordan de skal estimere indhold på nettet,« siger han og opfordrer til repræsentative kvalitetstjekkere og gennemsigtighed, fordi algoritmerne risikerer at blive partiske..

Der er kun sparsom forskning i kvalitetstjekkernes vilkår, men tidligere i år stod nogle få anonymt frem hos it-sitet Ars Technica, De fortalte, at de typisk arbejde alene hjemme og har frustrende kort tid til at løse de forskellige opgaver.

Den sande konspiration

Mens det i nogen grad er nemt at vurdere snydesider og absurde fake news historier, så befinder mange af de nye opgaver sig i gråzoner. Google bruger Holocaust fornægtelse som eksempel på en konspirationsteori, der bliver præsenteret som fakta, og derfor skal vurderes som laveste kvalitet og dukke op langt nede i søgeresultatern.. Men andre konspirationsteorier kan være sværere at afvise lige så entydigt. For eksempel viste Edward Snowdens afsløringer, at konspirationsteorien om, at NSA stod bag et globalt overvågningsnetværk faktisk var sand. Mange analytikere mener, at de afsløringer sammen med finanskrise, vestens mislykkede krige, terrorhelvedet og tabt tro på demokrati som universel styreform har ført til en generel autoritetskrise, der udfordrer troen på den autoritative sandhed indenfor alt fra medicin til folkeskole.

Højrefløjen kritiserer de organisationer der er sat til at moderere Youtube.
Højrefløjen kritiserer de organisationer der er sat til at moderere Youtube.

Rikke Frank Jørgensen fra Institut fra Menneskerettigheder er også glad for at Google forholder sig til Fake News ved at forbedre deres algoritmer, men hun har samme betænkelighed som de øvrige kilder.

»Det understreger også den store magt Google har i forhold til at designe kriterier for hvilken information brugere præsenteres for og hvilken der dømmes usynlig eller nedprioriteres i søge-algoritmerne,« siger Rikke Frank Jørgensen.

Sidste weekends fatale opgør mellem venstre- og højrefløjen i Charlottesville og præsident Trumps følgende reaktion viser, at USA, hvor store dele af vores information kommer fra, er et land i afgrundsdyb splittelse. Den venstreorienterede feminist og forsker Angela Nagle satte for nylig ord på dybet til Berlingske i et interview om hendes nye bog »Kill All Normies« om den amerikanske alt-right og alt-left:

»Folk er nu gået så dybt ind i deres egne små filterbobler, at de simpelthen ikke længere kan relatere til dem, der ikke tænker som dem selv.«

I stedet dehumaniserer de deres modstandere til had.

Demonstranter mod Trump og for solidaritet med ofrene fra Charlottesville.
Demonstranter mod Trump og for solidaritet med ofrene fra Charlottesville.

Hvad er had?

Det had skal kvalitetstjekkerne finde en sandhed i. De skal markere sider der spreder had mod bestemte grupper som »offensive«. Men man skal ikke gå mere end to skridt ind i ligestillings, ytringsfriheds og flygtningedebatten, før man opdager, at modparten konsekvent bliver beskyldt for at sprede had mod særgrupper.

Google opfordrer kvalitetstjekkerne til at vurdere selv eller krydstjekke hos en række organisationer som de også samarbejder med i kategorisering af indhold på Youtube. Men den amerikanske højrefløj beskylder de organisationer for ikke at være neutrale, men at have et venstreorienteret verdensbillede. Det viser, at det er svært for Googles kvalitetstjekkere at læne sig op af det dominerende verdensbillede, som vi for få år siden troede, der var nogenlunde konsensus om.

»Det er klart, at vi bliver nødt til at reagere på Fake News. Men det kræver tre trin. For det første må vi og Google erkende, at forestillingen om én objektiv uredigeret virkelighed simpelthen er falsk,« siger Henrik Jøker Bjerre.

»Men det betyder ikke, at alt er lige godt,« fortsætter han, og »derfor må nogen tage ansvaret for at sortere og vurdere, hvad der er den bedst mulige beskrivelse ud fra nogle ideelt set gennemsigtige kriterier.«

I sidste ende er det helt afgørende, at vi er klar over, at den virkelighed vi bliver præsenteret for er redigeret.

»Herunder også om den er redigeret ud fra ønsket om at være den mest præcise beskrivelse af virkeligheden, vi kan få, eller om det er den mest etisk korrekte virkelighed, hvor alt det onde og beskidte er siet fra,« siger Henrik Jøker Bjerre.

Det er gennem den kompleksitet Googles kvalitetstjekkere skal navigere sig frem til en eller anden version af verden, som algoritmerne kan præsentere for os.

Vi kan se, at du har installeret en adblocker, så vi ikke kan vise dig annoncer.

Det er vi kede af, fordi indtægter fra annoncer er en helt afgørende årsag til, at vi dagligt kan tilbyde dig journalistik af høj kvalitet.

For få adgang til indhold på Berlingske.dk skal du tillade visning af annoncer på Berlingske.dk. Se hvordan du gør her..

Tak for din forståelse.

Hov! Hvor blev min artikel af..!?

Du er træt af reklamer. Vi ved det godt! Men de betaler for den artikel, du sidder og læser. Vi vil derfor sætte stor pris på, at du tilføjer Berlingske.dk til din adblocker's "whiteliste".

Tak for din forståelse.