Træt af at læse kommentarer, hvor kvinder bliver kaldt møgsæk? Philine har udviklet en teknologi, der selv kan fange dem

Man skal ikke scrolle langt i kommentarerne på sine sociale mediefeeds for at opleve, hvordan tonen er blevet hårdere.

"…Kællingen er da total blank," "Herregud hun er jo blondine", "Hvis kvinder skulle bygge huse boede vi stadigvæk i huler".

De ovenstående kommentarer er fundet efter blot to minutters læsning af kommentarsporet til et opslag på "Debattens" Facebook-side.

Den sidste kommentar optræder i kommentarsporet på feminas egen Facebook.

Når der skal luges ud i de hadefulde eller sexistiske kommentarer, er det for det meste rigtige mennesker, der modererer kommentarsporene på de sociale medieplatforme.

Det er et job, der kan påvirke moderatorernes mentale helbred. Sidste år indgik Facebook et forlig med moderatorer, der som følge af deres opgave med at identificere og censurere chikane og stødende indhold havde udviklet PTSD og svær angst.

Og det er hele grunden til, at vi bør tale om teknologi og moderation, siger Philine Zeinert, som er forskningsassistent ved datalogi på IT-Universitetet i København.

– Der bliver produceret så mange opslag og kommentarer hver dag og det er simpelthen ikke muligt for mennesker at læse dem alle igennem og evaluere dem, uden at det har en negativ effekt på dem, der modererer, siger hun.

Sammen med forskerne Leon Derczynski og Nanna Inie har hun undersøgt sexisme på sociale medier og udviklet et værktøj, der kan udpege sexistiske kommentarer og opslag.

Projektet hedder "Annotating Online Misogyny" og værktøjet er det første af sin slags på dansk.

Et værktøj til moderatorer

Philine Zeinert har en baggrund i sprogteknologi og hendes arbejde findes i krydsfeltet mellem kunstig intelligens og lingvistik.

Hun griner næsten opgivende til spørgsmålet om, hvordan det personligt har været for hende at bruge ti måneder på at læse sig igennem misogyne kommentarer.

– En pæn ting, jeg kan fortælle, er, at jeg personligt virkelig har udvidet mit danske ordforråd. I den forstand at jeg har lært ord som ”luderkarl”, ”lort” og andre nedsættende ord, som man ikke nødvendigvis hører i sit daglige liv, siger Philine Zeinert, hvis modersmål er tysk.

For at kunne kategorisere kvindehad på nettet har Philine Zeinert og de andre forskere bag projektet indsamlet titusindvis af opslag fra Facebook, Twitter og Reddit.

Sammen med et hold af kommentatorer, der har hjulpet med at klassificere dataene, har de undersøgt næsten 28.000 danske kommentarer. Ud af dem har de kategoriseret 7.500 kommentarer som hadefulde.

På baggrund af de kategoriserede hadefulde kommentarer har de trænet en computermodel til at kunne udpege hadefulde kommentarer.

Selvom teknologien for nu primært er et værktøj, der kan bruges til at undersøge kommentarer, ville den i praksis kunne benyttes som et hjælpeværktøj til folk, der arbejder med at moderere kommentarer og opslag på sociale medier.

I arbejdet med forskningsprojektet og det enorme datasæt af kommentarer oplevede Philine Zeinert også selv, hvor drænende det kan være at læse sig igennem flere tusinde hadefulde kommentarer.

– Der er en grænse for, hvor meget tid man kan bruge på at kigge på den type kommentarer, for det er ret deprimerende at læse igennem og svært at forblive objektiv imens, siger hun.

Neosexisme i de danske kommentarspor

Da Philine Zeinert indledte projektet, fandtes der kun en håndfuld lignende teknologier, der var baseret på datasæt på andre sprog end engelsk, og kun et projekt med et datasæt baseret på tre forskellige sprog: spansk, italiensk og engelsk.

For de tre forskellige sprog kan man se en forskel i, hvilken type sexisme der er mest udbredt i kommentarerne.

På spansk er sexistiske kommentarer præget af dominans, på italiensk er de sexistiske kommentarer i højere grad præget af stereotypisering og objektivisering.

Mens kommentarerne i det engelske datasæt i højere grad er præget af miskreditering og et forsøg på at få kvinder til at føle sig mindre værd.

Det fik hende til at overveje, om der var en sammenhæng mellem det lokale sprog og typen af sexistiske kommentarer på sociale medier.

I arbejdet med at kategorisere det danske datasæt fandt hun og de andre forskere en kategori af kvindehadske kommentarer, som ikke var påvist i de andre undersøgelser.

De fandt ud af, at neosexistiske kommentarer er den mest udbredte form for kvindehadske kommentarer online i projektets danske datasæt.

Neosexistiske kommentarer er i forskningsprojektet beskrevet som troen på, at kvinder allerede har opnået ligestilling, og at diskrimination af kvinder ikke findes.

– Neosexistiske kommentarer er ikke stereotypiserende a la ”kvinder hører til i køkkenet”, og handler heller ikke om at kvinder ”skal gå tilbage til, hvordan de plejede at være”. De handler mere om troen på, at vi allerede har nået ligestilling.

Håber på mere forskning

Philine Zeinert og resten af forskningsholdet offentliggjorde deres projekt i sommer og har siden modtaget en del reaktioner.

Langt størstedelen har ifølge Philine Zeinert været positiv feedback, men der var samtidig også ”livlige” diskussioner i kommentarsporet til artikler, som danske medier delte på Facebook.

– Min neutrale observation er, at det mest var kvinder, der delte artiklerne, mens der var flest mænd, der deltog i diskussionerne i kommentarsporene. Man kan i hvert fald sige, at nogle af kommentartyperne understregede emnets relevans.

For nogle er konsekvensen af den hårde tone, at de helt afholder sig fra at deltage. 68 procent af danskerne afholder sig helt fra at deltage i debatter og samtaler på sociale medier, netop fordi de synes tonen er for hård.

Et studie fra Plan International viser også, at mere end halvdelen af piger og unge kvinder har oplevet online krænkelser og chikane, som har fået dem til at reducere brugen af sociale medier.

– Det understreger, at det er et problem, som er værd at belyse, siger Philine Zeinert.

Philine Zeinert ser gerne, at der fremover bliver forsket mere inden for emnet og understreger, at teknologien skal ses som et værktøj til at undersøge omfanget af kvindehadske kommentarer og hjælpe med at udpege dem.

– Jeg håber, at vores projekt kan være et skridt på vejen til at have konstruktive diskussioner om, hvordan vi som samfund løser det her problem.

- Vi skal se teknologier som gode værktøjer til at anskue problemet, men samtidig forstå at teknologien ikke i sig selv kan løse problemet, siger Philine Zeinert.