Facebook oversvømmes af ”hate speech”

Facebook sletter et stigende antal indlæg, der indeholder hadtale – ”hate speech”. I de seneste år drejer det sig om mindst 1,5 millioner poster på det sociale medie. Det er en stigning på hele 60 pct.

Spørgsmålet er naturligvis, om Facebook indeholder mere hadtale end tidligere, eller om Facebooks filtre er blevet dygtigere til at finde og slette disse ubehagelige indlæg.

Facebook bruger “ægte” og “kunstig” intelligens til at spore hate speech. Avanceret software kan f.eks. identificere potentielt farlige tekster ud fra de anvendte ord og vendinger. Samtidig har Facebook ansat 15.000 mennesker til at fungere som “content moderators”. Det pæne ord for censorer.

Ikke desto mindre er det foruroligende, at antallet af poster med hadtale er steget så stærkt i de senere år. Antallet ligger langt over, hvor mange indlæg med ulovlige våben og narkotika Facebook også stopper.

Facebook hævder i dag, at man sletter næsten 100 procent af alle poster med terroristisk propaganda, grafisk vold, nøgenhed og børne-pornografi. Det samme gælder spam og falske konti, der sjældent når at blive offentlige, inden de bliver standset.

Når det gælder hate speech og salg af forbudte produkter, er Facebook stadig afhængig af sine brugeres advarsler og input. Men det sociale medie er også blevet mere pro-aktiv på den front end tidligere.

Generelt har Facebook været mest tilbageholdende med at slette indlæg, der indeholder mobning og personlig chikane. Kun 14 pct blev stoppet automatisk, inden de blev anmeldt af det sociale medies årvågne brugere.

Netop den automatiske opdagelse er en enorm udfordring for Facebooks computere, viser det sociale medies seneste ”Community Standards Enforcement Report”, der netop er offentliggjort.

Facebooks systemer med kunstig intelligens kan forholdsvis nemt identificere billeder, der viser vold eller nøgen hud. Systemerne er efterhånden også dygtige til at filtrere indlæg med åbenlys spam.

Så er det straks meget sværere at opdage hadtale, mobning og chikane, fordi de ofte er del af en større sammenhæng og kræver et erfarent menneskes forståelse for nuancer og kulturelt acceptable rammer….