Facebook har den senaste tiden börjat agera hårdare mot inlägg som är hatiska eller kränkande. Nu förklarar de i ett långt inlägg hur de tänker kring svårigheterna att agera mot dessa inlägg på ett balanserat sätt.
Facebook har fått utstå mycket kritik för att de inte agerar hårdare mot inlägg som kan anses vara kränkande eller hatiska. Men det är inte så enkelt som att bara ta bort ett inlägg menar Richard Allen, Facebooks VP of EMEA, i ett långt blogginlägg på Facebooks Newsroom.
Det finns flera utmaningar kring att agera mot denna typ av inlägg menar han. Dels är det en svår uppgift att definiera vad som är hatiskt, i synnerhet på en global marknad. Vissa ord har flera betydelser på olika språk och då gäller det att förstå vad som är avsett att vara hatiskt, och vad som är något annat.
För att få ledtrådar går det till viss del att använda sig av kontexten som inlägget publiceras i. Men även det är svårt, då Facebook vill ge möjlighet att diskutera samhällsaktuella frågor, som i vissa fall kan vara känsliga. Ett exempel är invandringsfrågan, som blossat upp som en viktig fråga över hela världen. Att diskutera invandring och hur ett samhälle ska hantera dessa frågor är relevanta att diskutera, men gränsen kan ibland vara hårfin om inlägget är hatisk eller inte säger Allen.
Dessutom kan ett inlägg som vill belysa eller bemöta hatiska kommentarer innehålla utdrag ur andras hatiska inlägg. I det bryter texten i sig mot Facebooks regler, men sammanhanget gör att det snarare agerar mot hat och kränkningar, något som Facebook uppmuntrar.
Facebook medger att de gör misstag och ibland tar bort inlägg som borde fått vara kvar, och även friar vissa inlägg mot bakgrund av att det kan vara svårt att avgöra vad intentionen med inlägget är.
Men går det då inte att använda sig av AI? Inte i nuläget menar Allen. Att ta hänsyn till alla parametrar kring de bedömningar som görs är svårare än vad dagens datorer klarar av. Däremot använder sig Facebook av AI och maskininlärning för att hjälpa till att flagga upp inlägg som potentiellt kan vara hatiska, främst baserat på de ord som inlägget innehåller. Däremot måste sedan en människa bedöma just definition, kontext och intention hos den som skrivit inlägget.
Idag har Facebook 4.500 personer som jobbar med att rensa i flödena. De jobbar över hela världen, dygnet runt, på ett flertal olika språk, allt för att kunna göra en så snabb och korrekt bedömning som möjligt. De avser dessutom anställa ytterligare 3.000 personer under det kommande året för att förbättra hanteringen ytterligare. Redan idag tas i snitt 66.000 inlägg bort varje vecka. Men samtidigt rapporteras miljontals fler av Facebooks användare, så det är ett digert arbete att gå igenom och se vad som ska tas bort, och vad som får vara kvar.
Du kan läsa hela Richard Allens text här!
