Återkommande blossar debatten upp: kreatörer vittnar om att bilder på vissa kroppar plötsligt får dramatiskt mindre räckvidd, tas bort eller döljs från rekommendationsflöden. Frågan om hur plattformar modererar kroppar är både en rättvisefråga och en högst praktisk fråga för alla som publicerar.
Två system som ofta blandas ihop
För att förstå debatten behöver man skilja på två saker. Det ena är innehållsreglerna – vad som är tillåtet att publicera över huvud taget. Det andra är rekommendationsreglerna – vad plattformen är villig att aktivt sprida till människor som inte redan följer dig.
Det är i det andra systemet de flesta upplevda orättvisorna uppstår. Innehåll kan vara fullt tillåtet men ändå klassas som ”olämpligt för rekommendation”, vilket i praktiken innebär att det bara når befintliga följare. Kreatören ser ingen varning, ingen anmälan och ingen möjlighet att överklaga – bara att siffrorna rasar. Det är den upplevelsen som brukar kallas skuggbanning.
”Det värsta med osynlig nedprioritering är inte att den sker. Det är att du inte kan veta om den har skett – och därför inte kan göra något åt den.”
Varför utfallet blir ojämnt
Modereringen görs i huvudsak av maskininlärningsmodeller som tränats på märkt material. Om träningsdatan speglar en viss norm för vad som räknas som ”utmanande” kommer modellen att reproducera den normen i stor skala och med hög hastighet.
Resultatet har återkommande beskrivits som att samma typ av bild bedöms olika beroende på vems kropp som syns. Det är sällan uttryckt i regelverket – reglerna är formulerade neutralt. Skevheten uppstår i tillämpningen, och den är svår att upptäcka utan systematisk granskning utifrån.
Det drabbar särskilt kreatörer inom mode, träning, kroppspositivitet och hälsa – och det drabbar dem ekonomiskt, eftersom räckvidd är deras inkomstunderlag.
Vad som har förändrats
Trycket har gett vissa resultat. Plattformarna har infört kontopanel där du kan se om ditt innehåll är begränsat för rekommendation, tydligare besked vid nedtagning och möjlighet att begära omprövning. EU:s regelverk för digitala tjänster har dessutom skärpt kraven på motivering vid moderering och på att beslut ska gå att överklaga.
Det löser inte den underliggande skevheten i modellerna, men det gör den åtminstone synlig – och synlighet är förutsättningen för att kunna hävda sin rätt.
Praktiska råd för dig som publicerar
- Kontrollera din kontostatus regelbundet. Funktionen finns numera i appen och visar om ditt innehåll är begränsat.
- Dokumentera. Skärmdumpar på räckvidd före och efter är det enda underlag du har om du vill driva frågan.
- Begär omprövning varje gång. Automatiska beslut ändras oftare än de flesta tror när en människa faktiskt tittar.
- Sluta lita på en enda kanal. Det starkaste skyddet mot en oförutsägbar algoritm är en publik du når direkt – nyhetsbrev, egen sajt, podd.
- Läs de faktiska riktlinjerna, inte andrahandsuppgifter i kommentarsfält. Mycket av det som sprids som sanning om algoritmen är gissningar.
Den större frågan kvarstår. När ett fåtal företag i praktiken avgör vilka kroppar som får synas i det offentliga samtalet är det inte längre en fråga om användarvillkor. Det är en fråga om vem som sätter normen – och om den som drabbas har någonstans att vända sig.
