Keymetrics

Är artificiell intelligens framtiden inom moderering?

Artificiell intelligens har gjort enorma framsteg de senaste åren, och gör vissa uppgifter lika bra, eller faktiskt bättre, än vi människor. Men kan AI ersätta den mänskliga intelligensen när det handlar om moderering av innehåll på nätet? Inte på långa vägar, hävdar vi.

Att det är viktigt att moderera sitt innehåll på nätet är inget nytt. Företag som i dagsläget inte har någon strategi för detta måste tänka om.

Automatiskt moderering som är uppbyggd på artificiell intelligens kan till viss del vara mycket användbar. Den lär sig snabbt känna igen ord och uttryck som är stötande eller bilder som innehåller olagligt eller olämpligt innehåll. I dagens digitala värld är det dessutom svårt att hinna övervaka alla bilder och kommentarer som laddas upp på nätet. Här kan en automatiskt modereringstjänst var väl till användning.

Men kan moderering som drivs av AI ersätta den mänskliga intelligensen? Nej hävdar vi bestämt. Visst kan man lära AI:n att hitta och ta bort de ord och fraser som är rasistiska, stötande, kränkande eller på annat sätt olämpligt. Men världen vi lever i och språket vi använder förändras konstant. I takt med förändringen ändras också vad vi anser vara ett accepterbart beteende.

I nuläget finns det ingen AI som kan ersätta en faktisk människa. Visst, den kan ta sig an vårt rutinmässiga jobb och hitta utvalda ord och fraser snabbare, men den kan ännu inte alltid förstå innebörden. Många ord betyder helt olika saker beroende på vilket sammanhang de används i. En AI kan heller inte förstå sarkasm eller upptäcka subtila förändringar, som en människa kan. Kommentaren ”jag blir så lycklig när jag läser sådana här texter” är en härlig kommentar till en bokrecension men inte till en bussolycka i Peru med 63 döda.

Två bra exempel är Facebook och Google som båda använder AI för att filtrera olämpligt innehåll från oss användare. Men trots deras avancerade teknik som utvecklats under flera år måste de bemanna med tusentals personer som jobbar dygnet runt med att ta bort olämpligt innehåll där AI:n misslyckats.

Ett annat exempel är sökmotorn Bing som nyligen publicerade sexuella bilder på minderåriga. Microsoft, som äger Bing, fick bekosta en dyr PR-kampanj för att försöka rädda sitt varumärke.

En modereringstjänst som drivs av AI kan vara ett bra tillägg, men för att säkerställa ett lyckat resultat behövs den mänskliga intelligensen och erfarenheten. Eller vad tror du?

Anders Gyllén, Interaktiv Säkerhet

På Dagensanalys.se skriver vi för alla som jobbar med digitala medier och digital marknadsföring. Vi plockar upp trender, skriver om nyheter och delar våra tips och idéer. Häng med genom att läsa Dagensanalys.se!

RELATERADE NYHEER
”Utmaningar och förändringarna i mediebranschen syns vara universella”