Manipulerade videoklipp där kändisar och politiker säger saker de aldrig har sagt sprids allt oftare i sociala medier. Bakom dem ligger nästan alltid samma teknik: deepfakes. Men vad är deepfake egentligen, hur skapas en deepfake och hur farlig är tekniken? Här går vi igenom allt du behöver veta – och hur du skyddar dig.
Vad betyder deepfake?
Ordet deepfake är en sammansättning av “deep learning” (djupinlärning, en form av artificiell intelligens) och “fake” (falsk). En deepfake är alltså ett förfalskat medieinnehåll – oftast en video, bild eller ljudinspelning – som skapats eller manipulerats med hjälp av AI för att få en person att se ut eller låta som att de gör eller säger något de i verkligheten aldrig gjort.
Det som skiljer en deepfake från vanlig bildredigering är att resultatet ofta är mycket svårt att skilja från äkta material. AI:n lär sig hur en persons ansikte, mimik och röst fungerar och kan sedan återskapa det i helt nya sammanhang.
Så fungerar deepfake-tekniken
De flesta deepfakes bygger på maskininlärning och särskilt på så kallade neurala nätverk. En vanlig metod använder GAN (Generative Adversarial Networks), där två AI-modeller tränas mot varandra:
- Generatorn skapar falska bilder eller ljud.
- Diskriminatorn försöker avgöra om innehållet är äkta eller påhittat.
De två modellerna tävlar mot varandra om och om igen. Varje gång diskriminatorn avslöjar en förfalskning lär sig generatorn att bli bättre. Efter tillräckligt många omgångar blir de genererade bilderna så övertygande att de är svåra att avslöja – både för människor och för andra program.
För att skapa en trovärdig deepfake av en specifik person behöver AI:n träningsdata, alltså många bilder eller ljudklipp av personen. Just därför är offentliga personer med mycket material på nätet särskilt utsatta – men i takt med att tekniken blir bättre krävs allt mindre material.
Vanliga typer av deepfakes
Tekniken används på flera olika sätt, och alla är inte lika lätta att upptäcka:
- Videodeepfakes: Ett ansikte byts ut mot någon annans, eller en persons mimik styrs för att matcha ny dialog.
- Röstdeepfakes (voice cloning): AI härmar en persons röst utifrån korta ljudklipp. Detta används allt oftare i bedrägerier.
- Bilddeepfakes: Helt AI-genererade eller manipulerade stillbilder, till exempel falska “foton” av händelser som aldrig ägt rum.
Varför deepfakes är ett växande problem
När vem som helst kan skapa en övertygande förfalskning uppstår flera allvarliga risker. En av de vanligaste är deepfake-bedrägeri. Bedragare kan till exempel klona rösten på en chef eller anhörig och ringa upp för att lura offret att godkänna en betalning eller lämna ut känslig information. Samma teknik används i falska investeringsreklamer där kända profiler ser ut att rekommendera en tjänst de aldrig har hört talas om.
Utöver ekonomiska bedrägerier bidrar deepfakes till desinformation, förtal och manipulation av opinionen. Ett enda övertygande men falskt klipp kan spridas snabbt i sociala medier innan det hinner dementeras. På ett bredare plan riskerar tekniken att urholka tilliten till bild och video som bevis – om allt kan vara förfalskat blir det svårare att veta vad som är sant.
Hur känner man igen en deepfake?
Tekniken blir hela tiden bättre, men det finns fortfarande varningstecken att vara uppmärksam på:
- Onaturliga blinkningar, stel mimik eller ansiktsdrag som “glider” vid snabba rörelser.
- Skuggor, ljus eller hudton som inte stämmer överens med omgivningen.
- Läpprörelser som inte riktigt matchar ljudet.
- Röster som låter monotona, saknar andning eller har konstiga övergångar.
- Suddiga eller förvrängda detaljer vid hårfäste, öron, glasögon eller händer.
Det viktigaste tipset är dock källkritik: fråga dig var klippet kommer ifrån, om det publicerats av en trovärdig avsändare och om samma uppgift bekräftas på andra håll.
Så skyddar du dig mot deepfakes
Du kan minska risken att luras eller drabbas genom några enkla vanor:
- Verifiera oväntade förfrågningar. Om någon ringer och ber om pengar eller lösenord – lägg på och ring tillbaka på ett känt nummer.
- Lita inte blint på röst eller video. Att du känner igen rösten är inte längre ett bevis på att det verkligen är personen.
- Var återhållsam med vad du delar. Ju mindre bild- och ljudmaterial som är fritt tillgängligt, desto svårare blir det att skapa en deepfake av dig.
- Använd säkra rutiner. Kom överens om ett kodord i familjen eller på jobbet för att bekräfta känsliga ärenden.
- Anmäl och varna. Rapportera misstänkta deepfakes till plattformen och tipsa andra i din närhet.
Är deepfakes olagliga?
Att skapa en deepfake är inte i sig alltid olagligt – det beror på hur och i vilket syfte den används. När en deepfake används för bedrägeri, förtal, sexuellt kränkande material eller för att sprida desinformation kan den däremot omfattas av befintlig lagstiftning kring till exempel bedrägeri, förtal eller olaga integritetsintrång. Rättsläget utvecklas dessutom snabbt både i Sverige och inom EU. Detta är allmän information och inte juridisk rådgivning – vid ett konkret fall bör du vända dig till polisen eller en jurist.
Sammanfattning
Så, vad är deepfake? Kort sagt är det AI-genererat eller manipulerat innehåll som får personer att verka säga eller göra saker de aldrig gjort. Tekniken har legitima användningsområden inom film och underhållning, men den utnyttjas också för bedrägerier och desinformation. Genom att förstå hur en deepfake fungerar, lära dig känna igen varningstecknen och tillämpa sund källkritik står du betydligt bättre rustad i en tid då allt inte längre är vad det ser ut att vara.