Vad är deepfake?

Ordet “deepfake” kommer från en sammanslagning av “fake” och “deep learning”. Det är nämligen med så kallad deep learning som mjukvara lär sig att fejka- i det här fallet någons röst. Systemet matas med en drös ljudklipp tills det kan urskilja mönster ifråga om tonläge, uttal, “melodi” och allt annat som gör en röst igenkännbar. Då kan den producera en trovärdig imitation.

Porr, satir och krigsvapen – exempel från verkligheten

Det område många direkt tänker på med fasa när deepfakes kommer på tal är politiken. Vad händer när man på teknisk väg kan få presidenter och statsministrar att “säga” vad som helst – särskilt under krigstider?

I mars 2023 skedde just detta, i form av ett klipp där Ukrainas president till synes förklarade läget hopplöst för den ukrainska sidan, och att det var lika bra att ge upp. Dock avslöjades det snabbt att klippet var fejkat, och av en enkel anledning – budskapet var helt enkelt alltför osannolikt. Tänk om om man istället bara rör sig lite från sanningen istället?

Att porr är det i särklass största användningsområdet för deepfakes (över nittio procent av alla deepfakes på internet är pornografiska, enligt en undersökning från 2019) överraskar väl ingen. Gal Gadot och Scarlett Johansson är två kändisar vars röster och ansikten “deepfejkats” in i porrfilmer. Där är syftet väl solklart, men även en kvinnlig journalist har blivit föremål för deepfake-porr – då i syfte att tysta ner och skrämma.

Bedragare har också hittat en guldgruva i deepfake. Folk som utger sig för att vara utländska prinsar (en av de mest ökända sortens scam) har vi lärt oss ignorera, men tänk om det istället är mammas eller bästisens röst på andra sidan luren? Eller om bedragaren “deepfejkar” någon vi litar på, som i ett fall från sommaren 2023 då den ekonomiska rådgivaren Martin Lewis såg en datorgenererad version av sig själv rekommendera ett så kallat investment scam i ett videoklipp på internet.

Positivt med deepfake?

Okej, så finns det något positivt med deepfake, eller är det bara doom and gloom? Jo, först och främst kan ju tekniken användas för komisk effekt, både i form av träffsäker satir och att få kändisar och politiker att säga bisarra grejer bara för skojs skull. Och inom filmindustrin kan deepfakes bli ett användbart komplement till diverse specialeffekter. Andra exempel där deepfake kan användas är i text-till-tal-mjukvara och digitala assistenter.

Sedan finns sådant som är mer i gråzonen, som när det gäller bortgångna personer. Med deepfake  skulle du kunna få höra en gammal släktings röst igen, eller få en avliden sångare att “sjunga” sina outgivna låtar. Hjärtevärmande eller dystopiskt, hedrande eller respektlöst? Vad tycker du?

Bör vi oroa oss…?

Med deepfakes är det svårare än någonsin att skilja fakta från fiktion, men samtidigt är “fake news” långt ifrån nytt. Som alltid gäller det alltså först och främst att vara källkritisk, och inte blint tro på allt du hör. Men just det, menar många, är en fara i sig – att vi blir så cyniska att vi istället inte kan tro på nånting! Och för den som vill komma undan med allt från ett klantigt uttalande till ett faktiskt brott blir i sin tur deepfakes den perfekta syndabocken…

Men vänta, det finns ytterligare en dimension i frågan! Enligt Martin Fällman, som ansvarar för digital säkerhet hos Civil Rights Defender, är rädslan för deepfakes det allra farligaste. Alltså, narrativet om de perfekta förfalskningarna som kan få gemene man att tro på vad som helst. Men riktigt där är tekniken ännu inte, och riktigt så naiva är vi inte – ta bara exemplet med Ukrainas president. Dessutom utvecklas ständigt program i syfte att avslöja deepfakes.

Som vi sett kan deepfake användas i kränkande syfte och av bedragare. Dessutom väcker det frågan huruvida det är okej att på digital väg kunna “sno” någons röst eller utseende? Det är detta den stora Hollywood-skådis strejeken handlar om. Men på samhällsnivå kan deepfakes i nuläget jämföras med exempelvis förfalskade citat eller fotomanipulation, snarare än det världsomstörtande propagandavapen vissa föreställer sig.

Så avslöjar du en deepfake  

• Först och främst, lyssna noga på rösten i sig: låter den naturlig, eller robotaktig? Konstiga uttal eller betoningar av ord?
• Förekommer brusande eller andra udda bakgrundsljud?
• Om det är ett videoklipp: följer munrörelserna orden?