Deepfake – ett helt nytt vapen?

Deepfake – ett helt nytt vapen?

Vad händer när vi inte längre kan lita på att rösten vi hör tillhör den vi tror - eller att den alls kommer från en människa? När AI kan fejka allt från statsministerns till bästa kompisens eller Marilyn Monroes röst. Deepfake används redan idag som underhållning, men också bedrägerier och fake news. Så, är det ett världsomstörtande vapen, eller är deepfake-rädslan överdriven?

Vad är deepfake?

Ordet “deepfake” kommer från en sammanslagning av “fake” och “deep learning”. Det är nämligen med så kallad deep learning som mjukvara lär sig att fejka- i det här fallet någons röst. Systemet matas med en drös ljudklipp tills det kan urskilja mönster ifråga om tonläge, uttal, “melodi” och allt annat som gör en röst igenkännbar. Då kan den producera en trovärdig imitation.

Porr, satir och krigsvapen – exempel från verkligheten
CUT

Det område många direkt tänker på med fasa när deepfakes kommer på tal är politiken. Vad händer när man på teknisk väg kan få presidenter och statsministrar att “säga” vad som helst – särskilt under krigstider?

I mars 2023 skedde just detta, i form av ett klipp där Ukrainas president till synes förklarade läget hopplöst för den ukrainska sidan, och att det var lika bra att ge upp. Dock avslöjades det snabbt att klippet var fejkat, och av en enkel anledning – budskapet var helt enkelt alltför osannolikt. Tänk om om man istället bara rör sig lite från sanningen istället?

Att porr är det i särklass största användningsområdet för deepfakes (över nittio procent av alla deepfakes på internet är pornografiska, enligt en undersökning från 2019) överraskar väl ingen. Gal Gadot och Scarlett Johansson är två kändisar vars röster och ansikten “deepfejkats” in i porrfilmer. Där är syftet väl solklart, men även en kvinnlig journalist har blivit föremål för deepfake-porr – då i syfte att tysta ner och skrämma.

Bedragare har också hittat en guldgruva i deepfake. Folk som utger sig för att vara utländska prinsar (en av de mest ökända sortens scam) har vi lärt oss ignorera, men tänk om det istället är mammas eller bästisens röst på andra sidan luren? Eller om bedragaren “deepfejkar” någon vi litar på, som i ett fall från sommaren 2023 då den ekonomiska rådgivaren Martin Lewis såg en datorgenererad version av sig själv rekommendera ett så kallat investment scam i ett videoklipp på internet.

Positivt med deepfake?

Okej, så finns det något positivt med deepfake, eller är det bara doom and gloom? Jo, först och främst kan ju tekniken användas för komisk effekt, både i form av träffsäker satir och att få kändisar och politiker att säga bisarra grejer bara för skojs skull. Och inom filmindustrin kan deepfakes bli ett användbart komplement till diverse specialeffekter. Andra exempel där deepfake kan användas är i text-till-tal-mjukvara och digitala assistenter.

Sedan finns sådant som är mer i gråzonen, som när det gäller bortgångna personer. Med deepfake  skulle du kunna få höra en gammal släktings röst igen, eller få en avliden sångare att “sjunga” sina outgivna låtar. Hjärtevärmande eller dystopiskt, hedrande eller respektlöst? Vad tycker du?

Bör vi oroa oss…?

Med deepfakes är det svårare än någonsin att skilja fakta från fiktion, men samtidigt är “fake news” långt ifrån nytt. Som alltid gäller det alltså först och främst att vara källkritisk, och inte blint tro på allt du hör. Men just det, menar många, är en fara i sig – att vi blir så cyniska att vi istället inte kan tro på nånting! Och för den som vill komma undan med allt från ett klantigt uttalande till ett faktiskt brott blir i sin tur deepfakes den perfekta syndabocken…

Men vänta, det finns ytterligare en dimension i frågan! Enligt Martin Fällman, som ansvarar för digital säkerhet hos Civil Rights Defender, är rädslan för deepfakes det allra farligaste. Alltså, narrativet om de perfekta förfalskningarna som kan få gemene man att tro på vad som helst. Men riktigt där är tekniken ännu inte, och riktigt så naiva är vi inte – ta bara exemplet med Ukrainas president. Dessutom utvecklas ständigt program i syfte att avslöja deepfakes.

Som vi sett kan deepfake användas i kränkande syfte och av bedragare. Dessutom väcker det frågan huruvida det är okej att på digital väg kunna “sno” någons röst eller utseende? Det är detta den stora Hollywood-skådis strejeken handlar om. Men på samhällsnivå kan deepfakes i nuläget jämföras med exempelvis förfalskade citat eller fotomanipulation, snarare än det världsomstörtande propagandavapen vissa föreställer sig.

Så avslöjar du en deepfake  

  • Först och främst, lyssna noga på rösten i sig: låter den naturlig, eller robotaktig? Konstiga uttal eller betoningar av ord?
  • Förekommer brusande eller andra udda bakgrundsljud?
  • Om det är ett videoklipp: följer munrörelserna orden?
You Might Like
You Might Like
You Might Like
You Might Like
You Might Like
You Might Like
You Might Like
You Might Like
You Might Like
You Might Like

Pandemins ekonomiska arv: En ny ekonomisk era tar form

Blåkulla: Från mörk magi till Påskglädje

Påsk: En tid för genomblöta brudar och flygande klockor

Be Our Lover

Be Our Lover

Join the club
Trending
Trending
Trending
Trending
Trending
Trending
Trending
Trending
Trending
Trending
rainbow
Pop (T)arts

Kan robot vara lösningen på konststöld?

Med sju axlar, en diamantspets och förmågan att hugga skulpturer i marmor är stenhuggarroboten Robotor inte bara en teknisk bedrift. Möjligheten att replikera gamla mästerverk och återskapa förlorade skulpturer ger...

Ka-ching!

5 tips för en grym hiss-pitch

Einstein lär ha sagt att om du inte kan förklara något för din mormor så förstår du det inte själv. Mannen som en gång myntade relativitetsteorin tryckte på vikten av...

Well-yes

4 vanliga hälsomyter: fakta – eller ursäkt?

Att skilja myt från sanning är svårt, särskilt när vi hört vissa av dem sedan barnsben. Men även om många hälsomyter ofta inte berättar hela sanningen, är det inte ovanligt...

Well-yes

Tvåsamhet – hur monogama är vi egentligen?

Med handen på hjärtat - har du verkligen aldrig sneglat lite extra på någon annan, trots att du är i ett förhållande? Har du till och med gått längre än...

Ka-ching!

Washing – företag försöker framstå som bättre än de är!

Pinkwashing, greenwashing …. är vi konsumenter mer medvetna om vilka val vi gör idag? Det finns mycket som tyder på det. Många är måna om att välja produkter från varumärken...

Bubbles

Här är byn med 587 slott – som står helt tomma

Det var en gång… en storslagen plan om en sagolik by med över 700 slott designade á la Disney. På landsbygden i Turkiet finns idag mycket riktigt också en by...

Sci-hi

Mount Everest – en begravningsplats på världens topp

När toppen på Mount Everest bestegs för första gången 1953 var det en bedrift många drömt om – både innan och efter. Men över 300 personer har mist sina liv...

Bubbles

Sant eller falskt: Titanic

Vad är sant och falskt i Titanic? Spelade skeppets orkester verkligen to the bitter end? Bröts skeppet itu innan det sjönk? Hade en fattig konstnär och en överklassflicka en romans...

Prenumerera

Bli medlem och få tillgång till alla artiklar

Join Now