Deepfake – Wikipedia

Exempel på en manipulerad deepfake med Vladimir Putin där det framstår som att han talar om det amerikanska valet.

Deepfake (eller deep fake eller djupfejk) är förfalskade videor, bilder eller ljud som genom maskininlärning kommit att bli så genomarbetade att de framstår som äkta.^[1]^[2]

Begreppet ”deepfake” började användas 2017 och kommer från orden "deep learning" i meningen "djup maskinlärning" och "fake" i meningen ”falsk”. Djup maskinlärning är avancerad artificiell intelligens (AI) där flera lager av maskininlärda algoritmer används för att kunna plocka ut indataegenskaper på hög avancerad nivå.^[3] Deepfakes kan med hjälp av maskininlärning på ett enkelt sätt låta personer i filmklipp få någon annans ansikte och röst med mycket trovärdigt resultat. De första filmerna med deepfakes som spreds på internet var porrfilmer där porrskådespelarens ansikte hade ersatts av med kändisars ansikten.^[2] Tekniken har bland annat kommit att användas av bedragare för att begå olika digitala brott^[3]^[4] och har använts inom politiken för att påverka genom att sprida manipulerade videor av politiker där de framför åsikter som de inte står för.

För att skapa en deepfake tränas en maskinmodell med bilder på ett ansikte. Det behövs mellan 500 och 1 000 bilder från olika vinklar för att kunna skapa en trovärdig kopia av ansiktet. En app som använder denna teknik är FakeApp. FakeApp är ett komplett Windows-program som har förfinats alltmer till ett lättarbetat gränssnitt för vem som helst att börja använda.^[3] För en någorlunda trovärdig röstförfalskning räcker det med ett ljudklipp på tre sekunder.^[4]

Bland de deepfakes som fått stor viral spridning finns bland annat en film som visar hur en manipulerad Barack Obama sågar sin efterträdare Donald Trump.^[5] Under Rysslands invasion av Ukraina 2022 spreds en deepfake på Ukrainas president Volodymyr Zelenskyj där en video manipulerats så det framstår som att han meddelar att Ukraina kapitulerar och uppmanar befolkningen att lägga ner sina vapen.^[6]

I september 2019 inleddes projektet Deep fake detection challenge, DFDC, med målet att utveckla program för att upptäcka deep fakes. Bakom projektet står bland annat Facebook, Microsoft och flera universitet och forskningsinstitut.^[1]

En svensk undersökning från Internetstiftelsen 2021 visade att 76 procent av alla svenska internetanvändare oroade sig över att inte kunna identifiera en deepfake, 11 procent kände mycket stor oro.^[7]

Se även

Källor

”Deepfakes är här – nu kan datorn förfalska ditt ansikte”. Internetstiftelsen. 13 september 2019. https://internetkunskap.se/artiklar/kallkritik/deepfakes-ar-har-nu-kan-datorn-forfalska-ditt-ansikte/. Läst 31 mars 2021.

Noter

^ [a b] ”Deep fake | IDG:s ordlista”. IT-ord. https://it-ord.idg.se/ord/deep-fake/. Läst 31 mars 2022.
^ [a b] ”Deepfakes är det läskigaste på nätet just nu – och ett tydligt exempel på riskerna med AI”. Computer Sweden. https://computersweden.idg.se/2.2683/1.696965/deepfakes-riskerna-med-ai. Läst 31 mars 2022.
^ [a b c] ”Vad är deepfake?” (på engelska). sakerhetskollen.se. https://sakerhetskollen.se/artiklar/vad-ar-deepfake. Läst 31 mars 2022.
^ [a b] Eve Upton-Clark. ”The terrifying new AI scam” (på amerikansk engelska). Business Insider. https://www.businessinsider.com/ai-voice-generator-phone-scam-imposter-crime-money-cash-2023-6. Läst 3 januari 2024.
^ ”Veckans nyord: deepfake”. Språktidningen. 6 maj 2018. https://spraktidningen.se/2018/05/veckans-nyord-deepfake/. Läst 31 mars 2022.
^ O'Brien, Ciara. ”Facebook removes Zelenskiy ‘deepfake’ video” (på engelska). The Irish Times. https://www.irishtimes.com/business/technology/facebook-removes-zelenskiy-deepfake-video-1.4829503. Läst 1 april 2022.
^ ”En tredjedel känner stor oro för deepfakes på nätet”. Svenskarna och internet 2021. Internetstiftelsen. https://svenskarnaochinternet.se/rapporter/svenskarna-och-internet-2021/digital-integritet-och-digital-kallkritik/en-tredjedel-kanner-stor-oro-for-deepfakes-pa-natet/. Läst 31 mars 2022.

Externa länkar

Wikimedia Commons har media som rör deepfake.

[:0-1] [a b] ”Deep fake | IDG:s ordlista”. IT-ord. https://it-ord.idg.se/ord/deep-fake/. Läst 31 mars 2022.

[:1-2] [a b] ”Deepfakes är det läskigaste på nätet just nu – och ett tydligt exempel på riskerna med AI”. Computer Sweden. https://computersweden.idg.se/2.2683/1.696965/deepfakes-riskerna-med-ai. Läst 31 mars 2022.

[:2-3] [a b c] ”Vad är deepfake?” (på engelska). sakerhetskollen.se. https://sakerhetskollen.se/artiklar/vad-ar-deepfake. Läst 31 mars 2022.

[BussinesIns-4] [a b] Eve Upton-Clark. ”The terrifying new AI scam” (på amerikansk engelska). Business Insider. https://www.businessinsider.com/ai-voice-generator-phone-scam-imposter-crime-money-cash-2023-6. Läst 3 januari 2024.

[5] ”Veckans nyord: deepfake”. Språktidningen. 6 maj 2018. https://spraktidningen.se/2018/05/veckans-nyord-deepfake/. Läst 31 mars 2022.

[6] O'Brien, Ciara. ”Facebook removes Zelenskiy ‘deepfake’ video” (på engelska). The Irish Times. https://www.irishtimes.com/business/technology/facebook-removes-zelenskiy-deepfake-video-1.4829503. Läst 1 april 2022.

[7] ”En tredjedel känner stor oro för deepfakes på nätet”. Svenskarna och internet 2021. Internetstiftelsen. https://svenskarnaochinternet.se/rapporter/svenskarna-och-internet-2021/digital-integritet-och-digital-kallkritik/en-tredjedel-kanner-stor-oro-for-deepfakes-pa-natet/. Läst 31 mars 2022.

[1]

[2]

[3]

[4]

[5]

[6]

[7]