Tom Cruise-dypfake-skaper sier at publikum ikke bør være bekymret for 'ett-klikk-falsker'

Uker av arbeid og en topp etterligner var nødvendig for å lage virale klipp

Vil du se et magisk triks? Tom Cruise-etterligneren Miles Fisher (til venstre) og den dype falske Tom Cruise opprettet av Chris Ume (til høyre).



Bilde: Chris Ume

Når en serie med uhyggelig overbevisende Tom Cruise dypfakesble viral på TikTok, noen foreslo at det var et kjølig tegn på ting som skulle komme - forkynner av en æra der AI lar noen lage falske videoer av noen andre. Skaperen av videoen er imidlertid Belgias VFX-spesialistChris Ume, sier dette er langt fra tilfelle. Snakker tilThe Vergeom sine virale klipp, Ume understreker hvor mye tid og krefter som gikk med til å lage hver dypfake, samt viktigheten av å jobbe med en topp-flyktning fra Tom Cruise, Miles Fisher.



Du kan ikke gjøre det ved bare å trykke på en knapp, sier Ume. Det er viktig, det er en melding jeg vil fortelle folk. Hvert klipp tok ukers arbeid, sier han, ved hjelp av DeepFaceLab-algoritmen med åpen kildekode, samt etablerte videoredigeringsverktøy. Ved å kombinere tradisjonell CGI og VFX med deepfakes, gjør det det bedre. Jeg sørger for at du ikke ser noen av feilene.

Ume har jobbet med deepfakes i årevis, inkludert å skape effekter forSassy Justice-serienlaget avSør Park’STrey Parker og Matt Stone. Han begynte å jobbe på Cruise da han så en video av Fisher som kunngjorde enfiktivt løp for presidentav Hollywood-stjernen. Paret jobbet deretter sammen på enfølge oppog bestemte oss for å legge en serie ufarlige klipp opp på TikTok. Deres konto,deeptomcruise, samlet raskt titusenvis av følgere og likes. Ume trakk videoene kort, men restaurerte dem deretter.



Det har oppfylt formålet, sier han om kontoen. Vi hadde det gøy. Jeg skapte bevissthet. Jeg viste ferdighetene mine. Vi fikk folk til å smile. Og det er det, prosjektet er ferdig. En talsperson fra TikTok fortalteThe Vergeat kontoen var godt innenfor reglene for parodibruk av deepfakes, og Ume bemerker at Cruise - theekteTom Cruise - har siden laget sin egen offisielle konto, kanskje som et resultat av å se at hans AI-doppelgänger ble viral.

varner media

Deepfake-teknologi har utviklet seg i mange år nå, og det er ingen tvil om at resultatene blir mer realistiske og enklere å lage. Selv om det har vært mye spekulasjoner om potensiell skade slik teknologi kan forårsake i politikken, har disse effektene hittil vært relativt ikke-eksisterende. Der teknologien definitivt forårsaker skade, er det iopprettelse av hevnpornoeller ikke-konsensuell pornografi av kvinner. I slike tilfeller trenger ikke falske videoer eller bilder å være realistiske for å skape enorm skade. Bare å true noen med utgivelsen av falske bilder, eller skape rykter om eksistensen av slikt innhold, kan være nok til å ødelegge omdømme og karriere.

Tom Cruise-forfalskningene viser imidlertid en mye mer fordelaktig bruk av teknologien: som en annen del av CGI-verktøysettet. Ume sier det er så mange bruksområder for deepfakes, fra dubbing av skuespillere i film og TV, til å gjenopprette gamle bilder, til animasjon av CGI-karakterer. Det han understreker, er imidlertid ufullstendigheten av teknologien som fungerer i seg selv.



nikon coolpix pris
Rutenett visning
  • Før og etter: du kan se hvordan etterligner Fisher (til venstre) sammenlignes med den dype falske cruise (høyre). Før og etter: du kan se hvordan etterligner Fisher (til venstre) sammenlignes med den dype falske cruise (høyre).
  • Før og etter: du kan se hvordan etterligner Fisher (til venstre) sammenlignes med den dype falske cruise (høyre). Før og etter: du kan se hvordan etterligner Fisher (til venstre) sammenlignes med den dype falske cruise (høyre).

Å lage forfalskningene tok to måneder å trene basale AI-modeller (ved hjelp av et par NVIDIA RTX 8000 GPUer) på opptak av Cruise, og dager med videre behandling for hvert klipp. Etter det måtte Ume gå gjennom hver video, ramme for ramme, og gjøre små justeringer for å selge den samlede effekten; glatter en linje her og dekker en feil der. Det vanskeligste er å få det til å se levende ut, sier han. Du kan se det i øynene når det ikke er riktig.

Ume sier at en enorm mengde kreditt går til Fisher; en TV- og filmskuespiller som fanget Cruise's overdrevne manerer, fra hans maniske latter til hans intense levering. Han er en virkelig talentfull skuespiller, sier Ume. Jeg gjør bare de visuelle tingene. Selv da, hvis du ser nøye etter, kan du fremdeles se øyeblikk der illusjonen mislykkes, som i klippet nedenfor der Fishers øyne og munn glir et øyeblikk mens han setter solbrillene på.

Blink og du vil savne det: se nøye, og du kan se Fishers munn og øye.

GIF:The Verge

Selv om Umes poeng er at hans dypfakes tar mye arbeid og en profesjonell etterligner, er det også klart at teknologienvilforbedre seg over tid. Nøyaktig hvor enkelt det vil være å lage sømløse forfalskninger i fremtiden, er vanskelig å forutsi, og eksperter er opptatt med å utvikle verktøy som automatisk kan identifisere forfalskninger ellerbekreft uredigerte opptak.

Ume sier imidlertid at han ikke er så bekymret for fremtiden. Vi har utviklet slik teknologi før, og samfunnets oppfatning av sannhet har mer eller mindre overlevd. Det er som Photoshop for 20 år siden, folk visste ikke hva fotoredigering var, og nå vet de om disse forfalskningene, sier han. Etter hvert som deepfakes blir mer og mer en stift i TV og filmer, vil folks forventninger endres, slik de gjorde for bilder i Photoshop-alderen. En ting er sikkert, sier Ume, og det er at genien ikke kan settes tilbake i flasken. Deepfakes er kommet for å bli, sier han. Alle tror på det.

Oppdater 5. mars kl. 12:11 ET: Oppdatert for å merke seg at Ume og Fisher nå har gjenopprettet videoene til @deeptomcruise TikTok-kontoen.