‘Deepfake’ som visstnok lurte europeiske politikere, var bare en likhetstrekk, sier pranksters

Frykt for deepfakes ser ut til å ha overgått selve teknologien

gooreads

Deepfakes bruker AI-teknikker for å generere eller manipulere videoer og bilder.



Kunstner: William Joel

Forrige uke,en rekke nyheter utsalgsstederrapporterte at en rekke europeiske politikere hadde blitt lurt av et sofistikert russisk komplott. Parlamentarikere fra Storbritannia, Latvia, Litauen og Estland hadde alle arrangert videosamtaler med en fusker som hevdet å være Leonid Volkov, stabssjef for fengslet russisk anti-Putin-politiker Alexei Navalny. Som politikerne forteller det, ble de offer for en digital forfalskning: en doppelgänger som bruker deepfake-teknologi opprettet spesielt for å lure dem - det siste eksemplet på Russlands feilinformasjonskampanjer i Vesten.

Men de russiske mennene som orkestrerte samtalene, sier at den falske påstanden i seg selv er feilinformasjon. Snakker tilThe Verge, svindlerne sier at deres imitasjon Volkov ble opprettet ved hjelp av effekter som ikke var mer sofistikerte enn sminke og kunstig uklare kameravinkler.

Saken om den falske dype forfalskningen

Møt Leonid Volkov, russisk opposisjonsleder, sier Vladimir Kuznetsov i en nylig videosamtale medThe Verge, introduserer sin kollega og kriminelle partner Alexei Stolyarov, en mann som virkelig har en forbigående likhet med Leonid Volkov.



Paret sier at de lurte seg inn i ulike møter med europeiske politikere og til og med et live-intervju på lettisk TV. De gjorde det ved å ringe og sende e-post til målene sine fra falske adresser, ved å bruke et reelt bilde av Volkov som deres digitale avatar. Som bevis delte paret noe av denne korrespondansen medThe Verge. De har også lastet opp et møte mellom Volkov og ukrainske politikere tilYoutubeog si at flere videoer kommer.

Jeg trengte ikke å forberede meg mye for å se ut som den virkelige Volkov, sier Stolyarov. Jeg hadde bare noen børster og noen farger, og det var nok.

Et bilde som viser Alexei Stolyarov, aka Lexus, i kostyme som russisk opposisjonsleder Leonid Volkov.



Bilde: Vladimir Kuznetsov og Alexei Stolyarov

Kuznetsov og Stolyarov er bedre kjent som Vovan og Lexus: et par selvbeskrevne spøkefiskere somhar en historieav å lure vestlige politikere og kjendiser. Gjennom årene har paret lurt seg til telefonsamtaler med slike somJustin trudeau,Elton John,Bernie Sanders,Lindsey Graham, ogBoris Johnson, hver gang med sikte på å fange disse figurene utenom og erte potensielt pinlige uttalelser ut av dem.

Vi ville ikke prank Putin. Vi vil ikke skade landet vårt

Selv om paret harnektetnoen offisielle forbindelser til Kreml, det er ingen tvil om at deres arbeid er detnyttig for og støttet avden russiske regjeringen. Tidligere har de hatt sitt eget show på russisk statlig TV og deres narrestreker godkjent dekket av statlige nyheter. De vet helt klart hvilken side deres brød er smørret. SomFortalte StolyarovVergen noen år tilbake: Vi ville ikke prank Putin. Vi vil ikke skade landet vårt. Vi vil ikke ha uro her; vi vil ikke gjøre noe som vil hjelpe Russlands fiender.

Å skape uro andre steder er imidlertid helt lik kurset. Vårt arbeid er å prankere høye tjenestemenn og kjendiser og å gjøre mye moro og publisere det på sosiale medier, sier Stolyarov.

Et skjermbilde som viser Stolyarov som poserer som Volkov (øverst til venstre), og snakker med ukrainske tjenestemenn, inkludert landets yngste parlamentariker, Sviatoslav Yurash (øverst til høyre).

Bilde:Youtube

Paret sier at de valgte å etterligne Volkov av en rekke årsaker. For det første på grunn av nyhetsverdigheten til Navalny. Etter å ha ledet den mest betydningsfulle opposisjonen mot den russiske presidenten Vladimir Putin på flere år, har Navalny vært detfengslet. Han avsluttet nylig en 24-dagers sultestreik og fortsetter å kritisere den russiske regjeringen til tross for forventningen om at hans landsdekkende politiske bevegelse vil væreforbudt snart. For det andre på grunn av Stolyarovs likhet. Og for det tredje fordi den virkelige Volkov ikke har søkt mange møter med vestlige politikere, noe som betyr at få hadde noen kjennskap til hvordan han ser ut og høres ut. En uuttalt fjerde motivasjon er å latterliggjøre anti-Putin-krefter, i tråd med duopolitikken.

Kuznetsov og Stolyarov har gjennomført mange sprell gjennom årene (du kanbla gjennom YouTube-kanalen deresfor et utvalg) men ikke alle har fått medieoppmerksomhet. Det som fikk denne spesielle kampanjen til å skille seg ut, er forbindelsen med deepfakes - AI-genererte eller manipulerte medier som mange frykter vil bli brukt som et verktøy for politisk feilinformasjon.

Til tross for frykt har deepfakes ennå ikke hatt stor politisk innvirkning

Gjennom årene har eksperter advart om en såkalt infopokalypse, der kvaliteten og tilgjengeligheten av dypfakes gjør det umulig for publikum å skille mellom sannhet og fiksjon. Så langt har ikke denne fryktelige spådommen skjedd. De mest skadelige effektene av deepfakes har vært i generasjonen av ikke-konsensuell pornografi. Og selv om politikk faktisk har blitt tøffet de siste årene av svindler og feilinformasjon, dreier slike hendelser nesten alltid seg om video og bilder redigeres på den gammeldagse måten. Ikke desto mindre hjemsøker spøkelset av dype forfalskninger fortsatt politikk - som denne nylig hendelsen viser.

Det er ikke klart når de falske Volkov-samtalene først ble klandret for AI-teknologi, men det ser ut til at Volkov selv kan være kilden. Latvisk politiker Rihards Kolslagt ut på Facebook22. april at han hadde blitt lurt til å ringe i mars med en ukjent skøyer, og delte to bilder som visstnok viser de virkelige og falske Volkovene. Volkov dareposterte bildenesamme dag, og tilskrev viten til Lexus, men antydet også at AI ble brukt. Ser ut som mitt virkelige ansikt - men hvordan klarte de å sette det på Zoom-samtalen? skrev han, ifølge en Facebook-oversettelse. Velkommen til den dype falske tiden.

Microsoft Lumia 950

Et skjermbilde som viser et Facebook-innlegg fra Leonid Volkov, delt 22. april, der han antyder at et reelt bilde av seg selv er en dypfake.

Bilde:Leonid Volkov via Facebook

Herfra ser det ut til at linjen spredte seg. Dagen etter la Kols, som er leder av Latvia’s Foreign Affairs Committee, ut enuttalelse på Twittermedunderskrevet av sine kolleger fra Litauen og Estland. Trioen advarte om trusselen fra dype falske teknologier, og sier at sprellene var målrettede angrep på Kremls kritikere.

Vi oppfordrer alle til å være årvåken, men likevel åpen

I løpet av de siste månedene ble desinformasjonsoperasjoner med bruk av manipulert og kunstig intelligens (AI) generert media utført mot estiske, lettiske, litauiske og Storbritannias politikere, ikke-statlige organisasjoner og mediarepresentanter, heter det i uttalelsen. Vi oppfordrer alle til å være på vakt, men allikevel åpne for kommunikasjon, slik representanter for sanne demokratier alltid burde være!

Kuznetsov og Stolyarov sier at de er overrasket over at spøken ble beskrevet som en dyp forfalskning, ikke minst fordi bildet de brukte i deres kontoer, og som Volkov selv identifiserte som falskt, erhentet fra en ekte video. Det var hans virkelige bilde, men han benektet at det var ham, sier Stolyarov, før Kuznetsov legger til at kanskje Volkov ikke likte bildet fordi han så for feit ut.

Hvorvidt politikere skyldte dystre falske triks av ekte forvirring eller av mer selvbetjente grunner, er ikke klart. Det er absolutt mindre pinlig å la seg lure av en sofistikert AI-falskhet enn et par spøkere med en overbevisende e-postmåte. Men hendelsen illustrerer at frykten for deepfakes påvirker feilinformasjon like mye som selve teknologien. For de som blir lurt av Kuznetsov og Stolyarov - alias Vovan og Lexus - kan skylden på ny teknologi rett og slett ha vært et spørsmål om å redde ansiktet.