Langlesing med diskusjonesspørsmål: Fra gøy til guffent på et øyeblikl

– Jeg tror dette er den mest ubehagelige... Å gud, nei!

Gjennom webkameraet ser vi den svenske YouTube-stjerna Felix «PewDiePie» Kjellberg stirre på skjermen sin i avsky.
Foran ham avspilles en video hvor han ser seg selv danse.
(Scan QR-koden på bildet over for å se videoen)
Rettere sagt, han ser ansiktet sitt limt på den halvnakne vrikkende kroppen til det sosiale medie-fenomenet Belle Delphine, hun som er mest kjent for å ha solgt badevannet sitt for 30 dollar flaska.
Og mens Delphine vrikker, mimer PewDiePie-fjeset til den avsindige sangen hun danser. Det ser – nesten – ekte ut. Kanskje øynene hans er litt for blå, men ansiktsmimikken er nesten uhyggelig lik.

PewDiePie har allerede ledd og tøyset seg gjennom andre videoer, hvor kreative moroklumper har plassert ham i hovedrollen både i «Aladdin» og «Captain America».
Nå virker svensken et øyeblikk genuint ukomfortabel. Han gjør en grimase og snur seg bort.
– Jeg vil ikke se dette.

Avansert kunstig intelligens

Hva gjør det med oss å se videoer hvor vi gjør og sier ting vi aldri kunne funnet på? Ler vi? Eller blir vi ubekvemme? Om ikke lenge kan dette være en like normal opplevelse for oss alle som det å tøyse med ansiktsfiltrene på Snapchat er i dag.

Fjesene og stemmene våre er blitt fritt vilt. De kan brukes av hvem som helst til hva som helst, enten det er for moro skyld eller for å skade oss. Dette er mulig på grunn av deepfakes, en teknologi som bygger på maskinlæring.
Ved å fôre en kunstig intelligens med videoer og bilder av et ansikt (for eksempel PewDiePie) kan en kunstig intelligens analysere det og lære seg hver lille nyanse og vinkel utenat. Deretter kan den spytte ut overbevisende kopier av fjeset hvor enn det skal være. Og dette begrenser seg ikke til kjendiser. Faktisk er teknologien på sitt mest imponerende når den ikke begrenser seg til virkelige mennesker.

Fordi den kunstige intelligensen vet hvordan et menneskeansikt skal se ut, kan nettstedet This Person Does Not Exist nå poste bilde etter bilde av uhyggelig realistiske dataskapte fjes.
Klarer du å se hvilke to av disse fire personene som ikke eksisterer?

Billie Eilish-hologram

Det er ikke bare ansikter som kan klones – det finnes også deepfakes av menneskelig tale. Våren 2020 la den amerikanske programmereren Will Kwan ut en video av hvordan han brukte datakode som lå fritt tilgjengelig på nett til å skape en digital versjon av ansiktet og stemmen til popstjernen Billie Eilish.

Der ansiktet var lite overbevisende – Kwan animerte et stillbilde av Eilish ved å få det til å mime etter sitt eget ansikt – var talemålet hennes noe annet.
Kwan kjørte noen få sekunder av et Eilish-intervju gjennom en algoritme. Noen sekunders tale var alt maskinen behøvde for å lage en lavoppløselig variant av stemmen hennes. Ved å bruke et tekst-til-tale-program kunne Kwan deretter få henne til å si noen ganske tamme setninger:
– Wow. Føles godt å være i live. Takk, Will. Jeg setter virkelig pris på alt arbeidet du la inn i å få meg til å se og høres realistisk ut.
Det hele virker som et uskyldig eksperiment, helt til slutten av videoen.
Kwan er sponset av et selskap som selger nettadresser, og i den forbindelse får han Eilish-hologrammet sitt til å snakke litt mer:
– I disse dager er det vrient å finne et godt domenenavn med de populære adressene, som .com og .net, sier popstjerna, før hun går videre til å reklamere for Kwans sponsor.

Et kommersielt budskap den virkelige Eilish ikke har samtykket til, framført av hennes stemme og ansikt.
Hva ville Eilish selv tenke om hun så denne videoen? Er dette punktet hvor det hadde gått fra gøy til guffent?

Kan klone hvem som helst

Det Kwan gjør krever en del teknisk kompetanse, men denne teknologien blir stadig mer brukervennlig. Med de samme verktøyene som Kwan bruker kan også kjæresten din eller bestevennen din klones.
Hvordan ville du reagert om de ringte deg opp og sa at de var i trøbbel og trengte penger, eller kanskje sa noe forferdelig om deg?
Og hva ville du tenkt om det dukket opp en video hvor du gjør og sier ting du vet du aldri ville gjort? Hvordan ville det vært om videoen spredte seg, og klassekameratene dine trodde på den?

Byttet ut Harrison Ford
Det er ennå en stund til det blir enkelt å lage en såpass overbevisende forfalskning, men umulig er det ikke. YouTube-kanalen Sham00k har for eksempel byttet ut fjeset til Harrison Ford i de gamle «Indiana Jones»-filmene med actionstjerna Chris Pratt.

Endringen er så godt gjennomført at folk som ikke kjenner de gamle filmene lett kan tro de ser Pratts nyeste film.
Dette krever mer maskinkraft og innsats enn det Will Kwan gjorde med Billie Eilish. For å oppnå dette resultatet oppgir Sham00k å ha brukt en kraftig datamaskin og latt den kunstige intelligensen analysere over 20.000 individuelle ansiktsbilder over en periode på 128 timer.
Å nå denne graden av realisme vil imidlertid bli enklere for folk flest i årene som kommer.

Hva skjer da, om dette for eksempel tas i bruk av mennesker som ønsker å påvirke deg politisk ved å lage falske videoer av meningsmotstandere? Lar du deg lure, eller klarer du å luke ut deepfakene?
I så fall, hvordan?

FASIT TIL BILDENE AV ANSIKTER: Alle fire er datafjes. Beklager. Om du vil teste deg på ordentlig kan du gå til nettstedet WhichFaceIsReal.com.

Diskusjonsspørsmål til "Fra gøy til guffent på et blunk"

1. Hvorfor tror du Piewdepie opplevde det så ubehagelig å se selv i dansevideoen som Belle Delphin?
2. Hvordan kan deepfake brukes til å ha det gøy?
3. Hvordan kan bilder fra “Thispersondoesnotexist.com” bli misbrukt?
4. Hvorfor tror du Will Kwan valgte å lage filmen av Billie Eilish?
5. Hva kan du gjøre for å unngå å bli lurt av en deepfake som ringer og ber om penger?