Fake videos of real people -- and how to spot them | Supasorn Suwajanakorn

Prevodilac: Stevan Stanišić Lektor: Tijana Mihajlović

Pogledajte ove slike.

A sad, recite mi koji Obama je pravi.

(Video) Barak Obama: Da pomognemo porodicama s refinansiranjem domova,

da uložimo u stvari kao što su visoko-tehnološka proizvodnja,

čista energija i infrastruktura koja stvara dobre nove poslove.

Supasorn Suvanjakorn: Bilo ko?

Odgovor je: nijedan od njih.

(Smeh)

Nijedan od ovih zapravo nije pravi.

Dozvolite da objasnim kako smo dospeli ovde.

Moja inspiracija za ovaj posao bio je projekat

namenjen očuvanju naše poslednje šanse za saznanje o holokaustu od preživelih.

Zove se „Nove dimenzije u svedočenju“

i dozvoljava vam da vodite interaktivne razgovore

sa hologramom pravog preživelog iz holokausta.

(Video) Čovek: Kako ste preživeli holokaust?

(Video) Hologram: Kako sam preživeo?

Preživeo sam,

verujem,

zato što je proviđenje bdelo nada mnom.

SS: Ispostavlja se da su ovi odgovori unapred snimljeni u studiju.

Pa ipak, efekat je zapanjujuć.

Osećate se privrženo njegovoj priči i njemu kao osobi.

Mislim da postoji nešto posebno u vezi sa ljudskom interakcijom

što je čini mnogo dubljom

i ličnijom

nego što bi knjige, predavanja ili filmovi ikada mogli da nas nauče.

Dakle, video sam ovo i počeo da se pitam:

da li možemo da napravimo ovakav model za bilo koga?

Model koji izgleda, priča i ponaša se baš kao oni?

Pokrenuo sam se da vidim da li je izvodljivo

i naposletku došao do novog rešenja

koje može da napravi model osobe koristeći ništa drugo osim ovoga:

postojećih fotografija i snimaka osobe.

Ako možete da iskoristite ovu vrstu pasivnih informacija,

samo dostupne fotografije i snimke,

to je ključno za primenu na svakoga.

Uzgred, evo Ričarda Fajnmana,

ko je uz to što je osvojio Nobelovu nagradu za fiziku,

takođe bio poznat kao legendaran predavač.

Zar ne bi bilo sjajno kada bismo mogli da ga vratimo

da drži svoja predavanja i inspiriše milione klinaca,

možda čak ne samo na engleskom, već na bilo kom jeziku?

Ili ako biste mogli da pitate naše bake i deke za savet i čujete utešne reči

čak i ako više nisu s nama?

Ili bi možda korišćenjem ovog alata pisci knjiga, živi ili ne,

naglas mogli da čitaju sve svoje knjige za sve zainteresovane.

Kreativne mogućnosti za ovo su beskrajne,

i za mene, to je vrlo uzbudljivo.

A evo kako to radi za sad.

Prvo, uvodimo novu tehniku

koja može da rekonstruiše veoma detaljan 3D model lica

sa bilo koje slike,

bez ikakvog 3D skeniranja osobe.

Evo istog izlaznog modela iz različitih uglova.

Ovo funkcioniše i na snimcima,

korišćenjem istog algoritma na svakoj slici snimka

i generisanjem pokretnog 3D modela.

Evo istog izlaznog modela iz različitih uglova.

Ispostavlja se da je ovo veoma problematično,

ali ključni trik leži u tome

da ćemo unapred analizirati veliku zbirku fotografija osobe.

Za Džordža V. Buša možemo prosto da potražimo na Guglu

i iz toga, u stanju smo da napravimo prosečan model,

iterativan, prerađen model

da povratimo izraz u finim detaljima, kao što su brazde i bore.

Ono što je fascinantno kod ovoga je

da zbirka fotografija može nastati od vaših tipičnih fotografija.

Nije stvarno bitno kakav izraz imate

ili gde ste snimili fotografije.

Ono što je bitno je da ih ima mnogo.

A ovde nam još uvek fali boja,

pa dalje razvijamo novu tehniku mešanja

koja koristi samo jednu metodu uprosečavanja

i proizvodi jasne teksture lica i boje.

A ovo može da se uradi za bilo koji izraz.

Sada imamo kontrolu nad modelom osobe,

a način na koji se sada kontroliše je preko niza nepokretnih fotografija.

Obratite pažnju na to kako se bore pojavljuju i nestaju

u zavisnosti od izraza.

Možemo da koristimo i snimak da upravljamo modelom.

(Video) Danijel Krejg: Da, ali nekako smo uspeli

da privučemo neke još neverovatnije ljude.

SS: A evo još jednog zabavnog demo snimka.

Ovde vidite upravljive modele ljudi,

koje sam napravio iz njihovih internet fotografija.

Sada, ako se prebaci pokret sa ulaznog snimka

zapravo možemo da upravljamo celom družinom.

Džordž V. Buš: „Ovaj nacrt zakona će teško proći zato što ima mnogo pokretnih delova,

a proces zakonodavstva ume da bude gadan.“

(Aplauz)

SS: Dakle, da se vratim malo unazad,

naš konačni cilj je radije da uhvatimo njihovu mimiku

ili jedinstven način na koji svako od ovih ljudi priča ili se smeši.

Da bismo to uradili, možemo li zaista naučiti računar

da podražava način na koji neko govori

pokazujući mu samo video snimke osobe?

Tako sam pustio računaru da gleda

14 sati isključivo Baraka Obame i njegovih obraćanja.

I evo šta možemo da izvedemo samo iz njegovog zvučnog snimka.

(Video) BO: Rezultati su jasni.

Američki biznisi su stvorili 14,5 miliona novih poslova

tokom 75 meseci neprekidno.

SS: Dakle, ono što se ovde spaja je samo oblast usta,

i evo kako to radimo.

Naš sistem koristi neuronsku mrežu

da pretvori i dovede audio snimak u ove tačke usta.

(Video) BO: Dobijamo to preko našeg posla ili preko zdravstvene zaštite.

SS: Tada stvaramo teksturu, poboljšavamo detalje i zube

i stapamo u glavu i pozadinu iz izvornog snimka.

(Video) BO: Žene mogu besplatno da se pregledaju

i ne može vam se naplatiti više samo zato što ste žena.

Mladi mogu da ostanu u roditeljskom programu do 26. godine.

SS: Mislim da ovi rezultati izgledaju vrlo realistično i interesantno,

ali istovremeno zastrašujuće, čak i za mene.

Naš cilj je bio da napravimo precizan model osobe,

ne da je pogrešno predstavimo.

Ali, ono što me brine je potencijal za zloupotrebu.

Ljudi su dugo razmišljali o ovom problemu,

još otkad je „Fotošop“ izašao na tržište.

Kao istraživač, takođe radim na tehnologiji za protivmeru

i učestvujem u tekućem poduhvatu u fondaciji za veštačku inteligenciju

gde se koristi kombinacija mašinskog učenja i ljudskih moderatora

da se otkriju lažne slike i video-snimci,

boreći se protiv sopstvenog posla.

Jedan od alata koji planiramo da izdamo se zove „Branilac stvarnosti“ -

dodatak za internet pretraživače koji može da označi potencijalno lažne sadržaje

automatski, direktno u samom pretraživaču.

(Aplauz)

Uprkos svemu ovome,

lažni video-snimci mogu da učine dosta štete

čak i pre nego što iko stigne da ih proveri,

tako da je vrlo važno da svakoga osvestimo

o tome šta je trenutno moguće,

tako da možemo pravilno da pretpostavimo i da posmatramo kritički.

I dalje smo daleko od toga da možemo potpuno da modelujemo pojedince

i pre nego što osiguramo bezbednost ove tehnologije.

Ali ja sam uzbuđen i pun nade,

jer ako ga koristimo na pravi način i pažljivo,

ovaj alat može da omogući da pozitivni uticaj ma kog pojedinca na svet

bude mnogostruko uveličan

i zaista pomogne da oblikujemo budućnost u onakvu kakvu želimo.

Hvala vam.

(Aplauz)