"Deepfakes" opasan je trend postavljanja ženskih lica, slavnih osoba poput glumica i pjevačica, ali i običnih nepoznatih žena, na tijela ženskih osoba u pornografskim videozapisima.

Za mnoge žene, jedna od najvećih noćnih mora je „osvetnička pornografija“, odnosno videozapisi seksa s bivšim partnerima koje su oni, bez znanja i pristanka bivših partnerica, iz osvete objavili na internetu ili društvenim mrežama.

Prije nekoliko godina čak su postojale prilično popularne internetske stranice na kojima su objavljivani takvi videozapisi i čiji su vlasnici zarađivali solidan novac objavljujući videa koja su uništila živote ženama čije su intimne trenutke vidjeli deseci, a možda i stotine hiljada ljudi širom svijeta.

Srećom, takve su stranice zatvorene, barem one najpoznatije, kao i njihovi pokretači koji su završili u zatvoru, no u posljednje vrijeme internetom se raširio jedan još opasniji trend zbog kojeg bi na „PornHubu“ ili drugim stranicama mogli osvanuti pornografski videozapisi na kojima će se lica ženskih osoba koje učestvuju u videu zamijeniti s licima običnih žena koje su objavili bivši partneri, stolkeri ili neprijatelji tih osoba i koje, naravno, nemaju apsolutno nikakve veze s tim videozapisima.

Nova aplikacija

Tokom decembra na stranici „Motherboard“ objavljen je članak o programeru poznatom po nadimku s „Reddita“ kao „Deepfakes“ koji je, korištenjem algoritma strojnog učenja, „open-source“ koda i drugim jednostavno dostupnim materijalima uspio na pornografskim videozapisima lica pornoglumica zamijeniti s licima poznatih zvijezda poput Gal Gadot i Tejlor Svift (Taylor Swift), pri čemu su takvi videozapisi izgledali prilično realno.

U razgovoru za Motherboard, Deepfakes rekao je kako inače proučava strojno učenje te je uspio pronaći "pametan način zamjene lica" na videozapisima korištenjem tehnika treniranja umjetne inteligencije. S vremenom su sličnu tehniku počeli koristiti i drugi korisnici Reddita te se ovaj trend u medijima proširio pod nazivom „deepfakes“, a nedugo nakon toga drugi korisnik Reddita objavio je aplikaciju „FakeApp“ koja svima omogućava zamjenu lica na videozapisima s prilično uvjerljivim rezultatima.

Sekunde mogu uništiti živote

Na Redditu su se vodile, a i dalje se vode brojne rasprave o trendu deepfakesa i dok neki brane objavu takvih videozapisa, dio korisnika je zgrožen, a zbog realnosti ovakvih videa neki su ih korisnici nazvali digitalnim silovanjem. Posebno zabrinjava što se te tehnike zamjene lica i aplikacija više ne koriste samo kako bi se slavne osobe ubacile u porniće, već su se na Redditu korisnici pohvalili kako su napravili realne videozapise s osobama koje poznaju – bivšim djevojkama, prijateljicama, poznanicama iz škole montirali su lica na videozapise sa scenama seksa.

Samo jedan takav video od nekoliko sekundi može uništiti život te će osobama s videa biti jako teško dokazati kako je riječ o lažnom videozapisu, pogotovo što će s vremenom algoritam biti sve bolji te će videozapisi izgledati sve realnije.

Razmislite još jednom o svojim fotografijama na mrežama

Osim tehnike kojom se Deepfakes koristio, odnosno aplikacije FakeApp, za ovakav video potrebne su i fotografije, odnosno videozapisi osoba čije se lice želi postaviti u (porno)videa, što danas i nije teško nabaviti zahvaljujući društvenim mrežama poput Facebooka i Instagrama, na kojima se objavljuju stotine i hiljade fotografija i videa, te raznim alatima koji omogućuju jednostavno skidanje svih javno dostupnih fotografija s tih mreža na računare. Nakon toga, potrebno je pronaći porno glumicu, odnosno video sa ženama čije su tijelo i lice slični ženi čije se lice želi montirati na tijelo – naravno, i za takve su stvari dostupne aplikacije na internetu. Za kraj je potrebno sve uploadati u aplikaciju, pokrenuti je i čekati – nekad je potrebno i više od deset sati da se dođe do konačnog rezultata, odnosno videa koji može biti zastrašujuće realan.

Kršenje zakona?

Ove sedmice u SAD se puno piše o tome krši li se stvaranjem i objavom ovakvih videozapisa neki zakon, no nekakav konkretan zakon kojim bi se kažnjavalo montiranje lica na (pornografske) videzapise u biti ne postoji te je cijela situacija prilično komplicirana. Neki čak smatraju da bi se brisanjem ovakvih videa prekršio Prvi amandman američkog Ustava. Ipak, posljednjih su dana na Redditu i popularnom servisu za objavu GIF-ova „Gfycatu“ obrisani brojni takvi videozapisi i GIF-ovi te se čini da su na tim stranicama odlučili stati na kraj trendu „deepfakesa“.

Trebamo se plašiti budućnosti?

Sigurno je da će tehnologija napredovati te će ovakvi videozapisi biti sve realniji, a nažalost uvijek će biti ljudi koji će tehnologiju iskorištavati kako bi napakostili drugima, osramotili ih pa čak i ucjenjivali lažnim videozapisima. Također, ova tehnologija mogla bi imati velikog utjecaja i na širenje lažnih vijesti s političarima ili javnim osobama u glavnim ulogama te će granica između onog što je stvarno i onog što je napravljeno na računarima biti sve tanja i teže prepoznatljiva.