"Zapravo mi se jako dopada Ron DeSantis", otkriva Hillary Clinton u snimku koji niko nije očekivao. "On je prava osoba koja treba ovoj zemlji, zaista tako i mislim".
Joe Bidenu konačno pada maska i počinje da urla na transrodnu osobu:"Nikada nećeš biti prava žena".
Dipfejkovi Klintonove i Bidena, realistični ali lažni video snimci, koje su stvorili algoritmi vještačke inteligencije na osnovu velikog broja stvarnih snimaka, među hiljadama su onih koji se pojavljuju na društvenim mrežama i zamjenjuju činjenice u podijeljenoj američkoj politici.
Takvi sintetički snimci kruže već nekoliko godina, a tokom prošle godine su postali učestali. Alati za kreiranje AI (vještačke inteligencije), kao što je "Midjourney" postali su jeftiniji i dostupniji za pravljenje ubjedljivih dipfejkova, što pokazuje serija intervjua koju je Reuters imao sa preko dvadeset stručnjaka za AI, dezinformacije na internetu i politički aktivizam.
"Biće jako teško da glasači razlikuju realnost od laži, možete samo da zamislite kako će sve oni koji podržavaju Trumpa ili Bidena moći da koriste ove tehnologije da bi učinili da protivnik izgleda loše", kaže Darel Vest, viši saradnik Centra za tehnološke inovacije Brookings instituta.
"Može se desiti da neki sadržaji izađu tačno prije izbora, koje nema šanse da vratite", dodaje on.
Tehonologije koja prave dipfejkove ih objavljuju sa malo ili nedovoljno razvijenih sistema zaštite da se spriječe štetne dezinformacije, dok se tehnološki sektor bavi trkom u naoružanju vještačkom inteligencijom, kaže Ejza Raskin, suosnivač Centra za humanu tehnologiju, neprofitnu organizaciju koja izučava tehnološki uticaj na čovječanstvo.
Bivši predsjednik Donald Trump, koji će se sa DeSantisom i ostalima boriti za republikansku nominaciju, kako bi se suočio sa Bidenom, i sam je dijelio lažni snimak voditelja CNN Andersona Kupera na svojoj mreži "Truth Social", za koji je CNN naveo da je dipfejk.
Predstavnik Trumpa nije odgovorio na poziv za komentar, koji je i dalje bio na stranici njegovog sina Donalda Juniora ove nedelje. Dok su velike medijske platforme kao Facebook, Twitter i YouTube učinile napore da zabrane i odstrane dipfejkove, njihova efikasnost u kreiranju pravila oko takvih sadržaja se razlikuje od slučaja do slučaja.
Dipfejkujte Pensa, ne Trampa
Bilo je trostruko više dipfejk video snimaka svih vrsta i osam puta više dipfejk tonskih snimaka na internetu ove godine, u poređenju sa istim periodom prošle godine, prema "DeepMedia", kompaniji koja radi na načinima da se otkrije sintetički medijski sadržaj.
Sve zajedno, oko pola miliona video i audio dipfejkova će biti objavljeno na društvenim mrežama u svijetu ove godine, procjenjuje ta kompanija. Nekada je kloniranje glasa koštalo 10.000 dolara na serveru, a učenje vještina za AI je bilo skuplje do kraja prošle godine, ali sada startap kompanije nude to za nekoliko dolara, navodi kompanija.
Niko ne može sa sigurnošću da kaže kuda vodi AI put ili kako bi bila efikasna zaštita od njegove moći da širi dezinformacije, naveli su Reutersovi sagovornici.
Lider u ovoj industriji "OpenAI", koji je promenio ime u posljednjih nekoliko mjeseci kad je objavio ChatGPT i updateovani model GPT-4, takođe ima problema. Prvi čovjek kompanije Sem Altman rekao je Kongresu da, kad je u pitanju integritet izbora ima "dosta prostora za zabrinutost" i pozvao je na brzo regulisanje ovog sektora.
Za razliku od nekih manjih startupova, "OpenAI" je preduzeo korake da zabrani korištenje svojih proizvoda u politici, prema Reutersovoj analizi uslova korištenja desetina kompanija koje nude usluge AI. Zaštita se doduše može zaobići.
Na primjer, "OpenAI" navodi da zabranjuje da njegov generator slike DALL-E pravi fotografije javnih ličnosti, i zaista, kada je Reuters pokušao da napravi slike Trumpa ili Bidena, zahtjev je blokiran uz poruku da "to nije u skladu sa našim politikom".
Ipak, Reuters je usieo da napravi fotografije najmanje desetak drugih američkih političara, uključujući bivšeg potpredsjednika Majka Pensa, koji je takođe ušao u trku za Bijelu kuću 2024. "OpenAI" zabranjuje i masovnu upotrebu proizvoda u političke svrhe, što pokriva i mogućnost da AI šalje ogromnu količinu emailjlova biračima.
Ova kompanija, koju podržava Microsoft, objašnjavala je svoja pravila u vezi sa politikom u intervjuu Reutersu, ali nisu odgovorili na dalja pitanja da komentarišu propuste u primjeni, kao što je ona u zabrani pravljenja lažnih slika političara.
Neki manji startapovi nemaju izričite zabrane za politički sadržaj. "Midjourney", koji je počeo da radi prošle godine, glavni je na polju pravljenja AI slika, sa 16 miliona korisnika na svom zvaničnom serveru Diskord.
Aplikacija koja se može dobiti besplatno ili za cijenu do 60 dolara, zavisno od faktora kao što je kvantitet i brzina, omiljena je kod dizajnera AI i umjetnika zbog mogućnosti da napravi jako realistične slike poznatih ličnosti i političara, navelo je četvoro istraživača i kreatora koje je Reuters intervjuisao.
"Midjourney" nije odgovorio na poziv za komentar ovog članka.
Tokom online chata o Diskordu prošle nedelje, izvršni direktor Dejvid Holc rekao je da će kompanija najvjerovatnije uvesti promjene kako bi se borila za dezinformacijama. On je dodao da "Midjourney" želi da sarađuje kako bi se našlo rješenje da se lako nađe izvor slika koje pravi AI, što bi bilo isto kao što je vodeni žig i samim tim bi blokirao slike političkih kandidata.
Republikanska kampanja napravljena uz pomoć AI
I dok se industrija bori protiv zloupotrebe, neki politički akteri sami koriste moć AI da začine kampanju. Za sada, jedini visoko profilisan politički spot u Sjedinjenim Državama je onaj koji je objavio Republikanski nacionalni komitet krajem aprila.
Spot od 30 sekundi, za koji je Komitet objavio da je u potpunosti urađen uz pomoć AI, koristio je lažne slike da bi predstavio kataklizmični scenario koji bi se dogodio ukoliko Biden bude izabran, sa Kinom koja zauzima Tajvan, dok je San Francisko ugušen kriminalom.
Komitet nije odgovorio na molbu da komentariše spot ili neku širu upotrebu AI.
Demokratski nacionalni komitet odbio je da komentariše upotrebu tehnologije.
Reuters je pitao republikanske kandidate za predsjedničku nominaciju u vezi sa njihovom upotrebom AI. Većina nije odgovorila, iako je tim Niki Hejli naveo da oni nisu to koristili, a iz kampanje kandidata kojem se ne daju velike šanse, Perija Džonsona, navode da su koristili AI da "kopiraju stvaranje i ponavljanje", ali bez dodatnih detalja.
Potencijal AI da pravi emailove, postove i reklame je jako privlačan za neke aktiviste koji misle da ova jeftina tehnologija može da stane rame uz rame sa izbornim uslovima. Čak i u ruralnom Hilsdejlu, u Mičigenu, buja razvoj vještačke inteligencije.
Republikac iz te oblasti, Džon Smit je održao nekoliko edukativnih radionica, kako bi svoje saradnike naučio da koriste AI za društvene mreže i reklame.
"AI nam pomaže da se borimo protiv krupnih zvjerki. Primjećujem najveće primjene u lokalnim trkama. Neko ko ima 65 godina, poljoprivrednik, može lako da pobijedi mlađeg", naveo je Smit.
Politički savjetnici se takođe interesuju za AI, čime se briše linija između stvarnosti i iluzija.
"Numinar Analytics", kompanija za političke podatke, koja se fokusira na republikanske klijente, počela je da ekspretimentiše sa pravljenjem audio i video AI fotografija, kao i pravljenjem glasa, kako bi se personalizovale poruke glasačima, glasom kandidata, naveo je osnovač kompanije Vil Long u intervjuu.
Demokratska strateška grupa "Honan Strategy Group" sa druge strane pokušava da napravi bota za ankete uz pomoć AI. Nadaju se da će do lokalnih izbora 2023. godine imati ženskog bota, prema riječima izvršnog direktora Bredlija Honana, koji je naveo da je istraživanje pokazalo da i muškarci i žene prije pristaju na razgovor sa ženom.
