To je kvantni skok u odnosu na prije nekoliko godina, kada je za kreiranje lažnih fotografija, video ili audio isječaka bio potreban tim ljudi s vremenom, tehničkim vještinama i novcem.
Sada, koristeći besplatne i jeftine generativne usluge kompanije umjetne inteligencije kao što su Google i OpenAI, svakako može kreirati visokokvalitetne “deepfakes” samo jednostavnim tekstualnim upitom.
Val dubinskih lažiranja umjetne inteligencije vezanih za izbore u Evropi i Aziji mjesecima je prolazio društvenim medijima, služeći kao upozorenje za više od 50 zemalja koje idu na birališta ove godine.
„Ne morate da gledate daleko da biste vidjeli da su neki ljudi... očigledno zbunjeni da li je nešto stvarno ili nije“, rekao je Henry Ider (Ajder), vodeći stručnjak za generativnu vještačku inteligenciju sa sjedištem u Kembridžu u Engleskoj.
Više nije pitanje da li bi AI deepfakes mogli uticati na izbore, već koliko će oni biti uticajni, rekao je Ajder, koji vodi konsultantsku firmu pod nazivom Latent Space Advisory.
Dok se trka za predsjednika SAD zahuktava, direktor FBI-ja Christopher Wray nedavno je upozorio na rastuću prijetnju , rekavši da generativna AI olakšava “stranim protivnicima da se uključe u zloćudni utjecaj”.
Sa AI deepfakesom, slika kandidata može biti razmazana ili omekšana. Glasače se može usmjeravati prema kandidatima ili udaljavati od njih – ili čak da u potpunosti izbjegnu birališta. Ali možda je najveća prijetnja demokratiji, kažu stručnjaci, to što bi talas AI deepfakes mogao narušiti povjerenje javnosti u ono što vide i čuju.
Neki nedavni primjeri AI deepfakesa uključuju:
— Video na kojem prozapadna predsjednica Moldavije daje podršku političkoj stranci prijateljskoj Rusiji.
— Audio snimci lidera slovačke liberalne stranke koji raspravlja o namiještanju glasova i podizanju cijene piva.
— Video opozicionog poslanika u Bangladešu — konzervativne većinske muslimanske nacije — koji nosi bikini.
Novost i sofisticiranost tehnologije otežava praćenje ko stoji iza AI deepfakesa. Stručnjaci kažu da vlade i kompanije još nisu u stanju da zaustave poplavu, niti se kreću dovoljno brzo da riješe problem.
Kako se tehnologija poboljšava, "definitivne odgovore o velikom broju lažnih sadržaja biće teško dobiti", rekao je Ajder.
Predsjednica Moldavije Maia Sandu, desno, pozdravlja ukrajinskog predsjednika Volodymyra Zelenskyyja u Bulboaci, Moldavija, 1. juna 2023. Ona je česta meta online dezinformacija stvorenih umjetnom inteligencijom. (AP Photo/Vadim Ghirda, fajl)
POVJERENJE KOJE NESTAJE
Neki AI deepfakes imaju za cilj da siju sumnju u odanost kandidata.
U Moldaviji, istočnoevropskoj zemlji koja graniči s Ukrajinom, prozapadna predsjednica Maia Sandu bila je česta meta. Jedan AI deepfake koji je kružio neposredno prije lokalnih izbora prikazivao je kako ona podržava prijateljsku stranku i najavljuje planove za podnošenje ostavke.
Zvaničnici u Moldaviji vjeruju da ruska vlada stoji iza te aktivnosti. Sa predsjedničkim izborima ove godine, deepfakes imaju za cilj "narušiti povjerenje u naš izborni proces, kandidate i institucije - ali i narušiti povjerenje među ljudima", rekla je Olga Rosca, savjetnica Sandu. Ruska vlada je odbila da komentariše ovu priču.
Kina je također optužena da koristi generativnu umjetnu inteligenciju u političke svrhe.
Na Tajvanu, otoku pod vlastitom samoupravom za koji Kina tvrdi da je njen, AI deepfake privukao je pažnju ranije ove godine izazivajući zabrinutost zbog američkog uplitanja u lokalnu politiku.
Na lažnom snimku koji kruži TikTokom prikazan je američki predstavnik Rob Wittman, potpredsjednik Komiteta za oružane snage Predstavničkog doma američkog Kongresa, koji obećava jaču američku vojnu podršku Tajvanu ako kandidati sadašnje stranke budu izabrani u januaru.
Wittman je okrivio Komunističku partiju Kine za pokušaj miješanja u tajvansku politiku, rekavši da koristi TikTok - kompaniju u kineskom vlasništvu - za širenje "propagande".
Glasnogovornik kineskog ministarstva vanjskih poslova Wang Wenbin rekao je da njegova vlada ne komentariše lažne video snimke i da se protivi miješanju u unutrašnje stvari drugih zemalja. Izbori na Tajvanu, naglasio je, "jesu lokalna stvar Kine".
Ljudi koriste svoje mobilne telefone na području Univerziteta Daka, Bangladeš, 21. decembra 2023.
ZAMAGLJENA REALNOST
Deepfake samo za audio posebno je teško provjeriti jer, za razliku od fotografija i video zapisa, nemaju znakove izdajničkog sadržaja manipuliranog sadržaja.
U Slovačkoj, još jednoj zemlji zasjenjenoj ruskim uticajem, audio snimci koji liče na glas šefa liberalne stranke naveliko su se dijelili na društvenim mrežama samo nekoliko dana prije parlamentarnih izbora. Na snimcima su ga navodno uhvatili kako govori o povećanju cijena piva i namiještanju glasanja.
Razumljivo je da bi birači mogli nasjesti na prevaru, rekao je Ajder, jer su ljudi "mnogo više navikli da sude očima nego ušima".
U SAD-u, robotski pozivi koji se lažno predstavljaju kao američki predsjednik Joe Biden pozvali su birače u New Hampshireu da se suzdrže od glasanja na primarnim izborima u januaru. Pozivi su kasnije ušli u trag do političkog konsultanta koji je rekao da pokušava objaviti opasnosti od AI deepfakesa.
U siromašnijim zemljama, gdje medijska pismenost zaostaje, čak i lažne umjetne inteligencije lošeg kvaliteta mogu biti učinkovite.
Takav je bio slučaj prošle godine u Bangladešu, gdje je opozicioni poslanik Rumeen Farhana - glasni kritičar vladajuće stranke - lažno prikazan u bikiniju. Viralni video izazvao je bijes u konzervativnoj, većinski muslimanskoj naciji.
"Oni vjeruju svemu što vide na Facebooku", rekao je Farhana.
Stručnjaci su posebno zabrinuti zbog predstojećih izbora u Indiji, najvećoj svjetskoj demokratiji i gdje su platforme društvenih medija plodno tlo za dezinformacije.
Digitalni koordinator kampanje indonezijskog predsjedničkog kandidata Prabowoa Subianta, pokazuje web aplikaciju koja omogućava pristalicama da u naprave slike sa Subiantom, u Džakarti, Indonezija, u srijedu, februar. 21. 2024. (AP Photo/Dita Alangkara)
IZAZOV DEMOKRATIJI
Neke političke kampanje koriste generativnu umjetnu inteligenciju kako bi ojačale imidž svog kandidata.
U Indoneziji, tim koji je vodio predsjedničku kampanju Prabowo Subianto je postavio jednostavnu mobilnu aplikaciju kako bi izgradio dublju vezu s pristalicama širom ogromne otočne države. Aplikacija je omogućila glasačima da postavljaju fotografije i naprave slike koje je stvorila umjetna inteligencija pomoću Subianta.
Kako se vrste AI deepfakesa umnožavaju, vlasti širom svijeta se bore da smisle zaštitne ograde.
Evropska unija već zahtijeva da platforme društvenih medija smanje rizik od širenja dezinformacija ili “izborne manipulacije”. Njime će biti naloženo posebno označavanje AI deepfakesa počevši od sljedeće godine, prekasno za parlamentarne izbore EU u junu. Ipak, ostatak svijeta je daleko iza.
Najveće svjetske tehnološke kompanije nedavno su — i to dobrovoljno — potpisale pakt kako bi spriječile AI alate da ometaju izbore. Na primjer, kompanija koja posjeduje Instagram i Facebook rekla je da će početi označavati deepfakes koji se pojavljuju na njenim platformama.
Međutim, teže je obuzdati deepfake u aplikacijama poput servisa za ćaskanje Telegram, koji nije potpisao dobrovoljni pakt i koristi šifrirane razgovore koje je teško pratiti.
Neki stručnjaci se brinu da bi pokušaji da se zauzda AI deepfakes mogli imati neželjene posljedice.
Dobronamjerne vlade ili kompanije mogu pogaziti ponekad “veoma tanku” liniju između političkih komentara i “nelegitimnog pokušaja okajanja kandidata”, rekao je Tim Harper, viši politički analitičar u Centru za demokratiju i tehnologiju u Washingtonu.
Glavne generativne AI usluge imaju pravila za ograničavanje političkih dezinformacija. Ali stručnjaci kažu da je i dalje previše lako nadmudriti ograničenja platforme ili koristiti alternativne usluge koje nemaju iste zaštitne mjere.
Čak i bez loših namjera, sve veća upotreba AI je problematična. Mnogi popularni chat botovi sa AI-om još uvijek izbacuju lažne i obmanjujuće informacije koje prijete da liše glasače glasanja.
A softver nije jedina prijetnja. Kandidati bi mogli pokušati prevariti glasače tvrdeći da je stvarne događaje koji ih prikazuju u nepovoljnom svjetlu proizvela umjetna inteligencija.
“Svijet u kojem je sve sumnjivo – i tako svako može birati u šta vjeruje – također je svijet koji je zaista izazovan za cvjetajuću demokratiju”, rekla je Lisa Reppell, istraživačica u Međunarodnoj fondaciji za izborne sisteme u Arlingtonu, u Virginiji.