Video je privukao pažnju nakon što ga je tehnološki milijarder Elon Musk podijelio na svojoj društvenoj medijskoj platformi X u petak navečer, a da nije eksplicitno napomenuo da je prvobitno objavljen kao parodija.
Video koristi mnoge iste vizualne elemente kao pravi oglas koji je Harris, vjerovatni kandidat za predsjednika Demokratske stranke, objavila prošle sedmice prilikom pokretanja svoje kampanje. Ali video zamjenjuje glas preko zvuka drugim glasom koji uvjerljivo oponaša Harrisa.
"Ja, Kamala Harris, sam vaš kandidat demokrata za predsjednika jer je Joe Biden konačno razotkrio svoju senilnost u debati", kaže glas u videu. Tvrdi se da je Harris "zaposlena zbog različitosti" jer je žena i obojena osoba i kaže da ne zna "ništa o upravljanju državom". Video zadržava brend "Harris for President". Takođe dodaje neke njene autentične prošle snimke.
Mia Ehrenberg, glasnogovornica Harrisine kampanje, rekla je u e-poruci za Associated Press: "Vjerujemo da američki narod želi pravu slobodu, priliku i sigurnost koju nudi potpredsjednica Harris; a ne lažne, izmanipulirane laži Elona Muska i Donalda Trumpa. "
Široko dijeljeni video primjer je kako su realistične slike, videozapisi ili audio snimci generirani umjetnom inteligencijom korišteni i za ismijavanje i za dovođenje u zabludu o politici dok se Sjedinjene Države približavaju predsjedničkim izborima. Razotkriva kako su visokokvalitetni alati umjetne inteligencije postali daleko dostupniji, i dalje nedostaje značajnih federalnih mjera za reguliranje njihove upotrebe, ostavljajući pravila koja vode umjetnu inteligenciju u politici uglavnom državama i platformama društvenih medija.
Video također postavlja pitanja o tome kako najbolje postupati sa sadržajem koji zamagljuje granice onoga što se smatra prikladnom upotrebom AI, posebno ako spada u kategoriju satire.
Originalni korisnik koji je postavio video, YouTuber poznat kao Mr Reagan, otkrio je i na YouTube-u i na X-u da je izmanipulisani video parodija. Ali Muskov post, koji je pregledan više od 123 miliona puta, prema platformi, uključuje samo natpis "Ovo je nevjerovatno" s emotikonom koji se smije.
Korisnici X koji su upoznati sa platformom možda znaju da kliknu na Muskovu objavu do objave originalnog korisnika, gdje je vidljivo otkrivanje. Muskov natpis ih ne upućuje na to.
Iako su neki učesnici u X-ovoj funkciji "javna napomena" za dodavanje konteksta objavama predložili označavanje Muskove objave, takva oznaka joj nije dodana od nedjelje popodne. Neki korisnici na mreži doveli su u pitanje da li njegova objava može kršiti X-ovu politiku, koja kaže da korisnici "ne smiju dijeliti sintetičke, izmanipulirane ili sadržaje van konteksta, koji mogu prevariti ili zbuniti ljude i dovesti do štete".
Politika ima izuzetak za meme i satiru sve dok ne izazivaju "značajnu zabunu u pogledu autentičnosti medija".
Musk je ranije ovog mjeseca podržao bivšeg predsjednika Donalda Trumpa, republikanskog kandidata. Ni gospodin Reagan ni Musk nisu odmah odgovorili na zahtjeve za komentar poslane e-poštom u nedjelju.
Dva stručnjaka koji su specijalizovani za medije generisane vještačkom inteligencijom pregledali su zvuk lažnog oglasa i potvrdili da je veći dio generisan upotrebom AI tehnologije.
Jedan od njih, sa Univerziteta Berkli, Kalifornija, stručnjak za digitalnu forenziku Hany Farid, rekao je da video pokazuje moć generativne AI i deepfakesa.
„Glas generisan vještačkom inteligencijom je veoma dobar“, rekao je u e mailu. "Iako većina ljudi neće vjerovati da je to glas VP Harris, video je mnogo moćniji kada su riječi u njenom glasu."
Rekao je da bi generativne kompanije sa umjetnom inteligencijom koje čine alate za kloniranje glasa i druge alate umjetne inteligencije dostupnim javnosti, trebale učiniti bolje kako bi osigurale da se njihove usluge ne koriste na načine koji bi mogli naštetiti ljudima ili demokratiji.
Rob Weissman, kopredsjednik zagovaračke grupe Public Citizen, nije se složio s Faridom, rekavši da misli da će mnoge ljude prevariti video.
"Mislim da to očigledno nije šala", rekao je Weissman u intervjuu. "Siguran sam da većina ljudi koji to gledaju ne pretpostavljaju da je to šala. Kvalitet nije sjajan, ali je dovoljno dobar. I upravo zato što se uklapa u postojeće teme koje su kružile oko nje, većina ljudi će povjerovati biti stvaran."
Weissman, čija se organizacija zalagala za to da Kongres, savezne agencije i države reguliraju generativnu umjetnu inteligenciju, rekao je da je video "vrsta stvari na koju smo upozoravali".
Drugi generativni AI deepfakes i u SAD-u i drugdje pokušali bi utjecati na glasače dezinformacijama, humorom ili oboje.
U Slovačkoj 2023. lažni audio snimci predstavljali su kandidata koji raspravlja o planovima za namještanje izbora i podizanje cijene piva u danima prije glasanja. U Luizijani 2022. godine, satirični oglas komiteta za političku akciju stavio je lice kandidata za gradonačelnika Luizijane na glumca koji ga je prikazao kao neuspješnog srednjoškolca.
Kongres tek treba da donese zakon o AI u politici, a savezne agencije su poduzele samo ograničene korake, ostavljajući većinu postojećih američkih propisa državama. Više od jedne trećine država stvorilo je vlastite zakone koji reguliraju korištenje AI u kampanjama i izborima, prema Nacionalnoj konferenciji državnih zakonodavnih tijela.
Osim X, druge kompanije društvenih medija su također kreirale politike u vezi sa sintetičkim i manipuliranim medijima koji se dijele na njihovim platformama. Korisnici na video platformi YouTube, na primjer, moraju otkriti da li su koristili generativnu umjetnu inteligenciju za kreiranje videa ili se suočiti sa suspenzijom.