U pismu, koje je izdao neprofitni Institut Future of Life i koje je potpisalo više od 1.000 ljudi uključujući Muska, poziva se na pauzu u naprednom razvoju AI dok se ne razviju, implementiraju i revidiraju zajednički sigurnosni protokoli za takve dizajne od strane nezavisnih stručnjaka.
U pismu su detaljno opisani potencijalni rizici za društvo i civilizaciju od sistema vještačke inteligencije koji su konkurentni ljudima u obliku ekonomskih i političkih poremećaja, i pozivaju programere da rade sa kreatorima politike na upravljanju i regulatornim vlastima.
Među supotpisnicima su bili izvršni direktor Stability AI Emad Mostaque, istraživači kompanije DeepMind u vlasništvu Alphabeta, kao i AI teškaši Yoshua Bengio i Stuart Russell.
Prema registru transparentnosti Evropske unije, Institut za budućnost života prvenstveno finansira Musk fondacija, kao i londonska grupa za efektivni altruizam Founders Pledge i Fondacija zajednice Silicijumske doline.
Zabrinutost dolazi kada se policijske snage EU Europol u ponedjeljak pridružile horu etičkih i pravnih zabrinutosti zbog napredne AI poput ChatGPT-a, upozoravajući na potencijalnu zloupotrebu sistema u pokušajima krađe identiteta, dezinformacijama i cyber kriminalu.
U međuvremenu, vlada Ujedinjenog Kraljevstva predstavila je prijedloge za "prilagodljivi" regulatorni okvir oko AI.
Vladin pristup, naveden u dokumentu o politici objavljenom u srijedu, podijelio bi odgovornost za upravljanje umjetnom inteligencijom (AI) između njenih regulatora za ljudska prava, zdravlje i sigurnost i konkurenciju, umjesto da stvori novo tijelo posvećeno tehnologiji.
Musk, čiji proizvođač automobila Tesla koristi AI za sistem autopilota, bio je glasan o svojoj zabrinutosti oko AI.
Od svog objavljivanja prošle godine, OpenAI-ov ChatGPT koji podržava Microsoft podstakao je rivale da ubrzaju razvoj sličnih velikih jezičkih modela, a kompanije da integrišu generativne AI modele u svoje proizvode.
Sam Altman, izvršni direktor OpenAI, nije potpisao pismo, rekao je portparol Future of Life za Reuters. OpenAI nije odmah odgovorio na zahtjev za komentar.
"Pismo nije savršeno, ali duh je ispravan: moramo usporiti dok bolje ne shvatimo posljedice", rekao je Gary Marcus, profesor na Univerzitetu New York koji je potpisao pismo. "Mogu nanijeti ozbiljnu štetu... veliki igrači postaju sve tajnovitiji o tome šta rade, što otežava društvu da se odbrani od svake štete koja se može materijalizirati."
