Hinton je dospio na naslovne strane u maju, kada je objavio da je napustio Google poslije decenije rada da bi slobodnije govorio o opasnostima vještačke inteligencije, ubrzo nakon što je objavljivanje ChatGPT zaokupilo maštu svijeta.
Veoma cijenjeni naučnik u oblasti vještačke inteligencije, sa sjedištem na Univerzitetu u Torontu, govorio je publici u prepunoj sali na konferenciji o tehnologiji "Sudar" u tom kanadskom gradu.
Konferencija je okupila više od 30.000 osnivača startapa, investitora i tehnoloških radnika, od kojih većina žele da nauče kako da upravljaju talasom vještačke inteligencije i da ne slušaju lekcije o opasnostima koje on nosi.
"Prije nego što vještačka inteligencija bude pametnija od nas, mislim da ljude koji je razvijaju treba ohrabriti da ulože mnogo truda u razumijevanje kako bi mogla da pokuša da preuzme kontrolu", rekao je Hinton.
"Trenutno postoji 99 veoma pametnih ljudi koji pokušavaju da poboljšaju vještačku inteligenciju i jedna veoma pametna osoba koja pokušava da shvati kako da zaustavi to da ona preuzme (sve) i koja možda želi da bude uravnoteženija", rekao je on.
AI bi mogao da produbi nejednakost, dodao je Hinton, upozoravajući da rizike koje donosi vještačka inteligencija treba shvatiti ozbiljno uprkos njegovim kritičarima koji vjeruju da pretjeruje sa pričom o rizicima.
"Mislim da je važno da ljudi shvate da ovo nije naučna fantastika, da ovo nije samo izazivanje straha", insistirao je on. "To je pravi rizik o kome moramo da razmišljamo i moramo unaprijed da smislimo kako da se nosimo sa njim".
Hinton je također izrazio zabrinutost da će vještačka inteligencija produbiti nejednakost, sa ogromnim povećanjem produktivnosti zbog njenog korištenja u korist bogatih, a ne radnika.
"Bogatstvo neće ići ljudima koji rade. Ući će u to tako da bogatiji budu oni bogati, a ne oni siromašniji, a to je veoma loše za društvo", dodao je on.
Također je ukazao na opasnost od lažnih vijesti koje kreiraju botovi u stilu ChatGPT-a i rekao da se nada da bi sadržaj generisan vještačkom inteligencijom mogao da bude obilježen na način sličan onome kako centralne banke označavaju vodenim žigom gotovinski novac.
"Veoma je važno da pokušamo, na primjer, da sve što je lažno označimo kao lažno. Da li to možemo tehnički da uradimo, ne znam", rekao je on.
Evropska unija razmatra takvu tehniku u svom zakonu o vještačkoj inteligenciji, zakonu koji će postaviti pravila za vještačku inteligenciju u Evropi, o čemu pregovaraju zakonodavci.
"Prenaseljenost na Marsu"
Hintonova lista opasnosti od vještačke inteligencije u suprotnosti je sa diskusijama na konferencijama koje su bile manje o bezbjednosti i prijetnjama, a više o iskorištavanju prilike stvorene pojavom ChatGPT-a.
Investitorica rizičnog kapitala Sarah Guo rekla je da je priča o AI kao egzistencijalnoj prijetnji preuranjena i uporedila je sa "govorom o prenaseljenosti na Marsu", citirajući drugog gurua vještačke inteligencije, Andrewa Nga.
Ona je također upozorila na "zarobljavanje putem propisa" koje bi dovelo do toga da vladina intervencija zaštiti aktuelne službenike prije nego što bude imala priliku da se koristi sektorima kao što su zdravstvo, obrazovanje ili nauka.
Mišljenja su se razlikovala o tome da li će trenutni generativni giganti vještačke inteligencije, koji uglavnom podržavaju Microsoft OpenAI i Google, ostati bez premca ili će novi akteri proširiti polje sopstvenim modelima i inovacijama.
"Za pet godina i dalje zamišljam da ako želite da odete i pronađete najbolji, najtačniji, najnapredniji opšti model, vjerovatno ćete morati da idete u jednu od rijetkih kompanija koje imaju kapital da to urade", rekla je Leigh Marie iz kompanije za rizični kapital Kleiner Perkins.
Zachary Bratun-Glennon iz Gradient Ventures rekao je da predviđa budućnost u kojoj će "postojati milioni modela širom mreže, slično kao što danas imamo mrežu web stranica".
