"Ove obaveze su stvarne i konkretne", rekao je predsjednik Joe Biden u komentaru novinarima. „One će pomoći ... industriji da ispuni svoju temeljnu obavezu prema Amerikancima da razvije sigurne, sigurne i pouzdane tehnologije koje će koristiti društvu i podržavaju naše vrijednosti i naše zajedničke vrijednosti."
Kompanije koje su poslale lidere u Bijelu kuću bile su Amazon, Anthropic, Google, Inflection, Meta, Microsoft i OpenAI. Sve kompanije razvijaju sisteme koji se nazivaju modeli velikih jezika (LLM), koji se obučavaju koristeći ogromne količine teksta, obično preuzetog sa javno dostupnog interneta, i koriste prediktivnu analizu kako bi konverzacijski odgovorili na upite.
U saopćenju, OpenAI, koji je stvorio popularnu uslugu ChatGPT, kaže: “Ovaj proces, kojim koordinira Bijela kuća, važan je korak u unapređenju smislenog i efektivnog upravljanja umjetnom inteligencijom, kako u SAD-u tako i širom svijeta.”
Sigurnost, sigurnost, povjerenje
Sporazum, koji je Bijela kuća objavila u petak ujutro, ističe tri široka područja fokusa: osiguranje da su proizvodi umjetne inteligencije sigurni za javnu upotrebu prije nego što postanu široko dostupni; građevinski proizvodi koji su sigurni i ne mogu se zloupotrijebiti u nenamjenske svrhe; i uspostavljanje povjerenja javnosti da su kompanije koje razvijaju tehnologiju transparentne o tome kako rade i koje informacije prikupljaju.
Kao dio sporazuma, kompanije su se obavezale da će provesti interna i eksterna sigurnosna testiranja prije nego što AI sistemi budu objavljeni kako bi se osiguralo da su sigurni za javnu upotrebu, te da dijele informacije o sigurnosti sa javnošću.
Nadalje, obaveza obavezuje kompanije da održavaju snažne mjere zaštite kako bi spriječile nenamjerno ili zlonamjerno puštanje tehnologije i alata koji nisu namijenjeni široj javnosti, te da podrže napore trećih strana da otkriju i razotkriju sva takva kršenja.
Konačno, sporazumom se utvrđuje niz obaveza koje imaju za cilj izgradnju povjerenja javnosti. To uključuje garancije da će sadržaj kreiran AI uvijek biti identificiran kao takav; da će kompanije ponuditi jasne informacije o mogućnostima i ograničenjima svojih proizvoda; da će kompanije dati prioritet ublažavanju rizika od potencijalne štete od AI, uključujući pristrasnost, diskriminaciju i kršenje privatnosti; i da će kompanije usredotočiti svoja istraživanja na korištenje umjetne inteligencije kako bi "pomogli u rješavanju najvećih izazova društva".
Administracija je saopštila da radi na izvršnoj naredbi koja će od Kongresa tražiti da razvije zakonodavstvo kako bi "pomogala Americi da predvodi put u odgovornim inovacijama".
Samo početak
Stručnjaci koje je VOA kontaktirala rekli su da je sporazum označio pozitivan korak na putu ka efikasnoj regulaciji nove AI tehnologije, ali su takođe upozorili da ima mnogo više posla koji treba da se uradi, kako u razumijevanju potencijalne štete koju ovi moćni modeli mogu da izazovu, tako i u pronalaženju načina da se ona ublaži.
„Niko ne zna kako da reguliše vještačku inteligenciju – veoma je složen i stalno se mijenja“, rekla je Suzan Ariel Aronson, profesorka na Univerzitetu Džordž Vašington i osnivačica i direktorka istraživačkog instituta Digital Trade and Data Governance Hub.
"Bijela kuća se veoma trudi da reguliše na proinovativni način", rekao je Aaronson za Glas Amerike. „Kada regulišete, uvek želite da uravnotežite rizik — zaštitu ljudi ili preduzeća od štete — sa poticanjem inovacija, a ova industrija je od suštinskog značaja za ekonomski rast SAD.
Dodala je: „Sjedinjene Države pokušavaju i zato želim da pohvalim Bijelu kuću za ove napore. Ali želim da budem iskren. Da li je dovoljno? Ne.”
'Konverzacijsko računarstvo'
Važno je to shvatiti kako treba, jer će modeli kao što su ChatGPT, Google Bard i Anthropic's Claude sve više biti ugrađeni u sisteme koje ljudi koriste za obavljanje svojih svakodnevnih poslova, rekao je Louis Rosenberg, izvršni direktor i glavni naučnik kompanije Unanimous AI.
"Ulazimo u doba konverzacijskog računarstva, gdje ćemo razgovarati sa našim računarima i naši računari će uzvratiti", rekao je Rosenberg za VOA. "Tako ćemo uključiti pretraživače. Tako ćemo uključiti aplikacije. Tako ćemo uključiti alate za produktivnost."
Rosenberg, koji je radio na polju umjetne inteligencije 30 godina i posjeduje stotine srodnih patenata, rekao je da kada je u pitanju LLM koji je tako čvrsto integriran u naš svakodnevni život, još uvijek ne znamo sve o čemu bismo trebali biti zabrinuti.
"Mnogi rizici još nisu u potpunosti shvaćeni", rekao je. Konvencionalni kompjuterski softver je vrlo deterministički, rekao je, što znači da su programi napravljeni da rade upravo ono što im programeri kažu. Nasuprot tome, tačan način na koji funkcionišu veliki jezički modeli može biti nejasan čak i za njihove kreatore.
Modeli mogu pokazati nenamjernu pristrasnost, mogu ponavljati lažne ili pogrešne informacije i mogu reći stvari koje ljudi smatraju uvredljivim ili čak opasnim. Osim toga, mnogi ljudi će komunicirati s njima putem usluge treće strane, kao što je web stranica, koja integrira model velikog jezika u svoju ponudu, ali može prilagoditi svoje odgovore na načine koji mogu biti zlonamjerni ili manipulativni.
Mnogi od ovih problema postat će očigledni tek nakon što ovi sistemi budu raspoređeni u velikom obimu, do tada će već biti u upotrebi u javnosti.
"Problemi još nisu isplivali na površinu na nivou na kojem kreatori politike mogu da ih direktno riješe", rekao je Rosenberg. “Stvar koja je, mislim, pozitivna, je da barem kreatori politike očekuju probleme.”
Potrebno više zainteresovanih strana
Benjamin Boudreaux, analitičar politike u RAND Corporation, rekao je za Glas Amerike da nije jasno koliko će stvarne promjene u ponašanju kompanija proizvesti sporazum od petka.
“Mnoge stvari na koje se kompanije slažu su stvari koje kompanije već rade, tako da nije jasno da li ovaj sporazum zaista mijenja veliki dio njihovog ponašanja,” rekao je Boudreaux. “I zato mislim da će i dalje postojati potreba za možda više regulatornim pristupom ili više akcija Kongresa i Bijele kuće.”
Boudreaux je također rekao da će administracija morati proširiti krug učesnika u razgovoru, kako administracija bude formulisala svoju politiku.
“Ovo je samo grupa subjekata privatnog sektora; ovo ne uključuje kompletan skup zainteresovanih strana koje treba da budu uključene u rasprave o rizicima ovih sistema,” rekao je on. “Zainteresovane strane koje su izostavljene iz ovoga uključuju neke od nezavisnih evaluatora, organizacije civilnog društva, neprofitne grupe i slično, koji bi zapravo radili neke od analiza rizika i procjene rizika.”
