Linkovi

Neki stručnjaci za umjetnu inteligenciju protiv Muskove anti-AI kampanje


Četiri stručnjaka za umjetnu inteligenciju izrazila su zabrinutost nakon što je njihov rad citiran u otvorenom pismu - koje je supotpisao Elon Musk - zahtijevajući hitnu pauzu u istraživanju.

U pismu od 22. marta i sa više od 1.800 potpisa do petka, poziva se na šestomjesečni prekid u razvoju sistema "moćnijih" od novog GPT-4 OpenAI koji podržava Microsoft koji može voditi ljudski razgovor, komponovati pjesme i sažimati dugačka dokumenta.

Otkako je prethodnik GPT-4 ChatGPT objavljen prošle godine, konkurentske kompanije su požurile da lansiraju slične proizvode.

U otvorenom pismu se kaže da AI sistemi sa "ljudsko-konkurentnom inteligencijom" predstavljaju duboke rizike za čovječanstvo, citirajući 12 istraživanja stručnjaka, uključujući univerzitetske akademike, kao i sadašnje i bivše zaposlenike OpenAI, Google i njegove podružnice DeepMind.

Grupe civilnog društva u SAD-u i EU od tada vrše pritisak na zakonodavce da obuzdaju istraživanje OpenAI. OpenAI nije odmah odgovorio na zahtjeve za komentar.

Kritičari su optužili Institut za budućnost života (FLI), organizaciju koja stoji iza pisma koju prvenstveno finansira Musk fondacija, da daje prednost zamišljenim apokaliptičnim scenarijima u odnosu na neposrednije brige o AI, kao što su rasističke ili seksističke predrasude koje se programiraju u mašine.

Među navedenim istraživanjima je i "O opasnostima stohastičkih papagaja", dobro poznati rad čiji je koautor Margaret Mitchell, koja je prethodno nadgledala etičko istraživanje umjetne inteligencije u Googleu.

Mitchell, sada glavni etički naučnik u AI firmi Hugging Face, kritizirala je pismo, rekavši Reutersu da je nejasno šta se smatra "moćnijim od GPT4".

„Tretiranjem mnogih sumnjivih ideja kao datosti, pismo potvrđuje skup prioriteta i narativ o AI koji koristi pristašama FLI-ja“, rekla je ona. "Ignoriranje aktivnih šteta trenutno je privilegija koju neki od nas nemaju."

Njeni koautori Timnit Gebru i Emily M. Bender kritikovali su pismo na Tviteru, a potonja je neke od svojih tvrdnji označila kao "nezavisne".

Predsjednik FLI-ja Maks Tegmark rekao je za Reuters da kampanja nije bila pokušaj da se ometa korporativna prednost OpenAI-a.

"To je prilično urnebesno. Vidio sam kako ljudi govore: 'Elon Musk pokušava da uspori konkurenciju'", rekao je on, dodajući da Musk nije imao nikakvu ulogu u sastavljanju pisma. "Ne radi se o jednoj kompaniji."

Shiri Dori-Hacohen, docent na Univerzitetu Konektikat, također osporava što se njen rad spominje u pismu. Ona je prošle godine bila koautor istraživačkog rada koji tvrdi da raširena upotreba AI već predstavlja ozbiljne rizike.

Njeno istraživanje je tvrdilo da današnja upotreba AI sistema može uticati na donošenje odluka u vezi s klimatskim promjenama, nuklearnim ratom i drugim egzistencijalnim prijetnjama.

Ona je za Reuters rekla: "AI ne treba da dosegne inteligenciju na ljudskom nivou da bi pogoršala te rizike."

"Postoje neegzistencijalni rizici koji su zaista, zaista važni, ali ne dobijaju istu vrstu pažnje na nivou Holivuda."

Upitan da prokomentariše kritike, Tegmark iz FLI-a je rekao da i kratkoročne i dugoročne rizike AI treba shvatiti ozbiljno.

"Ako nekoga citiramo, to samo znači da tvrdimo da podržava tu rečenicu. To ne znači da podržava pismo, ili da podržavamo sve što oni misle", rekao je Reutersu.

Dan Hendrycks, direktor Centra za sigurnost umjetne inteligencije sa sjedištem u Kaliforniji, koji je također citiran u pismu, ostao je pri njegovom sadržaju, rekavši Reutersu da je razumno razmotriti događaje crnog labuda - one koji izgledaju malo vjerovatni, ali bi imali razorne posljedice.

U otvorenom pismu se također upozorava da bi se generativni AI alati mogli koristiti za preplavljivanje interneta "propagandom i neistinom".

Dori-Hacohen je rekla da je Musk bio "prilično bogat" što ga je potpisao, navodeći prijavljen porast dezinformacija na Twitteru nakon njegovog preuzimanja platforme, što je dokumentirano od strane grupe civilnog društva Common Cause i drugih.

Twitter će uskoro pokrenuti novu strukturu naknada za pristup svojim istraživačkim podacima, što bi potencijalno ometalo istraživanje na ovu temu.

"To je direktno uticalo na rad moje laboratorije, kao i na rad drugih koji proučavaju dezinformacije", rekla je Dori-Hacohen. "Operiramo s jednom rukom vezanom iza leđa."

Musk i Twitter nisu odmah odgovorili na zahtjeve za komentar.

XS
SM
MD
LG