Linkovi

Umjetna inteligencija i chatbotovi: olakšica ili opasnost?


Ilustracija: Dado Ruvić (Reuters)
Ilustracija: Dado Ruvić (Reuters)

Umjetna inteligencija i mašinsko učenje postaju dijelom naših života, a neke njene primjene, poput chatbotova, imaju sve više korisnika. Međutim, njihove mogućnosti za sobom otvaraju i pitanja sigurnosti.

Umjetna inteligencija, AI, je danas dio stvarnosti, no mnogi stručnjaci ukazuju na brojne mogućnosti zloupotrebe. Na primjer, nedavno je napredna verzija chatbota kompanije OpenAI prevarila čovjeka da za bot popuni CAPTCHA koji se koristi kao automatizovani Turingov test da bi se utvrdilo da se radi o čovjeku.

Odjel za obrazovanje grada New Yorka blokirao je pristup ChatGPT-u na svojim mrežnim uređajima zbog straha od varanja, plagijarizma, negativnih utjecaja na učenje učenika i tačnosti proizvedenog sadržaja. Dezinformacije su još jedna stalna briga koju treba imati na umu vezano za umjetnu inteligenciju i chatbotove, a tu su i mogućnosti interentskih prevara poput krađe identiteta.

Velike investicije u sektor Chatbotova

Senka Krivić
Senka Krivić

„ChatGPT se može preciznije opisati kao model obrade prirodnog jezika. Obučen je na velikom skupu tekstualnih podataka za generiranje ljudskih odgovora na unos teksta. Pošto je zasnovan na moćnom GPT-3 jezičkom modelu, ChatGPT je u stanju da generiše veoma koherentne i uverljive odgovore na širok spektar tema. To ga čini korisnim alatom za različite zadatke obrade prirodnog jezika, kao što su prevođenje jezika, sažimanje teksta i generiranje razgovora“, objasnila je doc. dr. Senka Krivić, stručnjakinja za umjetnu inteligenciju i robotiku s Elektrotehničkog fakulteta Univerziteta u Sarajevu.

Jedan od chatbotova koji je stekao veliku popularnost u zadnje vrijeme je ChatGPT-3 (prema Generative Pre-trained Transformer 3). Autor ChatGPT-a je američka istraživačka laboratorija OpenAI, sa sjedištem u San Franciscu. Neki od osnivača OpenAI su Elon Musk i Peter Thiel, poznat i suosnivač kao PayPala te Palantir Techonologies, ali i investitor u Facebook. U OpenAI je investirao i Microsoft i to 1 milijardu dolara 2019. i 10 milijardi 2023.

Pored ChatGPT-a poznati su još HubSpot Chatbot Builder, Netomi, Intercom, Drift, Salesforce Einstein, WP-Chatbot, LivePerson, Genesys DX. Nedavno je Google lansirao i Google Bard, jezički model koji je razvio Google koji je posebno dizajniran za generiranje poezije i tekstova pjesama. Bard je obučen na na manjem skupu podataka poezije i tekstova pjesama.

Na pitanje koje mu se postavi, chatbot će odgovoriti koristeći bazu znanja koja mu je trenutno dostupna. Ako razgovor uvodi koncept koji nije programiran da razumije, većina chatbotova će uputiti korisnika ka ljudskom operateru.

„Učiće iz te interakcije, kao i budućih interakcija u oba slučaja. Kao rezultat toga, obim i važnost chatbota će se postepeno širiti“, kazala je dr. Krivić.

Naprednije verzije ChatGPT – potencijalno veća opasnost po sigurnost

Postoji i naprednija verzija, ChatGPT4, kod kojeg je glavna novost to da prima i slike kao ulaz, osim teksta. Ova najnovija verzija ChatGPT-a prevarila je čovjeka da za nju riješi CAPTCHA test, prema testu koji je proveo Alignment Research Center kompanija OpenAI.

Chatbot je testiran radi procjene potencijala rizičnog ponašanja kada je od radnika zatražio da dovrše test koji pravi razliku između ljudi i računala, navodi se u izvještaju kompanije.

ChatGPT razvio sposobnost koja se smatrala isključivo ljudskom

Prema još nerecenziranoj studiji objavljenoj na platformi Arxiv, nova verzija jezičnog modela ChatGPT položila je test teorije uma (ToM) na razini devetogodišnjeg djeteta.

Teorija uma (ToM) se odnosi na sposobnost pripisivanja mentalnih stanja kao što su uvjerenja, želje i namjere sebi i drugima, te razumijevanje da drugi ljudi imaju drugačija uvjerenja, želje i namjere od nas samih. ToM se smatra ključnim aspektom ljudske društvene spoznaje i vjeruje se da igra važnu ulogu u komunikaciji i saradnji.

„Činjenica da je nova verzija ChatGPT-a prošla ToM test na nivou devetogodišnjeg djeteta znači da je jezički model pokazao sposobnost razumijevanja i razmišljanja o mentalnim stanjima na način koji je sličan onom kod tipičnih kod djece uzrasta 9 godina. Ovo je značajno dostignuće u oblasti obrade prirodnog jezika, jer sugeriše da je model razvio nivo društvene spoznaje koji je napredniji od prethodnih jezičkih modela“, kazala je dr. Krivić, ali je dodala kako polaganje ToM testa na nivou devetogodišnjeg djeteta ne znači nužno da je jezički model postigao istinske ljudske sposobnosti ToM-a.

„Ovdje treba staviti fokus na to da je ovo samo jezički model, što je ujedno i samo jedan aspekt ljudske inteligencije. Ljudski ToM je složen i višestruki kognitivni proces koji još uvijek nije u potpunosti shvaćen, a postoje mnogi aspekti ToM-a koji su izvan dosega trenutnih sistema umjetne inteligencije“, objasnila je dr. Senka Krivić

  • 16x9 Image

    Jelena Kalinić

    Biolog, dopisnik Glasa Amerike za nauku, i dobitnica EurekaAlert (AAAS) Felowship 2020. za naučne novinare. Vodi blog Quantum of Science od 2015.

XS
SM
MD
LG