Nikola Jurković čuva čovječanstvo: ‘Nitko se ne priprema, a to bi nas moglo izbrisati’

Danas je u San Franciscu, u svojevrsnom „trustu mozgova“ – nekoliko stotina ljudi iz cijelog svijeta koji promišljaju o pitanju od kojeg mnoge hvata jeza već na samu pomisao: kako zaštititi čovječanstvo od umjetne inteligencije ako nešto krene po zlu?

Slično razmišlja i Demis Hassabis, dobitnik Nobelove nagrade i suosnivač Google DeepMinda, koji je ovog mjeseca upozorio na rizik da umjetna inteligencija „izmakne kontroli na način koji šteti čovječanstvu“.

O tim teškim pitanjima razgovarali smo s mladim Hrvatom. Otkrio nam je kako je ušao u „klub“ ljudi koji se time bave – i zašto vjeruje da je ovo jedno od najvažnijih pitanja naše budućnosti.

Na Harvardu dobio prestižnu nagradu

Išao sam u osnovnu školu i gimnaziju u Metkoviću. Kao gimnazijalac često sam išao na natjecanja i na ljetne škole znanosti na kojima sam sreo puno ljudi koji su studirali u inozemstvu. Pomislio sam da bih i ja mogao probati. Već u gimnaziji razmišljao sam kako mogu ostvariti najbolji pozitivni utjecaj na svijet. Skoro svaki plan koji mi je pao na pamet uključio je jedan od prvih koraka: studirati na jednom od najboljih fakulteta na svijetu. Prijavljivao sam se i na fakultete u Velikoj Britaniji i na fakultete u Americi. Jedan od njih bio je Harvard.

Tamo sam diplomirao u smjeru umjetne inteligencije i društva, a potom počeo raditi kao istraživač sigurnosti i umjetne inteligencije u San Franciscu.

Na Harvardu ste dobili nagradu koju dobiju najuspješniji studenati, kakav je osjećaj?

Da, potom je uslijedio poziv u društvo Phi Beta Kappa, svojevrsno društvo uspješnih, u koje ulazi tek mali broj studenata.

Kakav je osjećaj biti u društvu najuspješnijih? Iskreno, ne znam, nisam baš razmišljao o tim stvarima. Meni je bilo najvažnije da sam diplomirao i da mogu početi raditi

Kako ste se našli u svijetu umjetne inteligencije?

Od osnovne škole razmišljam o tome kako mogu poboljšati svijet. To mi je glavni cilj u životu.

Dio tog procesa je shvatiti koji su najvažniji problemi na svijetu i pitao sam se kako mogu pridonijeti da ih riješimo. U tom procesu sam pronašao problem sigurnosti umjetne inteligencije – to jest, problem kako ćemo oblikovati razvoj umjetne inteligencije tako da ona ima pozitivan utjecaj na budućnost čovječanstva.

To mi je sada glavni fokus u životu: pronaći načine da umjetna inteligencija nema negativan utjecaj na svijet, ili da ne prouzrokuje izumiranje čovječanstva (ili nešto još gore od toga), i da pronađemo neku budućnost u kojoj ljudi i umjetna inteligencija mogu imati nekakav suživot u kojem su oboje “sretni”.

‘Umjetna inteligencija je najveća opasnost za čovječanstvo’

Otvorili ste jako velika pitanja, rekla bih i filozofska. U glavi mi bruji glavno pitanje: postoji li realna opasnost da umjetna inteligencija “riješi” čovječanstvo?

Postoji. Ja bih rekao da je umjetna inteligencija najveća opasnost na globalnoj razini zato što ubrzo, možda u sljedećem desetljeću, možemo doći do razine umjetne inteligencije na kojoj je ona sposobnija od bilo kojeg čovjeka.

I ako takva superinteligencija ne bude u potpunom slaganju s našim interesima, ili bude imala nekakav konflikt s ljudima, mislim da postoji šansa u kojoj bi ona pobijedila čovječanstvo.

Opasnost je ogromna i trebamo kao civilizacija puno više uložiti u pronalaženje načina da spriječimo taj konflikt.

Jesmo li već došli do točke u kojoj umjetna inteligencija ima samosvijest? Je li trenutačno svjesna svog postojanja?

Sve ovisi o definicijama svjesnosti, ali važno je imati na umu da glavno pitanje nije je li umjetna inteligencija svjesna sama sebe. Važnije pitanje od samosvijesti jest pitanje sposobnosti umjetne inteligencije.

Meni je bitnije je li umjetna inteligencija sposobna, recimo, napraviti novo biološko oružje, ili hakirati nečiji bankovni račun, ili pronaći neku strategiju da izbjegne kontrole. 

I koji su odgovori na ta pitanja?

Odgovor na većinu pitanja u vezi opasnih sposobnosti umjetne inteligencije je da umjetna inteligencija trenutačno nije sposobna učiniti stvari koje su potrebne da bi ona zauzela svijet ili izbjegla našoj kontroli. Ali postaje sve sposobnija i ako se ekstrapoliraju trendovi njezine sposobnosti, jako je realistično da će unutar pet ili deset godina biti dovoljno sposobna da izbjegne ljudsku kontrolu.

Razgovarajući s vašim kolegama, oni kažu da se ne boje umjetne inteligencije, nego ljudi s lošim namjerama. Bojite li se vi takvih ljudi?

Da, i to je problem. Postoji opasnost i od ljudi s lošim namjerama koji koriste umjetnu inteligenciju, i od same umjetne inteligencije koja bi mogla imati svoje ciljeve odvojene od ljudskih ciljeva. Trebamo riješiti oba problema da bismo preživjeli kao vrsta. Jedan od najvećih izvora opasnosti je mogućnost da umjetna inteligencija pomogne stvarati nova oružja za masovna uništenja.

Približite nam: može li umjetna inteligencija u nekom trenutku „odlučiti“ i krenuti prema izradi biološkog oružja? Ili – može li  pokrenuti fizički svijet u kojem se to oružje počinje stvarati samo od sebe?

Puno ljudi radi na sigurnosti umjetne inteligencije i na tome kako spriječiti da umjetna inteligencija stvori nova biološka oružja. Biološka oružja poput nekakvih supervirusa ili superbakterija – jedinstvena su po tome što bi potencijalno mogla ubiti svakog čovjeka na svijetu. Čak i nuklearni rat vjerojatno ne bi ubio svakog čovjeka – preživjelo bi barem nekoliko milijuna ljudi. Ali ako netko stvori jako sposobno biološko oružje, mogao bi ubiti doslovno svakoga.

Dakle, veća je opasnost biološkog oružja od nuklearnog?

 

Foto: Shutterstock

 

Kontrola umjetne inteligencije

Mogu li se napraviti osigurači koji bi spriječili da se to događa i radi li se na tome?

Da, postoji znanstveno polje sigurnosti umjetne inteligencije. Postoji nas nekoliko stotina istraživača koji radimo na raznim načinima kako osigurati umjetnu inteligenciju.

Nekoliko je pristupa. Recimo, jedan pristup je Mehanistička interpretabilnost, koja se temelji na tome da pronalazimo načine razumjeti unutarnje mehanizme umjetne inteligencije – zašto radi odluke koje radi.

Danas nemamo to razumijevanje: ona je kao crna kutija, ogromna masa brojeva gdje mi dajemo ulazne podatke, ona daje izlazne podatke, i nemamo pojma što se događa između. To je jedan pristup.

Odakle su ti ljudi?

Više od polovine su iz Velike Britanije i SAD-a.

Ima li itko iz Hrvatske osim vas?

Ima nas nekoliko – tu su Daniel Paleka, Lovre Pešut, Jelena Luketina… Više je nas. 

Kako izgleda vaš svijet rada? Dijelite li si zadatke, dogovarate li se tko će što raditi?

Da. Istraživanje umjetne inteligencije je većinom podijeljeno ovisno o laboratoriju, odnosno o kompaniji ili organizaciji. Moja kompanija se zove METR , što znači Model Evaluation and Treat Research – istraživanje mjerenja umjetne inteligencije i njihovih prijetnji. Moja organizacija većinom radi na mjerenju opasnih sposobnosti.

METR ne radi toliko na AI kontroli, a recimo Redwood Research i Apollo Research rade. Ovisi o udruzi, i onda ima oko deset takvih timova u svijetu i svaki tim ima svoj fokus. Također postoji veliki broj neovisnih istraživača koji su manje na nekakvim „trackovima“, jel’, tako nešto.

To možemo podijeliti na dva odgovora. Trenutačno jesmo sposobni većinom kontrolirati trenutačne umjetne inteligencije, ali to je  iz jednostavnog razloga – one su još jako nesposobne.

Ali jednog dana neće više „zapinjati“. Pitanje je koliko će lekcije koje smo danas naučili biti upotrebljive u tom novom režimu u kojem će umjetne inteligencije biti jako sposobne.

Drugi dio odgovora je da je trenutačni plan kompanija koje rade na umjetnoj generalnoj inteligenciji stvoriti umjetnu inteligenciju koja je pametnija od čovjeka u skoro svemu.

Njihov plan je otprilike da će doći do ljudske razine umjetne inteligencije i tada napraviti veliki lanac umjetnih inteligencija, gdje jedna „nadgleda“ drugu, druga „nadgleda“ treću…

Svaka generacija nadgleda sljedeću, i svaka je sposobnija od prošle, tako da ćemo imati veliku piramidu umjetne inteligencije i nadamo se da to neće propasti negdje u procesu.

To je razlog zašto kompanije ciljaju na taj plan jer one su u utrci tko će prvi stvoriti nadljudsku umjetnu inteligenciju. Mi smo zapeli u toj utrci i mislim da su ostali planovi nekako manje realistični u režimu u kojem se oni utrkuju.

 

Foto: Privatni Album

Po vama, kako izgleda svijet za deset godina?

Za deset godina očekujem da će vjerojatno postojati umjetna inteligencija na ljudskoj razini i da će svijet biti jako drukčiji. Kad dođe umjetna inteligencija na ljudsku razinu, otprilike nijedan današnji posao više neće postojati. Zašto bi čovjek radio posao – skupo i sporo – ako može umjetna inteligencija brzo i jeftino?

Pitanje je hoće li čovječanstvo još postojati nakon nadljudske umjetne inteligencije. Ali ako bude postojalo, očekujem da će svakodnevica biti jako drukčija od današnje: umjetna inteligencija će kontrolirati cijelu ekonomiju i trebat ćemo pronaći neki novi način života.

 

Foto: Shutterstock

‘Nitko se ne priprema, to će biti kaos’

Ako ja ne moram raditi, mogu se više baviti sportom, više putovati… od čega ja živim?

Ako „umjetna inteligencija“ pođe u dobrom smjeru, to će biti najbolja stvar koja se ikad dogodila u povijesti. Ljudski život nakon toga bi vjerojatno bio puno bolji nego danas. Ali ako ljudi više nisu ekonomski korisni, trebat ćemo pronaći novi način da ljudi opstanu. Puno ljudi se zalaže za ideju universal basic income (opći osnovni dohodak op.a), gdje jednostavno svatko dobije neku količinu novca svaki mjesec i onda ljudi koriste taj novac kako god hoće. Mislim da bi to možda bilo dobro rješenje nakon potpuno automatizirane ekonomije.

Jesu li policy makeri, odnosno političari, svjesni toga što se događa?

Kratki odgovor je: ne. Broj ljudi na svijetu koji stvarno planiraju svoje živote i karijere oko nadljudske umjetne inteligencije je jako, jako nizak – vjerojatno manje od tisuću ljudi.

Otprilike svaka država na svijetu spava za volanom. Nitko se ne priprema za nadljudsku umjetnu inteligenciju i mislim da je to ogroman problem. Pitanje je hoćemo li postati svjesni važnosti nadljudske umjetne inteligencije nekoliko godina unaprijed – pa ćemo imati vremena planirati i pripremati se – ili ćemo postati svjesni u zadnju sekundu. Ako postanemo svjesni u zadnju sekundu, to će biti kaos.

Kako pripremiti djecu?

Da ste vi roditelj, imate obitelj i svjesni ste svega ovoga – što biste napravili? Kako pripremiti djecu?

Dobro pitanje… Mislim da nema smisla odustati od škole i odustati od svega. Mislim da ima smisla planirati život kao da će svijet biti normalan za deset godina.

Inače ljudima savjetujem da ne donose nikakve drastične odluke. Ljudi me često pitaju, pa i mladi rođaci: „Što da upišem?“… Budućnost možemo podijeliti na dvije.

U jednoj budućnosti umjetna inteligencija automatizira cijelu ekonomiju i tada nije važno na što se cilja i koje su karijere, jer karijera ne postoji. Ali budući da je svijet probabilističan, u budućnosti gdje se to ne dogodi, ako si odustao od cijele karijere, u ogromnom si problemu.

Zato je najbolje ciljati kao da se nadljudska inteligencija vjerojatno neće dogoditi u sljedećih deset godina.

Što se tiče toga što učiniti u vezi tog ogromnog globalnog problema – kako možemo pridonijeti – savjet je da ljudi koji se bave računarstvom razmisle o tome da postanu istraživači sigurnosti umjetne inteligencije, ili da ljudi koji rade na politici razmisle mogu li pridonijeti stvaranju zakona ili regulacije.

Umjetna inteligencija nije samo tehnički problem, nego i društveni problem. Nije samo za istraživače ili ljude koji su radili računarstvo. Treba svatko pridonijeti.

Vratimo se na početak i vas – s lakoćom govorite o Harvardu, klubu najuspješnijih. Opet, kao mama svaki dan susrećem se kao i mnogi roditelji s otporom djece prema knjigama – njima je to tlaka, napor, sve je preteško… Koji je vaš recept uspješnog školovanja?

Dobro pitanje, mislim da mi je bila jako važna podrška roditelja i od profesora, kao i od ljudi koji su organizirali dodatnu nastavu i ljetne škole. Na dodatnu natavu sam išao u Dubrovnik koju je držala udruga Caboga za promicanje prirodnih znanosti.

Jedna od stvari koju sam rano naučio jest da se mogu jako puno oslanjati na internet. Već od osnovne škole počeo sam učiti i matematiku i fiziku na internetu, preko Khan Akademije i preko YouTubea. To je bio ogroman resurs jer sam tako mogao ići brzinom koja je meni pasala, a ne brzinom koja je određena nekim sustavom. To mi je jako puno pomoglo.

Recimo – za natjecateljsku fiziku i za robotiku postoji ogromna količina resursa na internetu, samo ih treba pronaći. 

Jeste li imali kakvu rutinu koja vam je pomagala kod učenja, recimo – kao sportaš koji svaki dan odluči napraviti 100 sklekova i ne odustaje dok mu ne postane lako?

Ne znam (smijeh).

Zapravo cijeli život imam dosta rutine – i u srednjoj školi kad sam se pripremao za natjecanja iz fizike, kao i kad bih čitavo ljeto učio određene sate u danu. Mislim da je jedan od glavnih alata bio pripremati se radeći. Najbolja priprema je bila rješavati testove i natjecanja prošlih godina.

Recimo, za natjecanja iz fizike rješavao bih prošla natjecanja iz fizike i mislim da je to bilo jako korisno.

Često slušam kako govore: ‘pustite djecu da ljeti odmaraju’, a vi ste baš tada rješavali zadatke…

Mislim da sam svako ljeto proveo na raznim stvarima – ili učeći ili radeći neke projekte iz robotike – zato što mislim da je to najbolje vrijeme za srednjoškolce da se bave stvarima gdje mogu učiti praktički, umjesto iz udžbenika.