NIKOLA JURKOVIĆ Zvirićanin s Harvarda "faca" u svijetu umjetne inteligencije

Bivši učenik Gimnazije Metković Nikola Jurković, Zvirićanin po porijeklu, nakon dvije godine preddiplomskog studija na Harvardu kratko je posjetio svoj rodni kraj. Nikola je jedan među rijetkima u svijetu koji se bavi sigurnošću umjetne inteligencije, piše Metković.net čiji je novinar intervjuirao Nikolu.

Koliko je sigurna umjetna inteligencija?

Trenutno je sigurnost umjetne inteligencije jako mlado polje, i nemamo nikakve jake garancije da će se sigurno ponašati umjetne inteligencije. Na sreću trenutni AI-ovi ne kontroliraju puno kritičnih sustava pa ne prouzrokuju velike katastrofe kada učine nešto krivo. Nažalost, već postoje primjeri gdje AI govori neistine ili potiče ljude da čine opasne stvari, i jedan čovjek u Belgiji je nedavno počinio samoubojstvo djelomično zbog razgovora s umjetnom inteligencijom.

To mi se čini kao prirodna posljedica toga što je sigurnost umjetne inteligencije jako mlado i zanemareno polje. Već desetljećima ljudi pokušavaju što više razviti umjetnu inteligenciju, i tek prije nekoliko godina su ljudi ozbiljno počeli raditi na tome da osiguramo da umjetna inteligencija ne radi loše stvari ljudima. Prije je bilo teško zamisliti da bi nam ubrzo umjetna inteligencija mogla rješavati domaće radove, stvarati slike na razini profesionalnih umjetnika, ili voditi pune razgovore s ljudima. Nismo kao civilizacija bili spremni na ovako brz razvoj, i sad vidimo posljedice toga.

Jedan ste od pionira koji se bavi sigurnošću umjetne inteligencije. Koliko joj možemo vjerovati i da li je UI opasnost za civilizaciju?

U polju sigurnosti umjetne inteligencije ima manje od 1000 ljudi na cijelom svijetu, i mislim da bi trebale barem stotine tisuća ljudi raditi na tome. Nismo ni blizu točki gdje možemo zasigurno reći da neka umjetna inteligencija neće učiniti štetu. Inače zahtijevamo stroge garancije sigurnosti. Kad gradimo mostove, kad letimo avione, kad upravljamo tvornicama, uvijek moraju postojati sigurnosne mjere koje šansu nesreća smanjuju na jako nizak broj. S druge strane, u polju umjetne inteligencije, većina stručnjaka misli da postoji šansa od barem 5% da umjetna inteligencija uništi cijelo čovječanstvo. To je neprihvatljivo.

Mlado je polje, ali brzo raste. Prije nekoliko godina je samo nekoliko desetaka ljudi radilo na njemu, i sada niču novi laboratoriji i nove organizacije koje pokušavaju pronaći načine kako izbjeći katastrofe povezane s umjetnom inteligencijom. Preko semestra sam radio u jednoj takvoj organizaciji, i u isto vrijeme sam radio na istraživanju sigurnosti umjetne inteligencije u laboratoriju na Harvardu. Preko ljeta planiram nastaviti oboje.