Je li umjetna inteligencija već izmaknula kontroli, hoće li za koju godinu uništiti čovječanstvo, treba li je usporiti i dodatno regulirati, uključiti neovisno praćenje razvoja ili su sve to marketinška trik pitanja, teško je odlučiti. Poglavito kad treba spojiti znanost i biznis, odnosno profit. Dodatnu pomutnju izazvao je svojom izjavom znanstvenik Jacob Coxon nakon nedavne ostavke u Anthropicu, tvrtki za razvoj umjetne inteligencije.
"Ako ne usporimo trenutačni tempo napretka umjetne inteligencije, postoji velika vjerojatnost da bismo svi mogli umrijeti u bliskoj budućnosti“, rekao je Coxon za BBC.
Njegova ostavka dolazi usred rastuće sigurnosne zabrinutosti u toj industriji, uključujući i onu Coxonova bivšeg šefa, direktora Anthropica, Darija Amodeija, koji se u svom javnom istupu založio za usporavanje razvoja. I šefovi dviju konkurentskih tvrtki za umjetnu inteligenciju, Sam Altman iz OpenAI-a i Elon Musk iz xAI-a, rekli su da se slažu s Amodeijevim prijedlogom za usporavanje i regulaciju cijele industrije, kao i neovisno praćenje razvoja modela umjetne inteligencije.
Ozbiljni rizici
Amodei je rekao da razvoj tehnologije nije upitan, ali da su rizici povezani s njom ozbiljni i da se kompanijama i vladama mora dati vremena da se njima pozabave.
Dvadesetsedmogodišnji Coxon - koji je radio u OpenAI-u prije nego što se pridružio Anthropicu - pozdravio je prijedlog usporavanja, ali je rekao da bi to trebalo biti koordinirano s Kinom kako bi se izbjegla utrka na međunarodnoj razini.
"Ljudi koji rade u ovim kompanijama ozbiljni su kad traže regulaciju jer su sve više zarobljeni u toj utrci čiji ih ishod plaši", rekao je Coxon za BBC.
S druge strane, neki iz industrije drže da su komentari o opasnostima umjetne inteligencije moguće osmišljeni da se stvori medijska pompa, a ima i onih koji ističu da primjerice Anthropic pokušava pokrenuti snažniju regulaciju kako bi blokirao konkurenciju i ostao u duopolu s OpenAI-em s obzirom na to da se navodno priprema za potencijalno rekordnu javnu ponudu dionica. Coxonove stavove o potencijalnoj opasnosti također je doveo u pitanje Clement Delangue, izvršni direktor AI platforme Hugging Face.
"Žao mi je, ali pitati Jacoba o riziku od izumiranja zbog umjetne inteligencije isto je kao pitati vašeg stručnjaka za klima-uređaje o klimatskim promjenama", napisao je na X-u. "Ne kažem da je to nužno nezanimljivo ili pogrešno samo po sebi, ali stvari treba sagledavati iz prave perspektive", istaknuo je. No, nakon što je objavljen Amodeijev ogled, ipak je ponudio pomoć u potencijalnim rješenjima koje je predložio šef Anthropica.
"Netočno"
O Coxonovoj izjavi oglasio se i Jensen Huang, šef Nvidije, ocijenivši je netočnom, i to na konferenciji koju je nedavno organizirala investicijska banka Goldman Sachs u San Franciscu, na kojoj su se sastali investitori i industrija. On je i prije rekao da je ideja da će umjetna inteligencija biti kraj čovječanstva potpuna besmislica.
Ipak, Coxon je izrazio i određeni optimizam u pogledu budućnosti umjetne inteligencije, rekavši za BBC da ljudi koji istražuju tehnologiju "iskreno žele vidjeti pozitivne strane, poput rješavanja bolesti i poboljšanja života svih".
Njegovi komentari o umjetnoj inteligenciji podijeljeni su milijuni puta na društvenim mrežama, a antropolog Evan Hubinger odgovorio je na X-u da se slaže s Coxonom.
"Zaista iskreno vjerujemo da bi umjetna inteligencija mogla ubiti sve ljude!" rekao je Hubinger.
Naime, i vodeće osobe u području umjetne inteligencije, među ostalima čelnici OpenAI-a, Google Deepminda i Anthropica, godinama upozoravaju na sigurnosnu prijetnju koju ova tehnologija predstavlja. Upozorenja su postala glasnija posljednjih tjedana, jer su novi modeli pokazali sve moćnije mogućnosti koje njihovi tvorci možda teško kontroliraju.
Kompanija Anthropic je u a travnju priopćila da uskraćuje javnu upotrebu svog modela Mythos jer bi mogao samostalno izaći iz testnog okruženja, poznatog kao sandbox.
Privremena obustava razvoja
OpenAI je također rekao da su određeni aspekti razvoja njihova nedavnog modela Astra pauzirani, navodeći kao razlog zabrinutost zbog kibernetičke sigurnosti. Nedavno je Anthropic priopćio da je pronašao i zaustavio aktere prijetnji koji su pokušavali koristiti njegovu AI tehnologiju za razvoj biološkog oružja i cyber špijunažu.
Sve bi to moglo ubrzati dodatne kontrolne mjere. Savezni zakon, poznat kao Zakon o zabrani umjetne superinteligencije, koji je ovaj mjeseca predložio američki ljevičarski senator Bernie Sanders, nametnuo bi privremenu obustavu razvoja napredne umjetne inteligencije.
"Postoji velika vjerojatnost da će ljudi izgubiti kontrolu nad umjetnom inteligencijom. Što će se tada dogoditi, nitko ne zna. A bi li to moglo biti katastrofalno? Da, moglo bi!" rekao je Sanders u BBC-jevoj emisiji "Newsnight". Dodao je: "Kad nam znanstvenici kažu da postoji mogućnost da bi to moglo imati kataklizmičke posljedice za čovječanstvo, morate biti idiot da ne kažete: usporite to!" naglasio je.
No, na konferenciji u San Franciscu potraga za bogatstvom čini se da je uglavnom nadjačala sve rastuće egzistencijalne brige ili strahove zbog potencijalnih vladinih ograničenja umjetne inteligencije. Jedan je investitor rekao da se veseli predstojećem Anthropicovu dokumentu S-1, koji kompanija mora podnijeti regulatorima vrijednosnih papira kako bi prodala dionice. Njegovo glavno pitanje o kompaniji bilo je jednostavno - je li firma profitabilna? Sve ostalo, pa i sigurnost čovječanstva, čini se da nije neka prepreka!
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....