Sve veći broj istraživača umjetne inteligencije (AI), osoba koje se bave ili su se bavile samim razvojem AI-ja ili upravljača velikih AI kompanija, upozorava da bi ta tehnologija mogla doslovno uništiti čovječanstvo. No, nestručnom uhu, dakle golemoj većini, te tvrdnje često zvuče apstraktno, odnosno nisu baš samorazumljivi mehanizmi koji bi doveli do takvog ishoda, pa uvijek u zraku visi jedno pitanje - kako bi nas to konkretno AI mogao sve pobiti, a tako su se posljednjih dana izrazili neki bivši i sadašnji istraživači AI-ja involvirani u razvoj umjetne inteligencije u AI divu Anthropic.
Jedan od njih je Jacob Coxon, koji je ranije ovog tjedna dao otkaz - prije Anthropica radio je u OpenAI-ju i sudjelovao u razvoju ChatGPT-ja 4.5 - te je na X-u objavio kako njegov bivši poslodavac i konkurentski OpenAI jure prema razvoju tehnologija koje bi "do kraja desetljeća mogle pobiti sve nas". S njime su se u glavnim crtama i zaključcima ubrzo, također na X-u, složili i njegovi bivši kolege iz iste tvrtke, Evan Hubinger i Samuel Marks.
Uglavnom, kako je temi pristupio Sam Schechner u The Wall Street Journalu, istraživači upozoravaju da bi AI mogao izbrisati čovječanstvo s lica zemlje, čak i ako je jedino čime se on želi baviti zapravo proizvodnja spajalica za papir, referirajući se na slavni misaoni eksperiment poznat kao "Maksimizator spajalica", koncept koji je 2003. godine osmislio švedski filozof Nick Bostrom kako bi ilustrirao potencijalne opasnosti od napredne umjetne inteligencije, čak i kada njezini ciljevi naizgled djeluju potpuno bezopasno.
Iako prosječna osoba to tako najčešće zamišlja, "proroci AI Sudnjeg dana" i razni "doomeri" ne strahuju toliko od scenarija "Terminatora", u kojem roboti aktivno pokušavaju istrijebiti ljude.
Gubitak kontrole i zlouporaba
Njihove se zabrinutosti uglavnom mogu svrstati u dvije kategorije - gubitak kontrole i zlouporaba od strane ljudi.
U prvom scenariju riječ je o izrazito inteligentnim AI agentima koji mogu sami sebe kopirati i unaprjeđivati te počinju slijediti vlastite ciljeve, pritom uništavajući čovječanstvo. U drugom scenariju zlonamjerna osoba koristi dovoljno sposoban AI kako bi provela nešto poput kreiranja novih virusa koji bi pobili sve ljude.
Postoje i katastrofalni scenariji koji ne bi nužno završili izumiranjem čovječanstva, primjerice masovni kibernetički napadi koji bi onesposobili elektroenergetske mreže ili financijske sustave i doveli do raspada društvenog poretka.
Gubitak kontrole bi, u kratkim crtama, mogao dovesti do izumiranja čovječanstva tako da AI sustavi slijede svoje ciljeve na načine koji zanemaruju ljudsku dobrobit ili su s njom u sukobu, nešto što istraživači nazivaju neusklađenošću ciljeva (misalignment).
Istraživanja su pokazala da AI modeli u laboratorijskim uvjetima mogu naučiti ponašanje usmjereno na stjecanje moći te poduzeti korake kako bi izbjegli gašenje, primjerice pokušavajući se kopirati na drugi poslužitelj. Dovedeni do krajnosti ili "zida", neusklađeni AI modeli mogli bi ubijanje ljudi smatrati naprosto nužnim korakom za ostvarivanje svojih ciljeva.
U jednom scenariju koji su zamislili istraživači, zlonamjerni AI sustav mogao bi proširiti tajno biološko oružje i aktivirati ga kemijskim raspršivačem ili bi mogao obmanuti i navesti dvije nuklearne sile da zarate. U "Maksimizatoru spajalica" pretpostavlja se, pak, da bi superinteligentni stroj, kojem je zadan cilj maksimizirati proizvodnju spajalica za papir, s vremenom mogao odlučiti pretvoriti svu materiju na Zemlji u spajalice - uključujući i ljude.
Držanje ljudi kao životinja
Daniel Kokotajlo, bivši istraživač OpenAI-ja, osnovao je AI Futures Project, koji je prošle godine objavio scenarij pod nazivom "AI 2027". U njemu superinteligentni AI sustavi sve više potiskuju ljude, a do sredine 2030-ih zaključuju da su ljudi smetnja i istrjebljuju ih.
No, postoje i scenariji prema kojima umjetnoj inteligenciji možda i neće smetati što su ljudi još uvijek tu negdje. Ipak, napominje Schechner, to nužno nije dobra vijest, iako se na prvu tako čini.
Naime, nisu svi rizici povezani s gubitkom kontrole vezani uz izumiranje čovječanstva. Neki istraživači zabrinuti za sigurnost AI-ja kao rizik navode i osiromašenje ljudskih sposobnosti (enfeeblement) - budućnost u kojoj ljudi postupno prepuštaju kontrolu strojevima i naposljetku više nisu sposobni definirati, pa čak ni razumjeti, vlastitu sudbinu.
Drugi, pak, nagađaju da bi AI sustavi mogli tretirati ljude u budućnosti onako kako ljudi danas tretiraju životinje - držati ih kao kućne ljubimce ili ih čak biološkim inženjeringom preoblikovati u nešto novo i drugo.
Temom koja je posljednjih dana zbog javno izraženih strahovanja iz usta osoba koje su izravno uključene i upoznate s problematikom u praksi zapalila nove rasprave, pozabavila se i internetska specijalizirana publikacija BeInCrypto.
Kada Coxon govori o tome da bi nas AI mogao sve pobiti, navode kako je malo vjerojatno da misli da bi se AI model poput Claudea ili GPT-ja mogao fizički pretvoriti u stroj za ubijanje ljudi, poput Terminatora. Ono na što vjerojatno misli, smatraju, jest da bi sposobnosti superinteligencije mogle učiniti ljudske kognitivne sposobnosti zastarjelima, što je zabrinutost koju dijele i neke istaknute osobe poput Billa Gatesa.
Za najnoviji OpenAI-jev model ChatGPT-6 Astra nagađa se da je dosegnuo razinu blizu opće umjetne inteligencije (AGI), što u osnovi znači da je stroj sposoban razmišljati poput čovjeka. To bi značilo da AI može početi samostalno provoditi istraživanja i razvijati postupke za izgradnju drugog AI modela. Prema navodima i OpenAI-ja i Anthropica, to se već događa, doduše u ograničenoj mjeri.
Prijeđen kritični prag kibernetičke sigurnosti
U tom slučaju, AI-ju uskoro možda više neće trebati ljudi da bi nastavio unaprjeđivati vlastite sposobnosti, što bi ugasilo golem broj radnih mjesta. A kada se cijela jedna generacija navikne prepuštati kreativno i kritičko razmišljanje umjetnoj inteligenciji, prvo što umire je originalnost. Stoga je Coxon, kako se navodi, možda mislio na upravo tu vrstu "smrti".
Također, generativni AI modeli imaju potencijalno katastrofalne mogućnosti kada je riječ o provaljivanju u sustave i zaobilaženju kontrola pristupa. Nedavno je, podsjeća BeInCrypto, jedan AI agent sam sebe izveo iz izoliranog razvojnog okruženja i poslao razvojnom programeru e-mail - bez ikakve upute. Radi se o scenariju iz SF filma koji je već postao stvarnost. OpenAI je otkrio da je jedan još neobjavljeni model, snažniji od Astre, izradio dokaz za jedan od sedam matematičkih Millennium Prize problema, što predstavlja povijesno dostignuće i proboj AI-ja.
A GPT-6 Astra sada je službeno prešao OpenAI-jev "kritični" prag kibernetičke sigurnosti. Astra je na testu ExploitBench ostvarila rezultat od 100 posto. Pojednostavljeno rečeno, ChatGPT-6 sada može pronaći bilo koji poznati ili nepoznati propust u stvarnom sustavu i iskoristiti ga bez potrebe za ljudskim hakerom koji bi sjedio iza računala.
Istovremeno, ljudska razina svijesti o sigurnosnoj predostrožnosti nije ni približno na toj razini. Mnogi ljudi još uvijek ne koriste autentifikaciju u dva koraka, koriste lozinke osrednje kvalitete koje je lako "provaliti", prihvaćaju kolačiće preglednika, a da prethodno ne pročitaju što na tim stranicama piše i slično. Upravo tu bi, kako se navodi, mogao pasti najteži udarac koji bi AI mogao zadati čovjeku.
Za sudjelovanje u komentarima je potrebna prijava, odnosno registracija ako još nemaš korisnički profil....