AI je možda već sad dovoljno moćan da uništi čovječanstvo

Jutarnji list donosi najbolje iz The Economista - jednog od najrelevantnijih i najuglednijih svjetskih medija koji se fokusira na geopolitiku, ekonomiju, znanost i tehnologiju. Svaki tjedan donosimo analitički uvid i perspektivu o globalnim vijestima.

Sve dosad objavljene članke pročitajte ovdje

© 2026. The Economist Newspaper Limited. Sva prava pridržana.

Umjetna inteligencija (AI) uskoro bi na popis svojih nadljudskih sposobnosti mogla dodati i znanje o biologiji. Naime, Anthropicov model Mythos, koji još nije javno objavljen zbog svojih sposobnosti hakiranja, nedavno je uspio riješiti trećinu najtežih zadataka obrade i analize podataka koje su sastavili stručnjaci za biologiju. Mythos je mogao raditi stvari koje nijedan od testiranih ljudi nije uspio, primjerice rekonstruirati vrstu stanice iz sirovih DNK-podataka.

Kako The Economist izvještava, takva sposobnost rješavanja problema znači da bi AI uskoro mogao i korisnicima dati iznimno opasne moći: sintetiziranje virusa, stvaranje novih neurotoksina ili „stvaranje tzv. zrcalnog života (mirror life)” – umjetno oblikovanih organizama s obrnutom biološkom strukturom, koji bi mogli ugroziti ili uništiti postojeći život na Zemlji. Takve opasnosti predstavljaju mračnu stranu demokratizacije umjetne inteligencije. Potpuno je zamislivo da bi AI mogao usamljenom mizantropu dati moć da uništi čovječanstvo.

Rizici za biosigurnost mnogo su ozbiljniji od rizika za kibernetičku sigurnost. Ako jedan genetski modificirani virus može uzrokovati milijarde smrti, čovječanstvo nema prostora za učenje na pogreškama. Nije sigurno da će umjetna inteligencija moći pomoći u obrani od opasnosti koje sama stvara. Softver se može brzo popraviti, ali ljudska biologija daleko je manje prilagodljiva. Zato će stvaranje modela sigurnih za javnu uporabu zahtijevati velika otkrića u temeljnoj znanosti umjetne inteligencije.

Koliko još?

Koliko još vremena imamo? Današnji javni AI modeli izuzetno su teorijski potkovani i briljiraju na pisanim testovima, ali, srećom, još uvijek početnicima pružaju malo praktične pomoći u laboratoriju. Međutim, iz Anthropica, tvorca Mythosa (koji nije za javnost), upozoravaju da bi taj model uskoro mogao biti sposoban voditi početnike kroz složene laboratorijske postupke. Kako Mythos i slični modeli još nisu testirani glede svojih praktičnih sposobnosti, moguće je da takvu sposobnost već posjeduju.

Modeli s takvim sposobnostima, baš poput nuklearnog oružja, nikada neće biti potpuno sigurni ako budu javno dostupni. Problem je i to što današnje metode zaštite nisu dovoljno pouzdane.

Jedna od mogućih mjera zaštite bila bi programirati AI da odbija davati opasne informacije ili izvršavati rizične zahtjeve. Međutim, korisnici često uspijevaju zaobići ta ograničenja takozvanim „jailbreakanjem”, odnosno manipuliranjem modela kako bi ipak otkrio zabranjene informacije. Iako je to danas teže nego prije, jedno nedavno istraživanje pokazalo je da je čak 90% početnika uspjelo dobiti informacije o virologiji od modela koji su trebali odbiti takve upite. Ostaviti u rukama takvih sustava budućnost čovječanstva bila bi pogreška.

Druga mjera bila bi uklanjanje opasnih podataka iz procesa treniranja AI modela. Think tank SecureBio predlaže da se iz podataka za treniranje AI modela uklone informacije o „zrcalnom životu”, nabavi opasnih patogena, zaobilaženju biosigurnosnih zaštita i procjeni mogućnosti izazivanja pandemije.

No problem je u tome što bi dovoljno napredan AI model mogao sam ponovno doći do tog znanja, čak i ako mu takve informacije nisu bile izravno dostupne tijekom treniranja, koristeći osnovna znanstvena načela i logičko zaključivanje. Slični pokušaji uklanjanja materijala povezanog sa seksualnim zlostavljanjem djece iz podataka za treniranje generatora slika nisu bili uspješni. Sustav treniran isključivo na bezazlenim slikama i dalje može stvarati eksplicitan sadržaj koji nikada nije „vidio”.

Treća ideja usmjerena je na kontrolu fizičkog svijeta. Vladine sigurnosne službe mogle bi i trebale bi više nadzirati dobavljače tehnologija (poput sinteze DNK) koje, uz legitimnu primjenu, mogu biti i zloupotrijebljene. Pravila „upoznaj svog korisnika” trebala bi ograničiti pristup takvim uslugama samo na provjerene istraživače i institucije.

Težak nadzor

No stvaranje virusa nije poput izrade nuklearnog oružja, za koje su potrebni rijetki i lako pratljivi materijali. U biologiji je, uz komercijalno dostupnu opremu, relativno lako razviti smrtonosne agense. Država ne može nadzirati svaku Petrijevu zdjelicu.

Zato će biti potrebna nova znanstvena otkrića kako bi se razvile učinkovitije zaštite. Jedan od obećavajućih pristupa nalik je svojevrsnoj „operaciji mozga” nad modelima nakon njihova treniranja. Druga metoda pokušava modele navesti da u određenim područjima namjerno daju netočne odgovore, dok bi treća mogla identificirati i deaktivirati neuronske sklopove koji se aktiviraju pri radu na sintetskoj biologiji. Za sve to bit će potreban napredak u temeljnoj znanosti umjetne inteligencije kako bi se otvorila „crna kutija” današnjih neuronskih mreža i bolje razumjelo kako one zapravo funkcioniraju.

Dok takve tehnike ne budu razvijene, vlade će morati ograničiti pristup sustavima koji bi mogli omogućiti bioterorizam. To je posebno važno za open-source modele, koji se nakon javnog objavljivanja više ne mogu povući niti se može pratiti njihova uporaba. Odgovorni istraživači trebali bi moći koristiti AI za napredak znanosti (DeepMindov Isomorphic Labs upravo razvija nove terapije protiv raka), ali uz stroge sigurnosne protokole. Nema smisla koristiti umjetnu inteligenciju za poboljšanje života ako istodobno daje teroristima moć da ugroze čovječanstvo.