‘I umjetna inteligencija ima predrasude, a zna i varati. U roku od jednog dana chatbot je postao antisemit...‘

Jelena Godrijan, znanstvenica Instituta “Ruđer Bošković”, prije nekoliko dana dobila je potporu EMBO-a, Europske organizacije za molekularnu biologiju, kojom će u sljedeće tri godine formirati grupu znanstvenika i istraživati životni ciklus algi, njihovu reakciju na promjenu CO2 u moru u kontekstu borbe protiv globalnog zatopljenja. Ona zna što će raditi ove godine i što očekuje. No to je tek dio znanosti, pa smo u Globusovu čajanku, u Laubu, kuću za ljude i umjetnost, pozvali i Sašu Cecija, fizičara i promotora znanosti, te Slavena Mišaka, direktora tvrtke Bonsai.tech, kako bismo saznali njihova očekivanja od ove godine. Budući da smo kao vrsta nezaustavljivi u izazivanju klimatskih promjena, počeli smo od tog, najvećeg izazova.

Vlašić: Postoji li neka procjena koliko bismo imali vremena da ništa ne poduzmemo u pitanju klimatskih promjena?

Godrijan: Mislim da ne možemo donijeti takvu procjenu. Jako dugo smo istraživali uopće...

Vlašić: Da li to postoji...?

Godrijan: Da, i nitko nam ne vjeruje da se to dešava.

Ceci: I da se ne dešava prirodno.

Godrijan: Mislim da ne mogu odgovoriti na to pitanje.

Ceci: Tu su oni problemi, kada ispuštaš veliku količinu zagrijavanja, dolazi do topljenja slojeva leda, a led je dobar jer reflektira Sunčevu svjetlost koja se onda manje zadržava. Nešto se mijenjalo uslijed zagrijavanja i povećavala se količina stakleničkih plinova pa je teško napraviti projekcije. Tu je i rast potrošnje energije. Zemlje u razvoju strahovito napreduju i one troše sve više i više energije, a proizvodnja energije je jedan od najvećih doprinosa količini tih plinova.

Vlašić: Meni je uvijek fascinantno kako mi ljudi ne shvaćamo da proizvodnjom smeća i otpada sami sebe uništavamo jer se tog otpada ne možemo riješiti, s obzirom na to da imamo samo jedan planet na kojem živimo.

Godrijan: Mi smo jako dugo vremena gledali kako se mijenja klima i naravno da je u prošlosti bilo perioda kada je bila slična količina CO2 ili čak i veća ili su bile veće temperature, ali bitno je napomenuti da se sve to događalo u puno duljim periodima. Ovo čemu sada svjedočimo je nešto što se dogodilo jako brzo, gledajući kroz geološku prošlost. Glavni je problem kako da se vrlo brzo prilagodimo tome.

Vlašić: Može li nam u tome koristiti umjetna inteligencija?

Mišak: Mislim da tako dugo dok prava inteligencija donosi odluke, umjetna inteligencija može samo davati sugestije. Ako se mi kao vrsta ne slažemo da postoji globalno zatopljenje, razni modeli umjetne inteligencije mogu donijeti masu različitih podataka, ali u konačnici mi interpretiramo što radimo s tim podacima. Modeli govore da ovo s klimom ne štima, a ljudi i dalje ne vjeruju. To znači da umjetna inteligencija može pomoći, ali i da postoji jako puno faktora u njezinoj primjeni.

Ceci: Znači, mi razumijemo da računalo nije subjektivno. One podatke koje mu daš računalo će ti vratiti, neće te namjerno prevariti. Može doći do pogreške, ali nema namjere da te prevari. E sad, s dolaskom umjetne inteligencije taj se stav prenio i na nju, i ovdje računamo da nas ona neće prevariti. Naravno da se posljednjih dana pokazalo da je drugačije. Chatbot te na kraju sasvim fino prevari, izmisli referencu koja ne postoji i ponudi je kao odgovor na naš zahtjev. Možemo li uopće vjerovati umjetnoj inteligenciji? Mislim da kada učimo umjetnu inteligenciju, u dobroj joj mjeri prebacujemo naše predrasude.

Mišak: U tome i jest problem. Sve funkcionira po principu garbage in – garbage out. Da, možda AI nije programirana da ima predrasude, da bude pokvarena, ali ako joj daš podatke na temelju kojih može zaključiti na ovakav ili onakav način, onda će se to i dogoditi. Prije par godina, kada je ta tehnologija bila dosta nerazvijena, Microsoft je izbacio chatbot koji je bio njihov pokušaj Turingova testa, nečega što je trebalo zavarati ljude koji s njime komuniciraju da pomisle da razgovaraju sa sedamnaestogodišnjim mladićem. Taj chatbot je u roku od jednog dana postao antisemit, sve najgore, jer je vjerovao u ljude. Komponentu ultimativne istine nemamo jer imamo falične ljude koji programiraju tu inteligenciju. AI se sada jako puno koristi za određene svrhe kao što su self driving cars, kako bi umjetna inteligencija prepoznala druge automobile na cesti. Nije savršeno jer se oslanja na senzore koji nisu savršeni, na kamere. Tesla je izbacio ultrazvučne senzore s automobila jer im je bilo preskupo ugrađivati i senzore pa su koristili kamere. Ali su na kraju rekli: “To još nije spremno, a bit će uskoro.” Sada imaš situaciju da voziš auto, odnosno auto sam vozi, ali naletiš na maglu i auto ne može voziti jer na prednjem dijelu nema radar, nego kameru i ne vidi ništa u magli. Ostali automobili čiji proizvođači nisu odustali od senzora mogu i dalje voziti. Možeš imati najbolju AI na svijetu, ali nikakva korist od nje jer nema senzora koji bi joj koristio. AI nam stvarno koristi u svakodnevnom životu, napredak ovisi o tome, ali još ima puno posla. To se vidi i na primjeru Googlea. On možda nije ni svjestan koliko je njegov poslovni model u opasnosti jer ljudi traže od umjetne inteligencije da joj mogu postavljati pitanja na koja će dobiti odgovore. Googleov poslovni model zasniva se na tome da servira još tri reklame koje ćeš vidjeti prije nego što se pojavi odgovor jer od toga žive.

Ceci: S Googleom ne možeš puno komunicirati. Možeš mu dati neke ključne riječi, neku rečenicu kao pitanje i on ti ponudi nešto kao odgovor.

Mišak: Cijela se podznanost razvija iz toga da umjetnoj inteligenciji postaviš boundaries, granice, kako bi bila sposobna učiti. Moraju postojati granice u smislu ovog problema s antisemitima. Chat GPT ne ulazi u tu raspravu.

Godrijan: Pitala sam Chat GPT da se postavi u moju poziciju i da je na panelu na kojem raspravlja o umjetnoj inteligenciji i da mu je postavljeno to pitanje, kako bi odgovorio koristeći znanje iz biološke oceanografije, genomike...

Fizičar Saša Ceci smatra da često imamo pogrešan pristup u učenju fizike. Njegovo je mišljenje, pojednostavljeno rečeno, da ljude treba naučiti kako dvije formule mogu dovesti do sljedeće i tako pobuditi onaj ključni interes za fiziku

Darko Tomas/Cropix

Vlašić: Koji vam je odgovor ponuđen?

Godrijan: Realni. Pitanje je bilo što očekujemo u 2023. i on je rekao da možemo očekivati dalje naznake porasta temperature i klimatskih promjena. Što je sasvim legitiman odgovor.

Vlašić: Koliko smo daleko od toga da umjesto nas ovdje sjede naši hologrami dok smo mi na kavi, a ti hologrami vode istu ovu raspravu?

Mišak: A tko bi to gledao?

Ceci (svi se smiju): Pa, drugi hologrami.

Mišak: O. K., kužim, ali kako ti znaš, slijedeći neke teorije zavjere, da već sada nisi hologram, da svi već sada nismo hologrami?

Vlašić: Razmišljao sam u smislu onoga što je Saša rekao, da će nas u mnogim poslovima kao što su novinarstvo, odvjetništvo, mijenjati umjetna inteligencija.

Mišak: Sumnjam. Cijela poanta je u stilu: super, oni nešto pričaju, naučili su, ali je ipak bezveze. Tako da mislim da to nije realno. Ali u smislu white collar workova, ovih knowledge-poslova, ti funkcioniraš kao s developerom. Možeš chatbotu reći: “Daj mi developaj web-stranicu i neka izgleda tako i tako”, on će to napraviti vjerojatno dobro ili bolje. Pa, GitHub, najveći repozitorij otvorenog koda na svijetu ima sada pomoć, oni to zovu copilot, a pomaže ti pri pisanju koda. Ti pišeš svoj kod, a on ti sugerira što dalje jer je utreniran sa svim ogromnim količinama otvorenog koda koji su online. I to dobro radi. Čovjek koji se nalazi iza Googleova self driving cara rekao je da se time koristi, iako je u početku bio nepovjerljiv.

Direktor Bonsai.techa Slaven Mišak smatra da umjetna inteligencija ipak neće lako nadomjestiti neke profesije. Kaže da se AI može prevariti jer funkcionira po sistemu garbage in – garbage out, pa se na jednom testiranju i dogodilo da umjetna inteligencija razmišlja poput rasista

Darko Tomas/Cropix/Cropix

Vlašić: Nešto kao autocorrect u mojem mobitelu?

Mišak: Autocomplete, doslovno predviđanje. Želiš u programerskom kodu napraviti neku petlju za nešto, a on to automatski kuži i generira što ti još treba. S te strane podiže efikasnost. Uz to postoji problem da će ljudi postati previše ovisni o tome jer neće ni znati kako inače napraviti neke stvari, no tu dolazimo do cijele teme universal basic income. Dovoljan je output da ljudi mogu dobiti neku osnovnu količinu love, a da ne moraju raditi.

Ceci: Odnosno da rade i da dobiju neki bonus uz to.

Vlašić: Onda dođemo do situacije da 30-godišnjaci ne znaju kako prebaciti vrijednosti temperature iz farenhajta u celzije.

Ceci: Za razliku od nas 50-godišnjaka koji smo super u tome…

Mišak: Pa, znaš što, ta formula nije tako jednostavna. Nije to kelvin i celzij. To je cijela poanta, ljudi ne znaju upaliti vatru, nego kupe upaljač.

Godrijan: Znaju.

Mišak: S drvom?

Godrijan: Da, jako brzo.

Ceci: Ljudi griješe, vidio sam to na edukacijama nastavnika, bilo je čak i hrvatskoga, ne samo fizike i matematike, astronomije i drugoga. Često se postavi pitanje što mi mislimo da bi djeca trebala naučiti. Ja im kažem: formula je bitna. Da postoji jedna, druga i da se te dvije kombiniraju u treću i da iz tog starog znanja dobiješ novo. To je sve što treba naučiti, neka klinci to nauče, možda da nauče još dvije-tri takve, to je dovoljno za fiziku. Ostane im samo da klinci zavole fiziku, da zavole taj osjećaj da stvarno sve što vidiš možeš razumjeti.

Jelena Godrijan upozorava da je najveći izazov pred društvom kako dovoljno brzo reagirati na klimatske promjene. Objašnjava da proučavanje algi može doprinijeti zaštiti od klimatskih promjena

Darko Tomas/Cropix

Vlašić: Što biste htjeli da se otkrije, dogodi u ovoj godini?

Godrijan: Očekujem da ćemo uspjeti izolirati iz okoliša nekoliko vrsta algi, izolirati ih i uzgojiti u laboratoriju i na njima napraviti eksperimente. Sekvencionirati ih, saznati njihov genom i na temelju toga istraživati utjecaj promjena okoliša na te životinje.

Ceci: Što bi ti bilo fora da nakon tri ili pet godina imaš kao rezultat? Neki koji bi se usudila poslati u Nature, pa makar odbili, tko ih šiša?

Godrijan: Imam dvije, ne želje, nego vizije. Prva vizija nije poslati nešto u Nature, nego napraviti cijelu kolekciju tih kultura i onda to dati ljudima, kao neki repozitorij. Druga je otkriti kako, pod kojim uvjetima alge mogu mijenjati svoje životne faze i to moći simulirati. Imaju dvije faze. U prvoj imaju jedan set kromosoma, a u drugoj dupli set kromosoma i ovisno o xy faktora obitavaju u moru u jednoj ili drugoj fazi. Vi imate samo dva seta kromosoma, osim vaših spermija koji imaju jedan.

Vlašić: O, mislim da smo prešli u vrlo intimnu sferu razgovora. Ali, dobro…

Godrijan: Kod vas se točno zna što se dešava i zašto, ali kod njih ne. A to je ono što ih čini jako kompetitivnim u cijelom okolišu, zato su uspješni.

Mišak: Fora, jako zanimljivo. Krajem prošle godine smo, u području umjetne inteligencije, vidjeli teaser koji je rezultat start-up kulture gdje je prihvatljivo svaki dan spržiti tri-četiri milijuna dolara i dati svijetu da se igra, ali to nije održiva priča. Mislim da bi sada to trebala postati održiva priča. Mislim da ćemo vidjeti polako proliferaciju toga u raznim upotrebama na normalniji način. U tom kontekstu, mislim da će ljudi i dalje dosta raditi na tome, dolazi nova verzija tog modela, GPT4, koji će biti još kompleksniji.

Ceci: Ovo što smo do sada vidjeli bilo je pola koraka, a ipak je bilo impresivno.

Mišak: Sve je bilo impresivno, ali dobar je indikator koliko ti resursa treba da takvo nešto uopće napraviš. Ovo sve za nas je, s našim lokalnim resursima, novčanim i ljudskim, znanstvena fantastika. Mislim da ćemo sigurno vidjeti to da se specijalizirani AI sve više i više koristi, gdje jasno znaš njegova ograničenja, znaš što radi i manje-više kontroliraš outpute koje daje, ali je koristan. Neku komponentu on za tebe rješava, skida ti to s leđa, a ti se baviš nečim drugim.

Vlašić: Što vi očekujete, što želite?

Ceci: E, što želim! Svakih par godina pojačava se ili energija ili intenzitet onoga što zovu luminscencija na CERN-u i primijete se neke zgodne stvari. Ono kad se kaže: “Vidiš, tu je neki mali signal”, i onda, kad se napravi dodatni niz mjerenja i istraživanja, taj signal se izgubi u šumu. Htio bih da taj signal jednom ostane jer bi nam on otvorio prozor u ono što se zove nova fizika. Nemamo baš nešto fundamentalno novo, svi novi rezultati su u skladu sa standardnim modelom. E pa, htio bih da jedan ne završi tako.