Ključne osobe iz područja umjetne inteligencije žele da se razvijanje moćnih AI sustava obustavi zbog straha od prijetnje čovječanstvu.
U ime ‘Instituta za budućnost života‘ potpisali su otvoreno pismo u kojem upozoravaju na potencijalne rizike i kažu da je utrka za razvojem AI sustava izmakla kontroli.
Šef Twittera Elon Musk je među onima koji žele da se razvijanje AI iznad određenog kapaciteta zaustavi na najmanje šest mjeseci.
Suosnivač Applea Steve Wozniak i neki istraživači u DeepMindu također su među onima koji su potpisali pismo.
OpenAI, tvrtka koja stoji iza ChatGPT-a, nedavno je izdala GPT-4 - najsuvremeniju tehnologiju koja je stručnjake impresionirala svojom sposobnošću obavljanja zadataka.
‘Institut za budućnost života‘ želi da se razvoj umjetne inteligencije privremeno zaustavi, upozoravajući u svom pismu na rizike koje bi budući napredniji sustavi mogli predstavljati.
- Sustavi umjetne inteligencije mogu predstavljati duboke rizike za društvo i čovječanstvo - stoji u pismu.
Brojni rizici
‘Institut za budućnost života‘ neprofitna je organizacija koja tvrdi da je njihova misija ‘usmjeriti transformativne tehnologije od ekstremnih, velikih rizika prema životu‘.
Musk, vlasnik Twittera i izvršni direktor automobilske tvrtke Tesla, naveden je kao vanjski savjetnik organizacije.
‘Napredne umjetne inteligencije potrebno je pažljivo razvijati‘, stoji u pismu, ali umjesto toga, ‘posljednjih mjeseci vidjeli smo laboratorije umjetne inteligencije u nekontroliranoj utrci za razvojem i uvođenjem sve moćnijih digitalnih umova koje nitko - čak ni njihovi kreatori - ne može razumjeti, predvidjeti ili pouzdano kontrolirati‘.
Pismo upozorava da bi umjetna inteligencija mogla preplaviti informacijske kanale dezinformacijama i zamijeniti brojne poslove automatizacijom. Također, postavlja se pitanje trebamo li razviti neljudske umove koji bi nas mogli brojčano nadmašiti, nadmudriti i na kraju zamijeniti?‘
Pismo je uslijedilo nakon nedavnog izvješća investicijske banke Goldman Sachs u kojem se kaže da bi umjetna inteligencija vjerojatno povećala produktivnost, ali bi milijuni poslova mogli postati automatizirani.
Međutim, drugi stručnjaci rekli su za BBC da je učinak umjetne inteligencije na tržište rada vrlo teško predvidjeti.
OpenAI je nedavno upozorio na rizike ako se umjetna opća inteligencija (AGI) razvija nepromišljeno.
- Pogrešno usklađena superinteligentna AGI mogla bi uzrokovati veliku štetu svijetu; autokratski režim s odlučujućim vodstvom u superinteligenciji mogao bi također to učiniti. Koordinacija između AGI-jevih napora za usporavanje u kritičnim točkama vjerojatno će biti važna - poručuju iz tvrtke.
Inače, Musk je bio suosnivač OpenAI-ja, no u zadnje vrijeme kritički priča o njezinom trenutnom smjeru.
Nedavno je u SAD-u, Ujedinjenom Kraljevstvu i EU izneseno nekoliko prijedloga za regulaciju ove tehnologije. Međutim, u Ujedinjenom Kraljevstvu odbacili su namjenskog regulatora za umjetnu inteligenciju.