POD POVEĆALOM

Tko će kontrolirati umjetnu inteligenciju u Hrvatskoj: Interes pokazale dvije velike agencije, postoji i treća opcija

Glavni kandidati za agenciju za AI u Hrvatskoj su AZOP i HAKOM

Piše:

Objavljeno: 27. rujan 2023. 09:47

Pod povećalom novog regulatora bit će, uz ostalo, i robotaksiji Mate Rimca

Zeljko Puhovski/CROPIX

Rimčevi robotaksiji, Photomathova aplikacija za učenje matematike, sustavi pametnog prometa u gradovima, ali i Fejsov zid, Googleova tražilica, novi modeli Mercedesa i BMW-a, pametni mobiteli, pa čak i pametne lampe iz Ikee. Sve će to biti pod povećalom novog regulatora koji će morati osnovati sve članice Europske unije u idućih nekoliko godina. Bitka za tu poziciju već je počela.

Španjolska je prva članica EU koja je osnovala vlastitu Agenciju za regulaciju AI-ja - AEISA-u. Predsjedavajuća članica Unije, iako još nije donesen ni Zakon o AI-ju (AI Act) koji optimisti očekuju do kraja godine, a pesimisti do ljeta iduće godine, želi s AEISA-om postati predvodnica Starog kontinenta u primjeni AI-ja i razvoju novih AI proizvoda i usluga. Računica na Pirinejskom poluotoku je: što jasnija pravila, to više biznisa. Španjolska je zbog toga predložila i regulatorni sandbox za AI, okvir koji bi omogućio razvoj pametnih tehnologija pod budnim okom države koja prati jesu li zaštićeni korisnici i drugi u ekosustavu.

Ono što se provuklo ispod objave iz Španjolske je da će istu agenciju morati osnovati i Hrvatska i sve druge članice EU jednom kad se usvoji Zakon o AI-ju. Zakon je u ovom trenutku na dobrom putu da bude potpuno usuglašen između Europskog parlamenta i Vijeća Europe. Kad se donese, bit će, za razliku od direktiva, u cijelosti obvezujuć za sve države članice. Osnivanje nacionalnih agencija za AI bit će jedna od tih obveza.

U Hrvatskoj se u branši priča da interes za preuzimanje uloge nacionalne agencije za AI imaju Agencija za zaštitu osobnih podataka (AZOP), poznata po regulaciji GDPR-a, i telekomunikacijski regulator HAKOM. Na naš upit u HAKOM-u su nam, unatoč pričama u branši, rekli da o tome zasad nema ni riječi. Prvo su naglasili da su neovisno regulatorno tijelo i da ne odlučuju o tome koje će im ovlasti biti povjerene.

- Ne sudjelujemo u praćenju zakonodavnog postupka donošenja Uredbe o umjetnoj inteligenciji i nikad nismo razmatrali mogućnost preuzimanja uloge regulatora za AI - kažu u HAKOM-u.

U AZOP-u smo naišli na potpuno drugačiji stav - otvoreno su zainteresirani za tu funkciju.

Poznati po kazni

- AZOP je sudjelovao u donošenju zajedničkog mišljenja Europskog odbora za zaštitu podataka i Europskog nadzornika za zaštitu podataka u kojem se ističe da bi se imenovanjem tijela za zaštitu podataka nacionalnim nadzornim tijelima, u smislu članka 59 Akta o umjetnoj inteligenciji, zajamčio usklađeniji regulatorni pristup te bi se pridonijelo dosljednom tumačenju odredbi o obradi podataka - ističu u AZOP-u.

AZOP je dobio na snazi tek uvođenjem GDPR regulative i ta je agencija za posljedicu lani imala svoju najaktivniju godinu dosad. Izdala je čak 32 upravne novčane kazne za kršenje GDPR-a teške 3,1 milijun eura. Tome treba pribrojati i 13 kazni od početka ove godine u iznosu od 2,3 milijuna eura. Široj javnosti AZOP je postao poznat ove godine, kad je ispisao rekordnu kaznu agenciji za naplatu potraživanja B2 Kapital u iznosu od 2,26 milijuna eura.

Treća opcija

Jesu li kazne dobra mjera za uspješnost regulatora, vrlo je dvojbeno. No važno je naglasiti da, ako će se time AZOP i HAKOM nadmetati, tad i HAKOM ima svoje argumente. Lani je HAKOM odrezao pojedinačno najveću kaznu dosad, 36 milijuna kuna (4,77 milijuna eura) Hrvatskom Telekomu.

U branši nas upozoravaju da, unatoč interesima dviju velikih agencija, nije isključena ni treća opcija. Iduća kalendarska godina je izborna, a AI je postao vrlo vruća tema. Nova agencija bi nazivno regulirala AI, ali zapravo bi njezin utjecaj bio mnogo širi. Diktirala bi tempo tehnološkog razvoja biznisa u Hrvatskoj, ali isto tako i tehnološkog razvoja u javnom sektoru i državnom aparatu. Ta bi agencija morala donositi mišljenja i odluke o mnogim etički osjetljivim pitanjima, a ona u političkom smislu nose veliku težinu.

- Baš zato ne treba isključiti mogućnost da će politika možda taman pred izbore iskoristiti priliku da promakne u prvi plan nekog svog igrača i dade mu i okvir i budžet da stvori potpuno novu agenciju - navodi naš izvor.

Marijana Šarolić Robić: ‘Španjolska je primjer u kojem će smjeru Hrvatska‘

U AZOP-u kažu da, što se tiče reguliranja AI-ja, on ima potencijal donijeti mnoge koristi društvu, ali nosi i značajne izazove i potencijalne opasnosti za pojedince koji se tiču prava na zaštitu osobnih podataka, privatnosti, ali i drugih ljudskih prava i sloboda.

- Razumijevanje rizika povezanih s AI-jem ključno je za sve dionike, dakle organizacije koje razvijaju takva rješenja, organizacije koje ih koriste, pojedince, regulatore, nacionalne vlade i društvo u cjelini - ističu u AZOP-u.

Pojašnjavaju da ti rizici uključuju povrede osobnih podataka koje mogu imati ozbiljne posljedice za pojedince, dovesti do curenja podataka i njihove zlouporabe, diskriminirajućih i pristranih odluka koje mogu uzrokovati pojedincima materijalnu i reputacijsku štetu, kao što su primjerice gubitak posla, neodobravanje kredita i veće premije osiguranja.

- Ako se modeli bazirani na AI-ju treniraju na nepotpunim, netočnim ili pristranim podacima, to može rezultirati diskriminacijom i nepravednim odlukama. Stoga svaka obrada osobnih podataka u sustavima AI-ja mora biti u skladu s GDPR-om - naglašavaju i dodaju da je to važno za osiguravanje etičkog i odgovornog razvoja i upotrebe AI-ja.

Marijana Šarolić Robić, potpredsjednica udruge CRO Startup, kaže da primjer Španjolske pokazuje u kojem će smjeru ići i Hrvatska.

- Španjolci trenutačno rade sve unaprijed, jer zakonski okvir se tek donosi, ali pokazuju kako razmišljati o AI-ju na način koji će štititi građane s jedne strane, a s druge omogućiti daljnji razvoj tehnologije i biznise - kaže Šarolić Robić.

Navodi da u Hrvatskoj zasad nije jasno tko će preuzeti ulogu agencije za AI.

- Na razini Europske unije već se kolokvijalno govori o AI Officeu, koji će biti glavni za to područje na razini Unije - otkriva potpredsjednica udruge CRO Startup.

Vezane vijesti