uredba o umjetnoj inteligenciji

Europska komisija je 21.4.2021. predložila, u okviru svoje digitalne strategije, novu uredbu o umjetnoj inteligenciji s ciljem da Europska unija postane svjetski predvodnik u pouzdanoj umjetnoj inteligenciji. Ovakva regulativa je jedinstvena na globalnom tržištu te, kao i ostale uredbe koje reguliraju digitalno tržište.

Dok Amerika i Kina predvode u razvoju novih tehnologija, Europska unija se predstavlja kao lider u regulaciji i zaštiti ljudskih prava te stvaranju povjerenja u nove tehnologije. Europska komisija je od 2014. donijela niz mjera za olakšavanje razvoja gospodarstva vođenog podacima:

 

EU Regulativa umjetna inteligencija

Komisija je 2018. predstavila strategiju za umjetnu inteligenciju i s državama članicama dogovorila koordinirani plan. U travnju 2019., Stručna skupina na visokoj razini za umjetnu inteligenciju predstavila je Etičke smjernice za pouzdanu umjetnu inteligenciju. Na temelju toga izrađen je okvir za umjetnu inteligenciju, predstavljen 19. veljače 2020.

Predsjednica Komisije Ursula von der Leyen u svojim je političkim smjernicama istaknula da Europa mora predvoditi tranziciju prema zdravom planetu i novom digitalnom svijetu. U tom je kontekstu u prvih stotinu dana mandata pokrenula raspravu o etičnoj umjetnoj inteligenciji i primjeni velikih količina podataka u korist društava i poduzeća.

Iako regulativom umjetne inteligencije Europska unija zagovara ulaganja u inovacije i otvara prostor za financiranje inovacija iz sredstava iz europskih fondova, otvaraju se mnoga pitanja kako će regulativa zaista utjecati na inovaciju u području umjetne inteligencije.

Uredba o umjetnoj inteligenciji

Prvi pravni okvir za umjetnu inteligenciju (Uredba o umjetnoj inteligenciji) u kombinaciji s novim koordiniranim planom s državama članicama bi trebali jamčiti sigurnost i poštovanje temeljnih ljudskih prava, uz povećanje korištenja umjetne inteligencije, ulaganja te inovacija u tom području.

Kao i kod Opće uredbe o zaštiti podataka (GDPR) radi se o uredbi, odnosno o dokumentu koji bi se trebao jedinstveno primijeniti u svim zemljama članicama Europske unije te zauzima tzv. risk based approach, odnosno usklađivanje ovisno o riziku.

Pa se tako neprihvatljivim rizikom smatraju sustavi koji mogu predstavljati jasnu prijetnju za sigurnost, život i temeljna ljudska prava. Navedeno obuhvaća sustave ili aplikacije koji manipuliraju ponašanjem korisnika (npr. igračke s glasovnom pomoći koje potiču opasno ponašanje maloljetnika) i sustave koji državama omogućuju „društveno vrednovanje”.

Visokorizični sustavi

Visokorizični sustavi u uUredbi o umjetnoj inteligenciji obuhvaćaju tehnologiju koja se upotrebljava u:

  • kritičnoj infrastrukturi (npr. prometnoj) koja može ugroziti život i zdravlje građana,
  • strukovnom obrazovanju ili osposobljavanju koje osobi može odrediti pristup obrazovanju i usmjeriti profesionalni život (npr. bodovanje ispita),
  • sigurnosnim dijelovima proizvoda (npr. primjena umjetne inteligencije u robotski potpomognutim kirurškim zahvatima),
  • zapošljavanju, kadrovskom upravljanju i pristupu samozapošljavanju (npr. softver za razvrstavanje životopisa u postupcima zapošljavanja),
  • osnovnim privatnim i javnim uslugama (npr. ocjenjivanje kreditne sposobnosti koje građanima može uskratiti mogućnost da podignu kredit),
  • provođenju zakona koje se može kositi s temeljnim pravima građana (npr. evaluacija pouzdanosti dokaza),
  • upravljanju migracijama, azilom i granicama (npr. provjera vjerodostojnosti putnih isprava),
  • pravosuđu i demokratskim procesima (npr. primjena zakona na konkretan skup činjenica).
Visokorizični sustavi

Izvor: https://ec.europa.eu/info/strategy/priorities-2019-2024/europe-fit-digital-age/excellence-trust-artificial-intelligence_hr

 

Nadzor nad uredbom

Komisija predlaže da nova pravila budu pod nadzorom nacionalnih tijela nadležnih za nadzor tržišta. Provedbu pravila i izradu standarda za umjetnu inteligenciju olakšat će osnivanje Europskog odbora za umjetnu inteligenciju. Za umjetnu inteligenciju koja nije visokorizična predlažu se dobrovoljni kodeksi ponašanja i regulatorni okviri za testiranje i poticanje odgovornih inovacija. Komisija se obvezala poticati inovacije u razvoju i korištenju tehnologije umjetne inteligencije u svim sektorima i svim državama članicama.

Pučka pravobraniteljica Republike Hrvatske smatra neophodnom edukaciju stručnog osoblja, sudaca, javne uprave, inženjera i programera sustava umjetne inteligencije o pravnom aspektu te utjecaju odluka na jednakost građana i eventualnim posljedicama takvih sustava na ljudska prava te formiranje multidisciplinarnih timova koji uključuju pravnike, znanstvenike, programere/inženjere i pravobraniteljske institucije.

Upravo iz ovih razloga, od početka 2021. godine sudjelujemo u radu Bird inkubatora, u organizaciji Poslovne inteligencije, te sa zajednicom stručnjaka u raznim područjima te mentorima iz tehničkih, strateških, financijskih i pravnih područja djelujemo kao potpora start-up poduzetnicima koji žele razvijati rješenja u području umjetne inteligencije. Takvim multidisciplinarnim pristupom olakšavamo poduzetnicima snalaženje u sve kompleksnijem pravnom okruženju.

Visoke kazne

Kazne za neusklađenost s odredbama Uredbe o umjetnoj inteligenciji se dijeli na tri vrste:

  • do 30.000.000 EUR or ili 6 % globalnog godišnjeg prihoda koji je ostvaren u prethodnoj godini (ovisno što je veće) u odnosu na zabranjene sustava i upravljenje podacima.
  • do 20.000.000 EUR ili 4 % globalnog godišnjeg prihoda koji je ostvaren u prethodnoj godini (ovisno što je veće) u odnosu na ostale neusklađenosti s uredbom.
  • i 10.000.000 EUR ili 2 % globalnog godišnjeg prihoda koji je ostvaren u prethodnoj godini (ovisno što je veće), ako obveznik uredbe daje nepotpune i netočne informacije nadzornim tijelima.

Idući koraci

Nakon prijedloga pravnog okvira slijedi redovna zakonodavna procedura u Europskom parlamentu. Kao što je slučaj s Uredbom o privatnosti i elektroničkim komunikacijama, vjerojatno nas očekuje duže razdoblje lobiranja i pregovaranja do konačnog teksta. Kako pravni tekstovi, kao i pravnici, često kaskaju za tehnološkim napretkom radi se o zahtjevnom zadatku. Već ranije smo pisali o odnosu prava i algoritama te američkom prijedlogu regulacije algoritama.

Iako su ovakvi oblici regulacije često kritizirani, ono što se ispostavilo u posljednjih nekoliko godina je da i ostale zemlje diljem svijeta kopiraju odredbe, načela i pravne tekstove Europske unije. Sljedeći korak je da Hrvatska u skladu s novim koordiniranim planom donese svoju strategiju za umjetnu inteligenciju. Nacrt strategije je napravljen te bi do kraja 2021. godine trebao biti finaliziran.

Marija Bošković Batarelo, LL.M. Pravo i tehnologija