Etika i nove tehnologije

 

Nove tehnologije se temelje informacijsko-komunikacijskim tehnologijama, što znači da obrađuju podatke i komuniciraju s korisnicima. Čovjek je zapravo u fokusu tehnologije. Zato je važan dio razvoja novih tehnoloških rješenja etični dizajn i stjecanje povjerenje korisnika.

Što je zakonito i etično?

Nove tehnologije povezuju uređaje i ljude. Analiziraju podatke, ubrzavaju određene procese i mijenjaju način na koji živimo. Pri tome većina novih tehnologija stavlja čovjeka u centralno mjesto. Prikupljaju se podaci o korisnicima, analizira se ponašanje, stvaraju profili te predviđaju buduća događanja. Regulativa ne prati ubrzani tehnološki razvoj te se postavlja pitanje: „Što smatramo zakonitim i etičnim?“

O etici uglavnom pričamo samo kada pojedina afera dođe u medije. Međutim, kada kršenje etičkih normi dospije u medije, kompanije ne snose samo financijske gubitke nego i reputacijsku štetu. Osim smanjenog ugleda i svega što to sa sobom nosi, organizacijska kultura također pati zbog smanjenog povjerenja u poslodavca. Equifax je, kao rezultat neadekvatnih zaštitnih mjera, pretrpio hakerski napad. Ukradeni su osobni podaci više od 148 milijuna njihovih korisnika. Dodatno, nakon što se napad desio, Equifax to nije priopćio svojim korisnicima još dva mjeseca.

Google je koristio svoju nadmoćnu poziciju kako bi prisilio AdSense klijente da potpišu ugovor u kojem se obvezuju da neće prihvaćati reklamiranje od suparničkih tražilica. Poznata je i Volkswagen afera. Volkswagen je programirao svoje TDI motore tako da aktiviraju kontrolu ispušnih plinova samo za vrijeme laboratorijskog testiranja ispušnih plinova.

Zašto je etika bitna?

Nove tehnologije se uglavnom zasnivaju na informacijsko-komunikacijskim tehnologijama. Ljudi ih koriste, ljudi bi im trebali vjerovati. Stoga, važno je za raspravu o novim tehnologijama uzeti u obzir dobrobit ljudi, ljudska prava i temeljne slobode.

Ljudskom dobrobiti, ili kako neki nazivaju srećom, bave se etičke teorije, odnosno skupovi načela i pravila kojima se pojedinci vode u svom djelovanju. Etičke teorije spadaju u područje normativne etike, područje filozofije koje se bavi pitanjima koja si pojedinac postavlja prilikom donošenja odluka te daju odgovor na pitanje što je etično, a što nije. Filozofi se ovim pitanjima bave već tisućljećima, međutim, konačna i apsolutna etička teorija nikad neće biti osmišljena, budući da su vrijednosti drugačije od pojedinca do pojedinca te ovise o povijesnom, geografskom i kulturalnom kontekstu.

Iako je teorija etike mnogo, postoje tri temeljne koje služe kao polazna točka mnogim drugim teorijama. To su: teleološka teorija, deontološka etika i etika vrlina.

3 teorije

Teleološka teorija kao moralno ispravno odnosno prihvatljivo djelovanje smatra ono koje ima neki prihvatljivi cilj ili željeni krajnji rezultat. Moralnost ponašanja procjenjuje se prema posljedicama koje su nastale kao rezultat tog ponašanja. Kao posebni oblik teleološke teorije javlja se utilitarizam.

Utilitarizam, kao teleološku verziju oprečnu etičkom egoizmu, prvi je predstavio Jeremy Bentham u 18.st. Utilitarizam postulira da je ispravno djelovanje ono koje čini najveće dobro za najveći broj pojedinaca. Odabir ponašanja mora doći kao posljedica prethodnog balansiranja njegovih pozitivnih i negativnih ishoda za dobrobit što većeg broja pojedinaca.

Zlatno pravilo

Deontologija, za razliku od teleologije, stavlja naglasak na kvalitetu samog ponašanja, a ne na krajnji rezultat ponašanja. Ponašanje je dakle ispravno ako se ono općenito smatra ispravnim. Deontologija pretpostavlja postojanje objektivnog moralnog zakona koji služi kao standard po kojem se ocjenjuje ispravnost ponašanja.

Idejni tvorac deontologije, Immanuel Kant, izrazio je to stajalište svojim kategoričkim imperativom, odnosno pravilom da se treba djelovati samo prema onom načelu za koje se može očekivati ili za koje se može željeti da postane opći zakon, a do kojeg se dolazi putem razuma. Prema ovom stajalištu, neko djelovanje je ispravno ako je poduzeto s mišlju da bi se ljudi trebali tretirati s dostojanstvom i poštovanjem.

Iako nije važno kakve posljedice takvo djelo ima, u praksi se može očekivati da će one biti pozitivne, čemu nas uči i naše iskustvo. Za razliku od teleologije, deontologija stavlja naglasak na pojedinca, a ne društvo. Ovo stajalište moglo bi se svesti na takozvano ‘zlatno pravilo’: „Ne činite drugima ono što ne bi željeli da drugi čine vama“.

Posljednja od glavnih etičkih teorija koju ćemo spomenuti je etika vrlina koja potječe još od Aristotela. Težište djelovanja ovdje je stavljeno na osobu i njezine vrline. Ovdje se zapravo postavlja pitanje što čini dobru osobu. Etika vrlina govori o tome kakvi bi trebali biti, a ne što bi trebali činiti. Djelo je dobro ako je ono odraz pozitivnog aspekta karaktera njegovog činioca.

Područja etike

Područje etike razlikuje svoje tri glavne grane: normativna etika, metaetika i primijenjena etika. Ako ukratko razgraničimo ta tri područja, dobit ćemo jasniju sliku čime se primijenjena etika bavi.

Metaetika je grana etike koja proučava prirodu, opseg i značenje moralnih prosudbi. Normativna etika je grana etike koja se bavi odgovaranjem na pitanja koja se javljaju kada se razmatra kako bi pojedinac trebao djelovati, odnosno s razumnom izgradnjom moralnih načela djelovanja. Primijenjena etika pak oslovljava moralnu dopustivost pojedinog djelovanja. Ona se bavi moralnim problemima i praksama u osobnom i profesionalnom životu, struci, tehnologiji i vladi.

Za razliku od normativne etike koja se brine o čisto teoretskim problemima kao što je npr. izgradnja općeg kriterija ispravnosti, primijenjena etika koristi teorije normativne etike za rješavanje konkretnih praktičnih problema. Ovdje se radi o problemima kontroverzne prirode kao što su npr. pobačaj, smrtna kazna, eutanazija i sl.

Primijenjena etika

Primijenjena etika odnosi se na djelovanja i moralna razmatranja na raznim područjima privatnog i javnog života. Tako na primjer postoji bioetika koja se bavi etičkim pitanjima s područja zdravstva, koja se bavi pitanjima kao npr. eutanazija. Etika zaštite okoliša bavi se pitanjima odgovornosti pojedinih strana u vezi zaštite okoliša. Poslovna etika suočava se s pitanjima kao što su zviždači te njihove dvojbe između dužnosti prema javnosti i odanosti poslodavcu. Tako je i računalna etika poseban aspekt primijenjene etike koja se bavi proučavanjem postupaka, vrijednosti i praksa kojima se vodi korištenje računala, te kako da se pri tome ne krše moralne vrijednosti i vjerovanja pojedinaca, organizacija ili drugih subjekata. Tako se u toj sferi raspravlja o kompjutorskom kriminalu, privatnosti, anonimnosti, slobodi, intelektualnom vlasništvu i sl.

Globalna etika

Računalna etika je kao znanstveno područje zasnovano od strane profesora Norberta 1940-ih. Potom je 1985., James Moor napisao esej pod nazivom “Što je računalna etika?“ u kojem je računalnu etiku objasnio kao znanstvenu disciplinu koja se bavi vakuumom o tome kako bi se računalna tehnologija trebala koristiti. S razvojem tehnologije, ljudi dobivaju posve nove mogućnosti korištenja tehnologije, međutim u takvim slučajevima ili nedostaje regulative ili je postojeća regulativa neadekvatna. Stoga je osnovni zadatak računalne etike odrediti što je potrebno napraviti u takvim situacijama, predlagati regulativu i određene akcije.

Potom je Deborah Johnson obavila knjigu “Računalna etika” i naglasila da računala ne stvaraju nove etičke probleme, nego samo daju novu perspektivu na termine kao što su vlasništvo, privatnost, moć i odgovornost. Krystyna Górniak-Kocikowska 1995. godine objavljuje tezu da će računalna etika postati sasvim odvojena etika te će zapravo dobiti značenje globalne etike koja će se jednako primjenjivati u cijelom svijetu, s obzirom na to da internet i računala zapravo ne poznaju granice. To znači da u ovom trenutku ljudi moraju ispitati temelje teorija etike i stvoriti novu definiciju etike u informacijskom društvu.

Što ljude čini ljudima

Prilikom ocjenjivanja nekog djelovanja kao etičnog ili neetičnog, filozofi koriste standard koji nazivaju ‘krajnji standard etike’ i koji se svodi na pitanje: „Dovodi li neko djelovanje do ljudske dobrobiti, sreće ili blagostanja?“. Iako je te pojmove teško definirati, svi mi imamo neki intuitivni osjećaj oko toga što one znače, jesmo li bliže ili dalje tim stanjima te da li naše djelovanje utječe na ta stanja u drugima. Kako Silvija Vig, navodi u svojoj knjizi “Poslovna etika”, kada filozofi objašnjavaju pojam etike koristeći se riječima “blagostanje” ili “dobrobit”, misle na stanje općeg zadovoljstva najvažnijih fizioloških i psiholoških potreba pojedinca.

Da bi se te potrebe mogle lakše zadovoljiti pomaže i sam zakonodavac. Zakonodavci raznih zemalja i nadnacionalnih organizacija te mnoge međunarodne organizacije imaju brigu za dobrobit naroda i pojedinca kao temelj svojeg djelovanja. To se uglavnom čini putem propisivanja temeljnih ljudskih prava i sloboda kao najviših vrijednosti. Dvadeseto stoljeće obilježeno je donošenjem dokumenata koji sadrže popise takvih prava i sloboda.

Pravni dokumenti

Jedan od najvažnijih takvih dokumenata je Opća deklaracija o ljudskim pravima donesena 1948. godine od strane Ujedinjenih naroda. Ona temeljnim ljudskim pravima smatra: 1. pravo na život, slobodu i osobnu sigurnost; 2. pravo na jednakost i jednaku pravnu zaštitu; 3. pravo na privatni život, obitelj i dom; 4. pravo stupanja u brak i osnivanje obitelji; 5. pravo na slobodu mišljenja i izražavanja; 6. pravo na socijalnu sigurnost i ostvarenje ekonomskih, socijalnih i kulturnih prava; 7. pravo na rad; te 8. pravo na odmor i slobodno vrijeme. Razmišljanje o ispravnosti djelovanja može lako biti vođeno ovim popisom budući da je popis osmišljen upravo zato da se njegovim poštivanjem unaprjeđuje dobrobit ljudi. Zato se poštivanjem ovih prava stvara snažan temelj i za etičnost djelovanja.

Nakon toga donesena je Europska konvencija za zaštitu ljudskih prava i temeljenih sloboda te je uspostavljen Europski sud za ljudska prava u Strasbourgu koji izravno kažnjava države koje su prekršile konvenciju. Europska unija je odlučila još proširiti opseg ljudskih prava te je donijela Povelju EU o temeljnim pravima i uspostavila Europski sud pravde koji je nadležan za procesuiranje povreda i tumačenje EU prava.

Što je balans u računalnom svijetu?

Kada se analiziraju presude Europskog suda za ljudska prava može se prepoznati uvijek ista metodologija odlučivanja. Prvi kriterij kod odlučivanja je li nastupila određena povreda ljudskih prava i temeljnih sloboda je zakonitost. Pojednostavljeno govoreći određeni postupak mora biti u skladu sa zakonima određene države. Međutim, sud ide i dalje od toga. Nije dovoljno da nešto bude samo u skladu sa zakonom jer zakon pojedine države može kršiti ljudska prava i temeljne slobode.

Naime, potrebno je da postoji legitiman cilj, da je određeno postupanje nužno u demokratskom društvu i, konačno, da je uspostavljen balans. Balans je potreban kada govorimo o temeljnim ljudskim pravima i slobodama jer su ona temeljna, a ne apsolutna.

Kod apsolutnih prava, kao što je pravo na život, priča je malo jednostavnija jer ih, primjerice u Europskoj uniji, ne dovodimo toliko u pitanje kao temeljna prava. Balans je posebno problematična riječ kada je želimo prevesti u računalnu znanost gdje vladaju pojmovi 0 ili 1, da ili ne. Što bi značio balans kad su pitanju nove tehnologije?

Primjeri balansa

Pojašnjenje balansa sud daje u slučajevima koji su već došli pred sudom. Primjerice, kada se spominje nadzor radnika pomoću novih tehnologija (kamera, GPS sustava i softvera) tada balans predstavlja minimalno narušavanje privatnosti da bi se postigao određeni cilj. Primjerice, da bi se postigao balans, prate se lokacijski podaci, prometni podaci, ključne riječi, metapodaci, a manje se ulazi u sam sadržaj komunikacije i ponašanja radnika.

Ono što je sigurno jest da balans u svakom pojedinom slučaju nije isti već se balansira svaka pojedina tehnologija, postupak, proizvod i sl. U primjeru novih tehnologija koje se baziraju na machine learning-u i deep learning-u, Big Data analizama, blockchain rješenjima, ključni aspekt je kako se obrađuju podaci.

Stoga da bi se postigao balans, unaprijed se predviđaju rizici pojedine tehnologije na način da se provodi procjena učinka na zaštitu podataka. Uobičajeni rizici koji su uglavnom dosad prepoznati su pristranost algoritma i profiliranja ljudi, rizici za informacijsku sigurnost te rizici prekomjernog prikupljanja podataka i netransparentnosti prema korisnicima pojedine usluge ili proizvoda.

Procjena rizika novih tehnologija

Procjena rizika služi da se postavi zakonit i etičan model od samog početka proizvoda, projekta ili usluge. To nije bitno samo zato što želimo biti etični, već je bitno da ako želimo se određena ekonomska korist ostvari od nove tehnologije da onda bude upotrebljiva da ne krši zakone tržišta na koja se želi plasirati te da se uspostavi odnos povjerenja s korisnikom tehnologije. Sva nadzorna tijela za zaštitu osobnih podataka su već donijele odluke kada su takve procjene obavezne te odluka obuhvaća sve nove pametne tehnologije (pametni uređaji, pametni gradovi, profiliranja i praćenja ljudi, GPS uređaji i sl.). Time se zapravo osigurava da se rizici za temeljna prava i slobode predvide unaprijed te da se ugrade zaštitne mjere koje su nužne da bi se rizici smanjili. Takve procjene ne bi trebale biti tajni dokument, već se mogu i javno objaviti radi osiguravanja transparentnosti pojedine tehnologije ili projekta.

Procjena učinka

Najpoznatija novija procjena učinka na zaštitu podataka je ona koja je javno objavljena u odnosu na proizvode Microsoft Office 365 koji su namijenjena za poslovne korisnike. Napredne telemetričke analize u takvim proizvodima su se utvrdile kao analize koje korisnici usluge ne mogu lako pretpostaviti. Kako bi Microsoft Office 365 samostalno učio, sistematično i prikriveno su se prikupljali podaci velikog razmjera o pojedinačnoj upotrebi Worda, Excela, PowerPointa i Outlooka. Pritom se korisnicima nije nudio izbor u vezi s količinom podataka, mogućnosti prestanka prikupljanja i uvida u podatke koji se prikupljaju, budući da je tok podataka kodiran. Na navedenu procjenu učinka, Microsoft je promptno reagirao dajući obećanje da će napraviti sve bitne prilagodbe kako bi smanjio rizike te je početkom ove godine objavio nove uvjete i postavke pod kojima pruža usluge.

Etičan dizajn

Time dolazimo do sljedeće značajke koje nove tehnologije moraju imati, a to je da se već u sami dizajn proizvoda ili usluge mora ugraditi zakonitost i etičnost. Nakon što se analiziraju pojedini rizici bitno je donijeti važne odluke o samom dizajnu, odnosno kodu koji će poštovati zakone i etičke smjernice. Tu dolazimo do priče oko tzv. black box problematike. Jer ako proizvođač usluge odgovara za određene značajke proizvoda i unaprijed mora poduzeti zaštitne mjere u odnosu na rizike koji su prepoznati, kako se onda može nositi s područjima tehnologije koje ne možemo objasniti?

Određene etičke smjernice, kao što su kineske etičke smjernice (Beijing AI Principles), naglašavaju ljudsku kontrolu i mogućnost davanja objašnjenja kod razvoja umjetne inteligencije te su smjernice prethodno donesenim smjernicama od Google-a.

Australska vlada je također objavila etičke smjernice koje su zasad na dobrovoljnoj bazi, a uključuju načela da se dobrobit čovjeka uključi u cijeli proizvodni ciklus, da se osigura da ne rezultira diskriminacijom, da je sustav transparentan te da ima ugrađenu privatnost i sigurnost. Iz pregleda svih smjernica možemo zaključiti da su ljudska prava i dobrobit nešto slično diljem svijeta i da ono što čovjeka čini čovjekom treba štiti već u samom dizajnu nove tehnologije. Na tom tragu su i načela privacy by design/by default, data protection by design/by default, a čini se da će sve veću ulogu u skoroj budućnosti imati nešto što bi se moglo nazvati ethics by design.

EU Etičke smjernice

Iako je doživjela značajan proboj tek nedavno, problemom umjetne inteligencije čovječanstvo se bavi od kad su izmišljena računala. Kroz književnost i film zamišljeni su već mnogi fascinantni scenariji koji bi teoretski mogli postati stvarnost ne postave li se neki zaštitni mehanizmi pri razvoju umjetne inteligencije. Ti scenariji pokazuju svijet u kojem su ljudska prava izgubila status općih načela u djelovanju, a ponekad i svijet u kojem je nekontrolirani razvoj umjetne inteligencije doveo do globalne kataklizme. Nisu samo ovakvi scenariji ono što budi zabrinutost, već su to i puno „manje“ povrede ljudskosti, osobnosti i zdravlja (kao što je npr. nepravednost, diskriminacija, opasnost za život i sl.). Razmatranja tih mogućnosti svakako spadaju i u područje etike.

Stoga je od velike važnosti da se čovjek pobrine da AI algoritmi nisu samo moćni i učinkoviti već i da su transparentni, tj. njihove odluke se moraju moći objasniti korisnicima odnosno svim zainteresiranim stranama. To znači da ljudi, kada rade s AI, moraju to i znati. Zato ljudi uvijek moraju biti uključeni u proces koji se odvija u vezi s AI: kako u nadzoru tih procesa, tako i u korištenju tih procesa kao pomoć čovjeku. Čovjek uvijek mora biti dio tog sustava.

U vezi sa svime navedenim, poželjna karakteristika algoritama je i predvidivost: razlozi i proces donošenja odluke moraju biti razumljivi uključenim pojedincima zbog životne, ali i pravne sigurnosti. Odluke koje donose strojevi u vezi ljudi već su sada rezultat veoma kompleksnih procesa te se stoga mogu činiti nelogičnima – svakako nepoželjna situacija za osobu koja uz pomoć algoritma sklapa ili ispunjava ugovor.

Umjetna inteligencija

Sljedeća poželjna karakteristika umjetne inteligencije je robusnost, odnosno otpornost na manipulaciju od strane zlonamjernih aktera, te općenito sigurnost. Ovo podrazumijeva i postojanje plana za slučaj proboja sigurnosti. Također, važno je definirati odgovornost u vezi štete koju počini umjetna inteligencija – jesu li odgovorni tvorci, naručitelji ili osobe koje rukovode konkretnim algoritmom?

Opći zahtjevi za rad algoritama moraju biti i dobrobit društva i okoliša te dobrobit pojedinca, posebno s obzirom na jednakost, poštenost, privatnost i sl.

Sve ove karakteristike umjetne inteligencije navedene su kao ključni zahtjevi koje postavljaju smjernice za pouzdanu umjetnu inteligenciju koje je, pod okriljem Europske komisije, donijela Stručna skupina na visokoj razini o umjetnoj inteligenciji (High Level Expert Group on AI – HLEG AI).

Očekuje li nas neka nova etika?

Dosadašnja poznata Carrollova piramida je pretpostavljala određeni slijed između ekonomske koristi, zakonitosti, etičnosti i društvene odgovornosti. Izgleda da smo došli u doba kada to više nije piramida, već u odnosu na svaku novu tehnologiju u samom početku moramo ugraditi zakonitost, etičnost i društvenu odgovornost. No naravno, nova tehnologija mora imati i određenu ekonomsku korist ako govorimo u kontekstu poduzetništva, jer bez profita nema ni poduzetnika.

Kada razvijamo ili implementiramo novu tehnologiju, bitno je u samom početku razmišljati je li s tim izumom koristimo ili štetimo društvu. Također, potrebno je imati u vidu je li poštujemo sve relevantne zakone i je li naše ponašanje etično prema korisniku tehnologije na način da ćemo razviti odnos povjerenja s korisnikom. Svaka nova tehnologija bi uz navedeno trebala slijediti tržišne standarde, dobiti nužne certifikate i sukladno rizicima osigurati potrebnu informacijsku sigurnost.

Ugrađene postavke

Primjerice, ako ugrađujemo GPS sustav u službena vozila, važno je da sustav ima prekidač kojim se prekida praćenje kada se vozilo koristi u privatne svrhe. Bitno je odrediti i koje podatke će sustav prikupljati, gdje će se nalaziti server, tko će imati pristup podacima i kako će se osigurati pristup. Ako govorimo o internetskoj trgovini ili aplikaciji za kupnju proizvoda, kada pokrećemo takvu uslugu, od početka projekta moramo razmisliti koje kolačiće ćemo postaviti i što će kolačići prikupljati. Moramo također jasno odrediti je li nam maloljetne osobe mogu biti kupci. S prikupljanjem podataka o kupcima možemo analizirati podatke i ponuditi im određene popuste ili nove proizvode prema njihovim preferencijama. A podaci koje prikupimo mogu biti vrijedni drugim kompanijama, kao npr. osiguravajućem društvu, pa moramo odlučiti hoćemo li i kako prosljeđivati određene podatke.

Povjerenje 

Jedno je sigurno, povjerenje korisnika nije lako steći i održati. Zato je 2008. godine anonimni Satoshi Nakamoto objavio da je našao tehnološko rješenje za povjerenje. Tehnologiju koja počiva na činjenici da se elektroničke transakcije obavljaju bez oslanjanja na povjerenje. Blockchain tehnologija se često navodi kao tehnologija koja eliminira povjerenje i posrednike pa se postavilo pitanje može li korisnik ne samo imati povjerenje u tehnologiju, već može li tehnologija osigurati povjerenje korisnika? Osnovna načela blockchain tehnologija su da je sustav distribuiran, javan i nepromjenjiv.

Zbog algoritma konsenzusa, osigurava se da se svuda nalaze iste kopije i da svi mogu sudjelovati. Stoga nije nužno da se vjeruje samo jednom računalu. Navedeno zahtjeva mnogo energije za održavanje. Moglo bi se na primjeru bitcoin-a zaključiti da je to najskuplji konsenzus algoritam na svijetu.

Povjerenje je u društvu nužno. Ljudska vrsta je sklona vjerovati pripadnicima svoje vrste. Društvo kao takvo ne može funkcionirati bez povjerenja. I činjenica da zapravo o povjerenju previše i ne razmišljamo pokazuje kako dobro povjerenje funkcionira. Riječ povjerenje obuhvaća više značenja. Možemo nekome intimno vjerovati, kao na primjer prijatelju, ili možemo imati povjerenja u nešto što nam nije blisko.

Blockchain

Blockchain tehnologija je primjer ovog drugog povjerenja jer ne znamo osobno ljude koji su uključeni u transakciju (tzv. miner-i). Stoga, blockchain tehnologije povezuju sa sloganima “in code we trust,” “in math we trust,” ili “in crypto we trust.

Bruce Schneier, kao vodeći stručnjak za sigurnost, u svojoj knjizi Liars and Outliers objašnjava elemente povjerenja. Ljudi povjerenje vežu uz povjerljivo ponašanje, moral i ugled. Ljudi, također, uglavnom imaju povjerenje u institucije. Institucije osiguravaju da se zakoni donesu i poštuju te da se kazne osobe koje se ne ponašaju u skladu sa zakonom. Na taj način zakoni osiguravaju ugled u društvu za one koji poštuju zakone. Povjerenje također osiguravaju mjere sigurnosti, kao što su zaključana vrata, ograde, sustavi alarma, nadzori i inspekcije. Svi navedeni elementi zajedno osiguravaju povjerenje.

Može li tehnologija osigurati povjerenje?

S druge strane, 2018. godine, Kevin Werbach u knjizi Blockchain and the New Architecture of Trust, objašnjava četiri elementa arhitekture povjerenja. Prvi element je tzv. peer-to-peer povjerenje, koje je slično moralu i ugledu. Drugi element odgovara povjerenju u institucije i ugovore. Treći element je povjerenje u posrednike, kao što su kartične kuće. A četvrti element je povjerenje koje je uspostavljeno arhitekturom distribuiranog povjerenja, kao što je blockchain.

Ono što zapravo blockchain radi jest preusmjerava dio povjerenja u ljude i institucije u tehnologiju. Na taj način bi ljudi trebali vjerovati u kriptografiju, protokole, softvere, računala i mreže. I takvo povjerenje mora biti apsolutno jer kada nešto zašteka nemamo se zapravo kome obratiti.  Ako bitcoin mjenjačnica ili bitcoin wallet budu hakirani, gubi se sav novac. Ako osoba zaboravi svoj enkripcijski ključ za logiranje, nema spasa za kripotovalute koje su se u njemu nalazile. Ako se dogodi greška u kodu pametnog ugovora, također netko gubi novac. Iz ovoga možemo zaključiti da je vjerovati tehnologiji puno teže nego vjerovati čovjeku. Postavlja se pitanje je li ljudi radije vjeruju pravnom sustavu ili kodu koji ne mogu razumjeti i nadzirati.

Ljudi kao element povjerenja

Ono što je još zanimljivo u cijeloj priči jest da ljudi zapravo nisu skroz eliminirani iz blockchain tehnologije. To je vidljivo kod promjene bitcoin block veličine, sigurnosnih mjera u slučaju DAO napada na kriptovalutu Ethereum, prijevare u iznosu 70 tisuća dolara u vrijednosti bitcoin-a u slučaju Steve Wozniaka. Stoga, kada pričamo o povjerenju, imati u vidu samo tehnologiju nije zapravo dovoljno.

Svaka tehnologija može doživjeti širu primjenu samo ako korisnici vjeruju određenoj tehnologiji ili ljudima koji stoje iza tehnologije. Razlog zašto blockchain tehnologija nije još doživjela širu primjenu je problem povjerenja. Kompanije ne žele usvojiti određena blockchain rješenja (kao što je bio primjer s IBM/Maersk) jer se ne radi o njihovom blockchain-u. Svaka kompanija bi najradije imala svoj privatni blockchain. Izgleda da se povjerenje ne može tako lako zamijeniti algoritmom ili protokolom te da je društveni element puno važniji u cijeloj priči.

Kako popraviti budućnost?

Novinar Andrew Keen u svojim knjigama ističe što je zapravo problem s novim tehnologijama. U zadnjoj knjizi „Kako popraviti budućnost“ daje određena rješenja. Kad su ljudi razvili automobilsku industriju glavna pomisao je bila da su auti opasni pri svakoj brzini. Nakon prvih strahova, razvile su se tehnologije kao što su zračni jastuci, pojasevi, sjedalice te ležeći policajci. Donijeli su se i novi zakoni, propisuje su kazne za nepoštovanje zakona i razvio se univerzalni sustav prometnih znakova i semafora. Baš tako i kod novih tehnologija, slijedi nam multidisciplinaran set mjera po kojima ćemo razlučiti dobro od lošeg. Ono što smo dosad mogli primijetili da tehnologija ne može riješiti tehnološke probleme, već je samo dio rješenja određenog problema.

Etičke dileme

Ljudi će sve veću ulogu imati u rješavanju etičkih dilema. Etička dvojba ili dilema je situacija u kojoj postoji izbor između dvije opcije među kojima niti jedna ne rješava situaciju na etički prihvatljiv način. To je ustvari dvojba između ispunjenja jedne ili druge etičke norme koje su u konkretnoj situaciji međusobno isključive. Ispuniti jednu normu nužno znači prekršiti drugu. Ova situacija dakle, uključuje donošenje odluke. Međutim, koja god odluka da se donese, ona će značiti etički prijestup i/ili propust. Da bi  etička dilema postojala, potrebno je da su ispunjene tri pretpostavke. Zahtjeva se donošenje neke odluke oko toga kakvo postupanje je najbolje u nekoj situaciji. Situacija nudi dva ili više izbora u vezi postupanja. Što god da je odabrano, neko etičko načelo bit će povrijeđeno.

Međutim, postoje već neke metode izlaska iz takvih situacija. Etičke dvojbe postoje od kad postoji i razum u čovjeka. Stoga su se kroz vrijeme oblikovali razni pristupi takvim situacijama. Navest ćemo neke od njih. Prvi pristup je pobijanje situacije dvojbe. Ako se situacija pomno analizira, ponekad se može doći do logičnog zaključka da dvojba ustvari uopće ne postoji. Drugi pristup je pomno vaganje opcija te zatim odabir one koja znači veće dobro i/ili manje zlo. Treći pristup je pronalazak alternativnih rješenja. Ako se situacija dovoljno dobro razmotri, mogla bi se predstaviti nova, dotad neizmišljena rješenja.

Etični vođe

Veliku ulogu će također odigrati stav rukovodstva o etici. Etika vodstva je oblik rukovodstva u kojem pojedinci u ulozi vođe pokazuju ponašanje usmjereno na opće dobro, odnosi se na djelovanje unutar poslovne strukture. Primjena etike na stilove vodstva i menadžmenta znači razmatranje etičnosti pri donošenju odluka i postavljanju granica unutar organizacije. Donošenje odluka koje su utemeljene na etičkim vrijednostima pojedinca inspirira zaposlenike da čine isto te stvara produktivnu i pozitivnu okolinu. Glavni cilj etičnog vođe je stvoriti svijet u kojem je budućnost pozitivna, uključujuća i njeguje potencijal svake osobe da slijedi i ispunjava svoje potrebe te da postiže svoj puni potencijal.

Temelji za budućnost

S obzirom na složenost i multidisciplinarnost ove tematike, obrazovni programi će se morati prilagoditi te obrazovati sve vrste stručnjaka o novim tehnologijama. Niti jedna djelatnost neće biti imuna na digitalnu transformaciju. Stručnjaci za analizu podataka,  etiku i ljudska prava će dobiti važnu ulogu prilikom razvoja novih tehnologija.

Uslijedit će i nova zakonska regulativa, po uzoru na Opću uredbu na zaštitu podataka. Ovlastit će se tijela koja će nadzirati poštovanje pravila, a uskoro ćemo vidjeti i niz certifikata za razne tehnologije.

Izvjesno je i da će svijest potrošača rasti. Kao što sada pomno biramo hranu s raznim eko i organskim certifikatima, vrlo brzo ćemo doživjeti da će korisnici novih tehnologija postavljati određena pitanja i izražavati prigovore.

Jedino kombinacijom edukacije, regulacije, inovacije, društvene odgovornosti, svjesnosti potrošača možemo promijeniti smjer u kojem razvoj tehnologije trenutačno ide. Na taj način mogli bismo stvoriti etične temelje za razvoj novih tehnologija koje djeluju za dobrobit čovječanstva.

Autori: Marija Bošković Batarelo, mag. iur. i Domagoj Bodlaj mag.iur.