Tehnologije umetne inteligence – umetna inteligenca in etika

VPRAŠANJE (F. ANANASSO)

Začnimo z najosnovnejšim vprašanjem. Emanuela, kaj glede na vaše izkušnje veste o globalnih strategijah na področju umetne inteligence? Kakšen je kontekst? Kakšni so mednarodni modeli? Slišal sem, da zlasti v Ameriki. Kakšen je mednarodni kontekst?  

ODGOVOR (E. GIRARDI)

Da, hvala, Fulvio, in dobro jutro vsem. Zagotovo zdaj, recimo, tehnologija umetne inteligence velja za strateško tehnologijo za razvoj prihodnjih družb. Številne države so se začele ukvarjati z umetno inteligenco, vlagajo veliko sredstev in predvsem razvijajo nacionalno strategijo za umetno inteligenco. Trenutno je na svetu približno 50 nacionalnih strategij za umetno inteligenco, nekatere pa so v razvoju, tako da bodo objavljene v naslednjih nekaj letih ali celo letos, zato so vse države te tehnologije obravnavale kot resnično strateške zaradi prelomnega vpliva, ki ga ima umetna inteligenca na družbo, že danes na naše vsakdanje življenje in vse bolj na naše življenje v prihodnosti. Zlasti pa lahko rečemo, da kljub temu, da je po vsem svetu že 50 različnih strategij, v bistvu lahko govorimo o dveh ali treh razvojnih modelih umetne inteligence na svetovni ravni, tj. o ameriškem modelu, kitajskem modelu, vmes pa je pred kratkim vstopil tudi evropski model. Na prvi pogled se zdita ameriški in kitajski model precej različna, vendar sta si v resnici zelo podobna, saj v obeh modelih razvoj tehnologij umetne inteligence dejansko vodijo velike zasebne skupine, ki so med drugim prisotne po vsem svetu – ne le na Kitajskem in v Združenih državah Amerike. Dve veliki razliki med tema skupinama sta, da je na Kitajskem prisotna težnja po vladnem nadzoru teh tehnologij, v Združenih državah pa je namesto tega prisotna težnja po deregulaciji, torej po nekakšnem pomanjkanju regulacije teh tehnologij. Evropa je začela nekoliko pozno vlagati v razvoj in uvajanje teh tehnologij, zlasti pa je leta 2016 začela s sporazumom, ki je bil leta 2018 združen s sporazumom o sodelovanju med vsemi državami članicami za razvoj usklajenega načrta za razvoj tehnologij umetne inteligence. Začela je nekoliko pozno, vendar se je odločila, da se bo osredotočila na etično vizijo, torej predvsem na opredelitev etičnih smernic za razvoj tehnologij umetne inteligence. Iz te raziskovalne skupine, ki jo je sklicala Evropska komisija, je nastala evropska vizija umetne inteligence, ki je opredeljena kot “human-centric”, tj. v središče postavlja človeka in spodbuja uporabo tehnologij umetne inteligence za izboljšanje življenja ljudi. Drugi vidik pa je, da spodbuja uporabo “zaupanja vrednih” tehnologij, tj. da so zanesljive. To je nekako v središču evropske vizije. Zanesljive zato, ker če pomislimo na zelo poenostavljeno opredelitev tehnologij umetne inteligence, kjer in s katerimi lahko opredelimo sisteme, ki analizirajo svojo okolico, tj. zbirajo podatke, da bi dosegli določen cilj, in to avtonomno, tako da kažejo vedenje, ki bi ga, če bi ga izvajal človek, lahko opredelili kot inteligentno vedenje. Da bi ti sistemi, ko dosežejo ta cilj, izvedli neko dejanje, ki ga opredeli človek, da bi človek sprejel izid tega dejanja ali odločitve – ki jo sprejme avtonomni sistem – in da bi torej zaupal tako uporabi teh sistemov kot dejanjem ali odločitvam, ki jih ti sistemi sprejmejo, morajo biti zanesljivi (“zaupanja vredni”). In kaj to pomeni, zanesljiv/zaupanja vreden? Recimo, da kar zadeva evropsko različico in opredelitev zanesljive tehnologije, to pomeni tri stvari. V osnovi pomeni, da morajo biti v skladu z evropskimi zakoni, etičnimi vrednotami, ki so vključene v Evropsko listino pravic, in da morajo biti varne z vidika tehnične robustnosti, ne smejo škodovati ljudem. Če torej ti sistemi izpolnjujejo te tri zahteve in so etično neoporečni, potem Evropska komisija pravi, da se lahko razvijajo in uporabljajo v Evropski skupnosti. Nato je Evropska komisija nadaljevala in pripravila sklop dveh pomembnih dokumentov, belo knjigo, evropsko podatkovno strategijo, dejansko pa je trenutno bolj sporen, a tudi pomembnejši dokument tisti, ki je bil predstavljen aprila 2021, in sicer tako imenovani zakon o umetni inteligenci, ki je sklop dokumentov, ki so prvi predlog na svetu za urejanje uporabe sistemov umetne inteligence. Ta dokument je zelo pomemben, ker najprej uporablja pristop, ki temelji na tveganju, tj. vse sisteme umetne inteligence razdeli v štiri kategorije glede na tveganje. V prvi so sistemi z nesprejemljivim tveganjem, torej sistemi, ki so v Evropski skupnosti prepovedani. Sledijo sistemi z visokim, srednjim in nizkim tveganjem. Za sisteme z visokim in srednjim tveganjem je opredeljena cela vrsta zahtev, tako imenovani ocenjevalni seznami, to je vrsta zahtev ali certifikatov, ki jih morajo ti sistemi imeti, da se lahko uporabljajo na enotnem trgu Evropske skupnosti. Ti vidiki so torej zelo pomembni in v Evropski komisiji potekajo številne razprave, saj je po eni strani rečeno, da je cilj Evropske komisije spodbujati razvoj in uporabo tehnologij umetne inteligence, ki na nek način zagotovo ščitijo ljudi in evropske državljane, hkrati pa da obstaja neka pravna varnost za podjetja, da lahko te sisteme razvijajo v varnem okolju z zakonodajnega vidika, da ne bi imeli tveganj, ko uvajajo tehnologije umetne inteligence v svoje izdelke in storitve, v svojo tržno ponudbo. Jasno je, da je največja omejitev, o kateri se trenutno razpravlja, ta, da bi lahko pretirana regulacija na nek način omejila inovacije. To še posebej velja, če upoštevamo dva sistema, o katerih smo prej govorili, kitajskega in ameriškega, v katerih je dejansko veliko manj regulacije, še posebej pa ameriškega v primerjavi z evropskim trgom, ki ga poskušamo ustvariti. Zato je na eni strani zelo težko uravnotežiti potrebo po regulaciji teh sistemov, ki lahko ob zlonamerni uporabi dejansko povzročijo škodo, na drugi strani pa poskušati spodbuditi razvoj evropskih inovacij in zagotoviti resničen razvoj tehnologij umetne inteligence, vendar ne le umetne inteligence, temveč tudi vseh podpornih tehnologij. V mislih imam veriženje blokov, tehnologije v oblaku, zmogljivo računalništvo, saj je pravzaprav zelo pomembno, da se te tehnologije lahko razvijajo tudi na evropski ravni in da se tako uresničuje to, kar se v usklajenem načrtu imenuje evropska tehnološka suverenost. Pomislimo tudi na primer na projekt Gaia X, ki si prizadeva za isti cilj, tj. doseči nekakšno evropsko tehnološko suverenost. 

VPRAŠANJE (F. ANANASSO)

Torej, če prav razumem, poleg ameriškega in kitajskega modela, ki se z različnimi vidiki razlikujeta od našega, je model Evropske komisije bolj osredotočen na človeka in “vreden zaupanja”, kot ste dejali. Potem se bomo morda pogovorili o tem, kaj se dogaja v Italiji. Če prav razumem, zakon o umetni inteligenci, o katerem govorite (zakon z dne 21. aprila 2021), določa različne stopnje tveganja. Ali nam želite o tem kaj povedati, katere so pomembne točke? Ali so poleg razvrstitve tveganj iz evropskega predloga še kakšni drugi pomembni vidiki? Slišal sem za 32 primerov, v katerih je mogoče posredovati ob upoštevanju dejstva, da obstajajo nalogi za prijetje. Ali je mogoče na hitro povedati kaj o tem, katere so bistvene točke evropskega predloga?

ODGOVOR (E. GIRARDI)

Da. Kar zadeva tveganja, vam lahko povem, kateri so tisti vidiki sistemov umetne inteligence, katerih tveganje se šteje za nesprejemljivo, na primer socialno ocenjevanje, spremljanje biometričnih podatkov ljudi na daljavo ali sistemi, ki lahko nekako vplivajo na vedenje ljudi – zlasti ranljivih ljudi – ali z njimi manipulirajo. Te značilnosti veljajo za nesprejemljive in so zato v Evropski skupnosti trenutno prepovedane. Glede sistemov z visokim tveganjem pa menim, da je treba trenutno še pojasniti nekatere vidike, saj govorimo o oceni skladnosti, seznamu meril, ki jih bo treba izpolniti, da bi jih lahko uvedli in uporabljali v Evropski skupnosti. Težava pa je, da se govori tudi o evropskem certificiranju, ki trenutno ni zelo jasno. Med drugim moramo upoštevati, da je vrednostna veriga sistemov umetne inteligence izjemno zapletena. Če pomislimo na razvoj algoritma umetne inteligence, gre na primer od tistih, ki zbirajo podatke, tistih, ki izvajajo usposabljanje, tistih, ki razvijajo algoritem, tistih, ki ga nato začnejo uporabljati v svojih sistemih znotraj svojega podjetja in/ali ga dajo na trg, nato pa se morda nabor podatkov spremeni – potrebna je ponovna posodobitev in morda bo treba spremeniti sistem in v tem primeru spremljati vse skozi uporabo. V resnici govorimo o celotnem življenjskem ciklu, o sistemu umetne inteligence, zaradi česar so potem vsi različni udeleženci v dobavni verigi nenehno povezani in nenehno spremljajo uporabo sistema umetne inteligence, ki so ga razvili, usposobili in dali na trg. Ti vidiki torej še vedno niso dobro pojasnjeni, saj gre za vidik dobavne verige, ki je po mojem mnenju zelo zapleten.

Drug zapleten vidik zadeva dejstvo, da so trenutno sistemi z visokim tveganjem opredeljeni, čeprav ne na zelo jasen način, vendar so kljub temu opredeljeni. Drug vidik pa zadeva dejstvo, da si je Evropska komisija trenutno, recimo, prisvojila pravico do spreminjanja tega seznama in dodajanja novih sistemov, kar je precej sporno, saj bi običajno morala vedno obstajati ločnica med zakonodajno in izvršilno oblastjo, zato je o tem dejansko že veliko razprav, v katerih pravijo, da Evropska komisija ni tista, ki ima pristojnost spreminjati prilogo k zakonu. Zato so ti vidiki precej sporni, na primer pred dnevi sem brala, da so različni CEN, CENELEC, … in večina različnih organov za standardizacijo spraševali o razlogih za zgoraj navedeno stališče Komisije EU. 

Zelo zanimiv je tudi vidik v zvezi s samo opredelitvijo standardov za umetno inteligenco, ki jih trenutno na evropski ravni še ni, zato se vsi različni organi za standardizacijo ukvarjajo s tem. To je ena od povratnih informacij, ki so jih zahtevali, saj v teh dneh vsi pišejo povratne informacije Evropski komisiji, ker je bil 6. avgust 2021 zadnji dan, ko je bilo mogoče predložiti povratne informacije. Predlog uredbe je ena od povratnih informacij, ki je samo črtanje 41. člena, to je dejstvo, da lahko Evropska komisija spreminja, recimo, bolj ali manj po lastni presoji (to ni točno tako, ampak lahko spreminja po lastni presoji) ta seznam sistemov. To so torej nekateri, recimo temu, najbolj nasprotujoči si elementi.

Drugi zelo nasprotujoči si element zadeva opredelitev umetne inteligence, saj je ta zelo široka, medtem ko naj bi bila pravzaprav, recimo, usmerjena v prihodnost in odporna na prihodnost. Z drugega vidika pa se trenutno za sisteme umetne inteligence štejejo tudi sistemi, za katere ne vem, ali so umetna inteligenca, na primer napredni statistični sistemi, sistemi linearne regresije …, zaradi katerih je potem – recimo – uporaba teh sistemov, ki danes verjetno niso umetna inteligenca, veliko bolj zapletena, tako da je vidikov razprav zelo veliko. Mislim, da bo trajalo dve ali tri leta, preden se bo ta uredba začela uporabljati v vseh državah članicah.

VPRAŠANJE (F. ANANASSO)

Odlično, odlično in brez omembe novoustanovljenega Inštituta za umetno inteligenco v Torinu, ki je prejel začetno financiranje, ali se motim? 

ODGOVOR (E. GIRARDI)

Ne, ne, žal se motite, Pravzaprav je šlo malo drugače, v smislu, da ja, moral bi biti v Torinu, zdaj pa je v resnici malo negotovosti, ker ta odločitev, ki jo je sprejela prejšnja vlada, ni bila upoštevana, potem pa je bilo po različnih razpravah odločeno, da bo v Torinu center za raziskave in razvoj avtomobilske industrije, ki bo uporabljal tudi tehnologije umetne inteligence, sredstva pa bodo, če se prav spomnim, znašala 20 milijonov evrov. Italijanski inštitut za umetno inteligenco je bil torej na tej stopnji, recimo, odložen, kar je po mojem mnenju velika škoda, saj bi to Italiji omogočilo sodelovanje na različnih mednarodnih mizah, recimo z institucionalnim klobukom, saj je danes Italija žal prisotna na številnih mednarodnih mizah, vendar jo predstavljajo le posamezniki, ki so odličnjaki, ne pa na institucionalni ravni, zato je to, recimo, zamujena priložnost. 

Upajmo, da jo bo ta nova delovna skupina lahko ponovno predlagala.

VPRAŠANJE (F. ANANASSO)

Recimo, da je to polovična zmaga, poglejmo jo v pozitivni luči. In glejte, videli smo svet, Evropo in Italijo, zdaj, če zaključim, očitno je veliko potrebe po usposabljanju, ker vsi govorijo o umetni inteligenci, tisti stvari, ki jo le malokdo zares popolnoma razume, če se v njo ne poglablja nekoliko podrobneje. Zato mislim, da se strinjamo, da je usposabljanje ključnega pomena za razumevanje, kaj so te tehnologije in kako jih varno uporabljati. Ali obstaja celo tveganje, da bi brez ustreznega usposabljanja – govorim o italijanskem sistemu, saj smo v tem projektu usposabljanja odraslih na področju umetne inteligence – v sektorju umetne inteligence v primerjavi z drugimi lahko prišlo do nekakšnega “digitalnega razkoraka”? Kako vidite to, kakšen je pomen in kaj so po vašem mnenju pomembne stvari, ki jih je treba storiti prav za dobro in boljše poučevanje o možnostih, prednostih in slabostih, tveganjih in čemer koli že, kar zadeva umetno inteligenco?

ODGOVOR (E. GIRARDI)

Po mojem mnenju je to ključni in najpomembnejši vidik. Samo pomislite, da smo na začetku govorili o več kot 50 državah, ki so že opredelile svojo nacionalno strategijo umetne inteligence. Pomislite, da so države, kot je Finska, ki so kot prvo prednostno nalogo svoje strategije umetne inteligence določile usposabljanje, izobraževanje svojih državljanov na področju tehnologij umetne inteligence, tako da je to res ključni vidik. Tudi Kitajska, mimogrede, veliko vlaga prav v izobraževanje in usposabljanje svojih državljanov, saj se je zavedala, da je to, recimo, ključno za aktivno sodelovanje v družbi prihodnosti. Zato menim, da je prav to ključni vidik. Če namreč razmišljamo kot delavci, državljani ali na primer študenti, potem če se obujemo v delavske čevlje, bodo delovna mesta prihodnosti zagotovo zahtevala sposobnost uporabe tehnologij umetne inteligence, zato je ta vidik temeljnega pomena, usposabljanje ali izpopolnjevanje je potrebno za učenje recimo novih delovnih profilov ali prekvalifikacijo ali preusposabljanje za resnično učenje o popolnoma novih delovnih mestih. 

In to je po mojem mnenju ključni vidik, kajti če pomislimo na podjetje, ki v tem času uvaja morda robotske sisteme avtomatizacije procesov in potem nekako sprosti vire, ker so naloge, ki so jih opravljali ljudje, zdaj opravljajo avtomatizirani sistemi, torej ta čas, ki se sprosti, te sproščene vire je treba po mojem mnenju nujno ponovno vložiti v usposabljanje zaposlenih. Ta vidik je pomemben tudi z gospodarskega vidika, saj pomeni tudi prerazporeditev tega, kar so tudi gospodarske koristi uvedbe sistemov avtomatizacije v podjetjih, in torej tudi prerazporeditev, recimo temu, tega, kar so koristni učinki, med različne zainteresirane strani, tj. vlaganje v usposabljanje, ki bi po mojem mnenju moralo biti pravica vseh delavcev.

Drugi vidik je, da je pri teh stvareh zelo pomembno, da se naučimo, recimo, digitalnih veščin, ne samo osnovnih, ampak tudi naprednih, da poznamo tehnologije umetne inteligence in jih znamo uporabljati pri svojem delu, saj bodo ta znanja ne glede na vse uporabljali tudi vsi zaposleni. V zvezi s tem je na primer zelo zanimiv pristop, ki zadeva bolj, recimo, izobraževanje, torej šole, kot je zelo lep projekt, ki so ga razvili na MIT v Bostonu, skupaj s projektom, ki ga je financiral Schwartzman, zasebni kapitalski sklad gospoda Schwartzmana, ki je ustanovil šolo, imenovano Schwartzman College, ki je nekakšna dvojezična šola. To pomeni, da vsakdo, ki se odloči za študij – filozofijo, antropologijo, medicino, pravo … – študira skupaj z računalniškimi znanostmi in umetno inteligenco, saj gre za to, da bo v prihodnosti ne glede na vse vsakdo potreboval trdne temelje računalniških znanosti in sposobnost uporabe tehnologij umetne inteligence. Tudi ti predmeti bi morali biti vključeni kot obvezni v našo šolo, res že od otroštva, tj. osnovne šole, predmeti, ki v teoriji že obstajajo, v resnici pa se jih žal ne poučuje poglobljeno. Zato je morda najpomembnejše usposabljanje inštruktorjev, zato je tudi projekt, ki ga izvajate, po mojem mnenju zelo pomemben, saj je namenjen najprej usposabljanju inštruktorjev, da bodo lahko potem jasno šli in poučevali te predmete v šolah. To je zelo pomembno, saj če pomislimo na primer na zdravnike, ki so zdaj v bolnišnicah, verjetno ne znajo uporabljati novih sistemov umetne inteligence in tudi zdravniki, ki so zdaj na univerzi in ne študirajo teh tehnologij, jih ne bodo znali uporabljati, ko bodo začeli delati v bolnišnicah, pri čemer smo videli, kako koristne so bile te tehnologije med pandemijo Covid-19. Če bi jih torej res lahko usposobili za uporabo teh tehnologij, bi bilo to res zelo koristno orodje pri njihovem delu. 

Poleg tega je treba upoštevati še en vidik, in sicer da se bodo delovna mesta v prihodnosti razlikovala od sedanjih, kar pomeni, da se bo današnji zdravnik zelo razlikoval od zdravnika jutrišnjega dne. Tako bodo morali resnično spremeniti tudi pristop, tako da se bodo naučili uporabljati te tehnologije kot tudi miselnost, bolj fluidno, bolj razvojno miselnost, da se bodo lahko lotili celo novih delovnih mest, ki danes verjetno ne obstajajo in se bodo v njihovi vsebini zelo spremenila.