Dojemanje umetne inteligence – umetna inteligenca in družbeni izzivi

Moje ime je Bambos Papacharalambous. Sem v IT. Večino svoje preteklosti, recimo skoraj 30 let, sem se ukvarjal predvsem s telekomunikacijskim delom poslovanja podjetja IT. Na splošno pa sodelujem pri številnih projektih, ki so povezani z IT podjetji. Sem generalni direktor in ustanovitelj podjetja Novum. Novum je podjetje, ki se ukvarja z razvojem programske opreme in svetovanjem na področju IKT.

Ali lahko zdaj pojasnite etično uporabo umetne inteligence? Ali obstajajo aplikacije umetne inteligence z etičnimi posledicami? V redu. Ker danes vse več strojev opravlja vse bolj zapletene naloge, to ljudi takoj usmeri k uporabi strojev za nadomestitev človeškega dela. To je prva stvar, ki ljudem pride na misel, in to je upravičena skrb. Gre za iste pomisleke, ki so se pojavili v času industrijske revolucije, in danes jih ponovno vidimo kot relevantne. Ali je težko omogočiti, da stroji pospravijo pšenico, namesto da bi se zanašali na človeške roke? Ali je težko dovoliti, da roboti nadomestijo človeške delavce na linijah za sestavljanje avtomobilov? Torej, ta osnovna ista vprašanja se ponovno pojavljajo, vendar zdaj v bolj, recimo temu, kompleksnem okolju, saj so se stroji zdaj razvili in opravljajo bolj zapletene naloge. Če bi se torej ljudje morali prilagoditi novemu okolju, ki so ga ustvarili stroji na delovnem mestu, bi morali zelo kmalu opraviti še en proces ponovnega prilagajanja. Kje bi na primer vozniki tovornjakov našli delo, če bi zdaj tovornjaki vozili sami? Kje bi našli zaposlitev vozniki avtobusov, če bi avtobuse upravljala programska oprema z umetno inteligenco? Kje bi zaposlili pilota letala, če bi letala letela sama? Torej, bolj ko se razvijajo zapletene naloge, ki jih izvajajo stroji, bolj so ogrožena tovrstna delovna mesta. In ne gre več samo za težko delo. Mislim, zakaj bi kdo postal zdravnik, če lahko robot isto operacijo opravi bolje kot katerikoli človek, kajne? Zato so ti pomisleki upravičeni. Seveda pa obstajajo tudi drugi primeri, ki odpirajo vprašanja etike pri uporabi umetne inteligence v naših življenjih. Ne gre le za delovno silo. Ali nas ne bi morala skrbeti uporaba strojev, ki se uporabljajo za našo varnost? Prvič, ali smo lahko prepričani, da je programska oprema UI, ki poganja varnostno kamero na letališču, sprejela pravilno odločitev pri prepoznavanju teroristov? Ali smo lahko prepričani, da varnostni sistem v nakupovalnem središču sledi pravemu tatu do njegovega avtomobila in ne kakšnemu drugemu nedolžnemu mimoidočemu? Ta vprašanja so pomembna. Na področju umetne inteligence obstaja veliko etičnih pomislekov, ne le prek področij, kot sta zaposlovanje ali varnost, temveč tudi pri uporabi vojaškega orožja. Ali nas ne bi moralo na primer skrbeti dejstvo, da oboroženi droni danes namesto nas opravljajo naše boje? Ali smo prepričani, da bo avtonomni robotski vojak jutri znal razlikovati med sovražnikom in prijateljem? To so torej zelo utemeljene skrbi. In kadar koli se zgodi kaj velikega, se v panogah na splošno zgodijo spremembe. Vedno, ko se zgodi nekaj čarobnega, obstaja tudi možnost negativnih posledic uporabe. Zato mora industrija sčasoma najti način, kako umetno inteligenco uporabiti v dobro družbe, v kateri živimo.

Tako ste že omenili vpliv umetne inteligence na zaposlovanje, varnost, socialno skrb, vojaško službo in tudi na nove zakone robotike na drugih področjih. Ja, to vprašanje pravil in zakonov za robotiko. Tega vprašanja ni lahko rešiti. Smo na nedorečenem ozemlju, ko gre za splošno sprejet nabor pravil, ki naj bi opredelila etični okvir delovanja robotov, tudi na področjih zunaj vojske, pa tudi na področju varnosti, na področju varstva starejših, recimo na področju osebne varnosti. Doma bomo videli robote, ki bodo začeli sprejemati odločitve namesto nas. Kot sem že dejal, je to zelo novo področje, in čeprav obstajajo skupine tako v akademskem svetu, industriji kot tudi v vladah, ki se skušajo dotakniti teh pravil, je to trenutno v zelo, zelo zgodnji fazi. Trenutno se razpravlja o tem, kaj bi robot moral ali ne bi smel početi. Robot na primer ne sme poškodovati drugega človeka. To bi lahko bila, recimo, primarna direktiva za stroj. Hkrati pa bi moral robot ubogati svojega lastnika in ustvarjalca. To je torej druga direktiva, primarna direktiva za robota. Kaj pa, če lastnik robota daje robotu navodila, ki so zunaj njegove glavne direktive? Kaj pa, če je robot naprošen, da poškoduje drugega človeka? Prav, toda ali bi morali omejiti obseg poškodovanja nečesa na človeka? Kaj pa, če je robot naprošen, da škoduje živali? Ali kaj, če je robot naprošen, da škoduje drugemu robotu? Kaj pa, če mora robot škodovati človeku, da bi zaščitil drugega človeka? To so etična vprašanja, na katera ni lahko odgovoriti. In tudi če nanje odgovorimo, niso enostavna. Ni jih namreč tako enostavno uvesti v algoritem. Zato ne pozabite, da je treba na koncu vsa ta pravila okvira prevesti v matematično, recimo, enačbo. To je torej precej težka stvar. Čeprav bi bilo za človeštvo bolje, če bi ta pravila opredelilo pred razvojem in ne naknadno, ne verjamem, da je to lahka naloga. Podjetja se borijo za prevlado izdelkov na svetovni ravni. Države se spet borijo za vojaško prevlado na svetovni ravni. Zato bi bilo težko oblikovati pravila, s katerimi bi se lahko vsi strinjali in bi jih nato vsi izvajali, že zaradi samega načina delovanja družbe in človeštva. Verjetnejši scenarij bi verjetno bil, da se ta sklop sprejemljivih pravil določi in uveljavlja vsaj naknadno. Ko smo npr. videli, da je bilo kemično vojskovanje med prvo svetovno vojno neetično, smo na podlagi tega oblikovali kodeks in pravila. Takoj po tem, ko smo odvrgli jedrsko bombo, smo videli, da jo moramo nadzorovati. Zato bomo morda morali naprej doživeti katastrofo, da bomo prisiljeni opredeliti pravila, ki bodo urejala obnašanje robota. Upamo le, da ta izkušnja prve katastrofe ni bila res slaba poteza. Osebno pa menim, da je kljub temu, da obstajajo poskusi, da bi ta pravila določili že na začetku, to zelo nepraktična naloga, ki bi jo bilo treba rešiti.

Ali naredimo korak nazaj in pogledamo, kaj nenazadnje je algoritem? In poskušamo videti, razlikovati med tem, kaj lahko algoritem naredi za ljudi, in tudi tem, kaj lahko ljudje naredijo z uporabo algoritmov? Torej pri običajnem algoritmu sta ti dve, recimo temu, nalogi precej ločeni. Torej, kaj lahko algoritem naredi za ljudi, je ena stvar. Kaj lahko ljudje naredijo s tem algoritmom, pa je ločena stvar. Torej, da bi informatik napisal algoritem, vas bo vprašal tudi po pravilih, za katera želite, da jih ta algoritem upošteva. Recimo, da želite algoritem, ki vam bo, ko mu boste podali prostornino v litrih, vrnil prostornino v galonih. V redu? Razvijalec programske opreme bo torej zahteval pravilo, ki ureja to razmerje med vodniki in topovi. In na podlagi tega pravila bo napisal ta algoritem, tako da bo vsakdo vedel, kakšen bo rezultat, če bo algoritem skladen s temi pravili in bo deloval pravilno. Jasno? Temu pravim pravilen algoritem. Če lahko zdaj uporaba tega algoritma spravi ljudi v težave, potem ni kriv algoritem, ampak je kriva uporaba algoritma. Recimo, da se ta del programske opreme, ki smo jo napisali, uporablja v letalu in da je v letalu stikalo, ki pravi: “Ko vklopite stikalo, vam lahko prikažem količino goriva v galonih. Ko stikalo spustite, lahko prikažem količino goriva v litrih, ki jo ima letalo v rezervoarju.”. In recimo, da je stikalo v napačnem položaju in letalo zahteva galone namesto litrov ter vzleti. No, obstaja velika verjetnost, da bo moral zasilno pristati nekje drugje pred svojim prvotnim ciljem. Kaj torej storiti v tem primeru? Imate algoritem, ki je pravilno deloval, vendar je zaradi njegove uporabe postal disfunkcionalen. V tem primeru torej posežejo regulator, industrija in pravilno usposabljanje pilotov. Zagotovite, da se preveri, ali ima letalo dovolj goriva, preden vzleti. Uvedete predpise, ki prisilijo zemeljsko službo za točenje goriva, da se prepriča, ali ima letalo dovolj goriva, da doseže cilj. Tako da znamo reči, kako ravnati z vsemi regulativnimi vprašanji, ki jih moramo obravnavati v običajnem kodiranem algoritmu. Kaj se zgodi z algoritmom umetne inteligence? No, vzemimo na primer algoritem za strojno učenje. V tem primeru oblikujete algoritem z nekaj osnovnimi parametri in mu poveste, katere podatke imate. Algoritmu preprosto določite množico podatkov in ga nato zaženete. Razlika pri tej vrsti algoritma je v tem, da se je sistem sam spremenil na podlagi parametrov in podatkov, ki ste mu jih dali. Zato izida algoritmov ne morete zares predvideti. Če bi imeli dovolj časa, da bi človek pregledal podatke, ki ste mu jih dali, in pregledal parametre ter izvedel izračune vrstico za vrstico na listu papirja, potem bi, lahko predvideli, recimo, da bi naredili enake napovedi, kot jih je naredil algoritem. Toda za človeka je nemogoče, da bi s parametri, ki ste jih dali algoritmu v delo, preletel tako veliko količino podatkov. Zato bi lahko na koncu rezultat, ki ga dobi algoritem umetne inteligence, šteli za nepredvidljivega. Lahko dobimo rezultat, ki ga nismo pričakovali. In prav tu je treba poskrbeti za etiko znotraj rezultatov. Predstavljajte si, da ste ministrstvo za zdravje neke države in prosite podjetje za umetno inteligenco, naj pripravi rezultat, ki bo preučil demografske značilnosti prebivalstva in število razpoložljivih darovalcev organov. In želimo, da algoritem predlaga, kdo bo na primer dobil presaditev srca in kdo ne bo dobil presaditve srca. Zato vnesete stvari, kot so starost, stvari, kot so verjetnost, da ima, recimo, visoko verjetnost, da bo sprejel ta načrt zaupanja, in vnesete kopico parametrov, nato pa vse demografske podatke držav posredujete temu algoritmu in ga pustite delovati. Na etična vprašanja morajo zdaj odgovoriti ljudje, ki so napisali algoritem, in ne ljudje, ki ga samo uporabljajo. Pri običajnem algoritmu pa lahko odgovornost za sprejemanje odločitev prepustimo ljudem, ki uporabljajo programsko opremo. V različici algoritma za strojno učenje, ki jo uporablja umetna inteligenca, smo uvedli različico algoritma za strojno učenje. V bistvu algoritem sprejema odločitve namesto nas. Zato moramo začeti razmišljati o tem, da bi etična pravila vgradili v same algoritme. In kot smo že povedali, to ni enostavno storiti. Kako  namreč dekodirati vse te etične odgovore v matematično enačbo? In ta algoritemski izraz in prostor je novost. Zdaj se raziskuje na akademiji, na akademski ravni. Dosega in se malo dotika industrije, vendar še ni povsem tam. Zato še vedno potrebuje čas. Najlepša hvala za ta prispevek o pomembnosti algoritmike.

Zdaj bomo prešli na konkretna vprašanja o umetni inteligenci in družbenih izzivih. Ali nam lahko poveste več o asistirani, razširjeni in avtonomni inteligenci? Da. Kot smo že povedali, če na primer vzamemo robota, ki zdaj opravlja določeno delo, robota, ki dela na montažni liniji za avtomobile, ga ne štejemo za robota z algoritmom umetne inteligence v njem. Te robote, ki delajo v industriji, smo videli že vrsto let, preden je postal priljubljen ta novi val metod umetne inteligence. Kaj se torej dogaja na tem področju? No, to je naloga, ki jo je mogoče ponoviti, ki jo je mogoče zlahka ponoviti in ki jo industrija sprejema kot neškodljiv del opreme. Prednosti takšnega stroja so, da ljudem odvzamemo to zelo intenzivno delovno dejavnost in pustimo strojem, da opravljajo dolgočasne in nezdrave naloge, ljudem pa omogočimo delo v bolj produktivnih in varnejših okoljih. Slabost pa je seveda ta, da je ta robot, ki ga imamo na tej montažni liniji, v bistvu prevzel vidno priložnost ljudi, ki smo sposobni in pripravljeni opravljati te naloge. Tako so stvari, recimo, sprejete, kar zadeva uporabo stroja, ki opravlja ponavljajoče se naloge ročnega dela v določeni industriji. Problem postane bolj zapleten, ko imamo robota ali stroj, ki avtonomno sprejema odločitve in deluje na bolj, recimo temu, kodni in kodno inteligenten način. Predstavljajte si torej, da nimate montažne linije in da imate robota, ki ima inteligenco za opravljanje nalog, ki jih danes opravlja običajni robot, vendar se tudi odloči, da je treba spremeniti zasnovo dejanskega avtomobila. Recimo, da je robot zdaj sposoben oblikovati avtomobil na bolj aerodinamičen način in se samostojno, avtonomno odloči, da je treba spremeniti obliko avtomobila. In seveda bo robot zdaj lahko spremenil obliko in hkrati izdelal avtomobil. Prednost bi bila, da bi morda prišli do boljše zasnove in ponudili boljši izkoristek goriva ali kaj podobnega. Slabost pa je predvsem ta, da smo iz delovne sile izrinili nekaj več delovnih mest. Morda smo zdaj odstranili oblikovalca, hkrati pa nismo prepričani, ali bodo te spremembe, ki jih zdaj predlaga ta novi robot, dejansko varne. Da, morda bomo imeli večjo učinkovitost, izkoristek goriva, toda ali bo to varnejše ali enako varno za voznika in potnike? Zato je treba vse skupaj uravnotežiti. Obstajajo prednosti in slabosti, zato obstajajo tveganja, grožnje in izzivi. Hkrati pa obstajajo tudi priložnosti.

Omenili ste že nekaj priložnosti ter nekaj tveganj in groženj. Kateri so po vašem mnenju najpomembnejši socialni problemi? Mislim, da me osebno najbolj skrbijo stvari, ki vplivajo na varnost ljudi. Torej stvari, kot sta trg dela in zaposlovanje. Mislim, da bo človeštvo sčasoma našlo svojo pot, in če bomo dovolj previdni, bomo lahko našli odgovore na te težave, saj bo tehnologija vedno na voljo. Skozi to smo že šli in upam, da bomo tako ali drugače našli odgovor na ta vprašanja. Ko gre za stvari, kot je varnost, je varnost ljudi eden najtežje rešljivih problemov. Menim, da bi morali temu posvetiti več pozornosti. Kaj se na primer zgodi, če imamo virus v avtomobilu in ta avtomobil zdaj vsak dan vozi mojo mamo v trgovino? Kaj se zgodi, če to programsko opremo prevzame teroristična organizacija? Kaj se zgodi, če je ta programska oprema neustrezna zaradi svoje zasnove, ker ni bila ustrezno preizkušena? In potem se med tem potovanjem moje mame v trgovino z živili nekaj zgodi in pride do nesreče. Gre za isto vrsto težav, ki vplivajo na varnost in zaščito ljudi. Seveda se to pomnoži s 1000, ko začnemo uporabljati stroje v vojni. Tako imamo zdaj brezpilotna letala, ki jih poganja kupček joystickov, ki so na drugi strani sveta. In to brezpilotno letalo zdaj upravlja ta pilot. In pilot se odloči, kje bo spustil svoje bombe. Kaj se bo zgodilo, ko bo ta dron dobil dovoljenje, da se odloča sam? Kako ta etična vprašanja prenesti na programsko opremo drona? Zato menim, da so tovrstne odločitve, ki vplivajo na varnost in blaginjo ljudi, glavna področja, ki jih je treba preučiti. In to so verjetno najbolj vroča področja, ki jih lahko financiramo.

Predstavili ste že nekaj primerov na različnih področjih. Ali nam lahko predstavite še nekaj primerov, povezanih s prepoznavanjem obrazov, pravosodjem in izzivi družbenih omrežij? Ja, prepoznavanje obrazov, to je problem, ki je bil v zadnjih nekaj letih večkrat odkrit, najden in izpostavljen. Lahko bi rekli, da se je začelo neposredno, ker so morali najti rešitve na področju varnosti, vendar se je izkazalo, da je zdaj to uporabljeno v vseh različnih panogah, povezanih s tehnologijo. Recimo industrija. Recimo, da na primer usposobimo sistem za uporabo kamere, ki stoji na vhodu v nakupovalno središče, in želimo preveriti, ali ima oseba, ki vstopa v nakupovalno središče, COVID ali ne. COVID 19 je torej zelo aktualno vprašanje. In recimo, da imamo neke vrste sistem, ki gleda obraz, in če bi našli algoritme, ki jih lahko prepoznamo, bi skupaj z drugimi senzorji in podatki lahko ugotovili, ali ima ta oseba morda COVID. Recimo, da prepoznamo osebo, ki ima COVID. Dober naslednji korak bi bil, v redu, poglejmo, uporabimo prepoznavo obraza z umetno inteligenco in poiščimo, kdo je ta oseba. Pojdimo na Facebook, pojdimo na katero koli drugo družbeno platformo, prepoznajmo to osebo in nato si oglejmo slike, ki jih je ta oseba objavila na različnih platformah družbenih medijev, ter poglejmo, kdo so prijatelji te osebe. In morda moramo priti do njih, da bi ugotovili, ali so se dobili skupaj in bi se lahko nalezli. Zdaj je oseba osumljena za pozitiven rezultat testa COVID-19. Kje torej lahko to ustavimo? Če imamo pravila, ki so povezana z osebnimi podatki in varnostjo podatkov, je morda treba ta pravila zaradi pandemije postaviti na stranski tir. Ali torej pustimo, da algoritmi opravijo vse to delo namesto nas brez kakršnegakoli nadzora ali ponudimo pomoč? Toda dejstvo, da lahko algoritmi sami sprejemajo odločitve, za nas ustvarjajo to negotovost. Zato so ljudje upravičeno skeptični do tega.

Ali nam lahko zdaj poveste nekaj več o stanju in perspektivah nekaterih predpisov? Na primer OECD ali EU UNESCO GPAI. Ja, kot sem rekel, obstajajo pobude in ljudje, pametni ljudje, ki porabljajo čas za oblikovanje okvira za uporabo umetne inteligence. Trenutno potekajo tudi raziskave za področja etike, s katerimi se vladne agencije ne ukvarjajo. Toda kot smo že povedali, so v zelo zgodnji fazi in imam občutek, da bo industrija ponovno prehitela regulatorje. Če si ogledate raziskave, ki trenutno potekajo v podjetjih na področjih robotike, boste prišli do enakega odziva osupljenosti, ko boste videli, kako roboti delujejo danes. In imam občutek, da je industrija že zdaj pred regulativnim okvirom in da se bo najverjetneje ponovil še en scenarij, po katerem se bo moralo zgoditi nekaj slabega, da se bodo vsi pozitivno odzvali. Glede na to, kako se stvari premikajo, ne vidim razloga, zakaj bi bilo treba umetno inteligenco obravnavati na drugačen način. Mislim, da bo industrija napredovala z neverjetno hitrostjo, regulatorji in vlade pa bodo korak za njo. Menim, da je to trenutni trend v tem trenutku, in ne vidim nobenega pomembnega dejavnika, ki bi se spremenil. Najlepša hvala. Ali želite v zvezi s tem vprašanjem še kaj dodati? Ne, mislim, da je precej etičnih vprašanj znotraj umetne inteligence. Lahko bi rekli, da je to vprašanje upravičeno. Gre za vprašanje, ki ga postavljajo družbe po vsem svetu. Verjamem tudi, da bo industrija nadaljevala z oblikovanjem in izvajanjem tistega, kar se ji bo zdelo najboljše za njihove ustvarjalce. Mislim, da tega ne bo mogoče na noben način preprečiti. Upam le, da bodo rezultati teh pobud za umetno inteligenco na koncu dneva koristni za človeštvo in ne bodo povzročili vseh teh težav, ki se jih bojimo. Sčasoma bo človeštvo prijazno in človeštvo našlo svojo pot, vendar mislim, da bo to trnova pot.