Dobro jutro. Danes bomo v našem intervjuju predstavili Dr. Emanuelo Girardi. Emanuela Girardi je ustanoviteljica Pop-AI (Popular Artificial Intelligence). Je članica strokovne skupine za umetno inteligenco pri ministrstvu za gospodarski razvoj, ki je napisala italijansko strategijo za umetno inteligenco. Je članica upravnega odbora italijanskega združenja za umetno inteligenco in industrijske delovne skupine CLEAR (Confederation of Laboratories in AI Research in Europe), v kateri je koordinatorka delovne skupine za umetno inteligenco in Covid 19. Je tudi članica upravnega odbora združenja ADRA (AI Data and Robotics), ki je novo evropsko združenje, ki bo sodelovalo z Evropsko komisijo pri izvajanju programa Horizon 2020. Je torej izjemno pomembna in izjemno kompetentna oseba, ki nas bo v tem polurnem popotovanju popeljala po nekaterih zanimivostih na področju umetne inteligence. Še enkrat se ji zahvaljujem in ji bom zastavil nekaj vprašanj.

VPRAŠANJE (F. ANANASSO)

Zahvaljujem se vam za vaše razmišljanje, ki v veliki meri sovpada z nekaterimi mojimi dvomi. Razumem pa, da je bistvena stvar, ki jo imamo več kot drugi, prav koncept “človekovega središča”, kajne? Znani “človek v zanki”, ki mu mnogi pravijo “na zanki”, kar je prav, to pomeni, da mora biti na koncu/na vrhu “človek”, in osebno sem zelo zaskrbljen zaradi tega, kar je Evropska komisija izrecno povedala, da ne more obravnavati vojaških tem, ki smo jih že obravnavali v drugih intervjujih, zelo zaskrbljujoče, ker ni človeka v zanki. Vendar pa je to tema, ki nima nobene zveze s tem, kar obravnavamo zdaj, to je le razmislek med nami, ki preučujemo in obravnavamo te teme.

Tako smo si ogledali svet in Evropo. Kaj pa Italija? Kakšen je položaj Italije? Med drugim v Italiji, pa tudi drugod po Evropi, predvsem pa pri nas, se v zadnjem času pojavlja tudi izraz “trajnost”, ki ga pogosto omenjamo. Kakšen je italijanski pristop, italijanska strategija in naš pristop, recimo, k trajnostnemu razvoju in pomenu uporabe umetne inteligence ter vlaganja v sisteme umetne inteligence?

ODGOVOR (E. GIRARDI)

Italija je razvila različne strategije. Trenutno sem sodelovala pri delu, ki je privedlo do razvoja strategije umetne inteligence, ki jo je spodbujalo Ministrstvo za gospodarski razvoj (MISE). Pravzaprav sta bili še dve drugi pobudi, tako da smo dejansko razvili veliko strategij, vendar do danes nismo objavili niti ene. Novica zadnjih dni je, da je skupina, sestavljena iz treh ministrstev, ustanovila novo delovno skupino, ki mora ponovno analizirati dokument, ki smo ga napisali na MISE, in resnično upam, da bodo predlagali fazo izvedbe, to je dejansko izvajanje strategije, njeno izvedbo, izvedbo, ki je temeljna stvar. To bo prelomnica tudi za Italijo. Škoda, ker imamo v Italiji po mojem mnenju toliko odličnosti, zlasti kar zadeva npr. raziskave in razvoj umetne inteligence, žal pa trenutno primanjkuje strateške vizije, kakšne bi lahko bile aplikacije, uporaba in razvoj umetne inteligence na različnih družbenih področjih. 

Po drugi strani pa predlagana italijanska strategija, ki smo jo pripravili, temelji na treh stebrih. Prvi je umetna inteligenca za človeka, kar je popolnoma v skladu z evropsko vizijo, osredotočeno na človeka, drugi je umetna inteligenca za trajnostni in odlični proizvodni razvoj, kar je zelo skladno z vizijo EU, z evropsko belo knjigo o umetni inteligenci, ki je bila predstavljena februarja 2021 in ki spodbuja prav vzpostavitev sistema odličnosti in zaupanja na evropski ravni za spodbujanje razvoja tehnologij umetne inteligence, nato pa za naložbe v izobraževanje, da bi jih uvedli v podjetja, šole in družbo. Zadnja točka pa je po mojem mnenju najpomembnejša in tudi najbolj inovativna, kar zadeva italijansko strategijo umetne inteligence. To je umetna inteligenca za trajnost, ki smo jo predlagali in za katero menimo, da resnično potrebuje spremembo paradigme v smislu, da ni več dovolj, da v središče postavimo človeka, saj ta dejansko živi na planetu in v ekosistemu. In tako reči, da tehnologije uporabljamo le za izboljšanje človeškega življenja, ni več dovolj, zato smo predlagali uporabo tehnologij umetne inteligence za doseganje ciljev trajnostnega razvoja (SDG) iz agende Združenih narodov 2030. Zato je ta vizija, ki spreminja paradigmo in predlaga ta vidik trajnosti ali pristop, imenujmo ga “planetaren”, če želite, trenutno zelo inovativna. Dejansko so jo sprejeli tudi OECD, Združeni narodi in mislim, da je bila vključena tudi v zadnji usklajeni načrt Evropske komisije, in mislim, da je to verjetno edina možna vizija. Tudi zato, ker je 156 držav, ki so se odločile, da je agenda ZN 2030 tista prava agenda, in cilji trajnostnega razvoja, ki so, tudi če mislimo, da je leto 2030 praktično jutri, najbolj skupni cilji, ki so danes na evropski ravni. Ko so cilji, ki jih je treba doseči, opredeljeni, kot smo rekli prej, je opredelitev umetne inteligence naslednja: sistemi, ki nam na nek avtonomen način omogočajo doseganje določenih ciljev. Če so nam jasni cilji, ki jih želimo doseči, lahko na tej točki, tudi če gre za zapletene cilje, uporabimo te tehnologije za njihovo doseganje. In tako smo nato za nekatere cilje trajnostnega razvoja analizirali, kako uporabiti tehnologije za njihovo doseganje. Zlasti en vidik, recimo mu zelo pomemben, smo skušali posvetiti poskusu povečanja vključenosti in dostopnosti invalidov. In to zaradi uporabe tehnologij umetne inteligence, zato so ti vidiki zelo pomembni, zelo pomembni pa so tudi pri pomoči pri preprečevanju podnebnih sprememb ali pri tem, kako izboljšati vpliv na okolje. V zvezi s tem je na primer zelo zanimiv projekt, ki ga je pravkar spodbudila Evropska komisija, imenovan “Destination Earth”, s katerim je bil ustvarjen digitalni dvojček Zemlje, ki omogoča spremljanje in ocenjevanje podnebnih sprememb, učinkov podnebnih sprememb in, recimo, na tem digitalnem dvojčku Zemlje testiranje novih okoljskih politik, ki jih želimo razviti z uporabo tehnologij umetne inteligence. S tem želimo tudi spodbujati optimizacijo in racionalizacijo omejenih virov, ki jih imamo na Zemlji.

Fabio Del Frate je na Univerzi Tor Vergata v Rimu magistriral iz elektronike (1992) in doktoriral iz računalništva (1997). V letih 1995-1996 je bil gostujoči znanstvenik na Tehnološkem inštitutu v Massachusettsu, v letih 1998-1999 pa je delal na Evropski vesoljski agenciji. Nato se je pridružil rimski univerzi “Tor Vergata”, kjer je trenutno izredni profesor za daljinsko zaznavanje in uporabni elektromagnetizem v različnih magistrskih in doktorskih programih. Na teh področjih je predaval na več evropskih univerzah ter bil glavni raziskovalec/vodja projekta v več projektih, ki jih financirata Evropska vesoljska agencija (ESA) in Italijanska vesoljska agencija (ASI), pri čemer je vodil raziskovalne dejavnosti na področju uporabe umetne inteligence pri satelitskih podatkih za opazovanje Zemlje (v nadaljevanju “OZ”).

Q2. Kaj je strojno učenje?

No, rekel bi, da je strojno učenje verjetno trenutno najbolj uporabljen tehnični postopek za ustvarjanje umetne inteligence v stroju. Videli smo že, da obstajata dva glavna akterja: podatki in model, natančneje matematični model. Izziv je poiskati parametre matematičnega modela, da bo lahko predstavljal odnose med podatki. Vse je odvisno od vzpostavitve procesa učenja, ki temelji na samih podatkih. Imamo lahko različne vrste modelov, na primer nevronske mreže ali podporne vektorske stroje, in posledično različne algoritme za učenje modela. Vendar je končni cilj vedno enak: pridobiti znanje iz učnih podatkov, ki se uporabljajo v procesu učenja, in to pridobljeno znanje uporabiti za nove podatke. Mimogrede, zelo pomembno je oceniti, kako dobro je delovanje modela na novih podatkih, tj. podatkih, ki niso bili upoštevani v fazi usposabljanja. To nam pove, koliko je model uporaben v resničnem svetu in koliko je sposoben posploševanja. 

V vsakem primeru sta kakovost in količina podatkov, uporabljenih v fazi učenja, ključna dejavnika za uspešno delovanje. Zlasti količina podatkov mora biti statistično pomembna, da zagotovi ustrezne značilnosti pojava, ki ga želimo raziskati. Drugo pomembno ključno vprašanje je odločitev, kako zapleten naj bo naš matematični model. Resna težava bi bila, če bi za iskanje zelo subtilnih povezav med podatki izbrali preveč preprost model, včasih pa je lahko, če so pravila, na katerih temeljijo podatki, manj zapletena, tudi struktura modela lažja…. manj je več, kot pravimo, pri čemer se manj nanaša na število parametrov, značilnih za model. 

Mimogrede, zapletenost modela je povezana tudi s časom, ki ga potrebujemo za učenje modela, in s količino podatkov, ki so potrebni za izvedbo celotnega postopka učenja.

Q4. Kaj je nadzorovano učenje? Ali lahko navedete nekaj primerov aplikacij, ki ga uporabljajo?

Rekel bi, da je nadzorovano učenje danes najpogostejša podpanoga strojnega učenja. Nadzorovano učenje je oblika učenja, pri kateri je za dani vhodni podatek na voljo “pravi” rezultat, ki ga je mogoče naučiti model. Z drugimi besedami, kot učitelj ali nadzornik za vsak vhod, ki ga dobi model, vemo, kakšen mora biti izhod modela, in želimo, da model vključi splošno pravilo. Običajno se to zgodi z minimiziranjem tako imenovane napake ali stroškovne funkcije, ki predstavlja razdaljo med želenimi izhodnimi vrednostmi in dejanskimi izhodnimi vrednostmi, ki jih je model ustvaril v fazi učenja. Dejansko lahko domnevamo, da je nadzorovano učenje uspešno, če je končna splošna napaka v nizu primerov, ki niso bili uporabljeni v fazi učenja, pod vnaprej določenim pragom. Faza učenja je lahko zelo dolga, ko pa jo ustrezno zaključimo, imamo za obdelavo novih podatkov zelo močno orodje, ki v bistvu deluje v realnem času. Nadzorovano učenje je lahko uporabno na številnih področjih. Precej obsežna uporaba se nanaša na klasifikacijo slik. V tem primeru so pravi podatki podatki, ki so označeni s človeško interpretacijo slik. Klasifikacija se lahko izvaja na različnih ravneh: na ravni pikslov, zaplat, objektov. Raven klasifikacije je vodilo pri izbiri vhodnih podatkov, ki jih želimo dati modelu. Natančneje, nadzorovano učenje se zdaj zelo pogosto uporablja pri opazovanju Zemlje, kjer želimo oceniti bio-geofizikalne parametre iz podatkov, zbranih s sateliti. Zanimiv primer je natančno kmetovanje v kmetijstvu. Če želimo spremljati biomaso pridelka, da bi optimizirali količino gnojil, ki jih je treba uporabiti, lahko uporabimo satelitske meritve tega pridelka. Vendar pa zlasti v mikrovalovnem območju elektromagnetnega spektra pridobivanje parametrov vegetacije ni trivialno, saj je meritev recimo onesnažena tudi z zemljo pod njo, zato so nadzorovani modeli umetne inteligence vsekakor lahko eno od orodij, ki nam omogočajo, da pridobimo tisti del informacij v meritvi, ki je bolj povezan z vegetacijo, in zavržemo tiste, ki so bolj pogojene z zemljo.

Q6. Obstajajo različne skupine algoritmov strojnega učenja, npr. regresija, klasifikacija itd. Ali lahko pojasnite njihov pomen in razlike med njimi?

Obstajajo različne možnosti združevanja algoritmov strojnega učenja v skupine. Menim, da je glavna odvisna od vrste matematičnega modela. Natančneje, kot je bilo že omenjeno, imamo modele za nadzorovano usposabljanje in modele za nenadzorovano usposabljanje. Kar zadeva prve, so med najpomembnejšimi nevronske mreže, globoke ali plitve, podporni vektorski stroji, odločitvena drevesa, združitvene tehnike. Pri nenadzorovanih modelih lahko omenimo k-means, analizo glavnih komponent, avtoasociativne nevronske mreže, samoorganizirane zemljevide itd. 

Kot je bilo poudarjeno v vašem vprašanju, pa se druga možnost za razvrščanje algoritmov strojnega učenja nanaša na razlikovanje med regresijo in klasifikacijo. Ko našemu matematičnemu modelu zagotovimo določen vhodni podatek, je razlika med regresijo in klasifikacijo odvisna predvsem od vrste rezultata, ki nas zanima. V primeru klasifikacije bo izhodni rezultat oznaka, razred. Na primer, ponovno si oglejmo satelitsko aplikacijo, kjer se daljinsko zaznavanje uporablja za meteorologijo. Predpostavimo torej, da moramo opraviti meteorološko analizo in se želimo odločiti, katero piko na sliki neba je treba povezati z oblačnim nebom in katero piko na sliki z jasnim nebom, tako da je končni namen izdelati zemljevid, na katerem z modro barvo predstavimo pike jasnega neba in s sivo barvo pike oblačnega neba. V tem primeru pravimo, da želimo dobiti klasifikacijsko karto. Pri regresiji v bistvu želimo, da naš matematični model kot odziv na obdelavo podatkov izračuna ali oceni neko število, bolj splošno realne vrednosti. Če torej upoštevamo isti scenarij na področju meteorologije, želimo iz podatkov daljinskega zaznavanja izvedeti, kolikšna je vlažnost ali količina padavin, realna števila, na določenem območju. Vendar je zanimivo opaziti, kako je mogoče problem regresije pretvoriti v problem klasifikacije. To se zgodi, če rečem: v tem razponu vrednosti padavin, torej med tema dvema številoma, imam razred “malo padavin”, v tem drugem intervalu ali razponu imam “zmerne padavine” in tako naprej. V tem primeru razpone vrednosti prikažem v razrede.

Zahvaljujemo se vam, profesor Fabio Del Frate, res smo vam hvaležni. To je bil jasen in zanimiv pogovor o značilnosti umetne inteligence in ustreznih aplikacij.

Pozdravljeni vsi. Moje ime je Simon Delakorda. Sem direktor Inštituta za elektronsko participacijo iz Ljubljane v Sloveniji. Inštitut za elektronsko participacijo je nevladna organizacija, ki deluje na področju informacijske družbe, razvoja in digitalizacije. Ukvarjamo se tudi z vprašanji umetne inteligence. Lani smo na primer izvedli dialog z državljani, ki je zajemal tudi aktualna vprašanja, povezana z razvojem umetne inteligence. Kako ta tehnologija vpliva na vsakdanje življenje državljanov.

Naslednji pogled ali vprašanje v zvezi z umetno inteligenco, na katerega bi se rad osredotočil, so družbeni izzivi strojnega učenja. Najprej, kaj je strojno učenje? Strojno učenje se nanaša na algoritme in tehnike, ki se učijo sami od sebe, če se soočajo s podatki, opazovanji in interakcijami z okoliškim svetom. Strojno učenje je v bistvu povezano z algoritmi. Temelji na algoritmih, algoritmi pa so preprosto določena navodila, kako reševati naloge. In zdaj, ko povezujemo algoritme s strojnim učenjem, to pomeni, da se določene vrste algoritmov lahko učijo, vendar ne s pomočjo človeških programerjev, temveč same od sebe. To pomeni, da se strojno učenje uči samo z uporabo statističnega pristopa. Običajno sta dve fazi strojnega učenja. Prva faza je, da se algoritmi strojnega učenja usposabljajo z uporabo podatkov, z uporabo postopka usposabljanja. Rezultat tega procesa je model strojnega učenja. V drugi fazi se ta model strojnega učenja uporabi na želenem področju uporabe. Ideja je, da ta model strojnega učenja nato rešuje problem, ki ga želimo obravnavati. Na primer modeli strojnega učenja za napovedovanje, ali ima pacient raka, tumor ali model strojnega učenja za napovedovanje, kako se bodo delniški trgi obnašali v prihodnosti. Seveda pa se pri strojnem učenju pojavljajo tudi nekatera vprašanja, saj lahko strojno učenje resno vpliva na življenje ljudi, še posebej pa, kadar lahko pride do napak pri strojnem učenju, ki se lahko zgodijo med zbiranjem podatkov, pripravo podatkov ali med postopkom usposabljanja. Prav tako lahko pride do težav, ko napačno interpretiramo rezultate procesa strojnega učenja. Če pogledamo družbeno raven, je velika nevarnost, da se podatki za usposabljanje, ki se uporabljajo za postopek usposabljanja za strojno učenje, štejejo za popolne. Vemo pa, da bi popolni nabori podatkov zahtevali vse možne dejavnike, ki predstavljajo ali vplivajo na razmere, ki jih obravnavamo. To pomeni, da je zelo težko usposobiti algoritem, ki uporablja vse podatke iz kompleksne družbe. In zaradi teh nepopolnih podatkov, ki se nato uporabijo za algoritem strojnega učenja, se lahko zgodi, da so lahko rezultati preveč poenostavljeni in da je v situaciji, ki jo obravnavajo, upoštevano le omejeno število dejavnikov. Posledica tega je, da lahko strojno učenje privede do pristranskih napovedi, zlasti za prikrajšane družbene skupine, ki v podatkih ali v družbi kot celoti niso tako zelo prisotne in so manj zastopane v podatkovnem nizu. V primeru pristranskosti pri strojnem učenju to pomeni, da bodo pristranski podatki povzročili tudi pristransko napovedovanje. To velja za redke pojave ali družbene kontekste, ki jih je težko kvantificirati. To pomeni, da se moramo resnično zelo dobro zavedati tistih posebnosti v družbi, ki niso vidne ali vključene v rezultate strojnega učenja. Strojno učenje namreč dejansko deluje na podlagi vzorcev. In če se ti vzorci ne pojavljajo dovolj pogosto ali so slabe kakovosti, lahko dobimo zelo pristranske in slabe rezultate.

Moje zadnje mnenje o umetni inteligenci se nanaša na vlogo organizacij civilne družbe, zlasti vlogo nevladnih organizacij. Menim, da je vloga nevladnih mentorjev pri uporabi umetne inteligence zelo pomembna z vidika pojasnjevanja državljanom, pojasnjevanja ljudem, uporabnikom, običajnim ljudem, kako ta tehnologija vpliva na njihovo življenje, zlasti v smislu zaupanja v umetno inteligenco. Tudi v smislu pomoči pri razumevanju uporabe in vpliva na vsakdanje življenje državljanov, saj obstajajo različne interpretacije in strahovi in morda neutemeljeni negativni odnosi do umetne inteligence, o katerih se je treba pogovarjati, učiti in izobraževati v zaupanja vrednih okoljih. Nevladne organizacije s svojimi člani, s svojimi prostovoljnimi dejavnostmi so pogosto vez med visokotehnološkimi raziskavami in vsakdanjimi ljudmi, saj imajo zaupanje, ker imajo ljudje zaupanje v nevladne organizacije. In zaradi njihovih informacij in izobraževalnih dejavnosti lahko pomagajo državljanom razumeti, kakšni so negativni in pozitivni učinki umetne inteligence. To je ena od vlog nevladnih organizacij. Druga vloga nevladnih organizacij pa je, da delujejo kot čuvaji. Da delujejo kot ne ravno nadzorni organ, ampak nekdo, ki je pozoren na morebitno diskriminacijo, kršitev človekovih pravic ali negativno uporabo umetne inteligence, ki lahko privede do diskriminacije, do slabših pogojev za skupine priseljencev, za posebne družbene skupine, kot so priseljenci ali ženske ali socialno ranljive skupine, ki v družbi niso tako zastopane kot druge družbene skupine. In nevladne organizacije morajo prevzeti vlogo varovanja njihovih pravic in se tudi boriti za človekove pravice, ko vidijo, da bo umetna inteligenca premostila te standarde. Mislim, da sta to dve glavni pravili nevladnih organizacij v zvezi z umetno inteligenco. Obstajata še dve manjši vlogi. Ena je tudi nevladne organizacije kot običajni uporabnik umetne inteligence, zlasti tiste nevladne organizacije, ki ustvarjajo veliko podatkov o tej družbi, nato pa lahko uporabijo to strojno učenje, orodja za zagotavljanje nekaterih zaključkov, reševanje problemov, ustvarjanje vizualizacije o različnih vidikih družbe. Druga pomembna vloga pa je, da zainteresirane strani delujejo kot akterji politike, kar pomeni, da sodelujejo v forumih, koalicijah, razpravah z drugimi zainteresiranimi stranmi na področju gospodarstva, politike in raziskav. Na teh forumih in v teh razpravah opozarjajo na vprašanja o odgovornosti, zasebnosti, zanesljivosti umetnega sistema, kar pomeni, da delujejo kot zagovorniki družbe in ljudi ter si prizadevajo za človeško usmerjeno uporabo umetne inteligence. To bi bila moja kratka, a ne zares kratka stališča o umetni inteligenci in družbi.

Moje ime je Jurij Krpan. Sem kurator v Galeriji Kapelica, ki je del Zavoda Kersnikova, umetniške platforme. Njen namen je umetnikom omogočiti dostop do laboratorijev, v katerih lahko izvajajo svoje umetniške projekte. Galerija Kapelica obstaja že 26 let in je specializirana za raziskovanje sodobne umetnosti, kjer umetniki tematizirajo družbo, ki jo prežemajo visoke tehnologije, ne le elektronika, ampak tudi biotehnologija, telekomunikacije, robotika in tako naprej.

Kakšna je glavna razlika med strojnim učenjem in običajnim programiranjem? Razlik ni veliko, vendar so hkrati pomembne. Pri običajnem programiranju imamo že dokaj natančno predstavo o tem, kaj se programira in kako bodo stvari videti. Pri strojnem učenju imamo tezo, ki se sama ponuja kot možen odgovor s pomočjo strojnega učenja. Nekateri od teh možnih odgovorov so natančnejši, so bolj izdelani, nekateri pa so bolj podobni ugibanju. Pravzaprav gre za bolj ali manj natančno ugibanje.

Gre za sodelovanje z umetno inteligenco in interakcijo človeka s strojem. Nam lahko poveste več o interakciji med človekom in strojem? Da, vedno bolj sem prepričan, da pri umetni inteligenci ne gre za neko vrsto inteligence, ki bi bila kakor koli podobna človeški, ampak da so ti algoritmi res tako sposobni, da postanejo naši partnerji v dialogu. Kot da bi, ko sedim za mizo s kolegi, s katerimi včasih razpravljamo o programu, včasih o financah, včasih o politiki in tako naprej, imeli še en stol, na katerem sedi ta stroj. Ponuja nam odmev naših misli. Umetne inteligence na tak način še nismo uvedli, vendar jo nameravamo, saj razvijamo vmesnik, ki bo inovatorjem pomagal pri inoviranju. Želimo si, da bi bil eden od inovatorjev neke vrste umetna inteligenca. Morda lahko prispeva navdih pri brainstormingu ali pogovoru s humorjem ali nenavadnim načinom zlaganja stvari skupaj. Še posebej, če je za mizo skupina strokovnjakov, ki so bolj egocentrični in čustveno izčrpavajoči. Na drugi strani imamo stroj, ki ustvarja približke in predloge, ki sproščajo napetost v teh pogovorih. Na začetku sem omenil, da ta stroj iterira tisto, kar povedo ali vstavijo ljudje. V umetniških krogih se ukvarjamo z idejo, kako se lahko ti stroji emancipirajo s pogovorom med seboj, stroj s strojem. Razvijejo neko leksiko, neko raven komunikacije, ki je nam, ljudem, nerazumljiva. Vendar je lahko smiselna in prek te komunikacije lahko bolje razumemo način delovanja algoritmov. Imamo umetniške projekte, pri katerih se podatki zajemajo iz senzorjev, ki so pritrjeni na rastline, ali iz nekaterih okolij, opremljenih s senzorjih, v katerih se gibljejo in delujejo živali. Takrat nenadoma ne dobimo več dialoga med človekom in človekom (če izvzamemo, da je človek že vključen, saj je napisal algoritem), temveč komunikacijo med ekstrahiranim človekom v algoritmu, živalmi ali rastlinami. Umetniški projekti, ki jih izvajamo, spodbujajo interaktivnost, ki ni samo odzivnost, na primer pritisneš na gumb in nekaj skoči, ampak prava interakcija, kar pomeni, da pritisneš, nekaj se zgodi in to vpliva nazaj, da pritisneš še enkrat. To ustvarja komunikacijsko zanko. Imamo situacijo medsebojnega spoznavanja med več oblikami živosti, stroji in rastlinami. S to komunikacijo, ki je lahko zelo različna od komunikacije med človekom in rastlino, raziskujemo lastne predsodke o tem, kaj je rastlina in kaj je stroj. Deluje kot bioindikator in tako naprej. Umetniki ta orodja uporabljajo na zelo inovativne načine, tako da lahko na eni strani bolje razumemo ta orodja, na drugi strani pa bolje razumemo naravo ali okolje, v katerem živimo. Količina podatkov je tako velika, da je včasih večja, kot jo lahko obdelajo povprečni človeški možgani, in zaradi tega je smiselno razvijati algoritme.

…

Moje ime je Bambos Papacharalambous. Sem v IT. Večino svoje preteklosti, recimo skoraj 30 let, sem se ukvarjal predvsem s telekomunikacijskim delom poslovanja podjetja IT. Na splošno pa sodelujem pri številnih projektih, ki so povezani z IT podjetji. Sem generalni direktor in ustanovitelj podjetja Novum. Novum je podjetje, ki se ukvarja z razvojem programske opreme in svetovanjem na področju IKT.

Ali lahko zdaj pojasnite etično uporabo umetne inteligence? Ali obstajajo aplikacije umetne inteligence z etičnimi posledicami? V redu. Ker danes vse več strojev opravlja vse bolj zapletene naloge, to ljudi takoj usmeri k uporabi strojev za nadomestitev človeškega dela. To je prva stvar, ki ljudem pride na misel, in to je upravičena skrb. Gre za iste pomisleke, ki so se pojavili v času industrijske revolucije, in danes jih ponovno vidimo kot relevantne. Ali je težko omogočiti, da stroji pospravijo pšenico, namesto da bi se zanašali na človeške roke? Ali je težko dovoliti, da roboti nadomestijo človeške delavce na linijah za sestavljanje avtomobilov? Torej, ta osnovna ista vprašanja se ponovno pojavljajo, vendar zdaj v bolj, recimo temu, kompleksnem okolju, saj so se stroji zdaj razvili in opravljajo bolj zapletene naloge. Če bi se torej ljudje morali prilagoditi novemu okolju, ki so ga ustvarili stroji na delovnem mestu, bi morali zelo kmalu opraviti še en proces ponovnega prilagajanja. Kje bi na primer vozniki tovornjakov našli delo, če bi zdaj tovornjaki vozili sami? Kje bi našli zaposlitev vozniki avtobusov, če bi avtobuse upravljala programska oprema z umetno inteligenco? Kje bi zaposlili pilota letala, če bi letala letela sama? Torej, bolj ko se razvijajo zapletene naloge, ki jih izvajajo stroji, bolj so ogrožena tovrstna delovna mesta. In ne gre več samo za težko delo. Mislim, zakaj bi kdo postal zdravnik, če lahko robot isto operacijo opravi bolje kot katerikoli človek, kajne? Zato so ti pomisleki upravičeni. Seveda pa obstajajo tudi drugi primeri, ki odpirajo vprašanja etike pri uporabi umetne inteligence v naših življenjih. Ne gre le za delovno silo. Ali nas ne bi morala skrbeti uporaba strojev, ki se uporabljajo za našo varnost? Prvič, ali smo lahko prepričani, da je programska oprema UI, ki poganja varnostno kamero na letališču, sprejela pravilno odločitev pri prepoznavanju teroristov? Ali smo lahko prepričani, da varnostni sistem v nakupovalnem središču sledi pravemu tatu do njegovega avtomobila in ne kakšnemu drugemu nedolžnemu mimoidočemu? Ta vprašanja so pomembna. Na področju umetne inteligence obstaja veliko etičnih pomislekov, ne le prek področij, kot sta zaposlovanje ali varnost, temveč tudi pri uporabi vojaškega orožja. Ali nas ne bi moralo na primer skrbeti dejstvo, da oboroženi droni danes namesto nas opravljajo naše boje? Ali smo prepričani, da bo avtonomni robotski vojak jutri znal razlikovati med sovražnikom in prijateljem? To so torej zelo utemeljene skrbi. In kadar koli se zgodi kaj velikega, se v panogah na splošno zgodijo spremembe. Vedno, ko se zgodi nekaj čarobnega, obstaja tudi možnost negativnih posledic uporabe. Zato mora industrija sčasoma najti način, kako umetno inteligenco uporabiti v dobro družbe, v kateri živimo.

Tako ste že omenili vpliv umetne inteligence na zaposlovanje, varnost, socialno skrb, vojaško službo in tudi na nove zakone robotike na drugih področjih. Ja, to vprašanje pravil in zakonov za robotiko. Tega vprašanja ni lahko rešiti. Smo na nedorečenem ozemlju, ko gre za splošno sprejet nabor pravil, ki naj bi opredelila etični okvir delovanja robotov, tudi na področjih zunaj vojske, pa tudi na področju varnosti, na področju varstva starejših, recimo na področju osebne varnosti. Doma bomo videli robote, ki bodo začeli sprejemati odločitve namesto nas. Kot sem že dejal, je to zelo novo področje, in čeprav obstajajo skupine tako v akademskem svetu, industriji kot tudi v vladah, ki se skušajo dotakniti teh pravil, je to trenutno v zelo, zelo zgodnji fazi. Trenutno se razpravlja o tem, kaj bi robot moral ali ne bi smel početi. Robot na primer ne sme poškodovati drugega človeka. To bi lahko bila, recimo, primarna direktiva za stroj. Hkrati pa bi moral robot ubogati svojega lastnika in ustvarjalca. To je torej druga direktiva, primarna direktiva za robota. Kaj pa, če lastnik robota daje robotu navodila, ki so zunaj njegove glavne direktive? Kaj pa, če je robot naprošen, da poškoduje drugega človeka? Prav, toda ali bi morali omejiti obseg poškodovanja nečesa na človeka? Kaj pa, če je robot naprošen, da škoduje živali? Ali kaj, če je robot naprošen, da škoduje drugemu robotu? Kaj pa, če mora robot škodovati človeku, da bi zaščitil drugega človeka? To so etična vprašanja, na katera ni lahko odgovoriti. In tudi če nanje odgovorimo, niso enostavna. Ni jih namreč tako enostavno uvesti v algoritem. Zato ne pozabite, da je treba na koncu vsa ta pravila okvira prevesti v matematično, recimo, enačbo. To je torej precej težka stvar. Čeprav bi bilo za človeštvo bolje, če bi ta pravila opredelilo pred razvojem in ne naknadno, ne verjamem, da je to lahka naloga. Podjetja se borijo za prevlado izdelkov na svetovni ravni. Države se spet borijo za vojaško prevlado na svetovni ravni. Zato bi bilo težko oblikovati pravila, s katerimi bi se lahko vsi strinjali in bi jih nato vsi izvajali, že zaradi samega načina delovanja družbe in človeštva. Verjetnejši scenarij bi verjetno bil, da se ta sklop sprejemljivih pravil določi in uveljavlja vsaj naknadno. Ko smo npr. videli, da je bilo kemično vojskovanje med prvo svetovno vojno neetično, smo na podlagi tega oblikovali kodeks in pravila. Takoj po tem, ko smo odvrgli jedrsko bombo, smo videli, da jo moramo nadzorovati. Zato bomo morda morali naprej doživeti katastrofo, da bomo prisiljeni opredeliti pravila, ki bodo urejala obnašanje robota. Upamo le, da ta izkušnja prve katastrofe ni bila res slaba poteza. Osebno pa menim, da je kljub temu, da obstajajo poskusi, da bi ta pravila določili že na začetku, to zelo nepraktična naloga, ki bi jo bilo treba rešiti.

Ali naredimo korak nazaj in pogledamo, kaj nenazadnje je algoritem? In poskušamo videti, razlikovati med tem, kaj lahko algoritem naredi za ljudi, in tudi tem, kaj lahko ljudje naredijo z uporabo algoritmov? Torej pri običajnem algoritmu sta ti dve, recimo temu, nalogi precej ločeni. Torej, kaj lahko algoritem naredi za ljudi, je ena stvar. Kaj lahko ljudje naredijo s tem algoritmom, pa je ločena stvar. Torej, da bi informatik napisal algoritem, vas bo vprašal tudi po pravilih, za katera želite, da jih ta algoritem upošteva. Recimo, da želite algoritem, ki vam bo, ko mu boste podali prostornino v litrih, vrnil prostornino v galonih. V redu? Razvijalec programske opreme bo torej zahteval pravilo, ki ureja to razmerje med vodniki in topovi. In na podlagi tega pravila bo napisal ta algoritem, tako da bo vsakdo vedel, kakšen bo rezultat, če bo algoritem skladen s temi pravili in bo deloval pravilno. Jasno? Temu pravim pravilen algoritem. Če lahko zdaj uporaba tega algoritma spravi ljudi v težave, potem ni kriv algoritem, ampak je kriva uporaba algoritma. Recimo, da se ta del programske opreme, ki smo jo napisali, uporablja v letalu in da je v letalu stikalo, ki pravi: “Ko vklopite stikalo, vam lahko prikažem količino goriva v galonih. Ko stikalo spustite, lahko prikažem količino goriva v litrih, ki jo ima letalo v rezervoarju.”. In recimo, da je stikalo v napačnem položaju in letalo zahteva galone namesto litrov ter vzleti. No, obstaja velika verjetnost, da bo moral zasilno pristati nekje drugje pred svojim prvotnim ciljem. Kaj torej storiti v tem primeru? Imate algoritem, ki je pravilno deloval, vendar je zaradi njegove uporabe postal disfunkcionalen. V tem primeru torej posežejo regulator, industrija in pravilno usposabljanje pilotov. Zagotovite, da se preveri, ali ima letalo dovolj goriva, preden vzleti. Uvedete predpise, ki prisilijo zemeljsko službo za točenje goriva, da se prepriča, ali ima letalo dovolj goriva, da doseže cilj. Tako da znamo reči, kako ravnati z vsemi regulativnimi vprašanji, ki jih moramo obravnavati v običajnem kodiranem algoritmu. Kaj se zgodi z algoritmom umetne inteligence? No, vzemimo na primer algoritem za strojno učenje. V tem primeru oblikujete algoritem z nekaj osnovnimi parametri in mu poveste, katere podatke imate. Algoritmu preprosto določite množico podatkov in ga nato zaženete. Razlika pri tej vrsti algoritma je v tem, da se je sistem sam spremenil na podlagi parametrov in podatkov, ki ste mu jih dali. Zato izida algoritmov ne morete zares predvideti. Če bi imeli dovolj časa, da bi človek pregledal podatke, ki ste mu jih dali, in pregledal parametre ter izvedel izračune vrstico za vrstico na listu papirja, potem bi, lahko predvideli, recimo, da bi naredili enake napovedi, kot jih je naredil algoritem. Toda za človeka je nemogoče, da bi s parametri, ki ste jih dali algoritmu v delo, preletel tako veliko količino podatkov. Zato bi lahko na koncu rezultat, ki ga dobi algoritem umetne inteligence, šteli za nepredvidljivega. Lahko dobimo rezultat, ki ga nismo pričakovali. In prav tu je treba poskrbeti za etiko znotraj rezultatov. Predstavljajte si, da ste ministrstvo za zdravje neke države in prosite podjetje za umetno inteligenco, naj pripravi rezultat, ki bo preučil demografske značilnosti prebivalstva in število razpoložljivih darovalcev organov. In želimo, da algoritem predlaga, kdo bo na primer dobil presaditev srca in kdo ne bo dobil presaditve srca. Zato vnesete stvari, kot so starost, stvari, kot so verjetnost, da ima, recimo, visoko verjetnost, da bo sprejel ta načrt zaupanja, in vnesete kopico parametrov, nato pa vse demografske podatke držav posredujete temu algoritmu in ga pustite delovati. Na etična vprašanja morajo zdaj odgovoriti ljudje, ki so napisali algoritem, in ne ljudje, ki ga samo uporabljajo. Pri običajnem algoritmu pa lahko odgovornost za sprejemanje odločitev prepustimo ljudem, ki uporabljajo programsko opremo. V različici algoritma za strojno učenje, ki jo uporablja umetna inteligenca, smo uvedli različico algoritma za strojno učenje. V bistvu algoritem sprejema odločitve namesto nas. Zato moramo začeti razmišljati o tem, da bi etična pravila vgradili v same algoritme. In kot smo že povedali, to ni enostavno storiti. Kako  namreč dekodirati vse te etične odgovore v matematično enačbo? In ta algoritemski izraz in prostor je novost. Zdaj se raziskuje na akademiji, na akademski ravni. Dosega in se malo dotika industrije, vendar še ni povsem tam. Zato še vedno potrebuje čas. Najlepša hvala za ta prispevek o pomembnosti algoritmike.

Zdaj bomo prešli na konkretna vprašanja o umetni inteligenci in družbenih izzivih. Ali nam lahko poveste več o asistirani, razširjeni in avtonomni inteligenci? Da. Kot smo že povedali, če na primer vzamemo robota, ki zdaj opravlja določeno delo, robota, ki dela na montažni liniji za avtomobile, ga ne štejemo za robota z algoritmom umetne inteligence v njem. Te robote, ki delajo v industriji, smo videli že vrsto let, preden je postal priljubljen ta novi val metod umetne inteligence. Kaj se torej dogaja na tem področju? No, to je naloga, ki jo je mogoče ponoviti, ki jo je mogoče zlahka ponoviti in ki jo industrija sprejema kot neškodljiv del opreme. Prednosti takšnega stroja so, da ljudem odvzamemo to zelo intenzivno delovno dejavnost in pustimo strojem, da opravljajo dolgočasne in nezdrave naloge, ljudem pa omogočimo delo v bolj produktivnih in varnejših okoljih. Slabost pa je seveda ta, da je ta robot, ki ga imamo na tej montažni liniji, v bistvu prevzel vidno priložnost ljudi, ki smo sposobni in pripravljeni opravljati te naloge. Tako so stvari, recimo, sprejete, kar zadeva uporabo stroja, ki opravlja ponavljajoče se naloge ročnega dela v določeni industriji. Problem postane bolj zapleten, ko imamo robota ali stroj, ki avtonomno sprejema odločitve in deluje na bolj, recimo temu, kodni in kodno inteligenten način. Predstavljajte si torej, da nimate montažne linije in da imate robota, ki ima inteligenco za opravljanje nalog, ki jih danes opravlja običajni robot, vendar se tudi odloči, da je treba spremeniti zasnovo dejanskega avtomobila. Recimo, da je robot zdaj sposoben oblikovati avtomobil na bolj aerodinamičen način in se samostojno, avtonomno odloči, da je treba spremeniti obliko avtomobila. In seveda bo robot zdaj lahko spremenil obliko in hkrati izdelal avtomobil. Prednost bi bila, da bi morda prišli do boljše zasnove in ponudili boljši izkoristek goriva ali kaj podobnega. Slabost pa je predvsem ta, da smo iz delovne sile izrinili nekaj več delovnih mest. Morda smo zdaj odstranili oblikovalca, hkrati pa nismo prepričani, ali bodo te spremembe, ki jih zdaj predlaga ta novi robot, dejansko varne. Da, morda bomo imeli večjo učinkovitost, izkoristek goriva, toda ali bo to varnejše ali enako varno za voznika in potnike? Zato je treba vse skupaj uravnotežiti. Obstajajo prednosti in slabosti, zato obstajajo tveganja, grožnje in izzivi. Hkrati pa obstajajo tudi priložnosti.

Omenili ste že nekaj priložnosti ter nekaj tveganj in groženj. Kateri so po vašem mnenju najpomembnejši socialni problemi? Mislim, da me osebno najbolj skrbijo stvari, ki vplivajo na varnost ljudi. Torej stvari, kot sta trg dela in zaposlovanje. Mislim, da bo človeštvo sčasoma našlo svojo pot, in če bomo dovolj previdni, bomo lahko našli odgovore na te težave, saj bo tehnologija vedno na voljo. Skozi to smo že šli in upam, da bomo tako ali drugače našli odgovor na ta vprašanja. Ko gre za stvari, kot je varnost, je varnost ljudi eden najtežje rešljivih problemov. Menim, da bi morali temu posvetiti več pozornosti. Kaj se na primer zgodi, če imamo virus v avtomobilu in ta avtomobil zdaj vsak dan vozi mojo mamo v trgovino? Kaj se zgodi, če to programsko opremo prevzame teroristična organizacija? Kaj se zgodi, če je ta programska oprema neustrezna zaradi svoje zasnove, ker ni bila ustrezno preizkušena? In potem se med tem potovanjem moje mame v trgovino z živili nekaj zgodi in pride do nesreče. Gre za isto vrsto težav, ki vplivajo na varnost in zaščito ljudi. Seveda se to pomnoži s 1000, ko začnemo uporabljati stroje v vojni. Tako imamo zdaj brezpilotna letala, ki jih poganja kupček joystickov, ki so na drugi strani sveta. In to brezpilotno letalo zdaj upravlja ta pilot. In pilot se odloči, kje bo spustil svoje bombe. Kaj se bo zgodilo, ko bo ta dron dobil dovoljenje, da se odloča sam? Kako ta etična vprašanja prenesti na programsko opremo drona? Zato menim, da so tovrstne odločitve, ki vplivajo na varnost in blaginjo ljudi, glavna področja, ki jih je treba preučiti. In to so verjetno najbolj vroča področja, ki jih lahko financiramo.

Predstavili ste že nekaj primerov na različnih področjih. Ali nam lahko predstavite še nekaj primerov, povezanih s prepoznavanjem obrazov, pravosodjem in izzivi družbenih omrežij? Ja, prepoznavanje obrazov, to je problem, ki je bil v zadnjih nekaj letih večkrat odkrit, najden in izpostavljen. Lahko bi rekli, da se je začelo neposredno, ker so morali najti rešitve na področju varnosti, vendar se je izkazalo, da je zdaj to uporabljeno v vseh različnih panogah, povezanih s tehnologijo. Recimo industrija. Recimo, da na primer usposobimo sistem za uporabo kamere, ki stoji na vhodu v nakupovalno središče, in želimo preveriti, ali ima oseba, ki vstopa v nakupovalno središče, COVID ali ne. COVID 19 je torej zelo aktualno vprašanje. In recimo, da imamo neke vrste sistem, ki gleda obraz, in če bi našli algoritme, ki jih lahko prepoznamo, bi skupaj z drugimi senzorji in podatki lahko ugotovili, ali ima ta oseba morda COVID. Recimo, da prepoznamo osebo, ki ima COVID. Dober naslednji korak bi bil, v redu, poglejmo, uporabimo prepoznavo obraza z umetno inteligenco in poiščimo, kdo je ta oseba. Pojdimo na Facebook, pojdimo na katero koli drugo družbeno platformo, prepoznajmo to osebo in nato si oglejmo slike, ki jih je ta oseba objavila na različnih platformah družbenih medijev, ter poglejmo, kdo so prijatelji te osebe. In morda moramo priti do njih, da bi ugotovili, ali so se dobili skupaj in bi se lahko nalezli. Zdaj je oseba osumljena za pozitiven rezultat testa COVID-19. Kje torej lahko to ustavimo? Če imamo pravila, ki so povezana z osebnimi podatki in varnostjo podatkov, je morda treba ta pravila zaradi pandemije postaviti na stranski tir. Ali torej pustimo, da algoritmi opravijo vse to delo namesto nas brez kakršnegakoli nadzora ali ponudimo pomoč? Toda dejstvo, da lahko algoritmi sami sprejemajo odločitve, za nas ustvarjajo to negotovost. Zato so ljudje upravičeno skeptični do tega.

Ali nam lahko zdaj poveste nekaj več o stanju in perspektivah nekaterih predpisov? Na primer OECD ali EU UNESCO GPAI. Ja, kot sem rekel, obstajajo pobude in ljudje, pametni ljudje, ki porabljajo čas za oblikovanje okvira za uporabo umetne inteligence. Trenutno potekajo tudi raziskave za področja etike, s katerimi se vladne agencije ne ukvarjajo. Toda kot smo že povedali, so v zelo zgodnji fazi in imam občutek, da bo industrija ponovno prehitela regulatorje. Če si ogledate raziskave, ki trenutno potekajo v podjetjih na področjih robotike, boste prišli do enakega odziva osupljenosti, ko boste videli, kako roboti delujejo danes. In imam občutek, da je industrija že zdaj pred regulativnim okvirom in da se bo najverjetneje ponovil še en scenarij, po katerem se bo moralo zgoditi nekaj slabega, da se bodo vsi pozitivno odzvali. Glede na to, kako se stvari premikajo, ne vidim razloga, zakaj bi bilo treba umetno inteligenco obravnavati na drugačen način. Mislim, da bo industrija napredovala z neverjetno hitrostjo, regulatorji in vlade pa bodo korak za njo. Menim, da je to trenutni trend v tem trenutku, in ne vidim nobenega pomembnega dejavnika, ki bi se spremenil. Najlepša hvala. Ali želite v zvezi s tem vprašanjem še kaj dodati? Ne, mislim, da je precej etičnih vprašanj znotraj umetne inteligence. Lahko bi rekli, da je to vprašanje upravičeno. Gre za vprašanje, ki ga postavljajo družbe po vsem svetu. Verjamem tudi, da bo industrija nadaljevala z oblikovanjem in izvajanjem tistega, kar se ji bo zdelo najboljše za njihove ustvarjalce. Mislim, da tega ne bo mogoče na noben način preprečiti. Upam le, da bodo rezultati teh pobud za umetno inteligenco na koncu dneva koristni za človeštvo in ne bodo povzročili vseh teh težav, ki se jih bojimo. Sčasoma bo človeštvo prijazno in človeštvo našlo svojo pot, vendar mislim, da bo to trnova pot.

Pozdravljeni. Ime mi je Adriana. Delam na univerzitetnem kliničnem centru v Ljubljani v Sloveniji. Moja vloga je bolj ali manj na področju informatike. Tako sem zaposlena na oddelku za informatiko, kjer smo odgovorni za uvajanje novih IT tehnologij v bolnišnico.

Kakšni so trenutno izzivi, tveganja ali morda grožnje umetne inteligence na področju zdravstva? Največji izziv je odgovor na vprašanje, ali se splača. Uvedba različnih sistemov in novih tehnologij je namreč zelo draga. Še posebej draga je za majhne države, saj se računa na prebivalca na število oseb. Zato so za nas nove tehnologije krvavo drage. Na evropski ravni bi bilo to veliko lažje. Na evropski ravni bi bilo veliko lažje pokriti stroške, saj bi bili potem stroški na osebo ali stroški na zdravljenje veliko nižji. Zato je to eden od prvih izzivov. Tehnologija je zelo draga. Po drugi strani pa morate vedeti, da kadar koli se vodstvo bolnišnice odloči za uvedbo nove tehnologije, naredi kratek izračun, ali je ta boljša od obstoječega postopka. In če je boljša, ali se splača? Ali je boljša za 20 %, za 50 % ali samo za 0,5 %? Če je izboljšava zelo majhna, potem te nove tehnologije verjetno ne bodo uvedli v bolnišnico, ker je veliko stroškov, ki vključujejo tudi izobraževanje osebja, ki je vključeno v te stroške. Zato so zame najpomembnejši izziv stroški te nove tehnologije. Za nekatere ljudi na primer izziv in tveganje hkrati predstavlja dejstvo o naravi podatkov. Podatke je mogoče enostavno in hitro prenesti. Lastnik podatkov, to je bolnik, nima popolnega nadzora nad svojimi podatki, saj lahko upravljavec podatkov, kar je v našem primeru bolnišnica, bolnikove podatke prenese v druge ustanove. Torej ali jih deliti znotraj Evropske unije. Za nekatere ljudi je to izziv v okviru tveganja. Toda zame je to tudi nekakšna prednost. V primeru pandemij smo videli, da bi morali biti nacionalni zdravstveni sistemi veliko tesneje povezani in da bi morali imeti organi, kot so evropski ali nacionalni organi, dober vpogled v to, kaj se dogaja z določeno boleznijo pri določeni populaciji. Zato osebno ne nasprotujem izmenjavi podatkov, da bi ohranili dobro zdravstveno varstvo v državi. Ne vidim veliko groženj. Nekateri ljudje vidijo grožnje. Toda vidite, jaz delam na oddelku IT, zato sprejemamo tehnologijo. In še enkrat moram poudariti, da so nekatere norme in smernice, ki jih je uvedla Evropska unija, zelo dobro sprejete. Evropska unija si dejansko prizadeva zmanjšati grožnje pri uporabi umetne inteligence v zdravstvu. In z mojega vidika je to npr. zahteva, da morajo upravljavci podatkov pacientom povedati, katere algoritme uporabljajo. In za paciente bo to od samega začetka nekako težko razumljivo. In morda od vseh pacientov ne bi smeli pričakovati, da bodo razumeli vse, kar je povezano z umetno inteligenco. Vendar menim, da bi bilo vsaj zelo dobro bolnike in Evropejce poučiti, da so njihovi podatki njihovi podatki in da imajo nadzor nad njimi. Kaj se bo v prihodnosti počelo z njihovimi podatki?

Kako lahko umetna inteligenca pomaga pri zgodnjem odkrivanju bolezni? Zgodnje odkrivanje bolezni je verjetno ena najpomembnejših lastnosti umetne inteligence. Razlog za to je, da spremljanja razvoja ali sledenja znakom razvoja bolezni ne more vedno opraviti zdravnik ali diplomirana medicinska sestra. Če imamo torej na voljo umetno inteligenco skupaj z različnimi vizualnimi komponentami, ki lahko dejansko spremljajo bolnika ali evropskega državljana, potem bi bilo enostavno odkriti zgodnji začetek bolezni. Zakaj je to pomembno? Lahko rečemo, da boste diagnozo dobili šest mesecev prej, kot če bi čakali na zdravnika. Kako vam to koristi? No, če je diagnoza postavljena zgodaj, lahko zdravljenje začnete prej in zapletov bo manj. Boste mlajši, mlajše telo pa bolezen odbije veliko bolje kot starejše. Če torej bolezen ujamemo v njenem zgodnjem začetku in je bolnik še razmeroma mlad, so obeti za razvoj veliko boljši kot v primeru, ko čakamo, da je že skoraj prepozno. In kako lahko umetna inteligenca pomaga pri zdravljenju in predpisovanju avtoritetam? Mislim, da je to kot eno najboljših področij, kjer lahko pričakujemo koristi, namreč zdravljenje in spremljanje terapije je lahko dolgočasno. Po drugi strani pa je zelo pomembno, da so zdravila predpisana in dana bolniku na točno predpisan način. Zato so lahko napake na tem področju zelo drage. In umetna inteligenca je pravzaprav zelo dobra pri odkrivanju napak oziroma postopkov in dejanj, ki niso ravno povprečni za zdravljenje določene bolezni. Če imate torej na primer sistem umetne inteligence Fisher, ki spremlja stanje bolnika in njegovo izboljšanje bolezni, lahko samodejno prilagodite odmerek in vrsto zdravila, ki je bilo predpisano. Spet bi bilo zelo dobro, da bi se bolniki zavedali, da določeno zdravilo zanj ni zares dobro in da so se včasih pojavili določeni neželeni učinki. Neželeni učinki so lahko zelo majhni in jih s prostim očesom ni mogoče opaziti. Zato je zelo dobro imeti takšen sistem umetne inteligence, ki dejansko dela na tovrstnih opozorilnih sistemih in prav zdaj pove, da ti in ti parametri pri tvojih pacientih ne delujejo dobro. Pojdite in prilagodite zdravljenje v to in to smer. Nato seveda zdravnik gre in si ogleda predlog umetne inteligence in se odloči, ali bo upošteval nasvet umetne inteligence. Z mojega vidika to dejansko resnično izboljšuje kakovost zdravljenja posameznih bolnikov. Kako lahko umetna inteligenca pomaga pri izobraževanju in usposabljanju osebja na vseh ravneh? Izobraževanje in usposabljanje osebja je res zelo organizirano in hierarhično, kar pomeni, da imajo vsi nacionalni sistemi svoje načine, kako bodo izobraževali zdravnike, kako jim bodo podelili certifikat ali licenco. Seveda pa imamo na primer v Evropski uniji tudi sistem, mislim, da se imenuje vzajemno priznavanje spričeval in licenc. V tem osnovnem smislu se torej ne zavedam, da bi umetna inteligenca resnično pomagala pri izobraževanju mladega zdravnika. Ko pa so zdravniki v svojem delovnem okolju, se lahko učijo iz določenih funkcionalnosti umetne inteligence, kar najpogosteje pomeni, da je vključena močna vizualna komponenta in da lahko zdravniki dejansko na določenem področju izboljšajo svoje znanje na določenem področju.

Moje ime je Dr. Sabasana. Sem vodja oddelka za eksperimentalno umetno inteligenco, doma v Berlinu, moja naloga pa je izvajati raziskave v smeri uporabnosti umetne inteligence.

Ali nam lahko poveste več o globokem učenju in kakšna je razlika med strojnim in globokim učenjem? Da, globoko učenje je spet podnaslov strojnega učenja in opisuje uporabo in usposabljanje algoritmov strojnega učenja, ki imajo globoko predstavo informacij. In to običajno opisuje globoke nevronske mreže. Globina pri tem globokem učenju je v globokih nevronskih mrežah v tem, da se običajno zloži več plasti možne predstave podatkov. To si lahko predstavljate kot plasti matematičnih operacij, ki se jih nato naučimo pri usposabljanju. Tako podate obliko omrežja, funkcija omrežja pa je določena v iterativnem procesu usposabljanja z zagotavljanjem podatkov, ki služijo kot primer, in izrazoma globoko in učenje. Pristop izhaja iz globine omrežja. In kakšna je razlika med strojnim učenjem, globokim učenjem in tradicionalnim programiranjem? Kot sem že povedal, je globoko učenje del strojnega učenja. Razlika med strojnim učenjem in tradicionalnim programiranjem je naslednja – upoštevajte, da imate nekaj podatkov in poznate pravila, kako te podatke obdelati. Potem lahko izvedete svoje rešitve. In to je tipičen pristop k programiranju. Imate svoje podatke, veste, kako jih obdelati, izvajate svoje programe in rezultate ter odgovore. Pristop k strojnemu učenju je torej tak, da imate veliko podatkov in poznate odgovore na te podatke, vendar nimate pojma, kako priti do njih. V bistvu nimate pravil, kajne? Naloga strojnega učenja je, da stroj usposobite za učenje pravil, ki vam omogočajo povezovanje podatkov in izdelavo pričakovanih odgovorov. In ko to dobite, imate usposobljen model strojnega učenja, ki lahko prejme nove podatke, podatke, ki jih še nikoli ni videl, ker se je naučil pravil, ki se jih ne bi smel naučiti na pamet, in nato lahko pripravi odgovore. Zato pri hitrosti strojnega učenja pravimo, da mora model posplošiti, kar pomeni, da se mora naučiti splošnih pravil, kako ravnati s temi podatki, ki ste jih vnesli, da bo zagotovil pravilne odgovore. Ko imate takšen model, ga lahko kot niz pravil vključite v svojo programsko nalogo. Na primer, če bi bil nabor pravil tako zapleten, da ga nikoli ne bi mogli eksplicitno kodirati z ročnim pisanjem kode.

Ali lahko navedete enega ali več primerov priljubljene uporabe strojnega učenja? Mislim, da je eden od primerov, ki se pogosto uporablja, optično prepoznavanje znakov, kar pomeni, da stroji in pošta preberejo ciljni naslov vašega pisma, ki ga napišete, tega običajno ne opravijo ljudje, ampak je to samo senzorični stroj. Stroj dešifrira vašo pisavo, nato digitalizira naslov in vse te informacije vnese v podatkovno zbirko, nato pa se pismo usmeri na cilj. Drug pristop bi bil na primer prepoznavanje obraza. Na primer v digitalnih videokamerah in spletnih kamerah. Spekter aplikacij na področju strojnega učenja je torej precej uporaben. V našem laboratoriju na primer uporabljamo strojno učenje na primer za preprečevanje naravnih nesreč, kjer sledimo, kje imamo na primer podatke o podnebju ali onesnaženosti zraka v zadnjih letih, mesecih in tako naprej. In nato treniramo model, ki naj bi bil sposoben napovedati, kako se obnaša prihod temperature in tako naprej. Glede na veliko dejavnikov, ki jih spremljamo v zadnjih dneh, mesecih, bi lahko navedli enega ali nekaj primerov priljubljene uporabe globokega učenja? Za skoraj vse, kar je precej zapleteno in je bilo očitno nerešljivo, smo pred približno desetimi leti licencirali globoko učenje. Za prepoznavanje slik se na primer uporablja globoko učenje, ker s korakom globokih omrežij ta globoka arhitektura omogoča, da se model uči kot kaskada različnih korakov obdelave značilnosti. Prav? Dejansko so globoke nevronske mreže nekoliko motivirane z vizualno skorjo človeških možganov, ki obdeluje informacije v več korakih, začenši s samim sprejemanjem barvnih informacij in koncem s sprožanjem nevronov do preprostih oblik, kot so robovi in okrogle oblike in tako naprej. S prehodom od atomskih do zelo kompleksnih lastnosti, na primer od barvnih gradientov robov do nevronov, ki so se naučili prepoznavati glave kuščarjev, se lahko te kompleksne slikovne informacije učinkovito in precej hitro obdelajo. In to vodi do tega, da sedanji modeli strojnega učenja pri prepoznavanju slik na primer prekašajo ljudi, zlasti če upoštevamo čas.

Kakšne so priložnosti in pozitivni vidiki strojnega učenja za družbo? Prvič, to je možnost, da dosežemo stanje avtomatizacije, ki odpravlja naloge, ki so delovno intenzivne, a dolgočasne in jih nihče ne bi smel opravljati, ker jih je mogoče lepo avtomatizirati. S tem se seveda poveča učinkovitost. Zmanjšuje se število napak, ker se stroj nikoli ne utrudi. V zdravstvu bi lahko na primer s stroji dopolnili odločitve pripravnikov. Gospod patolog, na primer. Gospod patolog je tu še posebej zanimivo področje, saj je znano, da ima zgodovinar najvišjo vrednost, ko gre v pokoj, ker ima za seboj vseživljenjsko osnovno obdobje učenja. In ti skoraj upokojeni so zelo hitrejši od novih fantov, ki se morajo naučiti poklica, kajne? In s hitrejšimi mislim, da intuitivno pogledajo enega od teh histopatoloških preparatov in takoj vidijo, kaj se dogaja. Zakaj mora novinec skrbno skenirati vsak košček preparata in si za to vzeti čas in tako naprej in tako naprej? Obstaja pa tudi skupina, ki deluje v razredu Andreasa Holzingerja. Učijo se s pomočjo metode strojnega učenja na podlagi anotacij podatkov, ki jih naredi strokovnjak, gospod patolog, s ciljem, da bi njegove življenjske izkušnje v topologiji zajel v model strojnega učenja. Tako ga je potencialno mogoče uporabiti kot spremljevalca za usposabljanje začetnikov na tem področju.

Katera so po vašem mnenju najpomembnejša tveganja, povezana na primer z etiko? Prvo je seveda predvideni primer uporabe strojnega učenja. Na primer, ali ga želite uporabljati v splošno dobro? Ali želite izboljšati družbo? Ali želite izboljšati okolje? Ali pa ga želite vgraditi v manevrirno raketo? To je bistvena razlika. Naslednja stvar je, da sta to skrajna konca spektra. Vmes je še veliko družbenih vprašanj. Ali na primer avtomatizirate oceno kreditne sposobnosti osebe in za to uporabite strojno učenje? In potem je tu še vprašanje, katere podatke ste uporabili za usposabljanje tega modela? In ali ste morda modelirali, morda trenirali neželene korelacije med nekaterimi značilnostmi in podatki ter rezultatom? Na primer, naučili smo se, da nekatere etnične skupine iz kakršnega koli razloga, na primer barve kože, etnične pripadnosti, kot sem rekel, ne bi smele prejeti, ne vem, finančne pomoči zaradi tega razloga, kajne? Vprašanje je vedno, katere podatke vnesete. Katere podatke želite, da nekdo uporabi? Obstaja načelo podatkovne prostornosti, ki pomeni, da uporabite le podatke, ki jih potrebujete za rešitev naloge, saj lahko dodatni podatki v modelu povzročijo konfliktno vedenje. In to je seveda eno od trenutnih velikih vprašanj pri tekoči avtomatizaciji. Pri strojnem učenju. Po drugi strani pa vedno obstaja vprašanje, če za usposabljanje modelov strojnega učenja uporabljate resnične podatke in vam ni všeč, kaj model počne, saj je sam model objektiven. Podatki so edina resničnost modela. Ali to pomeni, da vam ni všeč, kaj model počne? Ali pa vam ni všeč resničnost? Prav. In razmišljam, da morda ni vedno pravi način za popravljanje in kurativo podatkov, da bi se znebili določenega vedenja modela. To bi videl kot kazalnik za potrebne spremembe v družbi, ki to proizvaja.

Vprašanje glede razširljive umetne inteligence X-A-Y Ali lahko razložite, kakšna je? Da. Cilj razširljive umetne inteligence je, da bi se približala črni skrinjici strojnega učenja. Torej trenutno strojno učenje je tako, da so običajno najuspešnejši modeli strojnega učenja precej kompleksni, kar pomeni, da ima zunanji opazovalec ali celo razvijalec slab vpogled v to, kaj se model dejansko uči. Z dostopnostjo ali umetno inteligenco X pa želimo ponovno pridobiti nekaj preglednosti nad tem, kaj model počne. Ja, to je mogoče storiti na več načinov. V našem laboratoriju smo razvili modificirano metodo ozadja, kar pomeni, da če v model vnesete nekaj podatkovnih točk, se model po plasteh preoblikuje v omrežje ali model. V bistvu gre na koncu skozi model, končni rezultat pa je odgovor modela. In ta proces lahko nekoliko obrnemo, na primer tako, da če model prejme sliko in mi pove, da je to mačka, lahko začnem z izhodom za mačko in rečem: “Da, ampak zakaj?”. In potem lahko razbiram delne odločitve modelov plast za plastjo, dokler spet ne pridem do vhodnega podatka, in potem lahko dobim t.i. toplotni zemljevid. To je v bistvu maskiranje v vhodnem prostoru, kjer je več stvari, ki so informacije, in to lahko storite za vsak potencialni izid. Če imate na primer izhod modela za psa, lahko isti postopek izvedete z izhodom za psa in potem lahko dobite odgovor, zakaj model meni, da na sliki ni psa, ali kje informacija o psu ni prava. To je način, kako povezati uporabo informacij, ki jih modelu dajejo podatkovne točke, z izhodom modela. Da, razširljivost je precej mlado področje. Rekel bi, da so bili prvi resni koraki in kompleksnejši modeli narejeni leta 2010, od takrat pa se precej hitro razvija. Tako da se veliko dela še vedno odvija. Prizadevamo si za zagotavljanje razlag, ki presegajo preproste vizualizacije toplotnih zemljevidov, ki včasih potrebujejo veliko razlage, zlasti če je podatke težko razumeti in jih je treba upoštevati. Toda naš končni cilj je model v okviru obravnave izboljšane izkoriščenosti, s katerim se trenutno ukvarjamo. Biti bi moral bolj ali manj samoumeven prav s tem, da ne bi rekli, poglejte na tem delu slike so informacije, ki po mojem mnenju kot model govorijo za mačka. Vendar bi moral model na to obvestiti uporabnika. Na primer, da mislim, da je tam mačka, ker vidim to in to. Značilnosti, podobne mački, ki se jih je model na primer naučil kot značilnosti, ki jih lahko uporabi pri napovedovanju. Najlepša hvala. In kaj omogoča razložljiva umetna inteligenca? Kaj lahko s tem dosežete? Prvič, lahko razumete, kaj model dejansko počne, in lahko pridobite razumevanje na podlagi vzorca od vzorca, kar v tem primeru pomeni, da za vsako podatkovno točko, ki jo vnesete v model, prejmete povratne informacije o razmišljanju modela na podlagi teh podatkov. To lahko nato seveda uporabite za preverjanje modela. V nekaterih primerih pa lahko na koncu dobite tudi informacijo, da model npr. daje prave rezultate iz napačnih razlogov. In to vas lahko opozori na napake v vaših podatkih za učenje, kjer ste vnesli nekaj zavajajočih informacij, nekaj zavajajočih značilnosti, ki jih model nato poveže z izhodom mačk, ki pa absolutno niso pravilne, samo zato, ker je to za model lažje. In spet imamo problem, da so učna vrata modela edina resničnost modela. Preprosto mu damo nekaj tisoč slik mačk in model se nauči, kako priti od tega vira podatkov do mačke. In če so bile te slike na primer zbrane s Flickerja in imajo vse vodni znak za avtorske pravice, ker gre za stock slike ali kaj podobnega, lahko model ugotovi, da so stock slike mačke. Ali je tako? To je ena od težav, ki jo lahko opredelimo s preverjanjem, in to nam omogoča, da izboljšamo model, izboljšamo vir podatkov in tako naprej, tako da smo v bistvu veliko bolj obveščeni razvijalci strojnega učenja kot pred razširitvijo.

Moje ime je Kelly Zone. Sem višja raziskovalka v Norveškem računalniškem centru, ki je raziskovalni inštitut, ki se ukvarja z umetno inteligenco, statističnim modeliranjem in na splošno z računalništvom. Moje raziskovalno področje je umetna inteligenca in zlasti vse, kar je povezano z jezikom, tako imenovane jezikovne tehnologije ali obdelava naravnega jezika.

Zdaj bomo govorili o strojnem učenju. Ali nam lahko poveste, kaj je strojno učenje in kako deluje? Strojno učenje je veja umetne inteligence, ki je postala znana kot prevladujoča veja umetne inteligence. V resnici gre za gradnjo modelov za določeno nalogo, pri čemer stvari niso vnaprej programirane, temveč se jih stroji naučijo iz podatkov. Namesto da bi zapisali, določili podrobna pravila o tem, kaj naj sistem stori v vsaki situaciji, zagotovite nekaj podatkov, podatkov za učenje, saj poskušate doseči, da se sistem uči iz teh podatkov. In sistem bo nato samodejno prepoznal nekatere vzorce, ki so uporabni za določeno nalogo, in jih samodejno nato uporabil na novih podatkih, ko se jih bo naučil. Ali nam lahko poveste, kako je strojno učenje povezano z umetno inteligenco in tudi z velikimi količinami podatkov? Da. Ko gre za povezavo z umetno inteligenco, je strojno učenje torej res postalo prevladujoč način reševanja zapletenih nalog umetne inteligence. Strojno učenje to naredi na velikih učnih nizih in tako je povezano z velikimi podatki v smislu, da ustvarja modele za različne naloge z uporabo velikih podatkovnih nizov. Zato je tudi res neposredno povezano z velikimi podatki.

Omenili ste že strojno prevajanje. Ali lahko navedete enega ali več primerov priljubljene uporabe strojnega učenja? Da. Torej iskanje s strojnim učenjem, na primer v iskalniku Google, iskalniki, računalniški vid, prepoznavanje govora. Tam se v osnovi uporablja za kakršno koli klasifikacijo ali napovedovanje. In večina podjetij ima dandanes neke vrste sistem. Tam avtomatizirajo nekatere svoje odločitve ali napovedi. V robotiki je to vedno najprej tudi področje, na katerem imate veliko modelov strojnega učenja, ki robotom pomagajo pri odločanju, kaj naj naredijo in kako naj to naredijo. V industriji se tako zelo pogosto uporabljata strojno učenje in globoko učenje. Pred tem so bili, saj veste, statistični modeli in modeli strojnega učenja za razvoj tega. Omenili ste že nekaj prednosti in priložnosti strojnega učenja za družbo. Ali lahko omenite še kakšno? Ena od glavnih prednosti je verjetno avtomatizacija. Gre za avtomatizacijo opravil, ki so lahko ponavljajoča se. Pa tudi vse tisto, kar počnete z avtonomnimi, polavtonomnimi avtomobili. To je tudi še en primer, kjer je velik del vožnje ponavljajoč se, rutinski. V bistvu gre za iskanje vzorcev. In računalniki so precej dobri pri prepoznavanju vzorcev in to počnejo sistematično. 24 ur na dan, 7 dni v tednu, medtem ko so človeški vozniki slabši pri spremljanju dogajanja na cesti ure in ure. To je še en primer, ko je lahko avtomatizacija procesa, ki je v večini primerov bolj ali manj rutinski in ponavljajoč se, zelo koristna. Seveda je to dober primer, saj se večina dogajanja na cesti ponavlja. Včasih pa se na cesti zgodi kaj nepričakovanega, kar je zapletena situacija. In strojno učenje temelji na zgodovinskih podatkih. Uči se na podlagi tega, kar je bilo videno v preteklosti, in poskuša to posplošiti. Toda sposobnost posploševanja je veliko šibkejša od tiste, ki jo imamo ljudje. Zato lahko hitro razumemo novo nastalo situacijo, medtem ko je to za računalnik veliko težje.

Kakšen bo razvoj interakcije med človenkom in strojem in kakšni so novi trendi? Eden od pomembnih trendov je, da je šlo pri zgodnji interakciji med človekom in strojem v resnici za prilagajanje človeka omejitvam vmesnika, s katerim je imel opravka. V sedemdesetih letih prejšnjega stoletja ste imeli zelo dodelane stroje s številnimi gumbi in bistvo je bilo, da se je moral človek naučiti, kako upravljati vmesnik, sam vmesnik pa se ni prilagajal. Danes pa je trend, da se vmesnik, stroj, skuša čim bolj prilagoditi človeškemu uporabniku in govoriti njegov jezik. In kar me kot raziskovalca na področju jezikovne tehnologije zanima, je, da bi imeli stroje, ki govorijo jezik in so sposobni komunicirati v komunikacijskem mediju, ki je za nas ljudi najbolj intuitiven, to je naravni govorjeni jezik, saj smo večino svojega življenja preživeli tako, da smo se pogovarjali in poslušali drug drugega v govorjenem jeziku. Ta je najmočnejši, saj lahko ideje in misli ter pravzaprav kar koli izrazimo povsem brez napora na način, ki bi bil nemogoč s togim vmesnikom, kjer bi morali klikati na gumbe. Seveda pa je tudi težko, saj je naravni jezik dvoumen, nejasen, včasih protisloven in negotov. Vedno je treba veliko razlagati, da bi se razumeli. Toda vse to je zanimivo, saj imeti stroj, ki razume govorjeni jezik, pomeni, da je to stroj, za katerega ne potrebujete nobenega usposabljanja. Znate govoriti svoj materni jezik in to je zelo uporabno in uporabniku prijazno. In v nekaterih primerih, če pomislite, npr. med vožnjo avtomobila ali kuhanjem, ko so vaše roke sredi priprave hrane, je to tudi edini način za konkretno interakcijo s strojem. Od uporabnika v avtonomnem avtomobilu ne morete pričakovati, da bo ves čas gledal v zaslon in se dotikal gumbov. Zato je v številnih primerih prihodnost interakcije človek-stroj v resnici v tem, da imamo sisteme, ki lahko z nami komunicirajo na način, ki nam je znan, bodisi prek jezika bodisi prek nekega vizualnega jezika, ki je lahko razumljiv. In kot zadnje vprašanje ste že omenili nekatere priložnosti in izzive. Ali lahko naštejete več pozitivnih učinkov in tudi izzivov, ki jih ima interakcija človek-stroj za družbo? No, vedno je tu misel, ki se nanaša zlasti na jezikovno tehnologijo. Obstaja izziv neenakega dostopa in neenakih virov, ki presega interakcijo človek-stroj. Toda pomemben problem za večino današnjih jezikovnih tehnologij je na primer ta, da jeziki nimajo enake stopnje podpore, pri čemer je velika razlika, če ste govorec ameriške angleščine ali če ste govorec nekaterih oddaljenih afriških jezikov. Kjer prevajalnik Google ne deluje, nimate možnosti, da bi tehnologijo kakor koli uporabili. Včasih nimate na voljo niti tipkovnice na mobilnem telefonu, da bi se lahko izrazili v svojem maternem jeziku. In to je v prihodnosti pomemben izziv. Da o dostopu do tehnologije seveda ne govorimo. Mislim, če za začetek nimaš telefona, imaš še manjši dostop. Toda vse to, kako zagotoviti, da bo ta tehnologija dejansko zagotavljala in se uporabljala kot sredstvo za izenačevanje, namesto da bi v svetu obstajale neenakosti, je pomemben izziv.