Strojno učenje

Fabio Del Frate je na Univerzi Tor Vergata v Rimu magistriral iz elektronike (1992) in doktoriral iz računalništva (1997). V letih 1995-1996 je bil gostujoči znanstvenik na Tehnološkem inštitutu v Massachusettsu, v letih 1998-1999 pa je delal na Evropski vesoljski agenciji. Nato se je pridružil rimski univerzi “Tor Vergata”, kjer je trenutno izredni profesor za daljinsko zaznavanje in uporabni elektromagnetizem v različnih magistrskih in doktorskih programih. Na teh področjih je predaval na več evropskih univerzah ter bil glavni raziskovalec/vodja projekta v več projektih, ki jih financirata Evropska vesoljska agencija (ESA) in Italijanska vesoljska agencija (ASI), pri čemer je vodil raziskovalne dejavnosti na področju uporabe umetne inteligence pri satelitskih podatkih za opazovanje Zemlje (v nadaljevanju “OZ”).

Q2. Kaj je strojno učenje?

No, rekel bi, da je strojno učenje verjetno trenutno najbolj uporabljen tehnični postopek za ustvarjanje umetne inteligence v stroju. Videli smo že, da obstajata dva glavna akterja: podatki in model, natančneje matematični model. Izziv je poiskati parametre matematičnega modela, da bo lahko predstavljal odnose med podatki. Vse je odvisno od vzpostavitve procesa učenja, ki temelji na samih podatkih. Imamo lahko različne vrste modelov, na primer nevronske mreže ali podporne vektorske stroje, in posledično različne algoritme za učenje modela. Vendar je končni cilj vedno enak: pridobiti znanje iz učnih podatkov, ki se uporabljajo v procesu učenja, in to pridobljeno znanje uporabiti za nove podatke. Mimogrede, zelo pomembno je oceniti, kako dobro je delovanje modela na novih podatkih, tj. podatkih, ki niso bili upoštevani v fazi usposabljanja. To nam pove, koliko je model uporaben v resničnem svetu in koliko je sposoben posploševanja. 

V vsakem primeru sta kakovost in količina podatkov, uporabljenih v fazi učenja, ključna dejavnika za uspešno delovanje. Zlasti količina podatkov mora biti statistično pomembna, da zagotovi ustrezne značilnosti pojava, ki ga želimo raziskati. Drugo pomembno ključno vprašanje je odločitev, kako zapleten naj bo naš matematični model. Resna težava bi bila, če bi za iskanje zelo subtilnih povezav med podatki izbrali preveč preprost model, včasih pa je lahko, če so pravila, na katerih temeljijo podatki, manj zapletena, tudi struktura modela lažja…. manj je več, kot pravimo, pri čemer se manj nanaša na število parametrov, značilnih za model. 

Mimogrede, zapletenost modela je povezana tudi s časom, ki ga potrebujemo za učenje modela, in s količino podatkov, ki so potrebni za izvedbo celotnega postopka učenja.

Q4. Kaj je nadzorovano učenje? Ali lahko navedete nekaj primerov aplikacij, ki ga uporabljajo?

Rekel bi, da je nadzorovano učenje danes najpogostejša podpanoga strojnega učenja. Nadzorovano učenje je oblika učenja, pri kateri je za dani vhodni podatek na voljo “pravi” rezultat, ki ga je mogoče naučiti model. Z drugimi besedami, kot učitelj ali nadzornik za vsak vhod, ki ga dobi model, vemo, kakšen mora biti izhod modela, in želimo, da model vključi splošno pravilo. Običajno se to zgodi z minimiziranjem tako imenovane napake ali stroškovne funkcije, ki predstavlja razdaljo med želenimi izhodnimi vrednostmi in dejanskimi izhodnimi vrednostmi, ki jih je model ustvaril v fazi učenja. Dejansko lahko domnevamo, da je nadzorovano učenje uspešno, če je končna splošna napaka v nizu primerov, ki niso bili uporabljeni v fazi učenja, pod vnaprej določenim pragom. Faza učenja je lahko zelo dolga, ko pa jo ustrezno zaključimo, imamo za obdelavo novih podatkov zelo močno orodje, ki v bistvu deluje v realnem času. Nadzorovano učenje je lahko uporabno na številnih področjih. Precej obsežna uporaba se nanaša na klasifikacijo slik. V tem primeru so pravi podatki podatki, ki so označeni s človeško interpretacijo slik. Klasifikacija se lahko izvaja na različnih ravneh: na ravni pikslov, zaplat, objektov. Raven klasifikacije je vodilo pri izbiri vhodnih podatkov, ki jih želimo dati modelu. Natančneje, nadzorovano učenje se zdaj zelo pogosto uporablja pri opazovanju Zemlje, kjer želimo oceniti bio-geofizikalne parametre iz podatkov, zbranih s sateliti. Zanimiv primer je natančno kmetovanje v kmetijstvu. Če želimo spremljati biomaso pridelka, da bi optimizirali količino gnojil, ki jih je treba uporabiti, lahko uporabimo satelitske meritve tega pridelka. Vendar pa zlasti v mikrovalovnem območju elektromagnetnega spektra pridobivanje parametrov vegetacije ni trivialno, saj je meritev recimo onesnažena tudi z zemljo pod njo, zato so nadzorovani modeli umetne inteligence vsekakor lahko eno od orodij, ki nam omogočajo, da pridobimo tisti del informacij v meritvi, ki je bolj povezan z vegetacijo, in zavržemo tiste, ki so bolj pogojene z zemljo.

Q6. Obstajajo različne skupine algoritmov strojnega učenja, npr. regresija, klasifikacija itd. Ali lahko pojasnite njihov pomen in razlike med njimi?

Obstajajo različne možnosti združevanja algoritmov strojnega učenja v skupine. Menim, da je glavna odvisna od vrste matematičnega modela. Natančneje, kot je bilo že omenjeno, imamo modele za nadzorovano usposabljanje in modele za nenadzorovano usposabljanje. Kar zadeva prve, so med najpomembnejšimi nevronske mreže, globoke ali plitve, podporni vektorski stroji, odločitvena drevesa, združitvene tehnike. Pri nenadzorovanih modelih lahko omenimo k-means, analizo glavnih komponent, avtoasociativne nevronske mreže, samoorganizirane zemljevide itd. 

Kot je bilo poudarjeno v vašem vprašanju, pa se druga možnost za razvrščanje algoritmov strojnega učenja nanaša na razlikovanje med regresijo in klasifikacijo. Ko našemu matematičnemu modelu zagotovimo določen vhodni podatek, je razlika med regresijo in klasifikacijo odvisna predvsem od vrste rezultata, ki nas zanima. V primeru klasifikacije bo izhodni rezultat oznaka, razred. Na primer, ponovno si oglejmo satelitsko aplikacijo, kjer se daljinsko zaznavanje uporablja za meteorologijo. Predpostavimo torej, da moramo opraviti meteorološko analizo in se želimo odločiti, katero piko na sliki neba je treba povezati z oblačnim nebom in katero piko na sliki z jasnim nebom, tako da je končni namen izdelati zemljevid, na katerem z modro barvo predstavimo pike jasnega neba in s sivo barvo pike oblačnega neba. V tem primeru pravimo, da želimo dobiti klasifikacijsko karto. Pri regresiji v bistvu želimo, da naš matematični model kot odziv na obdelavo podatkov izračuna ali oceni neko število, bolj splošno realne vrednosti. Če torej upoštevamo isti scenarij na področju meteorologije, želimo iz podatkov daljinskega zaznavanja izvedeti, kolikšna je vlažnost ali količina padavin, realna števila, na določenem območju. Vendar je zanimivo opaziti, kako je mogoče problem regresije pretvoriti v problem klasifikacije. To se zgodi, če rečem: v tem razponu vrednosti padavin, torej med tema dvema številoma, imam razred “malo padavin”, v tem drugem intervalu ali razponu imam “zmerne padavine” in tako naprej. V tem primeru razpone vrednosti prikažem v razrede.

Zahvaljujemo se vam, profesor Fabio Del Frate, res smo vam hvaležni. To je bil jasen in zanimiv pogovor o značilnosti umetne inteligence in ustreznih aplikacij.