IA e apprendimento automatico

Mi chiamo Dr. Sabasana. Sono il responsabile dell’IA sperimentale a casa mia, a Berlino, e il mio compito è quello di condurre ricerche sulla spendibilità dell’intelligenza artificiale.

Potrebbe dirci qualcosa di più sul deep learning e qual è la differenza tra machine learning e deep learning? Sì, il deep learning è un sottotitolo del machine learning e descrive l’uso e l’addestramento di algoritmi di machine learning che hanno una rappresentazione profonda delle informazioni. Di solito si tratta di reti neurali profonde. La profondità dell’apprendimento profondo nelle reti neurali profonde consiste nell’impilare più strati di possibili rappresentazioni dei dati. Si possono immaginare come strati di operazioni matematiche che vengono apprese durante l’addestramento. Quindi si dà la forma della rete e la funzione della rete viene appresa in un processo di addestramento iterativo fornendo un esempio di dati e il termine deep e learning. L’approccio deriva dalla profondità della rete. E qual è la differenza tra l’apprendimento automatico, il deep learning e la programmazione tradizionale? Ok, come ho detto, il deep learning fa parte dell’apprendimento automatico. La differenza tra l’apprendimento automatico e la programmazione tradizionale è la seguente: considerate che avete dei dati e conoscete le regole per elaborarli, giusto? Poi potete implementare le vostre soluzioni. Questo è un approccio tipico della programmazione. Si hanno i dati, si sa come elaborarli, si implementano i programmi e i risultati e si risponde. L’approccio all’apprendimento automatico è quindi quello di avere molti dati e di conoscere le risposte a questi dati, ma di non avere alcuna idea di come realizzarle. In pratica, non avete le regole, giusto? Il compito dell’apprendimento automatico è quello di addestrare la macchina ad apprendere le regole che consentono di collegare i dati e produrre le risposte attese. Una volta ottenuto questo, si ha un modello di apprendimento automatico addestrato che può ricevere nuovi dati, dati che non ha mai visto prima perché ha imparato le regole e non deve imparare i dati a memoria, e può quindi produrre risposte. Quindi, nella velocità dell’apprendimento automatico, diciamo che il modello deve generalizzare, il che significa che deve aver appreso regole generali su come gestire i dati inseriti per fornire le risposte corrette. Una volta che si dispone di un modello di questo tipo, è possibile inserirlo come un insieme di regole nel compito di programmazione. Ad esempio, se l’insieme di regole fosse così complesso da non poter essere esplicitamente in grado di COVIDERE scrivendo il codice manualmente.

E può fornire uno o più esempi di utilizzo popolare dell’apprendimento automatico? Penso che un esempio che viene usato abbastanza spesso sia il riconoscimento ottico dei caratteri, cioè le macchine e l’ufficio postale che leggono l’indirizzo della lettera che scrivete, di solito non è fatto da esseri umani ma è solo una macchina sensoriale. La macchina decifra la vostra calligrafia, poi digitalizza l’indirizzo e inserisce tutte queste informazioni in un database e quindi la lettera viene indirizzata all’indirizzo desiderato. Un altro approccio potrebbe essere il riconoscimento facciale, ad esempio. Ad esempio nelle videocamere digitali, nelle webcam e nei sistemi di riconoscimento facciale. Lo spettro di applicazioni dell’apprendimento automatico è quindi molto utile. Ad esempio, nel nostro laboratorio utilizziamo l’apprendimento automatico per la prevenzione dei disastri naturali, dove abbiamo a disposizione, ad esempio, dati sul clima o sull’inquinamento atmosferico degli ultimi anni, mesi e così via. E poi addestriamo un modello che dovrebbe essere in grado di prevedere il comportamento dell’arrivo della temperatura e così via. Considerando i numerosi fattori che cucinano negli ultimi giorni, potrebbe fornire uno o pochi esempi di utilizzo popolare del deep learning? Praticamente tutto ciò che è abbastanza complesso e che era apparentemente irrisolvibile, circa dieci anni fa abbiamo concesso la licenza per il deep learning e cioè il riconoscimento delle immagini, per esempio, utilizza il deep learning perché utilizzando la fase delle reti profonde questa architettura profonda permette al modello di imparare come una cascata di diverse fasi di elaborazione delle caratteristiche. Giusto? In effetti, le reti neurali profonde sono in qualche modo motivate dalla corteccia visiva del cervello umano, che elabora le informazioni in diverse fasi, a partire dalla semplice ricezione delle informazioni sui colori fino all’attivazione dei neuroni su forme semplici, come bordi e forme rotonde, e così via, le reti neurali fanno cose abbastanza simili. E passando dalle caratteristiche più atomiche a quelle più complesse, ad esempio, dai gradienti di colore dei bordi ai neuroni che sono lì o hanno imparato a riconoscere le teste delle lucertole, ad esempio, queste informazioni complesse dell’immagine possono essere elaborate in modo efficiente e abbastanza veloce. E questo porta gli attuali modelli di apprendimento automatico nel riconoscimento delle immagini a superare gli esseri umani, soprattutto se si tiene conto del tempo.

Quali sono le opportunità e gli aspetti positivi dell’apprendimento automatico per la società? Innanzitutto, la possibilità di raggiungere uno stato di automazione che elimina i compiti ad alta intensità di lavoro, ma noiosi e che nessuno dovrebbe svolgere perché possono essere automatizzati in modo ottimale. Questo, ovviamente, aumenta l’efficienza. Riduce gli errori perché la macchina non si stanca mai. In ambito medico, ad esempio, le macchine potrebbero essere utilizzate per migliorare le decisioni dei tirocinanti. Il signor patologo, ad esempio. Il signor patologo è un dominio particolarmente interessante perché è noto che uno storico ha il suo massimo valore quando sta per andare in pensione, perché ha alle spalle un periodo di apprendimento di base che dura tutta la vita. E questi quasi pensionati sono molto più veloci dei nuovi arrivati che devono imparare il mestiere, giusto? E per più veloci intendo dire che guardano intuitivamente uno di quei vetrini di istopatologia e capiscono immediatamente cosa sta succedendo, perché il novellino deve scansionare meticolosamente ogni pezzo dei vetrini e prendersi del tempo, eccetera eccetera. C’è anche un gruppo in classe che agisce da Andreas Holzinger. Sta addestrando metodi di apprendimento automatico basati sulle annotazioni dei dati fatte da un esperto, il signor Patologo, con l’obiettivo di incapsulare la sua esperienza di vita nella sua topologia in un modello di apprendimento automatico. Quindi, potenzialmente, può essere utilizzato come compagno di addestramento per i principianti in questo settore.

E quali sono i rischi più rilevanti legati all’etica, ad esempio, secondo lei? Uno, ovviamente, è il caso d’uso previsto per l’apprendimento automatico. Ad esempio, volete usarlo per il bene generale? Si vuole migliorare la società? Si vuole migliorare l’ambiente? O volete inserirlo in un missile da crociera? Questa è la differenza fondamentale. E poi questi sono gli estremi dello spettro. E poi c’è una pletora di questioni sociali nel mezzo. Ad esempio, è possibile automatizzare la stima del merito di credito di una persona e utilizzare l’apprendimento automatico per questo? E poi c’è la domanda: quali dati avete usato per addestrare questo modello? E avete forse modellato o addestrato correlazioni indesiderate tra alcune caratteristiche e dati e il risultato? Per esempio, abbiamo imparato che alcune etnie, per qualsiasi motivo, per esempio il colore della pelle, l’etnia, come ho detto, non dovrebbero ricevere, non so, aiuti finanziari per questo motivo, giusto? La domanda è sempre: quali dati inserire? Quali dati volete che qualcuno usi? Esiste il principio della spacity dei dati, che significa utilizzare solo i dati necessari per risolvere il compito, perché i dati aggiuntivi potrebbero creare un comportamento conflittuale nel modello. E questo è naturalmente uno dei grandi problemi attuali con l’automazione in corso. Con l’apprendimento automatico. D’altra parte, c’è sempre un problema se si utilizzano dati reali per addestrare i modelli di apprendimento automatico e non si apprezza ciò che il modello sta facendo, perché il modello stesso è oggettivo, il trust può imparare dai dati forniti. I dati sono l’unica realtà del modello. Significa che non vi piace quello che fa il modello? O non vi piace la realtà? Giusto. E penso che non sia sempre il modo giusto di correggere e curare i dati per eliminare certi comportamenti del modello. Lo vedrei come un indicatore del cambiamento necessario nella società che produce questo.

Una domanda sull’intelligenza artificiale estendibile X-A-Y: può spiegarci com’è? Si. L’obiettivo dell’Intelligenza Artificiale Estendibile è quello di fare ombra alla scatola nera dell’apprendimento automatico. Attualmente l’apprendimento automatico è molto complesso, il che significa che l’osservatore esterno, anche lo sviluppatore, non ha la possibilità di capire cosa il modello stia effettivamente imparando. Con l’accessibilità o l’X AI, invece, vogliamo recuperare un po’ di trasparenza su ciò che il modello sta facendo. Sì, questo può essere fatto in diversi modi. Quello che abbiamo fatto nel nostro laboratorio è stato lo sviluppo di un metodo di retrospettiva modificato, il che significa che se si immettono alcuni punti di dati nel modello, il modello viene trasformato strato per strato nella rete o nel modello. In pratica, il modello viene attraversato e il risultato finale è la risposta del modello. Giusto. Possiamo invertire questo processo, ad esempio, se il modello riceve un’immagine e mi dice che è un gatto, posso partire dall’output del gatto e dire: “Sì, ma perché? E poi posso smontare le decisioni parziali dei modelli, strato per strato, fino a raggiungere di nuovo l’input e ottenere così una mappa di calore. In pratica, si tratta di un mascheramento nello spazio di input dove si trovano più informazioni e si può fare questo per qualsiasi risultato potenziale. Ad esempio, se il modello ha come output un cane, si può eseguire lo stesso processo con l’output del cane e si può ottenere la risposta al perché il modello pensa che non ci sia un cane nell’immagine o perché le informazioni sul cane non sono corrette. Questo è un modo per collegare l’utilizzo delle informazioni fornite dai punti dati da parte del modello all’output del modello stesso. Sì, l’espandibilità è un campo piuttosto giovane: direi che i primi passi seri e i primi modelli più complessi sono stati fatti nel 2010 e da allora l’evoluzione è stata piuttosto rapida. Quindi c’è molto lavoro in corso. Stiamo lavorando per fornire spiegazioni che vadano oltre le semplici visualizzazioni delle mappe di calore, che a volte richiedono un’interpretazione, soprattutto se i dati sono difficili da capire e da riconoscere. Ma il nostro obiettivo finale è quello di creare un modello che, in base al trattamento di una migliore sfruttabilità su cui state attualmente lavorando, dovrebbe essere più o meno autoesplicativo, senza dire: “Guardate questa parte dell’immagine, c’è un’informazione che, a mio avviso, come modello parla da sola”. Ma il modello dovrebbe informare l’utente. Per esempio, che penso che ci sia un gatto perché vedo questo e quello e quello e quello. Caratteristiche simili a quelle di un gatto che il modello ha appreso, ad esempio, come caratteristiche da utilizzare per fare previsioni. Grazie mille. E cosa rende possibile l’IA spiegabile? Che cosa si può ottenere? Per esempio, si può capire cosa sta facendo il modello e si può ottenere una comprensione su base campionaria per campione, il che significa che in questo caso per ogni punto di dati inserito nel modello si riceve un feedback sul ragionamento del modello basato su questi dati. Naturalmente, è possibile utilizzare questi dati per verificare il modello. Ma in alcuni casi si potrebbe anche ottenere l’informazione che il modello sta producendo l’output giusto per le ragioni sbagliate. Per esempio. E questo potrebbe indicare errori nei dati di addestramento, dove sono state introdotte informazioni confondenti, caratteristiche confondenti che il modello collega all’output dei gatti, ma che non sono assolutamente Cadillac solo perché è più facile per il modello. E poi abbiamo di nuovo il problema che la porta di addestramento del modello è l’unica realtà del modello. Basta dargli un paio di migliaia di immagini di gatti e il modello impara a passare da questa fonte di dati al gatto. E se queste immagini, per esempio, sono state raccolte da Flicker e hanno tutte una filigrana di copyright perché sono immagini di stock o altro, il modello potrebbe capire che le immagini di stock sono gatti. Giusto? Questo è il problema che possiamo identificare con l’esternalità e che ci permette di migliorare il modello, la fonte dei dati e così via, in modo da essere sviluppatori di apprendimento automatico molto più informati di prima.