Buongiorno. Oggi siamo in presenza della dottoressa Emanuela Girardi nella nostra intervista. Emanuela Girardi è la fondatrice di Pop-AI (Popular Artificial Intelligence), ed è membro del gruppo di esperti di Intelligenza Artificiale del Ministero per lo Sviluppo Economico,  che ha scritto la Strategia italiana per l’Intelligenza artificiale. E’ altresì  membro del direttivo della Associazione Italiana per Intelligenza Artificiale e dell’Industry Task Force di CLEAR (Confederation of Laboratories in AI Research in Europe), di cui è coordinatrice della task force su Intelligenza Artificiale e Covid 19. È anche membro del Board della AI Data and Robotics (ADRA), che è la nuova associazione europea che lavorerà con la Commissione europea per realizzare il programma Horizon 2020. E’ quindi una persona di estrema rilevanza ed estrema competenza che ci guiderà in questa mezz’oretta di intrattenimento su alcune cose interessanti nel campo dell’AI. La ringrazio ancora e passerei a farle alcune domande.

Grazie per le tue considerazioni che in gran parte coincidono anche con alcuni dubbi che avevo io. Mi sembra di capire comunque che la cosa essenziale che noi abbiamo più di altri è proprio il concetto dell’umano-centrico, giusto? Il famoso “human in the loop”, che molti dicono “on the loop”, giustamente, cioè alla fine ci deve essere un “umano”, e io sono molto preoccupato personalmente di quello che la Commissione europea ha detto esplicitamente che non può trattare, che sono i discorsi militari, e lì entriamo in discorsi che che già trattiamo in altri interviste e molto preoccupanti, perché lì non c’è l’Human In the loop. Però questo è un discorso che non c’entra con le nostre cose, è solo una riflessione tra tra noi che ci occupiamo di queste cose.

Benissimo, quindi abbiamo visto un pò il mondo e l’Europa. E l’Italia a che punto sta? Tra l’altro in Italia, come anche nel resto d’Europa, ma da noi in particolare, ultimamente c’è anche il termine della “sostenibilità”, di cui ormai parliamo sempre. Ecco, qual è in Italia, qual è l’approccio, la strategia italiana e il nostro approccio, diciamo alla Sostenibilità e all’importanza di usare l’intelligenza artificiale e di investire in sistemi intelligenza artificiale?

Allora l’Italia ha Sviluppato diverse strategie. Al momento io ho partecipato ai lavori che hanno portato allo sviluppo della strategia di intelligenza artificiale promosso dal Ministero dello Sviluppo Economico (MISE). In realtà poi ci sono state altre due iniziative, quindi in realtà abbiamo sviluppato tante strategie, ma al momento non ne abbiamo ancora pubblicata neanche una. Adesso la notizia degli ultimi giorni, senza nessuna polemica, però, è che un gruppo composto da tre ministeri ha creato una nuova Task force che deve rianalizzare il documento che abbiamo scritto noi al MISE e spero, questa volta veramente, di proporre la fase invece di execution, cioè di realizzare veramente la strategia, di portarla in esecuzione che è  la cosa fondamentale. Quindi speriamo veramente che questa sia la la svolta anche per l’Italia, è un peccato perché in Italia abbiamo tantissime eccellenze, secondo me, soprattutto per quanto riguarda diciamo la la ricerca e lo sviluppo dell’intelligenza artificiale, però purtroppo manca il momento un pò di visione strategica, di quelle che potrebbero essere le applicazioni e gli utilizzi, gli sviluppi dell’intelligenza Artificiale applicata nei vari campi della società.

Per quanto riguarda invece la proposta di strategia italiana che abbiamo fatto è fondata su tre pilastri, diciamo. Il primo era l’AI per l’essere umano, quindi assolutamente in linea con questa visione europea umano-centrica, la seconda è l’AI per uno sviluppo produttivo sostenibile e di eccellenza, e questa è molto nella visione del documento europeo, il White Paper, il Libro bianco sull’intelligenza artificiale che è stato presentato a Febbraio 2021 e che promuove proprio la creazione di un sistema di eccellenza e di fiducia a livello europeo per promuovere lo sviluppo delle tecnologie di intelligenza artificiale e quindi investire in educazione per portare le tecnologie intelligenza artificiale nelle aziende, nelle scuole, nella società. E l’ultimo punto, invece, è il punto che secondo me il più importante ed è anche il più innovativo per quanto riguarda la strategia italiana di intelligenza artificiale, ed è l’AI per la sostenibilità, cioè quello che abbiamo proposto noi è che serve proprio un cambio di paradigma, nel senso che abbiamo detto non è più sufficiente mettere solo al centro l’uomo perché l’uomo, in realtà, vive nel pianeta e all’interno dell’ecosistema. E quindi dire che utilizziamo le tecnologie solo per migliorare la vita dell’uomo non basta più e abbiamo quindi proposto l’utilizzo delle tecnologie di intelligenza artificiale per realizzare quelli che sono gli obiettivi di sviluppo sostenibile dell’Agenda 2030 delle Nazioni Unite. E quindi proprio proponendo di cambiare un pò il paradigma e proponendo questo aspetto di AI per la sostenibilità, questo approccio, diciamo chiamiamolo “pianeta-centrico” se vuoi, e quindi questa visione è molto innovativa al momento. In realtà è stata adottata poi anche dall’OECD, dalle Nazioni Unite e credo sia anche stata inserita in realtà nell’ultimo piano coordinato della Commissione europea, e credo che sia probabilmente l’unica visione possibile, anche perché se ci sono 156 Stati che hanno deciso che l’Agenda 2030 delle Nazioni Unite è  la Agenda, come sono gli obiettivi che, anche se pensiamo che 2030 è praticamente domani, sono gli obiettivi maggiormente condivisi che ci sono oggi a livello europeo, allora a questo punto, secondo me, cioè definiti gli obiettivi, come dicevamo prima, la definizione di intelligenza artificiale sono dei sistemi che in qualche modo autonomo ci permettono di raggiungere alcuni obiettivi.

Se noi abbiamo ben chiari gli obiettivi che vogliamo raggiungere, a questo punto, anche se sono obiettivi complessi, possiamo utilizzare queste tecnologie per raggiungerli. E quindi noi abbiamo analizzato poi per alcuni SDG (Sustainable Development Goals) come utilizzare le tecnologie per raggiungerli. In particolare già oggi un aspetto diciamo molto importante, abbiamo cercato di dedicarlo a quello di cercare di aumentare l’inclusione e l’accessibilità delle persone con disabilità. E proprio questo grazie all’utilizzo delle tecnologie di intelligenza artificiale, e quindi questi aspetti sono molto importanti, ma sono anche molto importanti per poi aiutarci a contrastare quelli che sono i cambiamenti climatici o come migliorare quelli che sono gli impatti sull’ambiente. Per esempio, a tale proposito c’è un progetto molto interessante che è appena stato promosso dalla Commissione europea che si chiama “Destination Earth”, e che ha creato un gemello digitale della terra e che permette proprio di monitorare e valutare quelli che sono i cambiamenti climatici, gli effetti dei cambiamenti climatici e di poter testare, diciamo, su questo gemello digitale della terra, le nuove politiche ambientali che si vogliono sviluppare utilizzando chiaramente anche le tecnologie di intelligenza artificiale. Questo anche per promuovere una ottimizzazione e razionalizzazione delle risorse scarse che ci sono sulla terra.

Fabio Del Frate ha conseguito presso l’Università di Roma “Tor Vergata” la laurea specialistica in Ingegneria Elettronica (1992) e il dottorato di ricerca in Informatica (1997). Nel 1995-1996 è stato Visiting Scientist presso il Massachusetts Institute of Technology e dal 1998 al 1999 ha lavorato presso l’Agenzia Spaziale Europea. Successivamente è entrato a far parte dell’Università di Roma “Tor Vergata”, dove attualmente è professore associato di Telerilevamento ed Elettromagnetismo Applicato in vari programmi di Master e Dottorato. Su questi temi è stato docente in diverse università europee, nonché principal investigator / project manager in diversi progetti finanziati dall’Agenzia Spaziale Europea (ESA) e dall’Agenzia Spaziale Italiana (ASI), conducendo attività di ricerca nel campo dell’Intelligenza Artificiale applicata ai dati satellitari per l’Osservazione della Terra (di seguito indicata come “EO”).

Che cos’è l’apprendimento automatico?

Direi che il machine learning è un possibile, credo al momento il più utilizzato, processo tecnico per generare intelligenza artificiale all’interno di una macchina. Abbiamo già visto che ci sono due attori principali: i dati e il modello, più esattamente un modello matematico. La sfida è trovare i parametri del modello matematico in modo che possa rappresentare le relazioni tra i dati. Tutto si basa sulla creazione di un processo di apprendimento basato sui dati stessi. Possiamo avere diversi tipi di modelli, ad esempio reti neurali o macchine vettoriali di supporto e, di conseguenza, diversi algoritmi per apprendere il modello. L’obiettivo finale, tuttavia, è sempre lo stesso: estrarre conoscenza dai dati utilizzati nel processo di addestramento e applicare questa conoscenza estratta a nuovi dati. A proposito, la valutazione della bontà delle prestazioni del modello sui nuovi dati, cioè sui dati non considerati durante la fase di addestramento, è molto importante. Ci dice quanto il modello sia applicabile nel mondo reale, quanto sia in grado di generalizzare.

In ogni caso, la qualità e la quantità dei dati utilizzati durante la fase di apprendimento sono fattori cruciali per una performance di successo. In particolare, la quantità di dati deve essere statisticamente significativa per fornire le caratteristiche rilevanti del fenomeno che si vuole indagare. Un’altra importante questione chiave è decidere quanto complesso debba essere il nostro modello matematico. Sarebbe un problema serio se scegliessimo un modello troppo semplice per cercare relazioni molto sottili tra i dati ma, allo stesso tempo, se le regole alla base dei dati sono meno complicate, anche la struttura del modello può essere più leggera, a volte…. meno è meglio, come diciamo noi, dove meno si riferisce al numero di parametri che caratterizzano il modello.

Inoltre, la complessità del modello ha anche a che fare con il tempo necessario per addestrare il modello e con la quantità di dati necessari per l’implementazione del processo di apprendimento completo.

Che cos’è l’apprendimento supervisionato? Può fare qualche esempio di applicazioni che lo utilizzano?

Direi che l’apprendimento supervisionato è il ramo più comune dell’apprendimento automatico oggi. L’apprendimento supervisionato è una forma di apprendimento in cui, per un dato input, è disponibile un risultato “vero” e questa verità può essere insegnata al modello. In altre parole, come insegnante o supervisore, per ogni input dato al modello sappiamo quale dovrebbe essere l’output del modello e vogliamo che il modello incorpori la regola generale. In genere, questo avviene minimizzando quello che viene chiamato errore o funzione di costo, che rappresenta la distanza tra i valori di uscita desiderati e i valori di uscita effettivi generati dal modello durante la fase di addestramento. In realtà, si può ritenere che l’apprendimento supervisionato abbia successo quando l’errore complessivo finale su un insieme di esempi, che non sono stati utilizzati durante la fase di addestramento, è inferiore a una soglia predefinita. La fase di addestramento può essere molto lunga, ma una volta conclusa correttamente, si dispone di uno strumento molto potente, che opera sostanzialmente in tempo reale, per l’elaborazione dei nuovi dati. L’apprendimento supervisionato può essere utile in molti campi. Un’applicazione piuttosto massiccia riguarda la classificazione delle immagini. In questo caso i dati veri sono quelli etichettati dall’interpretazione umana delle immagini. La classificazione può essere eseguita a vari livelli: livello di pixel, livello di patch, livello di oggetto. Il livello di classificazione guida la scelta dell’input che si vuole dare al modello. Più in particolare, l’apprendimento supervisionato è oggi molto applicato nell’Osservazione della Terra, dove si vuole effettuare una stima dei parametri bio-geofisici a partire dai dati raccolti dai satelliti. Un esempio interessante riguarda il precision farming in agricoltura. Se vogliamo monitorare la biomassa di una coltura per ottimizzare la quantità di fertilizzante da utilizzare, possiamo sfruttare le misure satellitari effettuate su quella coltura. Tuttavia, soprattutto nella regione delle microonde dello spettro elettromagnetico, l’estrazione dei parametri della vegetazione non è banale perché la misura è anche, diciamo, contaminata dal terreno sottostante, per cui i modelli supervisionati dall’IA possono sicuramente essere uno degli strumenti che ci permettono di recuperare quella parte di informazioni nella misura più legata alla vegetazione, scartando quella più condizionata dal terreno.

Esistono vari raggruppamenti di algoritmi di Machine Learning, ad esempio regressione, classificazione e così via. Può spiegare la loro importanza e le differenze tra loro?

Esistono varie possibilità di raggruppare gli algoritmi di apprendimento automatico. Credo che la principale si basi sul tipo di modello matematico. In particolare, come già detto, abbiamo modelli per l’addestramento supervisionato e modelli per l’addestramento non supervisionato. Per quanto riguarda i primi, tra i più importanti abbiamo le reti neurali, profonde o superficiali, le macchine a vettori di supporto, gli alberi decisionali, le tecniche di ensemble. Per i modelli non supervisionati possiamo citare k-means, analisi delle componenti principali, reti neurali auto-associative, mappe auto-organizzate e così via.

Ma, come sottolineato dalla domanda, un’altra possibilità di raggruppare gli algoritmi di apprendimento automatico riguarda la distinzione tra regressione e classificazione. Una volta fornito un certo input al nostro modello matematico, la differenza tra regressione e classificazione si basa principalmente sul tipo di output che ci interessa. Nel caso della classificazione, l’output sarà un’etichetta, una classe. Ad esempio, consideriamo ancora una volta un’applicazione satellitare in cui il telerilevamento viene utilizzato per la meteorologia. Supponiamo quindi di dover fare un’analisi meteorologica e di voler decidere quale pixel di un’immagine del cielo deve essere associato a un cielo nuvoloso e quale a un cielo sereno, in modo che lo scopo finale sia quello di produrre una mappa in cui rappresentiamo con il colore blu i pixel di cielo sereno e con il colore grigio i pixel di cielo nuvoloso. In questo caso diciamo che vogliamo ottenere una mappa di classificazione. Per la regressione, in sostanza, vogliamo che il nostro modello matematico, come risposta alla sua elaborazione dei dati, calcoli, o stimi, un numero, più in generale un numero a valore reale. Quindi, se consideriamo lo stesso scenario impostato sulla meteorologia, vogliamo sapere dai dati telerilevati quanto è l’umidità o il tasso di precipitazione, numeri reali, in una determinata area. Tuttavia, è interessante notare come un problema di regressione possa essere tradotto in un problema di classificazione. Questo è ciò che accade se dico: in questo intervallo di valori di precipitazione, quindi tra questi due numeri, ho la classe “precipitazione bassa”, in quest’altro intervallo o gamma ho “precipitazione moderata”, e così via. In questo caso mappo intervalli di valori in classi.

Grazie, Prof. Fabio Del Frate, l’abbiamo apprezzato molto. È stata un’istantanea chiara e interessante delle caratteristiche dell’intelligenza artificiale e delle relative applicazioni.

Salve a tutti. Mi chiamo Simon Delakorda. Sono il direttore dell’Istituto per la partecipazione elettronica di Lubiana, Slovenia. L’Istituto per la partecipazione elettronica è un’organizzazione non governativa che opera nel campo della società dell’informazione, dello sviluppo e della digitalizzazione. Ci occupiamo anche di questioni legate all’intelligenza artificiale. Ad esempio, l’anno scorso abbiamo realizzato un dialogo con i cittadini che ha riguardato anche le questioni attuali legate allo sviluppo dell’intelligenza artificiale. Il modo in cui questa tecnologia si rapporta alla vita quotidiana dei cittadini.

Il prossimo punto di vista o problema relativo all’intelligenza artificiale su cui vorrei concentrarmi è quello delle sfide sociali dell’apprendimento automatico. Prima di tutto, cos’è l’apprendimento automatico? L’apprendimento automatico si riferisce ad algoritmi e tecniche che imparano da soli, confrontandosi con dati, osservazioni e interazioni con il mondo circostante. Fondamentalmente, l’apprendimento automatico riguarda gli algoritmi. Si basa sugli algoritmi e gli algoritmi sono semplicemente delle istruzioni su come risolvere dei compiti. Ora, quando si mettono in relazione gli algoritmi con l’apprendimento automatico significa che un particolare tipo di algoritmo può essere appreso, ma non dai programmatori umani, bensì da loro stessi. In altre parole, l’apprendimento automatico è un apprendimento autonomo che si avvale di un approccio statistico. Di solito l’apprendimento automatico si articola in due fasi. La prima fase è quella in cui gli algoritmi di apprendimento automatico vengono addestrati utilizzando i dati, utilizzando il processo di addestramento. Il risultato di questo processo è il modello di apprendimento automatico. Nella seconda fase, questo modello di apprendimento automatico viene applicato all’area di applicazione desiderata. L’idea è che questo modello di apprendimento automatico risolva un problema che vorremmo affrontare. Ad esempio, modelli di apprendimento automatico per prevedere se un paziente ha un cancro, un tumore o un modello di apprendimento automatico, oppure per prevedere come si comporteranno i mercati azionari in futuro. Naturalmente, l’apprendimento automatico presenta alcuni problemi, perché può avere un grave impatto sulla vita delle persone e soprattutto quando si verificano errori nell’apprendimento automatico, che possono verificarsi durante la raccolta dei dati, la loro preparazione o durante il processo di addestramento. Inoltre, si possono verificare problemi quando si interpretano in modo errato i risultati del processo di apprendimento automatico. A livello sociale, un grande pericolo è rappresentato dal fatto che i dati utilizzati per il processo di formazione per l’apprendimento automatico sono considerati perfetti. Ma sappiamo che i set di dati perfetti richiederebbero tutti i possibili fattori che costituiscono o influenzano la situazione che stiamo affrontando. Ciò significa che è molto difficile addestrare un algoritmo che utilizza tutti i dati della società complessa. E come risultato di questi dati imperfetti che vengono poi applicati all’algoritmo di apprendimento automatico, può accadere che i risultati siano troppo semplificati e che una situazione che si sta affrontando abbia solo un numero limitato di fattori presi in considerazione. Ne consegue che l’apprendimento automatico può portare a previsioni distorte, soprattutto per i gruppi svantaggiati della società che non sono molto presenti nei dati o nella società nel suo complesso e sono meno rappresentati nell’insieme dei dati. Nel caso dei pregiudizi nell’apprendimento automatico, ciò significa che i dati distorti daranno luogo a previsioni distorte. Questo è il caso dei fenomeni rari o dei contesti sociali difficili da quantificare. Ciò significa che dobbiamo essere molto consapevoli di quelle specificità della società che non vengono viste o incluse nei risultati dell’apprendimento automatico. Perché l’apprendimento automatico opera in realtà sulla base di modelli. E se questi schemi non si verificano o sono di scarsa qualità, possiamo ottenere risultati molto distorti e scadenti.

Il mio ultimo punto di vista sull’intelligenza artificiale riguarda il ruolo delle organizzazioni della società civile, in particolare il ruolo delle organizzazioni non governative. Penso che il ruolo della mentalizzazione non governativa nell’applicazione dell’intelligenza artificiale sia molto importante dal punto di vista di spiegare ai cittadini, agli utenti, alla gente comune come questa tecnologia stia influenzando le loro vite, soprattutto in termini di fiducia nell’intelligenza artificiale. Anche per aiutarli a capire le applicazioni e l’impatto sulla vita quotidiana dei cittadini, perché ci sono diverse interpretazioni e paure, forse infondate e negative, del loro rapporto con le intelligenze artificiali, che devono essere discusse, apprese ed educate in ambienti affidabili e le organizzazioni non governative con i loro membri, con le loro attività di volontariato, sono spesso un collegamento tra la ricerca high tech e la gente comune, perché hanno fiducia, perché la gente ha fiducia nelle organizzazioni non governative. E grazie alle loro informazioni, alle loro attività educative, possono aiutare i cittadini a capire quali sono gli effetti negativi e positivi dell’intelligenza artificiale. Questo è un ruolo delle ONG. Il secondo ruolo delle ONG è quello di fungere da cani da guardia. Agiscono non proprio come un organo di controllo, ma come qualcuno che presta attenzione alla possibile discriminazione, alla violazione dei diritti umani o all’uso negativo dell’intelligenza artificiale, che può portare alla discriminazione, che può portare a condizioni peggiori, per i gruppi di immigrati, per gruppi sociali specifici come gli immigrati o le donne o i gruppi socialmente vulnerabili che non sono rappresentati nella società come altri gruppi sociali. E le ONG devono assumere il ruolo di salvaguardare i loro diritti e combattere per i diritti umani quando vedono che l’intelligenza artificiale sta per superare questi standard. Credo che queste siano le due regole principali delle ONG in relazione all’intelligenza artificiale. Ci sono due ruoli minori. Uno è quello delle ONG come utenti abituali dell’intelligenza artificiale, in particolare quelle ONG che generano grandi quantità di dati sulla società e che possono poi utilizzare l’apprendimento automatico e gli strumenti per fornire conclusioni, risolvere problemi, creare visualizzazioni su diversi aspetti della società. In secondo luogo, questo ruolo è importante anche perché gli stakeholder agiscono come attori politici, ovvero partecipano a forum, coalizioni, discussioni con altri stakeholder dell’economia, della politica, della ricerca. E così, in quei forum e in quelle discussioni, essi sottolineano le questioni della responsabilità, della riservatezza, dell’affidabilità del sistema artificiale, cioè lavorano come difensori della società e degli esseri umani e si adoperano per un uso dell’intelligenza artificiale orientato all’uomo. Questo è il mio punto di vista, breve ma non brevissimo, sull’intelligenza artificiale e la società.

What is the main difference between machine learning and ordinary programming? There are not  many differences, but at the same time they are important. With ordinary programming, we already  have a fairly accurate idea of what is programmed and how things will look. With machine learning we  have a thesis that offers itself as a possible answer through machine learning. Some of these possible  answers are more accurate, they are more elaborated, and some are more like guessing. In fact, it is  all about more or less accurate guessing.

It is about the cooperation with artificial intelligence and human interaction with a machine. Can you  tell us more about the human-machine interaction? Yes, I’m increasingly convinced that artificial  intelligence is not about some kind of intelligence that is in any way similar to human intelligence, but  that these algorithms are really so capable that they become our dialogue partners. As if when I am  sitting around the table with my colleagues we debate sometimes about the program, sometimes  finance, sometimes about politics and so on, we have another chair where this machine is sitting. It  offers us an echo of our thoughts. We have not yet in such a way implemented the artificial  intelligence, but we intend to, because we are developing an interface which will help the innovators  innovate. We would like to see that one of the innovators is a kind of AI. Perhaps it can contribute an  inspiration in a brainstorming session or a talk with humour or uncanny way of folding things together.  Especially if there is a group of experts around the table who are more egocentric and emotionally  exhausting. On the other hand we have a machine, which creates approximation and suggestions that  release the tension in these conversations. At the beginning I have mention that this machine iterates  what is said or put in by the humans. In artistic circles we are dealing with the idea in which these  machines can emancipate through conversation among themselves, machine to the machine. They  develop some lexicon, some level of communication which is incomprehensible to us humans. But can  be meaningful and through this communication we can better understand the way the algorithms  work. We have art projects where data is taken from sensors which are attached to plants or some  environments in which the animals move and act which are equipped with sensors. Then suddenly you  don’t get any more human-human dialogue (excluding that a person is already included, since he has  written the algorithm), but communication between extracted human in algorithm, the animals, or  plants. Art projects that we do encourage interactivity that is not just responsiveness, for example you  press a button, and something jumps, but true interaction, meaning you press, something happens,  and it influences you back that you press again. It creates a communication loop. We have a situation  of intercognition between more forms of liveliness, machine, and plants. Through this communication  which can be very different from that of a human – plant, we are exploring our own prejudices as to  what the plant is and what the machine is. It acts as a bioindicator and so on. The artists are using  these tools in very innovative ways, so we can better understand these tools on one hand and to better  understand the nature or the environment in which we live on the other hand. The amount of data is  so big that sometimes it is bigger than the average human brain can process and because of that it  makes sense to develop algorithms.

…

Mi chiamo Bambos Papacharalambous. Per la maggior parte della mia carriera, diciamo quasi 30 anni, mi sono occupato principalmente della parte telecomunicazioni del settore IT. Sono coinvolto in un’ampia gamma di progetti legati all’IT in generale. Sono l’amministratore delegato e il fondatore di Novum. Novum è un’azienda che si occupa di sviluppo software e consulenza ICT.

Potrebbe ora soffermarsi sull’uso etico dell’intelligenza artificiale? Ci sono applicazioni dell’intelligenza artificiale con implicazioni etiche? Ok. Poiché al giorno d’oggi un numero sempre maggiore di macchine svolge compiti sempre più complessi, la mente delle persone si orienta immediatamente verso l’uso delle macchine in sostituzione del lavoro umano. È la prima cosa che viene in mente alle persone, ed è una preoccupazione valida. Sono le stesse preoccupazioni che venivano sollevate durante la Rivoluzione industriale e che oggi si ripresentano come attuali. È difficile permettere alle macchine di raccogliere il grano invece di affidarsi alle mani delle persone? È difficile permettere ai robot di sostituire gli operai umani nelle catene di montaggio delle automobili? Quindi, queste stesse domande di base si ripresentano, ma ora in un ambiente più, diciamo, complesso, dato che le macchine si sono sviluppate e svolgono compiti più complessi. Quindi, se le persone dovessero adattarsi al nuovo ambiente creato dalle macchine nella forza lavoro, dovrebbero affrontare molto presto un altro processo di riadattamento. Per esempio, dove troverebbero lavoro gli autisti di camion se ora i camion si guidano da soli? Giusto. Dove troverebbero lavoro gli autisti di autobus se gli autobus sono guidati da software AI? Dove troverebbe lavoro un pilota d’aereo se gli aerei volassero da soli? Quindi, più i compiti complessi vengono sviluppati e gestiti dalle macchine, più questi tipi di lavoro sono minacciati. E non si tratta più solo di lavori pesanti. Voglio dire, perché mai qualcuno dovrebbe diventare medico se un robot può eseguire la stessa operazione meglio di qualsiasi umano, giusto? Quindi, queste preoccupazioni sono valide. E naturalmente ci sono altri esempi che sollevano questioni etiche nell’uso dell’IA nella nostra vita. Non si tratta solo della forza lavoro. Non dovremmo forse preoccuparci dell’uso di macchine che vengono utilizzate per la nostra sicurezza? In primo luogo, possiamo essere sicuri che il software di intelligenza artificiale che alimenta una telecamera di sicurezza in un aeroporto abbia preso la decisione corretta nell’identificare i terroristi? Possiamo essere sicuri che il sistema di sicurezza di un centro commerciale stia seguendo il vero ladro fino alla sua auto e non qualche altro passante innocente? Quindi, questi problemi sono validi. Ci sono molte preoccupazioni etiche nell’ambito dell’IA, non solo in settori come l’impiego o la sicurezza, ma anche nell’uso di armi militari. Non dovremmo essere preoccupati, per esempio, dal fatto che i droni armati oggi combattono per noi? Siamo sicuri che il robot soldato autonomo di domani sarà in grado di distinguere il nemico dall’amico? Si tratta quindi di clienti molto validi. E ogni volta che accade qualcosa di grande, si verifica un cambiamento all’interno delle industrie in generale. Ogni volta che accade qualcosa di magico, c’è anche la possibilità di implicazioni negative legate al suo utilizzo. L’industria deve quindi trovare un modo per utilizzare l’IA per il bene della società in cui viviamo.

Lei ha già parlato dell’impatto sull’intelligenza artificiale, sull’occupazione, sulla sicurezza, sul welfare, sul servizio militare, e anche delle nuove leggi sulla robotica in altri campi oltre a quello stradale che ha citato. Già, la questione delle regole e delle leggi per la robotica. Non è un problema facile da risolvere. Siamo in un territorio non ancora definito quando si tratta di un insieme di regole ampiamente accettate che dovrebbero definire il quadro etico di come i robot dovrebbero lavorare, anche in aree diverse da quella militare, ma anche nello spazio della sicurezza, nello spazio del benessere degli anziani, diciamo lo spazio della sicurezza personale. A casa, vedremo robot che inizieranno a prendere decisioni al posto nostro. Come ho detto prima, si tratta di un’area molto nuova e anche se ci sono gruppi sia nel mondo accademico, sia nell’industria, sia nei governi, che cercano di toccare queste regole, al momento si è in una fase molto, molto iniziale. Al momento si discute di ciò che il robot dovrebbe o non dovrebbe fare. Per esempio, un robot non dovrebbe fare del male a un altro essere umano. Questa potrebbe essere una direttiva primaria, diciamo, per una macchina. Ma allo stesso tempo, un robot dovrebbe obbedire al suo proprietario e al suo creatore. Questa è un’altra direttiva, una direttiva primaria per un robot. Ma cosa succede se il proprietario del robot gli dà istruzioni che esulano dalla sua direttiva principale? E se al robot viene chiesto di fare del male a un altro essere umano? Giusto, ma dovremmo limitare l’ambito del danneggiamento a un essere umano? E se al robot viene chiesto di fare del male a un animale? O se al robot viene chiesto di fare del male a un altro robot? E se il robot dovesse danneggiare un umano per proteggere un altro umano? Si tratta quindi di domande etiche a cui non è facile rispondere. E non sono facili nemmeno se si risponde. Non è così facile inserirle in un algoritmo. Quindi non dimenticate che alla fine tutte queste regole del quadro di riferimento devono essere tradotte in un’equazione, diciamo, matematica. Giusto? Quindi è una cosa piuttosto difficile da fare. Anche se sarebbe meglio per l’umanità definire queste regole prima e non dopo, non credo che sia un compito facile. Le aziende lottano per il dominio dei prodotti a livello globale. I Paesi stanno lottando per il dominio militare sempre a livello globale. Sarebbe quindi difficile stabilire regole che possano essere concordate da tutti e poi applicate da tutti, proprio per il modo in cui funzionano la società e l’umanità. Uno scenario più probabile è che questo insieme di regole accettabili venga definito e fatto rispettare almeno a posteriori. Voglio dire, dopo aver visto che la guerra chimica durante la prima guerra mondiale era immorale, abbiamo progettato il quadro di riferimento intorno ad essa. Subito dopo aver sganciato la bomba nucleare, abbiamo capito che era necessario controllarla. Quindi potremmo aver bisogno di sperimentare il primo, diciamo, disastro per essere costretti a definire le regole che governerebbero il comportamento del robot. Speriamo solo che l’esperienza del primo disastro non sia una mossa sbagliata. Personalmente, però, vedo che anche se si cerca di stabilire queste regole fin dall’inizio, credo che si tratti di un compito poco pratico da risolvere.

Se noi, se noi facciamo un passo indietro e vediamo che cos’è un algoritmo, va bene? E cerchiamo di vedere, di distinguere tra ciò che un algoritmo può fare per le persone, ma anche ciò che le persone possono fare con l’uso degli algoritmi. Quindi, con un normale alchimista, questi due, diciamo, compiti sono abbastanza distinti. Ciò che l’algoritmo può fare per le persone è una cosa. Quello che le persone possono fare con questo algoritmo è una cosa separata. Quindi, se un informatico scrive un algoritmo, vi chiederà anche le regole a cui volete che l’algoritmo obbedisca, giusto? Quindi, diciamo che volete un algoritmo che, quando vi viene dato il volume in capi, vi restituisca il volume in galloni. Ok? Quindi lo sviluppatore del software chiederà la regola che governa questa relazione tra leader e galloni. E userà questa regola per scrivere l’algoritmo in modo che tutti sappiano quale sarà il risultato, a condizione che l’algoritmo sia conforme a queste regole e funzioni correttamente. Ok? Questo è ciò che definirei un algoritmo regolare. Se ora l’uso di questo algoritmo può mettere le persone nei guai, allora non è l’algoritmo a essere difettoso, ma è l’uso dell’algoritmo a essere difettoso. Supponiamo, per esempio, che questo software che abbiamo scritto venga utilizzato in un aereo e che ci sia un interruttore nell’aereo che dice: “Ok, quando accendi l’interruttore, posso visualizzare il carburante in galloni. Quando si abbassa l’interruttore, posso visualizzare il carburante che l’aereo ha nel serbatoio in litri. Supponiamo che l’interruttore sia nella posizione sbagliata e che il pilota chieda i galloni invece dei litri e decolli. È probabile che debba effettuare un atterraggio di emergenza in un altro luogo prima della destinazione originaria. Quindi cosa fare? In questo caso? Avete un algoritmo che funziona correttamente, ma il suo utilizzo lo ha reso una funzione. Quindi, in questo caso, l’autorità di regolamentazione interviene, l’industria interviene e addestra i piloti in modo corretto. Ci si assicura che il pilota controlli se l’aereo ha abbastanza carburante prima del decollo. Si mettono in atto regolamenti per obbligare il servizio di rifornimento a terra ad assicurarsi che l’aereo abbia abbastanza carburante da raggiungere, in modo da sapere come gestire, diciamo, tutti i problemi normativi che dobbiamo gestire in un normale codice alchimista senza virgolette. Ora, cosa succede con l’algoritmo di intelligenza artificiale? Prendiamo ad esempio un algoritmo di apprendimento automatico. In questo caso, si progetta l’algoritmo con alcuni parametri di base e si dice all’algoritmo quali dati si hanno. Si inserisce nell’algoritmo un gruppo di dati e poi lo si esegue. La differenza con questo tipo di algoritmo è che il sistema si modifica da solo in base ai parametri e ai dati forniti. Non è quindi possibile prevedere il risultato degli algoritmi. Se un essere umano avesse abbastanza tempo per analizzare i dati forniti, analizzare i parametri ed eseguire i calcoli riga per riga su un foglio di carta, allora sì, potremmo prevedere, diciamo che faremmo le stesse previsioni che ha fatto l’algoritmo. Ma è impossibile per un essere umano analizzare una tale mole di dati con i parametri forniti all’algoritmo. Quindi, alla fine, il risultato di un algoritmo di IA potrebbe essere considerato imprevedibile. Potremmo avere un risultato che non ci aspettavamo. Ed è qui che deve entrare in gioco l’etica dei risultati. Immaginate di essere il Ministero della Salute di un Paese e di chiedere a un’azienda di IA di produrre un risultato che esamini i dati demografici della popolazione e il numero di donatori di organi disponibili. Vogliamo che l’algoritmo suggerisca chi riceverà un trapianto di cuore, per esempio, e chi non lo riceverà. Quindi si inseriscono elementi come l’età, la probabilità di avere, diciamo, un’alta probabilità di accettare questo piano fiduciario, e si inseriscono una serie di parametri, e poi si forniscono tutti i dati demografici del Paese a questo algoritmo e lo si lascia funzionare. Le domande etiche ora devono essere risolte da chi ha scritto l’algoritmo e non da chi lo usa e basta. Mentre in un normale algoritmo, possiamo dare la responsabilità di prendere la decisione alle persone che usano il software. La versione AI dell’algoritmo di apprendimento automatico è stata introdotta. In pratica, l’algoritmo prende le decisioni al posto nostro. Ecco perché dobbiamo iniziare a pensare di inserire le regole etiche negli algoritmi stessi. E come abbiamo detto prima, questa è una cosa facile da fare, perché come si fa a decodificare tutte queste risposte etiche in un’equazione matematica? Questo termine e spazio algoritmico è uno spazio nuovo. È oggetto di ricerca a livello accademico. Sta raggiungendo, toccando un po’ l’industria, ma non è ancora arrivato. Quindi ha ancora bisogno di tempo. Sì, è vero. Grazie mille per questo contributo sulla rilevanza dell’algoritmica.

Passiamo ora a domande specifiche sull’intelligenza artificiale e sulle sfide sociali. Può dirci qualcosa di più sull’intelligenza assistita, aumentata e autonoma? Si. Ok, beh, come abbiamo detto prima, se prendiamo ad esempio un robot che svolge un lavoro specifico, il robot che lavora alla catena di montaggio delle auto non è considerato un robot con un algoritmo di intelligenza artificiale al suo interno. Abbiamo visto questi robot lavorare nell’industria per molti anni prima che questa nuova ondata di metodi di IA diventasse popolare. Quindi cosa succede in quello spazio? Si tratta di un compito ripetibile, facilmente ricreabile e accettato dall’industria come un’apparecchiatura innocua. Ora, il vantaggio di avere una macchina di questo tipo è che, beh, togliamo all’uomo questa attività lavorativa ad alta intensità e lasciamo che siano le macchine a svolgere i compiti più noiosi e malsani, consentendo all’uomo di lavorare in ambienti più produttivi e sicuri. Ora, lo svantaggio è che, ovviamente, il robot che abbiamo in quella catena di montaggio ha fondamentalmente preso il sopravvento sulle persone che sono in grado di svolgere questi compiti. Quindi le cose sono, diciamo, accettate per quanto riguarda l’uso di una macchina che svolge un compito ripetitivo di lavoro manuale all’interno di un settore specifico. Ora, il problema diventa più complicato quando si ha un robot o una macchina che prende autonomamente decisioni e funziona in modo più, diciamo, codificato e intelligente. Immaginiamo quindi di non avere una catena di montaggio e di avere un robot che ha l’intelligenza necessaria per svolgere i compiti che oggi svolge un normale robot, ma che decide anche che il design dell’auto deve cambiare. Supponiamo che il robot sia in grado di progettare l’auto in modo più aerodinamico e che decida autonomamente che la forma dell’auto deve essere modificata. E naturalmente il robot avrà la capacità di apportare la modifica al progetto e allo stesso tempo di costruire l’auto. Ok, il vantaggio sarebbe che forse si può arrivare a un design migliore e offrire una migliore efficienza del carburante o altro. Ma lo svantaggio è che, prima di tutto, abbiamo tolto altri posti di lavoro alla forza lavoro. Forse abbiamo eliminato il progettista, ma allo stesso tempo non siamo sicuri che i cambiamenti suggeriti da questo nuovo robot siano effettivamente sicuri. Quindi, sì, potremmo avere una migliore efficienza, un maggiore risparmio di carburante, ma sarà più sicuro o altrettanto sicuro per il conducente e i passeggeri? Quindi, ancora una volta, tutto deve avere un equilibrio. Ci sono vantaggi, ci sono svantaggi e per questo ci sono rischi, minacce e sfide. Ma allo stesso tempo ci sono anche delle opportunità.

Lei ha già menzionato alcune opportunità e alcuni rischi e minacce. Secondo lei, quali sono le preoccupazioni sociali più rilevanti? Personalmente, quello che mi preoccupa di più sono le cose che riguardano la sicurezza delle persone. Quindi cose come il mercato del lavoro e l’occupazione. Penso che alla fine l’umanità troverà la sua strada e, se saremo abbastanza attenti, potremo trovare risposte a questi problemi perché la tecnologia sarà sempre presente. Ci siamo già passati e spero che in un modo o nell’altro troveremo una risposta a queste domande. Quando si tratta di cose come la sicurezza, la sicurezza delle persone è uno dei problemi più difficili da risolvere. Ed è a questo che credo dovremmo prestare maggiore attenzione. Per esempio, cosa succede se abbiamo un virus in un’auto e quell’auto ora guida mia madre ogni giorno fino al supermercato? Cosa succede se quel software viene preso da un’organizzazione terroristica? Cosa succede se il software è a terra per progettazione, non è stato testato correttamente? E poi succede qualcosa durante questo viaggio di mia madre verso il negozio di alimentari e si verifica un crash. Lo stesso tipo di problema che riguarda la sicurezza delle persone. Naturalmente, il problema si moltiplica per mille quando si parla dell’uso delle macchine in guerra. Oggi abbiamo droni che sono guidati da una pila di joystick che si trova dall’altra parte del mondo. E questo drone viene pilotato da un pilota. E il pilota decide dove far cadere i suoi titoli. Cosa succede ora quando questo drone ha l’autorizzazione a decidere da solo? Come si fa a trasmettere queste questioni etiche al software del drone? Sono gli stessi problemi che si pongono alla guerra ogni volta che un nuovo telefono web diventa disponibile per le masse. Quindi, questi tipi di decisioni che riguardano la sicurezza e il benessere delle persone, credo che siano le aree principali che devono essere esaminate. E probabilmente sono le aree più calde che possiamo finanziare.

Lei ha già presentato alcuni esempi in diverse aree. Potrebbe farci qualche altro esempio relativo al riconoscimento facciale, alla giustizia e alle sfide dei social network? Sì, il riconoscimento facciale è un problema che è stato riscontrato e sollevato ripetutamente negli ultimi anni. Si potrebbe dire che è iniziato direttamente con l’esigenza di individuare soluzioni nel settore della sicurezza, ma si è scoperto che ora è presente in tutti i diversi settori, intorno alla tecnologia. Diciamo industria. Supponiamo, ad esempio, di addestrare un sistema a utilizzare una telecamera posta all’ingresso di un centro commerciale e di voler vedere se la persona che sta entrando nel centro commerciale ha un COVID o meno, giusto? Quindi il COVID 19 è un problema molto attuale. Supponiamo di avere un qualche tipo di sistema che osservi il volto e che, se troviamo gli algoritmi che posso identificare insieme ad altri sensori e dati, possa identificare se questa persona potrebbe avere un caffè. Supponiamo quindi di identificare una persona che beve caffè. Un buon passo successivo sarebbe: ok, vediamo, usiamo il riconoscimento facciale dell’intelligenza artificiale e scopriamo chi è questa persona. Andiamo su Facebook, su qualsiasi altra piattaforma sociale, identifichiamo questa persona e poi vediamo le foto che questa persona ha pubblicato sulle diverse piattaforme di social media e vediamo chi sono i suoi amici. E forse dobbiamo contattarli per vedere se si sono riuniti, e potrebbe essere così. Ora sono sospettati di essere risultati positivi al test COVID-19. Quindi, dove possiamo fermare tutto questo? Giusto? Dove mettiamo fine a tutto questo? Se abbiamo regole che hanno a che fare con i dati personali e la sicurezza dei dati, beh, forse queste regole devono essere messe da parte a causa di una pandemia. Quindi lasciamo che gli algoritmi facciano tutto questo lavoro per noi senza alcun controllo, offrendo aiuto? Ma il fatto che gli algoritmi possano prendere decisioni da soli ci crea questa incertezza. Ed è per questo che le persone sono giustamente scettiche al riguardo.

Potrebbe ora parlarci un po’ di più dello status e della prospettiva di alcuni regolamenti? Per esempio, OCSE o UE UNESCO GPAI. Sì, come ho detto, ci sono iniziative e persone, persone intelligenti, che stanno dedicando tempo a creare un quadro di riferimento per l’uso dell’IA. Si sta anche facendo ricerca in aree etiche che non vengono affrontate dalle agenzie governative. Ma, come abbiamo detto prima, sono in una fase molto iniziale e ho la sensazione che l’industria sarà ancora una volta più avanti delle autorità di regolamentazione. Se date un’occhiata alle ricerche attualmente in corso presso le aziende nei settori della robotica, otterrete la stessa reazione di stupore quando vedrete come si comportano oggi i robot. Ho la sensazione che l’industria sia già in anticipo rispetto al quadro normativo e molto probabilmente si ripeterà un altro scenario in cui dovrà accadere qualcosa di negativo perché tutti reagiscano positivamente. Per come si stanno muovendo le cose, non vedo perché l’IA dovrebbe essere trattata in modo diverso. Penso che il settore si muoverà a ritmi incredibilmente veloci e che le autorità di regolamentazione e i governi saranno un passo indietro. Credo che questa sia la tendenza attuale e non vedo alcun fattore di cambiamento. Grazie mille. C’è qualcosa che vorrebbe aggiungere su questo tema? No, credo che la questione dell’etica nell’ambito dell’IA sia piuttosto importante. Si potrebbe dire che è una domanda valida. È una questione che viene sollevata dalle società di tutto il mondo. Credo anche che l’industria andrà avanti e progetterà e implementerà ciò che pensa sia meglio per i suoi creatori. Non credo che ci sarà modo di impedire che ciò accada. Spero solo che alla fine i risultati di queste iniziative sull’IA siano vantaggiosi per l’umanità e non creino tutti quei problemi che abbiamo paura di creare. Alla fine il genere umano e l’umanità troveranno la loro strada, ma credo che sarà un percorso accidentato.

Mi chiamo Dr. Sabasana. Sono il responsabile dell’IA sperimentale a casa mia, a Berlino, e il mio compito è quello di condurre ricerche sulla spendibilità dell’intelligenza artificiale.

Potrebbe dirci qualcosa di più sul deep learning e qual è la differenza tra machine learning e deep learning? Sì, il deep learning è un sottotitolo del machine learning e descrive l’uso e l’addestramento di algoritmi di machine learning che hanno una rappresentazione profonda delle informazioni. Di solito si tratta di reti neurali profonde. La profondità dell’apprendimento profondo nelle reti neurali profonde consiste nell’impilare più strati di possibili rappresentazioni dei dati. Si possono immaginare come strati di operazioni matematiche che vengono apprese durante l’addestramento. Quindi si dà la forma della rete e la funzione della rete viene appresa in un processo di addestramento iterativo fornendo un esempio di dati e il termine deep e learning. L’approccio deriva dalla profondità della rete. E qual è la differenza tra l’apprendimento automatico, il deep learning e la programmazione tradizionale? Ok, come ho detto, il deep learning fa parte dell’apprendimento automatico. La differenza tra l’apprendimento automatico e la programmazione tradizionale è la seguente: considerate che avete dei dati e conoscete le regole per elaborarli, giusto? Poi potete implementare le vostre soluzioni. Questo è un approccio tipico della programmazione. Si hanno i dati, si sa come elaborarli, si implementano i programmi e i risultati e si risponde. L’approccio all’apprendimento automatico è quindi quello di avere molti dati e di conoscere le risposte a questi dati, ma di non avere alcuna idea di come realizzarle. In pratica, non avete le regole, giusto? Il compito dell’apprendimento automatico è quello di addestrare la macchina ad apprendere le regole che consentono di collegare i dati e produrre le risposte attese. Una volta ottenuto questo, si ha un modello di apprendimento automatico addestrato che può ricevere nuovi dati, dati che non ha mai visto prima perché ha imparato le regole e non deve imparare i dati a memoria, e può quindi produrre risposte. Quindi, nella velocità dell’apprendimento automatico, diciamo che il modello deve generalizzare, il che significa che deve aver appreso regole generali su come gestire i dati inseriti per fornire le risposte corrette. Una volta che si dispone di un modello di questo tipo, è possibile inserirlo come un insieme di regole nel compito di programmazione. Ad esempio, se l’insieme di regole fosse così complesso da non poter essere esplicitamente in grado di COVIDERE scrivendo il codice manualmente.

E può fornire uno o più esempi di utilizzo popolare dell’apprendimento automatico? Penso che un esempio che viene usato abbastanza spesso sia il riconoscimento ottico dei caratteri, cioè le macchine e l’ufficio postale che leggono l’indirizzo della lettera che scrivete, di solito non è fatto da esseri umani ma è solo una macchina sensoriale. La macchina decifra la vostra calligrafia, poi digitalizza l’indirizzo e inserisce tutte queste informazioni in un database e quindi la lettera viene indirizzata all’indirizzo desiderato. Un altro approccio potrebbe essere il riconoscimento facciale, ad esempio. Ad esempio nelle videocamere digitali, nelle webcam e nei sistemi di riconoscimento facciale. Lo spettro di applicazioni dell’apprendimento automatico è quindi molto utile. Ad esempio, nel nostro laboratorio utilizziamo l’apprendimento automatico per la prevenzione dei disastri naturali, dove abbiamo a disposizione, ad esempio, dati sul clima o sull’inquinamento atmosferico degli ultimi anni, mesi e così via. E poi addestriamo un modello che dovrebbe essere in grado di prevedere il comportamento dell’arrivo della temperatura e così via. Considerando i numerosi fattori che cucinano negli ultimi giorni, potrebbe fornire uno o pochi esempi di utilizzo popolare del deep learning? Praticamente tutto ciò che è abbastanza complesso e che era apparentemente irrisolvibile, circa dieci anni fa abbiamo concesso la licenza per il deep learning e cioè il riconoscimento delle immagini, per esempio, utilizza il deep learning perché utilizzando la fase delle reti profonde questa architettura profonda permette al modello di imparare come una cascata di diverse fasi di elaborazione delle caratteristiche. Giusto? In effetti, le reti neurali profonde sono in qualche modo motivate dalla corteccia visiva del cervello umano, che elabora le informazioni in diverse fasi, a partire dalla semplice ricezione delle informazioni sui colori fino all’attivazione dei neuroni su forme semplici, come bordi e forme rotonde, e così via, le reti neurali fanno cose abbastanza simili. E passando dalle caratteristiche più atomiche a quelle più complesse, ad esempio, dai gradienti di colore dei bordi ai neuroni che sono lì o hanno imparato a riconoscere le teste delle lucertole, ad esempio, queste informazioni complesse dell’immagine possono essere elaborate in modo efficiente e abbastanza veloce. E questo porta gli attuali modelli di apprendimento automatico nel riconoscimento delle immagini a superare gli esseri umani, soprattutto se si tiene conto del tempo.

Quali sono le opportunità e gli aspetti positivi dell’apprendimento automatico per la società? Innanzitutto, la possibilità di raggiungere uno stato di automazione che elimina i compiti ad alta intensità di lavoro, ma noiosi e che nessuno dovrebbe svolgere perché possono essere automatizzati in modo ottimale. Questo, ovviamente, aumenta l’efficienza. Riduce gli errori perché la macchina non si stanca mai. In ambito medico, ad esempio, le macchine potrebbero essere utilizzate per migliorare le decisioni dei tirocinanti. Il signor patologo, ad esempio. Il signor patologo è un dominio particolarmente interessante perché è noto che uno storico ha il suo massimo valore quando sta per andare in pensione, perché ha alle spalle un periodo di apprendimento di base che dura tutta la vita. E questi quasi pensionati sono molto più veloci dei nuovi arrivati che devono imparare il mestiere, giusto? E per più veloci intendo dire che guardano intuitivamente uno di quei vetrini di istopatologia e capiscono immediatamente cosa sta succedendo, perché il novellino deve scansionare meticolosamente ogni pezzo dei vetrini e prendersi del tempo, eccetera eccetera. C’è anche un gruppo in classe che agisce da Andreas Holzinger. Sta addestrando metodi di apprendimento automatico basati sulle annotazioni dei dati fatte da un esperto, il signor Patologo, con l’obiettivo di incapsulare la sua esperienza di vita nella sua topologia in un modello di apprendimento automatico. Quindi, potenzialmente, può essere utilizzato come compagno di addestramento per i principianti in questo settore.

E quali sono i rischi più rilevanti legati all’etica, ad esempio, secondo lei? Uno, ovviamente, è il caso d’uso previsto per l’apprendimento automatico. Ad esempio, volete usarlo per il bene generale? Si vuole migliorare la società? Si vuole migliorare l’ambiente? O volete inserirlo in un missile da crociera? Questa è la differenza fondamentale. E poi questi sono gli estremi dello spettro. E poi c’è una pletora di questioni sociali nel mezzo. Ad esempio, è possibile automatizzare la stima del merito di credito di una persona e utilizzare l’apprendimento automatico per questo? E poi c’è la domanda: quali dati avete usato per addestrare questo modello? E avete forse modellato o addestrato correlazioni indesiderate tra alcune caratteristiche e dati e il risultato? Per esempio, abbiamo imparato che alcune etnie, per qualsiasi motivo, per esempio il colore della pelle, l’etnia, come ho detto, non dovrebbero ricevere, non so, aiuti finanziari per questo motivo, giusto? La domanda è sempre: quali dati inserire? Quali dati volete che qualcuno usi? Esiste il principio della spacity dei dati, che significa utilizzare solo i dati necessari per risolvere il compito, perché i dati aggiuntivi potrebbero creare un comportamento conflittuale nel modello. E questo è naturalmente uno dei grandi problemi attuali con l’automazione in corso. Con l’apprendimento automatico. D’altra parte, c’è sempre un problema se si utilizzano dati reali per addestrare i modelli di apprendimento automatico e non si apprezza ciò che il modello sta facendo, perché il modello stesso è oggettivo, il trust può imparare dai dati forniti. I dati sono l’unica realtà del modello. Significa che non vi piace quello che fa il modello? O non vi piace la realtà? Giusto. E penso che non sia sempre il modo giusto di correggere e curare i dati per eliminare certi comportamenti del modello. Lo vedrei come un indicatore del cambiamento necessario nella società che produce questo.

Una domanda sull’intelligenza artificiale estendibile X-A-Y: può spiegarci com’è? Si. L’obiettivo dell’Intelligenza Artificiale Estendibile è quello di fare ombra alla scatola nera dell’apprendimento automatico. Attualmente l’apprendimento automatico è molto complesso, il che significa che l’osservatore esterno, anche lo sviluppatore, non ha la possibilità di capire cosa il modello stia effettivamente imparando. Con l’accessibilità o l’X AI, invece, vogliamo recuperare un po’ di trasparenza su ciò che il modello sta facendo. Sì, questo può essere fatto in diversi modi. Quello che abbiamo fatto nel nostro laboratorio è stato lo sviluppo di un metodo di retrospettiva modificato, il che significa che se si immettono alcuni punti di dati nel modello, il modello viene trasformato strato per strato nella rete o nel modello. In pratica, il modello viene attraversato e il risultato finale è la risposta del modello. Giusto. Possiamo invertire questo processo, ad esempio, se il modello riceve un’immagine e mi dice che è un gatto, posso partire dall’output del gatto e dire: “Sì, ma perché? E poi posso smontare le decisioni parziali dei modelli, strato per strato, fino a raggiungere di nuovo l’input e ottenere così una mappa di calore. In pratica, si tratta di un mascheramento nello spazio di input dove si trovano più informazioni e si può fare questo per qualsiasi risultato potenziale. Ad esempio, se il modello ha come output un cane, si può eseguire lo stesso processo con l’output del cane e si può ottenere la risposta al perché il modello pensa che non ci sia un cane nell’immagine o perché le informazioni sul cane non sono corrette. Questo è un modo per collegare l’utilizzo delle informazioni fornite dai punti dati da parte del modello all’output del modello stesso. Sì, l’espandibilità è un campo piuttosto giovane: direi che i primi passi seri e i primi modelli più complessi sono stati fatti nel 2010 e da allora l’evoluzione è stata piuttosto rapida. Quindi c’è molto lavoro in corso. Stiamo lavorando per fornire spiegazioni che vadano oltre le semplici visualizzazioni delle mappe di calore, che a volte richiedono un’interpretazione, soprattutto se i dati sono difficili da capire e da riconoscere. Ma il nostro obiettivo finale è quello di creare un modello che, in base al trattamento di una migliore sfruttabilità su cui state attualmente lavorando, dovrebbe essere più o meno autoesplicativo, senza dire: “Guardate questa parte dell’immagine, c’è un’informazione che, a mio avviso, come modello parla da sola”. Ma il modello dovrebbe informare l’utente. Per esempio, che penso che ci sia un gatto perché vedo questo e quello e quello e quello. Caratteristiche simili a quelle di un gatto che il modello ha appreso, ad esempio, come caratteristiche da utilizzare per fare previsioni. Grazie mille. E cosa rende possibile l’IA spiegabile? Che cosa si può ottenere? Per esempio, si può capire cosa sta facendo il modello e si può ottenere una comprensione su base campionaria per campione, il che significa che in questo caso per ogni punto di dati inserito nel modello si riceve un feedback sul ragionamento del modello basato su questi dati. Naturalmente, è possibile utilizzare questi dati per verificare il modello. Ma in alcuni casi si potrebbe anche ottenere l’informazione che il modello sta producendo l’output giusto per le ragioni sbagliate. Per esempio. E questo potrebbe indicare errori nei dati di addestramento, dove sono state introdotte informazioni confondenti, caratteristiche confondenti che il modello collega all’output dei gatti, ma che non sono assolutamente Cadillac solo perché è più facile per il modello. E poi abbiamo di nuovo il problema che la porta di addestramento del modello è l’unica realtà del modello. Basta dargli un paio di migliaia di immagini di gatti e il modello impara a passare da questa fonte di dati al gatto. E se queste immagini, per esempio, sono state raccolte da Flicker e hanno tutte una filigrana di copyright perché sono immagini di stock o altro, il modello potrebbe capire che le immagini di stock sono gatti. Giusto? Questo è il problema che possiamo identificare con l’esternalità e che ci permette di migliorare il modello, la fonte dei dati e così via, in modo da essere sviluppatori di apprendimento automatico molto più informati di prima.

Mi chiamo Kelly Zone. Sono una ricercatrice senior presso il Norwegian Computing Center, un istituto di ricerca che si occupa di IA e di modellazione statistica e in generale di informatica. Il mio campo di ricerca è l’IA e, in particolare, tutto ciò che ha a che fare con il linguaggio, le cosiddette tecnologie linguistiche o l’elaborazione del linguaggio naturale.

Ora parleremo un po’ di più dell’apprendimento automatico. Potrebbe dirci cos’è l’apprendimento automatico e come funziona? L’apprendimento automatico è un ramo dell’IA, ma è diventato il ramo dominante dell’intelligenza artificiale. Si tratta di costruire modelli per un compito particolare in cui le cose non sono preprogrammate, ma vengono apprese dai dati. Quindi, invece di scrivere, specificare regole dettagliate su ciò che il sistema dovrebbe fare in ogni situazione, si forniscono alcuni dati, dati di addestramento, perché si sta cercando di far apprendere il sistema da questi. Il sistema identificherà automaticamente alcuni schemi utili per il compito da svolgere e li utilizzerà automaticamente su nuovi dati una volta appresi. Può dirci in che modo l’apprendimento automatico è legato all’intelligenza artificiale e ai big data? Si. Per quanto riguarda il rapporto con l’intelligenza artificiale, è diventato il metodo dominante per risolvere compiti complessi di intelligenza artificiale. L’apprendimento automatico consiste nel fare questo su grandi insiemi di addestramento, e questo è il modo in cui si relaziona con i big data, nel senso che si sta apprendendo il modello per svolgere compiti diversi utilizzando grandi insiemi di dati. Quindi è anche direttamente collegato ai big data.

Lei ha già parlato di traduzione automatica. Può fornire uno o più esempi di utilizzo popolare dell’apprendimento automatico? Si. L’apprendimento automatico per la ricerca, come nella ricerca di Google, nei motori di ricerca, nella computer vision, nel riconoscimento vocale. Viene utilizzato fondamentalmente per qualsiasi tipo di classificazione o previsione. E la maggior parte delle aziende oggi ha un qualche tipo di sistema. In questo modo si automatizzano alcune decisioni o previsioni. La robotica è sempre stata il primo campo in cui si utilizzano modelli di apprendimento automatico per aiutare i robot a decidere cosa fare e come farlo. Nel settore, l’apprendimento automatico e l’apprendimento profondo sono molto utilizzati. Prima si trattava di modelli statistici e di apprendimento automatico per lo sviluppo di questo settore. Lei ha già menzionato alcuni vantaggi e opportunità dell’apprendimento automatico per la società. Può citarne altri? Uno dei vantaggi principali è probabilmente quello dell’automazione. È l’automazione di compiti che possono essere ripetitivi e interessanti, e forse ho dimenticato di menzionarlo. Ma anche tutto ciò che si fa con le auto autonome e semi-autonome. È anche un altro esempio in cui gran parte della guida è ripetitiva, di routine. Si tratta di cercare degli schemi, fondamentalmente. I computer sono molto bravi a riconoscere gli schemi e a farlo sistematicamente, 24 ore su 24, 7 giorni su 7, mentre i conducenti umani sono notoriamente incapaci di tenere traccia di ciò che accade sulla strada per ore e ore. Questo è un altro caso in cui l’automazione di un processo che nella maggior parte dei casi è più o meno di routine e ripetitivo può essere molto vantaggiosa. Naturalmente, si tratta di un buon caso perché gran parte di ciò che accade in viaggio è ripetitivo. Ma a volte si verificano situazioni complesse, si verifica qualcosa di inaspettato sulla strada. L’apprendimento automatico si basa su dati storici. Impara da ciò che è stato visto in passato e cerca di generalizzare. Ma la capacità di generalizzare è molto più debole di quella che abbiamo come individui umani. Quindi, mentre noi siamo in grado di capire rapidamente una nuova situazione che si presenta, per il computer è molto più difficile.

Quale sarà l’evoluzione dell’interazione uomo-macchina e quali sono le tendenze emergenti? Beh, una tendenza importante è che la prima interazione uomo-macchina riguardava proprio l’adattamento dell’uomo ai vincoli dell’interfaccia con cui aveva a che fare. Negli anni ’70 c’erano macchine molto complete con un sacco di pulsanti e il punto era che l’uomo doveva imparare a usare l’interfaccia e l’interfaccia stessa non aveva alcun adattamento. Oggi la tendenza è quella di avere un’interfaccia che cerchi di adattarsi all’utente umano e di parlare la sua lingua. Ciò che mi interessa come ricerca sulla tecnologia del linguaggio è avere macchine che parlino una lingua e che siano in grado di interagire con il mezzo di comunicazione più intuitivo per noi esseri umani, ovvero il linguaggio naturale parlato, perché è quello che abbiamo passato per la maggior parte della nostra vita a parlare e ad ascoltare gli altri nel linguaggio parlato. È il più potente, perché possiamo esprimere idee e pensieri e fondamentalmente qualsiasi cosa in un modo completamente privo di sforzo, come sarebbe impossibile con un’interfaccia rigida in cui si deve cliccare su dei pulsanti. Ma naturalmente è anche difficile, perché il linguaggio naturale è ambiguo, vago, a volte contraddittorio e incerto. C’è sempre un sacco di interpretazione da fare per capirsi. Ma è tutto interessante perché avere una macchina che capisce il linguaggio parlato significa che è una macchina per la quale non è necessario alcun addestramento. Si sa come parlare la propria lingua madre ed è molto utile e facile da usare. E in alcuni casi, se si pensa ad esempio alla guida di un’auto o alla cucina, quando le mani sono nel bel mezzo della preparazione, è anche uno degli unici modi per avere un’interazione concreta con la macchina, perché non ci si può aspettare che l’utente di un’auto anonima passi il tempo a guardare lo schermo e a toccare i pulsanti. In molti casi, quindi, il futuro dell’interazione uomo-robot-macchina consiste nell’avere sistemi in grado di interagire con noi in un modo che ci è familiare, attraverso il linguaggio o un linguaggio visivo di facile comprensione. E come ultima domanda, lei ha già menzionato alcune delle opportunità e delle sfide. Può pensare ad altri effetti positivi e anche ad alcune sfide dell’interazione uomo-missione per la società? Beh, c’è sempre il pensiero specifico della tecnologia linguistica. C’è la sfida dell’accesso disuguale e delle risorse disuguali e questo va oltre l’interazione uomo-macchina. Ma un problema importante per molte delle tecnologie linguistiche odierne è, per esempio, che le lingue non hanno lo stesso grado di supporto, e questo fa una grande differenza se si parla l’inglese americano o se si parla una lingua africana remota che non ha accesso. Dove Google Translate non funziona, non si ha la possibilità di utilizzare la tecnologia in alcun modo. A volte non si ha nemmeno una tastiera sul cellulare per esprimersi nella propria lingua madre. E questa, in futuro, è una sfida importante. Per non parlare, ovviamente, dell’accesso alla tecnologia. Se non si ha un telefono, l’accesso è ancora più limitato. Ma tutto questo, come garantire che la tecnologia sia effettivamente in grado di fornire e utilizzare come un equalizzatore invece di creare disuguaglianze nel mondo, è una sfida importante.