Maschinelles Lernen

Fabio Del Frate erwarb an der Universität Rom “Tor Vergata” einen Master-Abschluss in Elektrotechnik (1992) und den Doktortitel in Informatik (1997). Von 1995 bis 1996 war er Gastwissenschaftler am Massachusetts Institute of Technology, und von 1998 bis 1999 arbeitete er bei der Europäischen Weltraumorganisation. Danach wechselte er an die Universität Rom “Tor Vergata”, wo er derzeit außerordentlicher Professor für Fernerkundung und angewandten Elektromagnetismus in verschiedenen Master- und PhD-Programmen ist. Zu diesen Themen war er als Dozent an mehreren europäischen Universitäten tätig und leitete als Principal Investigator/Projektmanager mehrere von der Europäischen Weltraumorganisation (ESA) und der Italienischen Weltraumorganisation (ASI) finanzierte Projekte, bei denen er Forschungsaktivitäten im Bereich der auf Satellitendaten angewandten künstlichen Intelligenz für die Erdbeobachtung (im Folgenden als “EO” bezeichnet) leitete.

Q2. Was ist maschinelles Lernen?

Nun, ich würde sagen, dass maschinelles Lernen ein möglicher, ich schätze, im Moment der am meisten genutzte, technische Prozess ist, um künstliche Intelligenz in einer Maschine zu erzeugen. Wir haben bereits gesehen, dass es zwei Hauptakteure gibt: die Daten und das Modell, genauer gesagt ein mathematisches Modell. Die Herausforderung besteht darin, die Parameter des mathematischen Modells so zu finden, dass es die Beziehungen zwischen den Daten darstellen kann. Alles hängt davon ab, dass ein Lernprozess auf der Grundlage der Daten selbst eingeleitet wird. Es gibt verschiedene Arten von Modellen, z. B. neuronale Netze oder Support-Vector-Maschinen, und folglich auch verschiedene Algorithmen zum Erlernen des Modells. Das Endziel ist jedoch immer dasselbe: Wissen aus den im Lernprozess verwendeten Trainingsdaten zu extrahieren und dieses extrahierte Wissen auf neue Daten anzuwenden. Übrigens ist die Bewertung, wie gut die Leistung des Modells auf den neuen Daten ist, d. h. auf Daten, die während der Trainingsphase nicht berücksichtigt wurden, sehr wichtig. Sie sagt uns, inwieweit das Modell in der realen Welt anwendbar ist, inwieweit es in der Lage ist, zu verallgemeinern. 

In jedem Fall sind die Qualität und die Quantität der in der Lernphase verwendeten Daten entscheidende Faktoren für eine erfolgreiche Leistung. Insbesondere muss die Menge der Daten statistisch signifikant sein, um die relevanten Merkmale des Phänomens, das wir untersuchen wollen, zu liefern. Ein weiterer wichtiger Punkt ist die Entscheidung, wie komplex unser mathematisches Modell sein soll. Es wäre ein ernstes Problem, wenn wir ein zu einfaches Modell wählen, um nach sehr subtilen Beziehungen zwischen den Daten zu suchen, aber wenn die den Daten zugrundeliegenden Regeln weniger kompliziert sind, kann auch die Struktur des Modells leichter sein, manchmal…. ist weniger mehr, wie wir sagen, wobei weniger sich auf die Anzahl der Parameter bezieht, die das Modell charakterisieren. 

Die Komplexität des Modells hat übrigens auch mit der Zeit zu tun, die wir zum Trainieren des Modells benötigen, und mit der Menge an Daten, die für die Durchführung des gesamten Lernprozesses erforderlich ist.

Q4. Was ist überwachtes Lernen? Können Sie einige Beispiele für Anwendungen nennen, die es verwenden?

Nun, ich würde sagen, dass das überwachte Lernen heute der am weitesten verbreitete Unterzweig des maschinellen Lernens ist. Überwachtes Lernen ist eine Form des Lernens, bei der für eine gegebene Eingabe ein “wahres” Ergebnis verfügbar ist und diese Wahrheit dem Modell beigebracht werden kann. Mit anderen Worten: Als Lehrer:in oder Betreuer:in wissen wir für jede Eingabe, die wir dem Modell geben, was die Ausgabe des Modells sein sollte, und wir wollen, dass das Modell diese allgemeine Regel berücksichtigt. In der Regel geschieht dies durch Minimierung einer so genannten Fehler- oder Kostenfunktion, die den Abstand zwischen den gewünschten Ausgabewerten und den vom Modell während der Trainingsphase erzeugten tatsächlichen Ausgabewerten darstellt. Eigentlich kann man davon ausgehen, dass das überwachte Lernen erfolgreich ist, wenn die endgültige Fehlerrate über eine Reihe von Beispielen, die während der Trainingsphase nicht verwendet wurden, unter einem vordefinierten Schwellenwert liegt. Die Trainingsphase kann sehr lang sein, aber wenn wir sie erst einmal abgeschlossen haben, haben wir ein sehr leistungsfähiges Werkzeug, das im Grunde in Echtzeit arbeitet, um die neuen Daten zu verarbeiten. Überwachtes Lernen kann in vielen Bereichen nützlich sein. Eine ziemlich umfangreiche Anwendung betrifft die Bildklassifizierung. In diesem Fall handelt es sich bei den echten Daten um Daten, die durch menschliche Bildinterpretation beschriftet wurden. Die Klassifizierung kann auf verschiedenen Ebenen erfolgen: Pixelebene, Fleckenebene, Objektebene. Die Klassifizierungsebene bestimmt die Wahl des Inputs, den wir dem Modell geben wollen. Insbesondere das überwachte Lernen wird heute sehr häufig in der Erdbeobachtung eingesetzt, wenn es darum geht, bio-geophysikalische Parameter aus von Satelliten gesammelten Daten abzuschätzen. Ein interessantes Beispiel ist die Präzisionslandwirtschaft in der Landwirtschaft. Wenn wir die Biomasse einer Kultur überwachen wollen, um die Menge des einzusetzenden Düngers zu optimieren, können wir die von Satelliten erfassten Daten dieser Kultur nutzen. Insbesondere im Mikrowellenbereich des elektromagnetischen Spektrums ist die Gewinnung von Vegetationsparametern jedoch nicht trivial, da die Messung auch, sagen wir, durch den darunter liegenden Boden verunreinigt ist. Daher können überwachte KI-Modelle definitiv eines der Werkzeuge sein, die es uns ermöglichen, den Teil der Informationen in der Messung abzurufen, der mehr mit der Vegetation zusammenhängt, und den Teil zu verwerfen, der mehr durch den Boden bedingt ist.

Q6. Es gibt verschiedene Gruppierungen von Algorithmen des maschinellen Lernens, z. B. Regression, Klassifizierung und so weiter. Können Sie deren Bedeutung und den Unterschied zwischen ihnen erklären?

Es gibt verschiedene Möglichkeiten, Algorithmen des maschinellen Lernens zu gruppieren. Ich denke, die wichtigste hängt von der Art des mathematischen Modells ab. Insbesondere gibt es, wie bereits erwähnt, Modelle für überwachtes Training und Modelle für unbeaufsichtigtes Training. Zu den wichtigsten Modellen gehören neuronale Netze, Deep oder shallow, Support Vector Machines, Entscheidungsbäume und Ensemble-Techniken. Bei den unüberwachten Modellen können wir k-means, Hauptkomponentenanalyse, auto-assoziative neuronale Netze, selbstorganisierte Karten und so weiter nennen. 

Aber wie Ihre Frage zeigt, gibt es noch eine andere Möglichkeit, Algorithmen des maschinellen Lernens zu gruppieren, nämlich die Unterscheidung zwischen Regression und Klassifikation. Sobald unserem mathematischen Modell ein bestimmter Input zur Verfügung gestellt wird, hängt der Unterschied zwischen Regression und Klassifizierung hauptsächlich von der Art des Outputs ab, an dem wir interessiert sind. Im Falle der Klassifizierung ist die Ausgabe eine Bezeichnung, eine Klasse. Nehmen wir als Beispiel wieder eine Satellitenanwendung, bei der die Fernerkundung für die Meteorologie eingesetzt wird. Nehmen wir also an, wir müssen eine meteorologische Analyse durchführen und wollen entscheiden, welches Pixel in einem Bild des Himmels einem bewölkten Himmel und welches Pixel des Bildes einem klaren Himmel zuzuordnen ist, so dass das Endziel darin besteht, eine Karte zu erstellen, in der wir mit der blauen Farbe die klaren Himmelspixel und mit der grauen Farbe die bewölkten Pixel darstellen. Wir sagen in diesem Fall, dass wir eine Klassifizierungskarte erhalten wollen. Bei der Regression geht es im Wesentlichen darum, dass unser mathematisches Modell als Reaktion auf die Datenverarbeitung eine Zahl berechnet oder schätzt, und zwar im Allgemeinen eine reelle Zahl. Betrachten wir also dasselbe Szenario im Bereich der Meteorologie, so wollen wir anhand der Fernerkundungsdaten wissen, wie hoch die Luftfeuchtigkeit oder die Niederschlagsmenge (reale Zahlen) in einem bestimmten Gebiet ist. Es ist jedoch interessant zu sehen, wie ein Regressionsproblem in ein Klassifizierungsproblem umgewandelt werden kann. Dies geschieht, wenn ich sage: Innerhalb dieses Bereichs von Niederschlagswerten, also zwischen diesen beiden Zahlen, habe ich die Klasse “geringer Niederschlag”, in diesem anderen Intervall oder Bereich habe ich “mäßiger Niederschlag”, und so weiter. In diesem Fall ordne ich die Wertebereiche den Klassen zu.

Vielen Dank, Prof. Fabio Del Frate, wir wissen das wirklich zu schätzen. Das war ein deutlicher und interessanter Einblick in die Funktionen der Künstlichen Intelligenz und die entsprechenden Anwendungen.