KI und maschinelles Lernen

Mein Name ist Dr. Sabasana. Ich bin die Leiterin der experimentellen KI zu Hause in Berlin und meine Aufgabe ist es, Forschung zur Erweiterbarkeit von künstlicher Intelligenz zu betreiben.

Und könnten Sie uns vielleicht mehr über Deep Learning erzählen und was der Unterschied zwischen maschinellem Lernen und Deep Learning ist? 

Ja, Deep Learning ist wiederum ein Unterbegriff des maschinellen Lernens und beschreibt die Verwendung und das Training von maschinellen Lernalgorithmen, die eine detaillierte Darstellung von Informationen haben. Damit sind in der Regel tiefe neuronale Netze gemeint. Die Tiefe dieses tiefen Lernens besteht darin, dass man bei tiefen neuronalen Netzen in der Regel mehrere Schichten möglicher Repräsentationen von Daten übereinander legt. Man kann sich das wie Schichten von mathematischen Operationen vorstellen, die dann beim Training gelernt werden. Man gibt also die Form des Netzes vor und die Funktion des Netzes wird in einem schrittweisen Trainingsprozess erlernt, indem man Beispieldaten bereitstellt. Und den Begriff Deep Learning, der Ansatz kommt von der Tiefe des Netzes. 

Und was ist der Unterschied zwischen maschinellem Lernen, Deep Learning und herkömmlicher Programmierung? 

Okay, wie gesagt, Deep Learning ist ein Teil des maschinellen Lernens. Der Unterschied zwischen maschinellem Lernen und traditioneller Programmierung ist folgender: Nehmen wir an, Sie haben einige Daten und kennen die Regeln, wie diese Daten zu verarbeiten sind, richtig? Dann können Sie Ihre Lösungen implementieren. Und das ist ein typischer Programmieransatz. Sie haben Ihre Daten, Sie wissen, wie sie zu verarbeiten sind, Sie implementieren Ihre Programme und Ergebnisse und Antworten. Der Ansatz des maschinellen Lernens ist also, dass Sie eine Menge Daten haben und die Antworten auf diese Daten kennen, aber Sie haben keine Ahnung, wie Sie darauf kommen sollen. Im Grunde haben Sie keine Regeln, richtig? Die Aufgabe des maschinellen Lernens besteht darin, Ihre Maschine so zu trainieren, dass sie die Regeln lernt, die es Ihnen ermöglichen, die Daten zu verknüpfen und die erwarteten Antworten zu produzieren. Und wenn Sie das geschafft haben, haben Sie ein trainiertes maschinelles Lernmodell, das neue Daten empfangen kann, Daten, die es noch nie zuvor gesehen hat, weil es die Regeln gelernt hat und die Daten nicht auswendig gelernt haben muss, und es kann dann Antworten produzieren. In der Sprache des maschinellen Lernens sagen wir also, dass das Modell verallgemeinern sollte, was bedeutet, dass es allgemeine Regeln gelernt haben sollte, wie es mit den von uns eingegebenen Daten umzugehen hat, um die richtigen Antworten zu geben. Sobald Sie ein solches Modell haben, können Sie es als Regelwerk in Ihre Programmieraufgabe einfügen. Zum Beispiel, wenn das Regelwerk so komplex ist, dass Sie es niemals explizit durch manuelles Schreiben des Codes aufbauen können.

Und können Sie ein oder mehrere Beispiele für häufige Verwendungen von maschinellem Lernen nennen? 

Ich denke, ein Beispiel, das recht häufig verwendet wird, ist die optische Zeichenerkennung, d. h. die Maschinen und das Postamt, die die Zieladresse des von Ihnen geschriebenen Briefes lesen, was normalerweise nicht von Menschen, sondern nur von sensorischen Maschinen gemacht wird. Die Maschine entziffert Ihre Handschrift, digitalisiert die Adresse und speist all diese Informationen in eine Datenbank ein, woraufhin der Brief an das Ziel geleitet wird. Ein anderer Ansatz wäre zum Beispiel die Gesichtserkennung. Zum Beispiel in digitalen Videokameras, Webcams oder auch in intelligenten Systemen. Das Spektrum der Anwendungen im Bereich des maschinellen Lernens ist also sehr nützlich. In unserem Labor setzen wir maschinelles Lernen zum Beispiel für die Prävention von Naturkatastrophen ein, indem wir beispielsweise Klimadaten oder Daten zur Luftverschmutzung der letzten Jahre, Monate usw. verfolgen. Und dann trainieren wir ein Modell, das in der Lage sein sollte, vorherzusagen, wie sich die Temperaturentwicklung und so weiter verhält.

In Anbetracht der vielen Faktoren, die in den letzten Tagen und Monaten aufkamen, könnten Sie ein oder mehrere Beispiele für häufige Einsatzmöglichkeiten von Deep Learning nennen? 

So ziemlich alles, was komplex ist und scheinbar unlösbar war, haben wir vor etwa zehn Jahren mit Deep Learning lizenziert. Und das ist zum Beispiel die Bilderkennung, die Deep Learning verwendet, weil diese tiefe Struktur es dem Modell erlaubt, wie eine Kaskade von verschiedenen Schritten der Merkmalsverarbeitung zu lernen. Richtig? Tatsächlich sind tiefe neuronale Netze in gewisser Weise durch den visuellen Bereich des menschlichen Gehirns motiviert, der Informationen in mehreren Schritten verarbeitet, beginnend mit dem Empfang von Farbinformationen bis hin zur Auslösung von Neuronen für einfache Formen wie Kanten und runde Formen, usw. Neuronale Netze machen eigentlich ziemlich ähnliche Dinge. Wenn man von den einfachsten zu sehr komplexen Merkmalen übergeht, z. B. von Farbverläufen an Kanten zu Neuronen, die gelernt haben, Eidechsenköpfe zu erkennen, können diese komplexen Bildinformationen effizient und recht schnell verarbeitet werden. Und das führt dazu, dass aktuelle maschinelle Lernmodelle in der Bilderkennung dem Menschen überlegen sind, vor allem wenn man die Zeit mit einbezieht.

Und was sind die Chancen und die positiven Aspekte des maschinellen Lernens für die Gesellschaft?

Zum einen ist es das Potenzial, einen Automatisierungsgrad zu erreichen, der uns Aufgaben abnimmt, die arbeitsintensiv, aber langweilig sind und die eigentlich niemand machen müsste, weil sie sich gut automatisieren lassen. Das erhöht natürlich die Effizienz. Es reduziert Fehler, weil die Maschine nicht müde wird. In der Medizin könnten Maschinen zum Beispiel die Entscheidungen von Auszubildenden unterstützen. In der Pathologie, zum Beispiel. Die Pathologie ist hier ein besonders interessanter Bereich, denn es ist bekannt, dass ein:e Histologe:in seinen:ihren höchsten Wert hat, wenn er:sie in den Ruhestand geht, weil er:sie eine lebenslange Grundlernzeit hinter sich hat. Und diese Fast-Ruheständler:innen sind sehr viel schneller als die Neuen, die das Handwerk lernen müssen, oder? Und mit schneller meine ich, dass sie intuitiv auf einen dieser histopathologischen Objektträger schauen und sofort sehen, was los ist, während der Neuling jedes Stückchen des Objektträgers akribisch scannen und sich Zeit nehmen muss und so weiter und so fort. Und es gibt auch eine Gruppe in dem Bereich, die von Andreas Holzinger geleitet wird. Er trainiert Methoden des maschinellen Lernens auf der Grundlage von Datenannotationen, die von einem:einer Experten:in, einem:einer Pathologen:in, gemacht wurden, mit dem Ziel, seine:ihre Lebenserfahrung in seinem:ihrem Bereich in ein maschinelles Lernmodell zu verpacken. Es kann also potenziell als Trainingsbegleiter für Einsteiger:innen in diesem Bereich verwendet werden.

Und was sind Ihrer Meinung nach die wichtigsten Risiken, z. B. in Bezug auf die Ethik? 

Zum einen geht es natürlich um die beabsichtigte Anwendung des maschinellen Lernens. Wollen Sie es zum Beispiel für das Allgemeinwohl einsetzen? Wollen Sie die Gesellschaft verbessern? Wollen Sie die Umwelt verbessern? Oder wollen Sie es in einen Kampfjet einbauen? Das ist der Kernunterschied hier. Und der nächste Punkt ist, dass dies die extremen Enden des Spektrums sind. Und dazwischen gibt es eine Fülle gesellschaftlicher Fragen. Kann man zum Beispiel die Einschätzung der Kreditwürdigkeit einer Person automatisieren und dafür maschinelles Lernen einsetzen? Und dann stellt sich die Frage: Welche Daten haben Sie verwendet, um dieses Modell zu trainieren? Und haben Sie vielleicht unerwünschte Verbindungen zwischen einigen Merkmalen und Daten und dem Ergebnis modelliert oder trainiert? Wir haben zum Beispiel gelernt, dass einige Ethnien, aus welchen Gründen auch immer, zum Beispiel wegen Hautfarbe oder ethnischer Zugehörigkeit, keine finanzielle Unterstützung erhalten sollten, richtig? Die Frage ist immer, welche Daten man einspeist. Welche Daten sollen verwendet werden? Es gibt den Grundsatz der Datensparsamkeit, der besagt, dass man nur die Daten verwendet, die man für die Lösung der Aufgabe benötigt, denn zusätzliche Daten könnten zu einem problematischen Verhalten im Modell führen. Und das ist natürlich eines der großen aktuellen Probleme bei der fortschreitenden Automatisierung. Mit maschinellem Lernen. Andererseits stellt sich immer die Frage, ob man reale Daten zum Trainieren der maschinellen Lernmodelle verwendet und nicht zufrieden ist mit dem, was das Modell tut, denn das Modell selbst ist objektiv, es kann nur aus den von Ihnen bereitgestellten Daten lernen. Die Daten sind die einzige Realität des Modells. Bedeutet das, dass Ihnen nicht gefällt, was das Modell tut? Oder gefällt Ihnen die Realität nicht? Richtig. Und ich denke, dass es vielleicht nicht immer der richtige Weg ist, die Daten zu korrigieren und zu bearbeiten, um bestimmte Verhaltensweisen des Modells loszuwerden. Ich würde es als einen Indikator für den notwendigen Wandel in der Gesellschaft sehen, der dies hervorbringt.

Eine Frage zur erklärbaren künstlichen Intelligenz, also X-AI: Können Sie erklären, was das ist? 

Ja. Das Ziel von erklärbaren KI ist es, einen Blick in die Black Box des maschinellen Lernens zu werfen. Das derzeitige maschinelle Lernen ist so, dass die leistungsstärksten maschinellen Lernmodelle in der Regel recht komplex sind, was bedeutet, dass der:die außenstehende Beobachter:in, ja sogar der:die Entwickler:in, nicht wirklich einen Einblick in das hat, was das Modell tatsächlich lernt. Und mit Explainable AI oder X-AI wollen wir eine gewisse Transparenz darüber herstellen, was das Modell tut. Ja, das kann auf verschiedene Weise geschehen. In unserem Labor haben wir eine modifizierte Backdrop-Methode entwickelt, d. h. wenn man einige Datenpunkte in das Modell einspeist, wird das Modell Schicht für Schicht in das Netzwerk oder das Modell transformiert. Im Grunde durchläuft es das Modell und das Ergebnis ist die Antwort des Modells. Das stimmt. Und wir können diesen Prozess in gewisser Weise umkehren, wenn das Modell zum Beispiel ein Bild erhält und mir sagt, dass es eine Katze ist, kann ich mit der Katzen-Output beginnen und sagen: Ja, aber warum? Und dann kann ich die Teilentscheidungen des Modells Schicht für Schicht auseinandernehmen, bis ich wieder beim Input ankomme, und dann erhalte ich, was wir eine Heatmap nennen. Das ist im Grunde genommen eine Maske im Input-Raum, wo die meisten Informationen sind, und man kann das für jedes mögliche Ergebnis machen. Wenn das Modell zum Beispiel einen Hund ausgibt, kann man den gleichen Prozess mit dem Hund-Output durchführen und erhält dann vielleicht die Antwort, warum das Modell denkt, dass es einen Hund im Bild gibt oder wo die Hunde-Information nicht stimmt. Auf diese Weise kann man die Verwendung der durch die Datenpunkte gegebenen Informationen des Modells mit dem Output des Modells verbinden. Ich würde sagen, dass die ersten ernsthaften Schritte und komplexeren Modelle im Jahr 2010 gemacht wurden, und seitdem hat es sich ziemlich schnell weiterentwickelt. Es gibt also eine Menge Arbeit. Wir arbeiten daran, Erklärungen zu liefern, die über einfache Heatmap-Visualisierungen hinausgehen, die manchmal sehr interpretationsbedürftig sind, vor allem, wenn die Daten schwer zu verstehen sind und erst bestätigt werden müssen. Aber unser Endziel ist es, unter der Vorraussetzung der verbesserten Verwertbarkeit, an der derzeit gearbeitet wird, ein Modell zu erstellen, das mehr oder weniger selbsterklärend sein sollte, indem es nicht sagt: Schaut euch diesen Teil des Bildes an, dort gibt es Informationen, die meiner Meinung nach als Modell für die Katze sprechen. Sondern das Modell sollte dann den:die Benutzer:in informieren. Zum Beispiel, dass es dente, dass es eine Katze ist, weil es dies und das und das und das sieht. Katzenähnliche Merkmale, die das Modell z.B. als Merkmale für die Vorhersage gelernt hat. 

Ich danke Ihnen vielmals. Und was macht erklärbare KI möglich? Was kann man damit erreichen? 

Zum einen können Sie verstehen, was das Modell tatsächlich tut, und Sie können ein Verständnis auf der Basis von Stichproben gewinnen, d. h. in diesem Fall erhalten Sie für jeden Datenpunkt, den Sie in das Modell eingeben, eine Rückmeldung über die Schlussfolgerungen des Modells auf der Grundlage dieser Daten. Dieses Feedback können Sie dann natürlich nutzen, um Ihr Modell zu überprüfen. In einigen Fällen kann es aber auch vorkommen, dass Sie die Information erhalten, dass das Modell aus den falschen Gründen die richtigen Ergebnisse liefert. Zum Beispiel. Und das könnte Sie auf Fehler in Ihren Trainingsdaten hinweisen, wo Sie einige verwirrende Informationen eingeführt haben, einige verwirrende Merkmale, die das Modell dann mit dem Output von Katzen in Verbindung bringt, die aber absolut nicht katzenähnlich sind, nur weil es für das Modell einfacher ist. Und dann haben wir wieder das Problem, dass die Trainingsdaten des Modells die einzige Realität des Modells sind. Man gibt ihm einfach ein paar tausend Bilder von Katzen und das Modell lernt, wie es von dieser Datenquelle zur Katze kommt. Und wenn diese Bilder zum Beispiel von Flicker stammen und alle mit einem Copyright-Wasserzeichen versehen sind, weil es sich um Archivbilder oder so etwas handelt, könnte das Modell denken, dass es sich bei Archivbildern um Katzen handelt. Richtig? Das ist das Problem, eines der Probleme, die wir mit der Erklärbarkeit identifizieren können, und das führt dann zu der Option, das Modell zu verbessern, die Datenquelle zu verbessern und so weiter, so dass wir im Grunde genommen viel besser informierte Entwickler:innen für maschinelles Lernen sind als vor der Erklärung.