FRAGE (F. ANANASSO)

Lassen Sie uns mit der grundlegendsten Frage beginnen. Was wissen Sie, Emanuela, angesichts Ihrer Erfahrung, über globale Strategien im Bereich der künstlichen Intelligenz? Was ist der Kontext? Was sind die internationalen Modelle? Ich höre vor allem von Amerika. Wie sieht der internationale Kontext aus?  

ANTWORT (E. GIRARDI)

Ja, danke Fulvio, und guten Morgen allerseits. Sicherlich wird die Technologie der künstlichen Intelligenz derzeit als eine strategische Technologie für die Entwicklung zukünftiger Gesellschaften betrachtet. Und eine Reihe von Ländern hat begonnen, sich mit künstlicher Intelligenz zu befassen, viele Ressourcen zu investieren und – vor allem – eine nationale Strategie für künstliche Intelligenz zu entwickeln. Derzeit gibt es etwa 50 nationale Strategien für künstliche Intelligenz auf der ganzen Welt, und einige befinden sich in der Entwicklung, so dass sie in den nächsten Jahren oder sogar noch in diesem Jahr veröffentlicht werden, und alle Länder haben diese Technologien als wirklich strategisch angesehen, weil KI einen disruptiven Einfluss auf die Gesellschaft hat, schon heute auf unser tägliches Leben und mehr und mehr auf unser Leben in der Zukunft. Obwohl es weltweit bereits 50 verschiedene Strategien gibt, können wir im Grunde von zwei bis drei Entwicklungsmodellen für künstliche Intelligenz weltweit sprechen, nämlich dem amerikanischen Modell, dem chinesischen Modell und dazwischen, seit kurzem, dem europäischen Modell. Auf den ersten Blick scheinen das amerikanische und das chinesische Modell recht unterschiedlich zu sein, aber es gibt tatsächlich große Ähnlichkeiten, denn in beiden Modellen wird die Entwicklung von Technologien der künstlichen Intelligenz in Wirklichkeit von großen privaten Konzernen geleitet, die unter anderem überall auf der Welt präsent sind – nicht nur in China und den Vereinigten Staaten. Die beiden großen Unterschiede zwischen diesen Gruppen bestehen darin, dass in China eine Tendenz zur staatlichen Kontrolle dieser Technologien besteht, während in den Vereinigten Staaten eher eine Tendenz zur Deregulierung, also zu einer Art fehlender Regulierung dieser Technologien, zu beobachten ist. Europa hat etwas spät mit Investitionen in die Entwicklung und Einführung dieser Technologien begonnen, und zwar 2016 mit einem Abkommen, das 2018 mit einem Kooperationsabkommen zwischen allen Mitgliedstaaten zur Entwicklung eines koordinierten Plans für die Entwicklung von Technologien der künstlichen Intelligenz “verheiratet” wurde. Mit etwas Verspätung beschloss sie jedoch, sich auf die ethische Sichtweise und damit in erster Linie auf die Definition ethischer Leitlinien für die Entwicklung von Technologien der künstlichen Intelligenz zu konzentrieren. Und aus dieser von der Europäischen Kommission einberufenen Forschungsgruppe ging die europäische Vision der künstlichen Intelligenz hervor, eine Vision, die als “menschenzentriert” definiert wird, d.h. den Menschen in den Mittelpunkt stellt und den Einsatz von Technologien der künstlichen Intelligenz zur Verbesserung des Lebens der Menschen unterstützt. Der zweite Aspekt ist jedoch, dass sie den Einsatz “vertrauenswürdiger”, d. h. zuverlässiger Technologien fördert. Dies ist gewissermaßen das Herzstück der europäischen Vision. Vertrauenswürdig deshalb, weil, wenn wir an eine sehr vereinfachte Definition von Technologien der künstlichen Intelligenz denken, mit denen wir Systeme identifizieren können, die ihre Umgebung analysieren, d. h. Daten sammeln, um ein bestimmtes Ziel zu erreichen, und dies autonom tun, indem sie ein Verhalten zeigen, das wir, wenn es von einem Menschen ausgeführt würde, als intelligentes Verhalten definieren könnten. Damit sie nun, wenn sie dieses Ziel erreicht haben, eine vom Menschen festgelegte Handlung ausführen, damit der Mensch das Ergebnis dieser Handlung oder Entscheidung akzeptiert – die von einem autonomen System getroffen wird – und somit sowohl dem Einsatz dieser Systeme als auch den Handlungen oder Entscheidungen, die von diesen Systemen getroffen werden, vertraut, müssen sie zuverlässig (“vertrauenswürdig”) sein. Und was bedeutet das, zuverlässig / vertrauenswürdig? Was die europäische Version und Definition von zuverlässiger Technologie betrifft, so bedeutet dies drei Dinge. Im Wesentlichen bedeutet es, dass sie den europäischen Gesetzen und den ethischen Werten, die in der Europäischen Charta der Rechte enthalten sind, entsprechen müssen, und dass sie aus der Sicht der technischen Robustheit sicher sein müssen, d. h. sie dürfen den Menschen nicht schaden. Wenn diese Systeme also die drei Anforderungen erfüllen und ethisch vertretbar sind, dann können sie nach Ansicht der Europäischen Kommission in der Europäischen Gemeinschaft entwickelt und eingesetzt werden. Die Europäische Kommission hat daraufhin zwei wichtige Dokumente ausgearbeitet: ein Whitepaper und eine europäische Datenstrategie. Das derzeit umstrittenste, aber auch wichtigste Dokument ist jedoch das im April 2021 vorgelegte so genannte KI-Gesetz, bei dem es sich um eine Reihe von Dokumenten handelt, die den weltweit ersten Vorschlag zur Regelung der Nutzung von Systemen der künstlichen Intelligenz darstellen. Dieses Dokument ist sehr wichtig, weil es in erster Linie einen risikobezogenen Ansatz verwendet, d. h. es teilt alle Systeme der künstlichen Intelligenz in vier Kategorien ein, die auf ihrem Risiko beruhen. Die erste Kategorie ist die der inakzeptablen Risiken, d. h. es handelt sich um Systeme, die in der Europäischen Gemeinschaft verboten sind. Dann gibt es Systeme mit hohem, mittlerem und geringem Risiko. Für Systeme mit hohem und mittlerem Risiko sind eine ganze Reihe von Anforderungen definiert, die so genannten Bewertungslisten, d. h. eine Reihe von Anforderungen oder Zertifizierungen, die diese Systeme erfüllen müssen, um auf dem Binnenmarkt der Europäischen Gemeinschaft eingesetzt werden zu können. Diese Aspekte sind also sehr wichtig, und innerhalb der EU-Kommission wird viel darüber diskutiert, denn einerseits heißt es, dass das Ziel der Europäischen Kommission darin besteht, die Entwicklung und den Einsatz von Technologien der künstlichen Intelligenz zu fördern, die in gewisser Weise die Menschen und die europäischen Bürgerinnen und Bürger schützen, aber gleichzeitig muss es eine Art Rechtssicherheit für die Unternehmen geben, damit sie diese Systeme in einem aus rechtlicher Sicht sicheren Umfeld entwickeln können, so dass sie keine Risiken eingehen, wenn sie Technologien der künstlichen Intelligenz in ihre Produkte und Dienstleistungen, in ihr Marktangebot einführen. Die größte Einschränkung, die derzeit diskutiert wird, ist natürlich, dass eine Überregulierung die Innovation in gewisser Weise einschränken könnte. Dies gilt insbesondere, wenn wir die beiden Systeme betrachten, über die wir vorhin gesprochen haben, das chinesische und das amerikanische, wo es viel weniger Regulierung gibt, insbesondere das amerikanische im Vergleich zu dem europäischen Markt, den wir zu schaffen versuchen. Es ist also sehr schwierig, einerseits die Notwendigkeit der Regulierung dieser Systeme, die, wenn sie böswillig eingesetzt werden, tatsächlich Schaden anrichten können, und andererseits den Versuch, die Entwicklung der europäischen Innovation zu fördern und sicherzustellen, dass es auch eine echte Entwicklung der Technologien der künstlichen Intelligenz gibt, aber nicht nur der künstlichen Intelligenz, sondern auch aller unterstützenden Technologien. Ich denke also an Blockchain, ich denke an Cloud-Technologien, ich denke an Performance Computing, weil es tatsächlich sehr wichtig ist, dass diese Technologien auch auf europäischer Ebene entwickelt werden können und dass das, was im koordinierten Plan als europäische technologische Souveränität bezeichnet wird, somit realisiert wird. Denken wir zum Beispiel auch an das Projekt Gaia X, das das gleiche Ziel verfolgt, nämlich eine Art europäische technologische Souveränität zu erreichen. 

FRAGE (F. ANANASSO)

Wenn ich also richtig verstanden habe, geht das Modell der Europäischen Kommission über das amerikanische und das chinesische Modell hinaus, die mit verschiedenen Aspekten in eine andere Richtung als unseres gehen, es ist mehr auf den Menschen ausgerichtet und “vertrauenswürdig”, wie Sie sagten. Danach werden wir vielleicht darüber sprechen, was in Italien vor sich geht. Wenn ich das Gesetz über künstliche Intelligenz, von dem Sie sprechen (das Gesetz vom 21. April 2021), richtig verstanden habe, sind die Risiken unterschiedlich hoch. Möchten Sie uns dazu etwas sagen, was sind die wichtigsten Punkte? Gibt es neben der Risikoklassifizierung des europäischen Vorschlags noch andere relevante Aspekte? Ich habe von 32 Fällen gehört, in denen man unter der Voraussetzung, dass es Haftbefehle gibt, eingreifen kann. Kann man auf die Schnelle etwas dazu sagen, was die wesentlichen Punkte des europäischen Vorschlags sind?

ANTWORT (E. GIRARDI)

Ja. Was die Risiken betrifft, so kann ich Ihnen sagen, dass es sich um Aspekte von Systemen der künstlichen Intelligenz handelt, deren Risiko als inakzeptabel angesehen wird, z. B. Social Scoring, biometrische Fernüberwachung von Menschen oder Systeme, die das Verhalten von Menschen – insbesondere von schutzbedürftigen Menschen – irgendwie beeinflussen oder manipulieren können. Diese Funktionen werden als inakzeptabel angesehen und sind daher in der Europäischen Gemeinschaft derzeit verboten. Bei den Hochrisikosystemen hingegen sind meiner Meinung nach noch einige Aspekte zu klären, denn es geht um die Konformitätsbewertung, um eine Liste von Kriterien, die erfüllt werden müssen, damit sie in der Europäischen Gemeinschaft eingeführt und verwendet werden können. Aber das Problem ist, dass auch von einer europäischen Zertifizierung die Rede ist, die im Moment noch nicht sehr eindeutig ist. Unter anderem müssen wir bedenken, dass die Wertschöpfungskette von Systemen der künstlichen Intelligenz äußerst komplex ist. Wenn wir an die Entwicklung eines Algorithmus für künstliche Intelligenz denken, geht es zum Beispiel von denjenigen, die die Daten sammeln, zu denen, die das Training durchführen, zu denen, die den Algorithmus entwickeln, zu denen, die ihn dann in ihren eigenen Systemen im eigenen Unternehmen einsetzen und/oder auf den Markt bringen, und dann wird vielleicht der Datensatz geändert – ein Re-Update ist nötig, und dann muss man vielleicht das System ändern und in diesem Fall alles durch die Nutzung überwachen. Wir sprechen hier wirklich über den gesamten Lebenszyklus des Systems der künstlichen Intelligenz, und dann müssen alle verschiedenen Akteure in der Lieferkette ständig in Verbindung bleiben und die Nutzung des Systems der künstlichen Intelligenz, das sie entwickelt, trainiert und auf den Markt gebracht haben, ständig überwachen. Diese Aspekte sind also noch nicht ganz geklärt, denn es gibt einen Aspekt der Lieferkette, der meiner Meinung nach sehr komplex ist. 

Ein weiterer komplexer Aspekt ist die Tatsache, dass derzeit Hochrisikosysteme definiert werden, wenn auch nicht auf eine sehr klare Art und Weise, aber sie werden dennoch definiert. Ein weiterer Aspekt ist die Tatsache, dass sich die Europäische Kommission derzeit das Recht zuspricht, diese Liste zu ändern und neue Systeme hinzuzufügen, was ziemlich umstritten ist, da es normalerweise immer eine Trennung zwischen der Legislative und der Exekutive geben sollte, so dass es bereits viele Diskussionen darüber gibt, die besagen, dass die Europäische Kommission nicht die Macht hat, einen Anhang eines Gesetzes zu ändern. Und so sind diese Aspekte ziemlich umstritten, zum Beispiel habe ich neulich gelesen, dass die verschiedenen CEN, CENELEC, … und die meisten der verschiedenen Normungsgremien nach dem Grund für die oben genannte Position der EU-Kommission gefragt haben. 

Es gibt auch einen sehr interessanten Aspekt in Bezug auf die Definition von KI-Normen, die im Moment auf europäischer Ebene noch fehlen, und deshalb arbeiten alle verschiedenen Normungsgremien daran. Das ist eine der Rückmeldungen, um die sie gebeten haben, denn in diesen Tagen schreibt jeder eine Rückmeldung an die Europäische Kommission, da der 6. August 2021 der letzte Tag war, an dem man Rückmeldungen einreichen konnte. Ein Vorschlag für eine Verordnung ist eine der Rückmeldungen, nämlich die Streichung von Artikel 41, d.h. die Tatsache, dass die Europäische Kommission diese Liste von Systemen mehr oder weniger nach Belieben variieren kann (das ist nicht genau der Fall, aber sie kann nach eigenem Ermessen handeln). Das sind also einige der, sagen wir, widersprüchlichsten Elemente.

Ein weiteres sehr widersprüchliches Element betrifft die KI-Definition, da sie sehr weit gefasst ist, während sie eigentlich, sagen wir mal, zukunftsorientiert und zukunftssicher sein soll. Andererseits werden im Moment auch Systeme, von denen ich nicht weiß, ob sie KI sind, als KI-Systeme betrachtet, wie z. B. fortgeschrittene Statistiksysteme, lineare Regressionssysteme … was die Verwendung dieser Systeme, die heute wahrscheinlich keine künstliche Intelligenz sind, sehr viel komplexer macht, so dass es viele Aspekte der Diskussion gibt. Ich denke, es wird zwei oder drei Jahre dauern, bis diese Verordnung in allen Mitgliedsstaaten angewendet wird.

FRAGE (F. ANANASSO)

Ausgezeichnet, ausgezeichnet, und nicht zu vergessen das neu gegründete Institut für künstliche Intelligenz in Turin, das eine erste Finanzierung erhalten hat, oder irre ich mich? 

ANTWORT (E. GIRARDI)

Nein, nein, leider irren Sie sich. Es ist eigentlich ein bisschen anders gelaufen, in dem Sinne, dass es in Turin sein sollte, aber jetzt gibt es in der Realität ein bisschen Unsicherheit, da diese Entscheidung, die von der vorherigen Regierung getroffen wurde, nicht weiterverfolgt wurde und dann nach verschiedenen Diskussionen beschlossen wurde, ein Zentrum für Forschung und Entwicklung im Automobilbereich zu gründen, das in Turin angesiedelt sein wird und auch Technologien der künstlichen Intelligenz nutzen wird, mit einer Finanzierung von, wenn ich mich richtig erinnere, 20 Millionen Euro. Daher wurde das italienische Institut für künstliche Intelligenz vorerst auf Eis gelegt, was meiner Meinung nach sehr schade ist, denn das hätte Italien die Möglichkeit gegeben, an den verschiedenen internationalen Tischen teilzunehmen, sagen wir mit einem institutionellen Hut, denn heute ist Italien leider an vielen internationalen Tischen vertreten, aber nur durch Einzelpersonen, die sich auszeichnen, nicht auf institutioneller Ebene, also ist es, sagen wir, eine verpasste Gelegenheit. 

Hoffen wir, dass diese neue Task Force in der Lage sein wird, sie wieder vorzuschlagen.

FRAGE (F. ANANASSO)

Sagen wir, es ist ein halber Sieg, sehen wir es in einem positiven Licht. Und sehen Sie, wir haben gesehen, dass die Welt, Europa und Italien, jetzt, um zum Schluss zu kommen, einen großen Bedarf an Weiterbildung haben, offensichtlich, weil jeder über künstliche Intelligenz spricht, diese Sache, die nur wenige wirklich vollständig verstehen, wenn man sich nicht im Detail damit beschäftigt. Ich denke, wir sind uns einig, dass die Weiterbildung von entscheidender Bedeutung ist, um zu verstehen, was diese Technologien sind und wie man sie sicher einsetzt. Besteht sogar die Gefahr, dass ohne eine angemessene Fortbildung – ich spreche vom italienischen System, da wir uns an diesem Projekt zur Fortbildung von Erwachsenen im Bereich der künstlichen Intelligenz beteiligen – eine Art “digitale Kluft” im Bereich der künstlichen Intelligenz im Vergleich zu anderen Bereichen entstehen könnte? Wie sehen Sie das, was ist wichtig und was sind Ihrer Meinung nach die wichtigen Dinge, die getan werden sollten, um das Potenzial, die Vor- und Nachteile, die Risiken und was auch immer von künstlicher Intelligenz gut und besser zu lehren? 

ANTWORT (E. GIRARDI)

Meiner Meinung nach ist dies der Schlüsselaspekt und das Wichtigste. Denken Sie nur daran, dass wir eingangs von über 50 Ländern sprachen, die bereits ihre nationale Strategie für künstliche Intelligenz festgelegt haben. Denken Sie daran, dass es Länder wie Finnland gibt, die als oberste Priorität ihrer Strategie für künstliche Intelligenz die Schulung, die Bildung ihrer Bürger:innen in Bezug auf Technologien der künstlichen Intelligenz festgelegt haben, es ist also wirklich ein Schlüsselaspekt. Auch China investiert übrigens sehr viel in die Bildung und Weiterbildung seiner Bürger:innen, da sie erkannt haben, dass dies, sagen wir mal, der Schlüssel zur aktiven Teilnahme an der Gesellschaft der Zukunft ist. Meiner Meinung nach ist dies also der Schlüsselaspekt. Denn wenn wir zum Beispiel an uns als Arbeitnehmer:innen oder als Bürger:innen oder als Studierende denken, dann werden die Arbeitsplätze der Zukunft mit Sicherheit die Fähigkeit erfordern, Technologien der künstlichen Intelligenz zu nutzen, und daher ist dieser Aspekt von grundlegender Bedeutung, denn es ist notwendig, sich fortzubilden oder weiterzubilden, um, sagen wir, neue Berufsprofile zu erlernen oder sich umschulen zu lassen, um wirklich etwas über völlig neue Arbeitsplätze zu erfahren. 

Und das ist meiner Meinung nach ein Schlüsselaspekt, denn wenn wir an ein Unternehmen denken, das zu diesem Zeitpunkt vielleicht robotergestützte Automatisierungssysteme von Prozessen einführt und dann irgendwie Ressourcen freisetzt, weil es Aufgaben gab, die von Menschen ausgeführt wurden, die jetzt von automatisierten Systemen ausgeführt werden, dann sollte diese frei gewordene Zeit, diese frei gewordenen Ressourcen, meiner Meinung nach unbedingt in die Ausbildung von Mitarbeiter:innen reinvestiert werden. Dieser Aspekt ist auch aus wirtschaftlicher Sicht wichtig, denn er bedeutet auch eine Umverteilung der wirtschaftlichen Vorteile, die sich aus der Einführung von Automatisierungssystemen in den Unternehmen ergeben, und daher ist es auch eine Umverteilung, sagen wir, der positiven Auswirkungen auf die verschiedenen Beteiligten, d.h. Investitionen in die Ausbildung, die meiner Meinung nach ein Recht aller Arbeitnehmer:innen sein sollten. 

Der andere Aspekt ist, dass es wirklich wichtig ist, die, sagen wir, digitalen Fähigkeiten zu erlernen, nicht nur die grundlegenden, sondern auch die fortgeschrittenen, um zu wissen, was die Technologien der künstlichen Intelligenz sind und um sie für die eigene Arbeit nutzen zu können, denn alle Arbeitsplätze werden diese Technologien nutzen, egal wie. In dieser Hinsicht ist zum Beispiel ein Ansatz sehr interessant, der eher die Bildung betrifft, also die Schulen, ein sehr schönes Projekt, das am MIT in Boston entwickelt wurde, zusammen mit einem Projekt, das von Schwartzman finanziert wurde, einem privaten Beteiligungsfonds von Herrn Schwartzman selbst, der ein College namens Schwartzman College gegründet hat, das eine Art zweisprachige Schule ist. Das heißt, was auch immer man studieren will – Philosophie, Anthropologie, Medizin, Jura, … – man studiert es zusammen mit Computerwissenschaften und künstlicher Intelligenz, denn die Idee ist, dass jeder in der Zukunft eine solide Basis in Computerwissenschaften und die Fähigkeit, Technologien der künstlichen Intelligenz zu nutzen, braucht. Diese Fächer sollten auch als Pflichtfächer in unsere Schulen aufgenommen werden, und zwar von Kindesbeinen an, d. h. von der Grundschule an, Fächer, die theoretisch bereits vorhanden sind, aber in der Realität leider nicht eingehend unterrichtet werden. Das Wichtigste ist also vielleicht die Ausbildung von Ausbilder:innen, und deshalb ist das Projekt, das Sie durchführen, meiner Meinung nach auch sehr wichtig, denn es zielt zunächst darauf ab, Ausbilder:innen auszubilden, damit sie dann in der Lage sind, diese Themen in den Schulen zu unterrichten. Das ist sehr wichtig, denn wenn wir zum Beispiel an die Ärzt:innen denken, die jetzt in den Krankenhäusern arbeiten, sind sie wahrscheinlich nicht in der Lage, die neuen Systeme der künstlichen Intelligenz zu benutzen, und auch die Ärzt:innen, die jetzt an der Universität studieren, die diese Technologien nicht studieren, wenn sie in den Krankenhäusern arbeiten, werden sie nicht in der Lage sein, sie zu benutzen, und wir haben gesehen, wie nützlich diese Technologien während der Pandemie Covid-19 waren, wenn wir sie also wirklich darin ausbilden könnten, diese Technologien zu benutzen, könnte das wirklich ein sehr nützliches Werkzeug für ihre Arbeit sein. 

Und dann gibt es noch den anderen Aspekt zu bedenken, dass die Arbeitsplätze der Zukunft anders sein werden als heute, d. h. der:die Arzt:in von heute wird ein ganz anderer sein als der:die Arzt:in von morgen. Daher müssen sie auch ihre Herangehensweise ändern, um zu lernen, wie man diese Technologien nutzt, und um eine Mentalität zu haben, die flüssiger und offener ist, um auch neue Aufgaben zu bewältigen, die es heute wahrscheinlich noch gar nicht gibt und die sich inhaltlich stark verändern werden.

Q1. Herr Prof. Del Frate, lassen Sie uns mit den Grundlagen beginnen. Was ist Künstliche Intelligenz?

Nun, um kurz zu erklären, was KI ist, zitiere ich gerne einen der Väter der KI, Prof. Nils John Nilsson. Für ihn ist “Künstliche Intelligenz die Tätigkeit, die darauf abzielt, Maschinen intelligent zu machen, und Intelligenz ist die Eigenschaft, die ein Wesen befähigt, in seiner Umgebung angemessen und vorausschauend zu handeln.” 

Wir können also sagen, dass wir den Maschinen und Computern mehr Freiräume geben. Wir fordern sie auf, ihre eigenen Entscheidungen zu treffen, um über das hinauszugehen, was bei der traditionellen Computerprogrammierung geschieht, nämlich im Wesentlichen eine Abfolge von Befehlszeilen auszuführen, auch wenn diese lang und komplex ist. 

Wie setzen wir das um? Es besteht im Wesentlichen darin, die Maschinen mit Daten zu füttern und sie in die Lage zu versetzen, nach Beziehungen zwischen diesen Daten zu suchen, selbst wenn diese sehr subtil sind. Mit diesen beiden Elementen – Daten und Interpretationsmodellen – entwickelt und baut die KI ihr eigenes Wissen, ihre eigene Erfahrung auf.

Ich denke, dass in diesem Zusammenhang auch eine historische Perspektive interessant sein könnte, so dass wir fragen könnten, wann die ersten Algorithmen für künstliche Intelligenz und maschinelles Lernen vorgeschlagen wurden. Es mag verschiedene Antworten geben, aber meiner Meinung nach sollten wir, um die Wurzeln der künstlichen Intelligenz zu finden, bis ins Jahr 1943 zurückgehen, als das erste mathematische Modell neuronaler Netze in der wissenschaftlichen Arbeit “A logical calculus of the ideas immanent in nervous activity” von Walter Pitts und Warren McCulloch vorgestellt wurde. In diesem Aufsatz wird zum ersten Mal ein einzelnes Neuron als elementare nichtlineare Verarbeitungseinheit dargestellt und es wird angenommen, dass es mit anderen Neuronen verbunden ist. Mit anderen Worten: eine erste grobe, aber effektive mathematische Darstellung des Gehirns.

Nun stellt sich die Frage: Ist das alles gefährlich? Ich denke, die Antwort lautet: “Ja, das könnte es sein”, aber genauso, wie es jedes Mal der Fall ist oder war, wenn wir von einer neuen Technologie fasziniert sind und sie wachsen lassen wollen. Die Entwicklung einer “sicheren” KI ist ein Thema, mit dem sich Wissenschaftler:innen und Forscher:innen intensiv beschäftigen. Der wichtigste Punkt ist, dass der Mensch immer als Aufsichtsperson fungieren sollte. Die Regeln, die Leitlinien, aber vor allem die Daten, auf denen die Maschine, wie wir bereits sagten, ihr Wissen aufbaut und auf die sie sich bei ihren Entscheidungen stützt, werden von menschlichen Experten:innen bereitgestellt, so dass die Maschine zwar mit einem gewissen Grad an Autonomie handelt, aber innerhalb eines genau festgelegten Spielfelds, dessen Grenzen von Menschen festgelegt werden.

Q3. KI und ML werden oft mit Begriffen wie “Deep Learning” in Verbindung gebracht. Was ist Deep Learning?

Nun, wir können sagen, dass das Wort “deep” in “deep learning” zwei verschiedene Bedeutungen hat, obwohl sie sehr stark miteinander verbunden sind. Die eine hat mit der hierarchischen Darstellung des Szenarios zu tun, an dem wir interessiert sind.  Handelt es sich bei dem Szenario beispielsweise um Objekterkennung, so hat tiefes Lernen mit den verschiedenen Stufen des Erkennungsprozesses des Objekts zu tun: als Tier, als Hund, als Dalmatinerhund.

Diese verschiedenen Stufen der Repräsentation korrespondieren mit den verschiedenen Schichten des mathematischen Modells, das wir zur Repräsentation verwenden wollen, d. h. vereinfacht gesagt, eine Schicht des mathematischen Modells konzentriert sich auf das Tier, eine Schicht auf den Hund, eine Schicht auf die Art des Hundes.  Genau das geschieht bei einem tiefen neuronalen Netz. Neuronale Netze sind die am häufigsten verwendeten Modelle für tiefes Lernen. Hier haben wir also die zweite Bedeutung, die eine topologische Bedeutung ist und sich auf die Anzahl der Schichten der Struktur bezieht. Wir haben also tiefe neuronale Netze, wie z. B. Convolutional Neural Networks, die viele Verarbeitungsschichten umfassen, und flache neuronale Netze, wie z. B. herkömmliche Multi-Layer Perceptrons, die neuronale Netze mit einer begrenzten Anzahl von Schichten sind. Um auf das zurückzukommen, was wir über die Komplexität der Modelle gesagt haben: Deep-Learning-Strukturen sind zweifellos sehr komplex, was einen hohen Rechenaufwand und die Verfügbarkeit großer Mengen von Lerndaten erfordert. Der Bedarf an einer sehr großen Anzahl von Daten hat die Entwicklung neuer Techniken zur so genannten “Datenerweiterung” angeregt, die darin besteht, die Anzahl der Daten ausgehend von einem begrenzten Datensatz zu erhöhen.

Q5. Was ist unüberwachtes Lernen? Können Sie einige Beispiele für Anwendungen nennen, die es verwenden?

Der Hauptzweck des unüberwachten Lernens besteht darin, Korrelationen zwischen Daten zu finden, um sie in ähnliche Kategorien umzugruppieren. Beim unüberwachten Lernen brauchen wir keine externen Markierungsvorgänge oder eine:n Lehrer:in, der:die Zielwerte vorgibt. Das gesamte Training des mathematischen Modells basiert nur auf den vorhandenen Originaldaten, so dass der Prozess in diesem Fall im Vergleich zum überwachten Lernen durch einen höheren Automatisierungsgrad gekennzeichnet ist. Man kann sagen, dass das Modell am Ende des Trainings eine interne Repräsentation der Daten erstellt, die sie verständlicher und leichter zu interpretieren macht. Wie bei den anderen Lernparadigmen kann auch das unüberwachte Lernen mit Hilfe verschiedener mathematischer Modelle umgesetzt werden. Auch in diesem Fall müssen wir immer die Komplexität des Modells im Auge behalten, die die Komplexität der angestrebten internen Repräsentation widerspiegeln sollte. In der EO und in anderen Bereichen kann unüberwachtes Lernen zur Verringerung der Dimensionalität eingesetzt werden. Betrachtet man eine hyperspektrale Messung, so kann die gesammelte Information über Hunderte von Wellenlängen verteilt sein. In vielen Fällen wäre es wünschenswert, solche Informationen oder die wichtigsten davon in einer geringeren Anzahl von Komponenten zu komprimieren. Dies kann mit unüberwachten Lerntechniken erreicht werden.

Beginnen wir also mit meiner ersten Frage: Was ist künstliche Intelligenz und was hat sie mit der Gesellschaft zu tun? 

Normalerweise wird künstliche Intelligenz als eine Technik beschrieben, die es einem Computersystem ermöglicht, jede Art von Intelligenz zu imitieren. Das klingt vielleicht etwas technisch, aber im Grunde bedeutet es, dass eine Maschine in der Lage ist, ein bestimmtes Problem zu lösen. Manche bezeichnen künstliche Intelligenz also als einen technischen Ansatz, andere definieren sie als eine Kombination aus Software, Hardware und Daten. In jedem Fall aber ist künstliche Intelligenz ein Kompromiss aus verschiedenen Werkzeugen und Methoden. Aus diesem Grund ist es auch sehr schwer, die künstliche Intelligenz zu identifizieren. Im Moment haben wir also diese allgemein akzeptierten Definitionen, weil wir, offen gesagt, noch nicht einmal wissen, was menschliche Intelligenz eigentlich ist und wie man sie richtig definiert. Sie können sich also vorstellen, dass wir dieses Problem auch bei der künstlichen Intelligenz haben. Aber um direkt zu unserer Erfahrung mit den Anwendungen der künstlichen Intelligenz im Alltag zu kommen, können wir schon heute sehen, dass es viele verschiedene Anwendungen gibt, die eine große Unterstützung bieten und auch helfen, unser Leben einfacher zu machen. Die typischsten Beispiele für den Einsatz von künstlicher Intelligenz in der Gesellschaft sind zum Beispiel die Spracherkennung. Viele von Ihnen sind wahrscheinlich mit der Siri von Apple oder Alexa von Amazon vertraut, die intelligente Systeme beinhalten und eigentlich Systeme der künstlichen Intelligenz sind, um Spracheingaben zu erkennen und basierend auf diesen Spracheingaben liefern diese Systeme dann verschiedene Dienste oder Kommentare, um verschiedene Aufgaben auszuführen. Das nächste Beispiel für den Einsatz von künstlicher Intelligenz in der Gesellschaft, das heute sehr verbreitet ist, ist die Personalisierung. Wenn wir beispielsweise soziale Online-Plattformen oder Online-Dienste wie Netflix oder Amazon durchsuchen, verwenden diese Webdienste im Hintergrund Systeme der künstlichen Intelligenz, die den Inhalt personalisieren und diesen Inhalt entsprechend unseren Surfgewohnheiten oder Bedürfnissen präsentieren. Wenn wir zum Beispiel nach einem bestimmten Inhalt oder Produkt suchen, dann geben sie uns auf der Grundlage unseres Verlaufs oder unseres Suchverhaltens in diesen Anwendungen die passenden Inhalte, die am ehesten unseren Interessen entsprechen, und sie werden uns empfohlen. Ein drittes Beispiel für den Einsatz künstlicher Intelligenz im Alltag, das für mich ebenfalls sehr nützlich ist, ist das Filtern von E-Mails. Wir alle wissen, dass viele Spam-E-Mails in unserem Hauptpostfach landen, und wir können Programme mit künstlicher Intelligenz verwenden, die zwischen echten E-Mails und relevanten E-Mails und Spam-E-Mails in unseren E-Mail-Ordnern unterscheiden können. Eine weitere Anwendung der künstlichen Intelligenz, die heute häufig eingesetzt wird, ist das Gesundheitswesen, zum Beispiel die klinische Diagnostik. In der Medizin wird künstliche Intelligenz mehr und mehr eingesetzt, um die Arbeit der Ärzt:innen bei der Diagnose zu unterstützen. In diesen Fällen sprechen wir jedoch von einer eng gefassten künstlichen Intelligenz, da diese in der Lage ist, sehr gut definierte und irgendwie eingegrenzte Probleme, praktische Probleme, zu lösen. Aber wenn wir von künstlicher Intelligenz sprechen, können wir auch von einer allgemeinen künstlichen Intelligenz sprechen, die sich auf ein System bezieht, das in der Lage ist, alle intelligenten Aufgaben auszuführen, die auch ein Mensch ausführen kann. Natürlich ist dies noch keine Realität. Es gibt einige Vorhersagen für die Zukunft, die besagen, dass künstliche Intelligenz vielleicht auch in der Lage sein wird, komplexere und größere Aufgaben zu lösen, die im Moment nur mit der menschlichen Art der Intelligenz verbunden sind. Zum Abschluss dieser ersten Einführung über die künstliche Intelligenz in der Gesellschaft können wir feststellen, dass es viele Anwendungen der künstlichen Intelligenz gibt. Einige von ihnen sind unglaublich positiv, haben Auswirkungen auf die Gesellschaft und den Einzelnen und bringen auch große Chancen mit sich. Wir müssen uns aber auch bewusst sein, dass künstliche Intelligenz auch diskriminieren und bestimmte Gruppen von Menschen benachteiligen kann. Aus diesem Grund ist es sehr wichtig, dass wir die Beziehung zwischen der künstlichen Intelligenz und der Gesellschaft verstehen, insbesondere im Hinblick auf Verantwortlichkeit, einseitige Transparenz, Datenqualität und andere ethische Probleme, die sich aus dem Einsatz künstlicher Intelligenz ergeben.

Wie kann man nun diese Voreingenommenheit, diese ethischen Fragen im Zusammenhang mit maschinellem Lernen und künstlicher Intelligenz auf internationaler Ebene, aber auch auf der Ebene der einzelnen Länder, der Nationalstaaten, vermeiden oder angehen? 

Es gibt eine große Debatte darüber, wie ein System geschaffen werden kann, das die Nutzung der künstlichen Intelligenz in der Gesellschaft regelt und natürlich auch die Auswirkungen, die diese Technologie auf die Gesellschaft hat. Die wichtigste Frage dabei ist: Wer ist verantwortlich, wenn etwas mit der künstlichen Intelligenz passiert? Etwas geht schief, wenn es Fehler gibt. Wer ist also verantwortlich, rechenschaftspflichtig für die Ergebnisse des Einsatzes von künstlicher Intelligenz, wie geht man damit um, wenn es zu einem Unfall kommt, wenn es eine falsche Diagnose gibt oder wenn jemand aufgrund der künstlichen Intelligenz ausgeschlossen wird. Die UNESCO, die Agentur der Vereinten Nationen, arbeitet sehr aktiv an politischen Vorschlägen, wie die Verwaltung der künstlichen Intelligenz gestaltet werden kann. Sie hat eine Reihe von politischen Vorschlägen vorgelegt, die sich mit verschiedenen Aspekten der Steuerung von künstlichen Agenten befassen. Ich werde nun kurz die Aspekte vorstellen, die ich für sehr wichtig halte und die auch als Leitlinien für das Verständnis dessen dienen können, was wir als Gesellschaft und als Individuen beachten müssen, wenn wir über die Auswirkungen der künstlichen Intelligenz auf die Gesellschaft nachdenken. Zunächst einmal ist der erste wichtige Aspekt, dass die künstliche Intelligenz die Vielfalt und die Integration fördert. Das bedeutet, dass die künstliche Intelligenz im Hinblick auf die Bekämpfung von kulturellen und sozialen Stereotypen und Ungleichheiten funktionieren muss. Das ist wichtig für diese Verzerrungen, wenn maschinelle Lernmuster, wenn sie auf schlechten Daten basieren, oft diskriminieren und auch widersprüchliche Stereotypen verstärken können. Dies ist zum Beispiel bei künstlichen Gesichtserkennungssystemen der Fall, bei denen bereits wissenschaftlich bewiesen wurde, dass sie farbigen Gesichtern gegenüber eher voreingenommen sind als gegenüber weißen Gesichtern. Der zweite wichtige Aspekt sind die Auswirkungen der künstlichen Intelligenz auf die Wirtschaft, auf die Arbeitswelt. Es gibt unterschiedliche Auffassungen darüber, wie die Anwendungen der künstlichen Intelligenz zum Verlust bestimmter Arbeitsplätze beitragen werden. Es wird viele Arbeitsplätze geben, die nicht mehr benötigt werden, und das wird Auswirkungen auf die verschiedenen Arbeitsgruppen haben. Und künstliche Intelligenz, vor allem in der Hochleistungswirtschaft, sollte Maßnahmen zur Höherqualifizierung und Umschulung berücksichtigen, die es den Arbeitnehmer:innen oder Angestellten, die von der künstlichen Intelligenz negativ betroffen sein werden, ermöglichen, weiterhin Teil des Arbeitsmarktes zu bleiben. Der dritte wichtige Punkt ist der Umgang mit den sozialen und wirtschaftlichen Auswirkungen der KI. Das bedeutet, dass künstliche Intelligenz keine Monopole in Bezug auf Forschung, Wissen, Daten oder den Markt schaffen sollte, dass nicht einige bestimmte Interessengruppen oder Länder oder Regionen von dieser Technologie profitieren werden, sondern die Menschheit als Ganzes. Eine logische Schlussfolgerung ist auch die Auswirkung auf die Kultur und auf die Umwelt. Das bedeutet, dass die künstliche Intelligenz keine negativen Auswirkungen auf die Kultur, die Vielfalt, das kulturelle Erbe und auch auf die Umwelt hat. Und dann gibt es eine Reihe von vier oder fünf Ansichten, die sich alle mit der Ethik der künstlichen Intelligenz befassen. Die Ethik der künstlichen Intelligenz ist sehr wichtig, um einen wertebasierten Hintergrund zu schaffen, vor dem wir die künstliche Intelligenz entwickeln. Und es gibt jene Aspekte der Ethik, die sich auf die Bildung und das Bewusstsein beziehen, was bedeutet, dass künstliche Intelligenz in Schulen und Universitäten gelehrt werden sollte, damit die Studierenden und Schüler:innen mit der Technologie der künstlichen Intelligenz vertraut werden können. Und was ist die Beziehung zwischen dem technologischen und dem sozialen Bereich? Sehr wichtig ist auch der Blick auf die Ethik der Forschung im Bereich der künstlichen Intelligenz, d.h. dass es Forschung gibt, insbesondere im privaten Sektor, die mit privaten Geldern finanziert wird und die soziale Verantwortung berücksichtigt. Auch der Nutzen der Forschung für die Menschheit, nicht nur das Markt- und Profitinteresse, ist ein wichtiger Aspekt der ethischen Nutzung der KI. Die künstliche Entwicklung sollte sich bemühen, Plattformen zu schaffen, die eine internationale Zusammenarbeit bei der KI-Entwicklung ermöglichen. Das bedeutet, dass die KI-Entwicklung nicht nur für die reichen Länder bestimmt ist, sondern dass diese Entwicklungen auch in den ärmeren, nicht so reichen Ländern angewendet werden. Für diesen sehr bedeutsamen Aspekt ist es wichtig, dass wir eine Art internationale Zusammenarbeit im Bereich der Ethik der künstlichen Intelligenz schaffen. Ein sehr gutes Beispiel dafür ist das UNESCO-Forum, auf dem verschiedene Länder mit unterschiedlichen Interessenvertreter:innen über die Zukunft der künstlichen Intelligenz diskutieren und darüber, wie man sie in Bezug auf Ethik und Wert für die Entwicklung der Gesellschaft steuern kann. In diesem Zusammenhang ist es sehr wichtig, dass es auch eine Art Regierungsmechanismus gibt, der die Entwicklung der künstlichen Intelligenz auf globaler Ebene im Hinblick auf Einbeziehung, Transparenz, Kontrolle und Ausgleich überwacht. Das ist sehr wichtig und auch die multilaterale Zusammenarbeit. Diese staatlichen Mechanismen beziehen sich auf das digitale Ökosystem für die künstliche Intelligenz, das Infrastruktur, digitale Technologien, Möglichkeiten des Wissensaustauschs und vor allem die Zusammenarbeit mit verschiedenen Interessengruppen umfasst, damit diese eine Stimme haben und ihre Überlegungen und Bedenken zur Entwicklung der künstlichen Intelligenz für die Zukunft mitteilen können.

Was ist maschinelles Lernen und wie funktioniert es? 

Maschinelles Lernen ist ganz einfach gesagt ein geschriebener Algorithmus, der eine riesige Menge von Daten verarbeiten kann. Wir müssen den Zugriff auf die Daten ermöglichen, dann gibt es verschiedene Möglichkeiten, das Material aus diesem Eintrag in der Datenbank zu extrahieren. Das Material wird später in mehr oder weniger aussagekräftige Sätze umgewandelt oder, wenn man mit Bildern arbeitet, in mehr oder weniger aussagekräftige Erkenntnisse, die ein Ergebnis des maschinellen Lernens sind. Das maschinelle Lernen wird liebevoll als künstliche Intelligenz bezeichnet, denn es geht nicht wirklich um irgendeine Intelligenz, sondern darum, dass die Maschinen wirklich leistungsfähig sind, und ihre Leistung fasziniert uns genauso wie die Leistung hochintelligenter Menschen, die in der Lage sind, große Datenmengen schnell zu verarbeiten und dann zu kommunizieren. Ich könnte hier verschiedene Arten des maschinellen Lernens aufzählen, aber wenn man bedenkt, dass es sich in einem großen Aufschwung befindet, werden auch viele neue Konzepte entwickelt, so dass es meiner Meinung nach keinen besonderen Sinn macht, die Formen des maschinellen Lernens aufzulisten.

Können Sie einige konkrete Beispiele für maschinelles Lernen nennen, damit man sich das besser vorstellen kann? 

Damit sich die Menschen leichter vorstellen können, womit wir es zu tun haben, haben wir zum Beispiel eine Form des maschinellen Lernens verwendet, die auf dem Algorithmus GPT-2 basiert. Es handelt sich um eine offene KI der zweiten Generation, die wir in die Gestaltung unseres Newsletters einbezogen haben. Er wird in unserem Institut einmal im Monat veröffentlicht, weil wir eine große Vielfalt an Aktivitäten haben. Wir veröffentlichen, was wir in diesem Monat tun werden, z. B. eine Ausstellung, Workshops, Aufführungen, wo wir Gastgeber sind, und wir veröffentlichen auch ähnliche Veranstaltungen unserer Partner in der ganzen Welt. Kurz gesagt, es gibt ziemlich viele Daten, und am Anfang dieses Newsletters habe ich eine Einleitung geschrieben, die den:die Empfänger:in motivieren sollte, unseren recht langen Newsletter durchzulesen. Ich war mit diesen Einleitungen ständig im Verzug und unsere PR-Abteilung erinnerte mich ständig daran. Gemeinsam kamen wir auf die Idee, dass ein Algorithmus die Einleitung schreibt. Jetzt werden alle veröffentlichten Texte durch den Algorithmus gejagt, der sie später in einen kurzen Text verwandelt. Es entsteht eine kurze Metapher für das, was in den Algorithmus eingegeben wurde. Die Datenbank ist ziemlich klein, da die Grundlage unser Newsletter ist, aber es gelingt ihm, die Texte mehr oder weniger passend zusammenzufassen. Einige Wörter werden auf seltsame Weise verwendet, vor allem, weil der Algorithmus für die englische und nicht die slowenische Sprache gedacht ist. Dann durchsucht er das Internet in allen slawischen Sprachen nach sprachlichen und buchstabenbezogenen Besonderheiten. Die Texte werden normalerweise aus Polnisch, Tschechisch und Russisch gebildet. Jedes Mal, wenn Sie auf die Schaltfläche “Senden” klicken, erscheint der zweite Vorschlag. Es bedarf ein wenig Anstrengung und des Drückens der Eingabetaste. Später kommen die menschliche Intelligenz und das Urteilsvermögen zum Tragen. Die Person, die den Newsletter erstellt, wählt selbst die passende Einleitung des Newsletters aus. Das ist jetzt effizienter. Wir haben eine Funktion an den Algorithmus delegiert. In der Regel werden witzigere Einleitungen gewählt, womit wir auf die Möglichkeiten dieses maschinellen Lernens hinweisen. Die Empfänger:innen unseres Newsletters können einen kleinen Eindruck davon bekommen, was es bedeutet, eine Einleitung mit Hilfe eines Algorithmus zu erstellen.

Was sind die Gefahren und Herausforderungen bei der Arbeit mit KI?

Die Herausforderungen sind dieselben wie bei jeder Technologie, die wir in unserem Leben verwenden. Ein Nutzer ohne Wissen und Sensibilität riskiert, dass die Maschine ihn benutzt und nicht umgekehrt. Wir sehen dies bereits in sehr einfachen Verbrauchersituationen. Unsere Telefone haben einen großen Teil unserer Aufmerksamkeit in Anspruch genommen. Wir sehen, dass die Technologie in unser Intimleben eindringt, aber auch die Gesellschaft beeinflusst. Manchmal, zum Beispiel zu Beginn der Mobiltelefonie, war es für die wenigen, die Telefone hatten, einfacher und sie hatten einen gewissen Vorteil bei der Organisation der Arbeit. Heute ist es so, dass es schon ein Nachteil ist, wenn man kein Handy hat und nicht immer erreichbar ist, und es ist schon ein gewisser psychologischer Druck auf die Menschen. Man muss wissen, wie und wann man sich ausklinken kann, und auch sein Recht auf Privatsphäre schützen. Hier sehe ich die Notwendigkeit, dass die Menschen ihre digitale Kompetenz und ihre Computerkompetenz entwickeln. So wie jeder Mensch eine gewisse finanzielle Kompetenz entwickelt, z. B. wenn er in den Laden geht, weiß er, dass er nicht tausend Euro für das Brot bezahlen wird. In ähnlicher Weise müssen wir eine digitale Kompetenz und Computerkompetenz entwickeln.

Was ist maschinelles Lernen und wie funktioniert es? 

Maschinelles Lernen ist also im Wesentlichen ein Weg, Automatisierungslösungen zu finden, datengesteuerte Automatisierungslösungen, wenn dieses Automatisierungsziel nicht explizit erreicht werden kann, z. B. durch die Verwendung oder Programmierung von Algorithmen. Die Idee hinter dem maschinellen Lernen ist, Daten zu verwenden, die das Problem darstellen oder beschreiben, und dann Algorithmen des maschinellen Lernens zu verwenden, um eine Lösung für diese Probleme zu finden. Dieser Ansatz wird als datengesteuert bezeichnet. 

Und können Sie uns sagen, wie maschinelles Lernen mit künstlicher Intelligenz und Big Data zusammenhängt? 

Ja, natürlich. Künstliche Intelligenz ist zunächst einmal mehr oder weniger nur ein Marketingbegriff, der maschinelles Lernen beschreibt. Oder man könnte auch sagen, dass künstliche Intelligenz ein aktuelles Teilgebiet des maschinellen Lernens ist. Um das zu verstehen, muss man wissen, dass alles, was im Bereich der künstlichen Intelligenz passiert, mit maschinellem Lernen arbeitet. Und was die Sache mit dem Marketingbegriff angeht, so ist es so, dass der Begriff künstliche Intelligenz Anfang der 2000er Jahre mit dem Aufkommen des Deep-Learning-Hypes wieder aufgetaucht ist. Zu dieser Zeit war das Aufkommen von Deep-Learning bei einem Höhepunkt, zum ersten Mal geprägt wurde der Begriff tatsächlich in den 1960er oder 50er Jahren mit der Entstehung des ersten maschinellen Lernens. Big Data beschreibt den Ansatz, den eine große Menge von Daten zu sammeln und zu organisieren. Richtig? Und um maschinelles Lernen effizient durchführen zu können, brauchen Sie Daten, die Ihr Problem ausreichend und repräsentativ beschreiben. Wenn Sie jedoch viele Daten haben, bedeutet das nicht, dass Ihre Daten gut sind, also dass sie ein Problem beschreiben. Sie könnten auch einige verwirrende Merkmale einführen, d. h. Informationen, die mit den beabsichtigten Zielen übereinstimmen, aber dazu führen, dass Ihr Modell am Ende ein anderes Ziel hat, weil es nicht herausfinden kann, was Sie mit den Daten genau wollen. Richtig? Ich glaube, das ist ein bisschen kompliziert zu beschreiben. Das Problem ist, dass Sie maschinelles Lernen einsetzen, um ein Problem zu lösen, das Sie nur anhand von Daten beschreiben können, und wenn Ihre Daten nicht die gewünschte Lösung beschreiben, wird der Algorithmus für maschinelles Lernen wahrscheinlich nicht die gewünschte Lösung finden, sondern eine andere Lösung, die ebenfalls funktioniert. Aber das könnte hilfreich sein.

Ich danke Ihnen vielmals. Was sind die wichtigsten KI-Technologien und die wichtigsten KI-Anwendungen bis heute? 

KI wird bereits in unserem täglichen Leben eingesetzt. Denken Sie nur an Suchmaschinen, Google oder die Computer Vision, die zur Erkennung von Objekten eingesetzt wird, oder an die Code-Balken auf Ihrem Handy oder die Spracherkennung, also alles, was mit komplexen Problemen zu tun hat, die ein gewisses Maß an Intelligenz erfordern, um gelöst zu werden. 

Und was ist mit Objekterkennung und Stimmerkennung? Kann man Gesichts- und Spracherkennung damit in Verbindung bringen? 

Ja. Alles, was mit der Erkennung von Objekten auf Bildern oder in Videostreams zu tun hat, gehört zu diesem großen Bereich, der Computer Vision genannt wird. Und man kann Objekte erkennen, wobei man die Objekte, die man erkennen will, in gewisser Weise definiert. Zum Beispiel möchte man Sofas oder verschiedene Arten von Möbeln oder Legos oder was auch immer erkennen, dann muss man die Kategorien definieren, die man erkennen möchte. Normalerweise trainiert ein System ein Modell, um diese Arten von Objekten zu erkennen. Bei der Gesichtserkennung ist es das Gleiche, nur dass man hier nicht mit physischen Objekten, sondern mit menschlichen Gesichtern arbeitet. Und auch hier braucht man ein System, das ein Modell trainiert, das verschiedene Arten von Personen anhand ihres Gesichts erkennt. Und bei der Spracherkennung ist es im Grunde dasselbe, außer dass es sich natürlich nicht um eine visuelle Eingabe handelt, sondern um eine Audioeingabe. Aber die Idee ist dieselbe: Man erkennt einige Muster in den Audiodaten, die verschiedene Arten von Klängen definieren, und wenn man die Klänge zusammensetzt, ergeben sie Wörter, sie ergeben Sätze, und dann kann man erkennen, was gesagt wird, und es transkribieren. 

Können Sie uns sagen, welche Trends sich heute abzeichnen? 

Die künstliche Intelligenz ist bereits ein großer Bereich, der ziemlich schnell wächst. Aber einer der größten Trends entsteht natürlich dank der breiten Verfügbarkeit großer Mengen von Trainingsdaten. Einer der wichtigsten Trends besteht darin, die Technologie so zu erweitern, dass sie wirklich große Datenmengen verarbeiten kann, im Grunde alles, was man im Internet finden kann. Das gilt sowohl für die Sprachtechnologie als auch für Text und Computer Vision, denn im Internet gibt es Milliarden von Bildern. Die Skalierung der Technologie ist also ein wichtiger Trend. Andererseits ist ein wichtiger Trend, den ich sehr interessant finde, die Tatsache, dass sich immer mehr Forscher:innen mit den ethischen Fragen hinter der Technologie befassen. Zum Teil, weil wir zum Beispiel alles, was wir im Internet finden, verwenden, ohne menschliche Personen, deren Bilder gezeigt werden, um ihre Zustimmung zu ihrer Verwendung für diese großen Systeme zu bitten, aber auch, weil wir erkennen, dass KI wirklich einen Einfluss auf unser tägliches Leben hat. Und dann sollten wir darüber nachdenken, ob KI zum Beispiel voreingenommen sein oder Stereotypen ausdrücken oder hasserfüllt werden kann, manchmal sogar, weil sie mit Daten trainiert wurde, die überall im Web zu finden sind. Und wir wissen, dass das Web manchmal ein seltsamer Ort ist. Wir sollten also darüber nachdenken, wie KI funktioniert, was lernt das Modell, wenn es das Web nach Daten durchsucht, und wie können wir sicherstellen, dass es unsere Erwartungen erfüllt? Und natürlich die Vorschriften zur Nicht-Diskriminierung. Zum Beispiel.

Und was ist der Unterschied zwischen maschinellem Lernen und Deep Learning? 

Deep Learning ist eine besondere Art von Technologie für maschinelles Lernen. Es ist nicht die einzige, aber sie ist für einige Arten von Problemen sehr beliebt geworden. Beim Deep Learning geht es darum, so genannte neuronale Netze mit vielen Schichten der Verarbeitung lernen zu lassen. Man hat also ein recht komplexes mathematisches Modell, das aus kleinen Rechenknoten besteht, die Informationen empfangen und dann an andere Neuronen oder andere Rechenknoten weiterleiten, die bestimmte mathematische Eigenschaften haben. Und obwohl diese kleinen Knoten für sich genommen recht einfach sind, kann die Tatsache, dass man sie miteinander kombiniert und zu großen Netzen mit Millionen solcher Knoten verbindet, ähnlich wie in unserem Gehirn, wo die Neuronen miteinander verbunden sind, dazu führen, dass Systeme lernen, komplizierte Aufgaben auszuführen. Zum Beispiel tiefe neuronale Netze. Und Deep Learning wird für die maschinelle Übersetzung eingesetzt. Wir wissen, dass die automatische Übersetzung, wie bei Google Translate, eine komplizierte Aufgabe ist: Man muss den Kontext des Satzes verstehen. Man muss die linguistischen Eigenschaften sowohl der Eingabesprache als auch der Zielsprache verstehen. Man muss verstehen, wie Wörter miteinander kombiniert werden, so dass zwei Wörter zusammengesetzt eine Konstruktion ergeben, die unterschiedlich übersetzt wird. Es handelt sich also um wirklich komplexe Aufgaben, und wir wissen, dass Latif bis 2010 mit Hilfe des traditionellen maschinellen Lernens Ergebnisse erzielt hat, die in den meisten Fällen in Ordnung waren, aber schwerwiegende Fehlern und Problemen hatten beispielsweise beim Verstehen von Kontextfaktoren, während Deep-Learning-Netzwerke nachweislich bessere Übersetzungen von hoher Qualität liefern konnten. Dennoch ist das Problem noch lange nicht gelöst und es gibt noch viele Probleme mit der maschinellen Übersetzung, aber es hat sich gezeigt, dass sie besser verstehen, wie man übersetzt. 

Und was ist der Unterschied zwischen maschinellem Lernen, Deep Learning und herkömmlicher Programmierung? 

Maschinelles Lernen ist ein Oberbegriff für alles, was im Bereich der künstlichen Intelligenz anhand von Daten trainiert wird. Es ist also ein ziemlich großer Bereich. Es umfasst Deep Learning, aber auch andere Techniken, von denen einige bis in die siebziger Jahre zurückreichen. Deep Learning ist zwar eine spezielle Technologie, die auf neuronalen Netzen basiert und in vielen Fällen funktioniert, aber es gibt auch viele andere Techniken, die gut funktionieren und andere interessante Eigenschaften haben. Vielleicht kann ich sagen, worin einer der Hauptmängel von neuronalen Netzen besteht. Zunächst einmal sind große Datenmengen erforderlich, und für einige Probleme stehen große Datenmengen zur Verfügung, was aber bei weitem nicht für alle Probleme gilt, wenn man sie übersetzt. Bei der maschinellen Übersetzung einer Sprache zum Beispiel, für die man nicht viele Ressourcen hat, wird es schwierig sein, Deep Learning einzusetzen. Ein weiteres Problem ist, dass es sich um komplette Black Boxen handelt. Das heißt, man versteht nicht, was das System gelernt hat, und manchmal ist das auch in Ordnung. Man muss nicht immer alles verstehen. Aber nehmen wir an, Sie entwickeln ein System, das entscheidet, ob Sie einer Person einen Kredit geben sollen. Und Sie haben ein System, das möglicherweise auf dem Gehalt der Person basiert und darauf, wo sie wohnt und ob sie verheiratet ist oder nicht, und so weiter und so fort. Verschiedene demografische Faktoren. Und Sie haben ein System, das eine gute Vorhersage darüber treffen kann, ob eine Person Anspruch hat. Aber es ist nicht in der Lage, die Logik für diese Entscheidung zu erklären. Das wird sehr problematisch sein, denn man braucht ein System, das nicht nur eine Antwort gibt, sondern auch erklärt, warum es zu dieser bestimmten Antwort gekommen ist. Das ist also ein wichtiges Manko neuronaler Netze. Aus diesem Grund haben maschinelle Lernsysteme manchmal eine etwas geringere Leistung, sind aber in der Lage, die Schritte, also die Verarbeitungsschritte hinter ihrer Entscheidung zu erklären. Es gibt also keine einheitliche Methode zur Bewertung dieser Modelle. Es gibt verschiedene Arten von Vor- und Nachteilen hinter verschiedenen Arten von Technologien. Ja, und die traditionelle Programmierung ist einfach das, was man macht, wenn man das Modell nicht lernen lässt, wo man einfach alle Regeln im Voraus programmiert.

Nun werden wir uns der Interaktion zwischen Mensch und Maschine zuwenden. Was sind Ihrer Meinung nach die Ziele der Interaktion zwischen Mensch und Maschine? 

Das Ziel der Mensch-Maschine-Interaktion besteht einfach darin, gute Schnittstellen zwischen einem Menschen, der eine bestimmte Aufgabe erfüllen möchte, und einer Maschine, die diese Aufgabe unterstützt, zu schaffen. Und eine grafische Benutzeroberfläche ist ein sehr einfaches Beispiel dafür. Aber natürlich gehört alles, was mit Interaktion, mit Technologie zu tun hat, dazu. Ich habe zum Beispiel an sprechenden Robotern gearbeitet und das ist eine andere Art von Interaktion, die sich von einem Fenster auf dem Bildschirm unterscheidet, aber es ist auch eine Schnittstelle in dem Sinne, dass man in diesem Fall gesprochene Sprache verwendet, um Anweisungen zu geben und Rückmeldungen darüber zu erhalten, was bei der Ausführung der Aufgabe passiert. Die Frage ist immer, wie wir eine flüssige Kommunikation erreichen können, bei der die Person versteht, was vor sich geht, und einfach vermitteln kann, was zu tun ist. 

Und wie können die Geräte gesteuert werden? 

Das hängt wirklich von der Technologie ab. Ich meine, bei einem Computerfenster ist es ziemlich einfach, solange man die Schnittstelle versteht, dass ein kleines Kreuz bedeutet, dass man das Fenster schließt. Bei komplizierteren Geräten ist es natürlich etwas schwieriger, weil man etwas finden muss, das intuitiv genug ist, aber auch leistungsfähig genug, um die Möglichkeiten des jeweiligen Geräts auszuschöpfen. Bei einem Roboter zum Beispiel ist die Menge der möglichen Dinge, die der Roboter in der Welt sagen und tun kann, ziemlich groß. Man braucht also eine Art von Transparenz, und das ist einer der Grundgedanken der Mensch-Roboter-Interaktion. Das bedeutet, dass das System so weit wie möglich explizite Signale darüber geben sollte, was das System verstanden hat, was es nicht verstanden hat und wo es sich bei der Ausführung der Aufgabe befindet, damit der Benutzer so weit wie möglich die Kontrolle hat, denn ohne Informationen gibt es keine Kontrolle.