KI-Technologien – KI & Ethik

FRAGE (F. ANANASSO)

Lassen Sie uns mit der grundlegendsten Frage beginnen. Was wissen Sie, Emanuela, angesichts Ihrer Erfahrung, über globale Strategien im Bereich der künstlichen Intelligenz? Was ist der Kontext? Was sind die internationalen Modelle? Ich höre vor allem von Amerika. Wie sieht der internationale Kontext aus?  

ANTWORT (E. GIRARDI)

Ja, danke Fulvio, und guten Morgen allerseits. Sicherlich wird die Technologie der künstlichen Intelligenz derzeit als eine strategische Technologie für die Entwicklung zukünftiger Gesellschaften betrachtet. Und eine Reihe von Ländern hat begonnen, sich mit künstlicher Intelligenz zu befassen, viele Ressourcen zu investieren und – vor allem – eine nationale Strategie für künstliche Intelligenz zu entwickeln. Derzeit gibt es etwa 50 nationale Strategien für künstliche Intelligenz auf der ganzen Welt, und einige befinden sich in der Entwicklung, so dass sie in den nächsten Jahren oder sogar noch in diesem Jahr veröffentlicht werden, und alle Länder haben diese Technologien als wirklich strategisch angesehen, weil KI einen disruptiven Einfluss auf die Gesellschaft hat, schon heute auf unser tägliches Leben und mehr und mehr auf unser Leben in der Zukunft. Obwohl es weltweit bereits 50 verschiedene Strategien gibt, können wir im Grunde von zwei bis drei Entwicklungsmodellen für künstliche Intelligenz weltweit sprechen, nämlich dem amerikanischen Modell, dem chinesischen Modell und dazwischen, seit kurzem, dem europäischen Modell. Auf den ersten Blick scheinen das amerikanische und das chinesische Modell recht unterschiedlich zu sein, aber es gibt tatsächlich große Ähnlichkeiten, denn in beiden Modellen wird die Entwicklung von Technologien der künstlichen Intelligenz in Wirklichkeit von großen privaten Konzernen geleitet, die unter anderem überall auf der Welt präsent sind – nicht nur in China und den Vereinigten Staaten. Die beiden großen Unterschiede zwischen diesen Gruppen bestehen darin, dass in China eine Tendenz zur staatlichen Kontrolle dieser Technologien besteht, während in den Vereinigten Staaten eher eine Tendenz zur Deregulierung, also zu einer Art fehlender Regulierung dieser Technologien, zu beobachten ist. Europa hat etwas spät mit Investitionen in die Entwicklung und Einführung dieser Technologien begonnen, und zwar 2016 mit einem Abkommen, das 2018 mit einem Kooperationsabkommen zwischen allen Mitgliedstaaten zur Entwicklung eines koordinierten Plans für die Entwicklung von Technologien der künstlichen Intelligenz “verheiratet” wurde. Mit etwas Verspätung beschloss sie jedoch, sich auf die ethische Sichtweise und damit in erster Linie auf die Definition ethischer Leitlinien für die Entwicklung von Technologien der künstlichen Intelligenz zu konzentrieren. Und aus dieser von der Europäischen Kommission einberufenen Forschungsgruppe ging die europäische Vision der künstlichen Intelligenz hervor, eine Vision, die als “menschenzentriert” definiert wird, d.h. den Menschen in den Mittelpunkt stellt und den Einsatz von Technologien der künstlichen Intelligenz zur Verbesserung des Lebens der Menschen unterstützt. Der zweite Aspekt ist jedoch, dass sie den Einsatz “vertrauenswürdiger”, d. h. zuverlässiger Technologien fördert. Dies ist gewissermaßen das Herzstück der europäischen Vision. Vertrauenswürdig deshalb, weil, wenn wir an eine sehr vereinfachte Definition von Technologien der künstlichen Intelligenz denken, mit denen wir Systeme identifizieren können, die ihre Umgebung analysieren, d. h. Daten sammeln, um ein bestimmtes Ziel zu erreichen, und dies autonom tun, indem sie ein Verhalten zeigen, das wir, wenn es von einem Menschen ausgeführt würde, als intelligentes Verhalten definieren könnten. Damit sie nun, wenn sie dieses Ziel erreicht haben, eine vom Menschen festgelegte Handlung ausführen, damit der Mensch das Ergebnis dieser Handlung oder Entscheidung akzeptiert – die von einem autonomen System getroffen wird – und somit sowohl dem Einsatz dieser Systeme als auch den Handlungen oder Entscheidungen, die von diesen Systemen getroffen werden, vertraut, müssen sie zuverlässig (“vertrauenswürdig”) sein. Und was bedeutet das, zuverlässig / vertrauenswürdig? Was die europäische Version und Definition von zuverlässiger Technologie betrifft, so bedeutet dies drei Dinge. Im Wesentlichen bedeutet es, dass sie den europäischen Gesetzen und den ethischen Werten, die in der Europäischen Charta der Rechte enthalten sind, entsprechen müssen, und dass sie aus der Sicht der technischen Robustheit sicher sein müssen, d. h. sie dürfen den Menschen nicht schaden. Wenn diese Systeme also die drei Anforderungen erfüllen und ethisch vertretbar sind, dann können sie nach Ansicht der Europäischen Kommission in der Europäischen Gemeinschaft entwickelt und eingesetzt werden. Die Europäische Kommission hat daraufhin zwei wichtige Dokumente ausgearbeitet: ein Whitepaper und eine europäische Datenstrategie. Das derzeit umstrittenste, aber auch wichtigste Dokument ist jedoch das im April 2021 vorgelegte so genannte KI-Gesetz, bei dem es sich um eine Reihe von Dokumenten handelt, die den weltweit ersten Vorschlag zur Regelung der Nutzung von Systemen der künstlichen Intelligenz darstellen. Dieses Dokument ist sehr wichtig, weil es in erster Linie einen risikobezogenen Ansatz verwendet, d. h. es teilt alle Systeme der künstlichen Intelligenz in vier Kategorien ein, die auf ihrem Risiko beruhen. Die erste Kategorie ist die der inakzeptablen Risiken, d. h. es handelt sich um Systeme, die in der Europäischen Gemeinschaft verboten sind. Dann gibt es Systeme mit hohem, mittlerem und geringem Risiko. Für Systeme mit hohem und mittlerem Risiko sind eine ganze Reihe von Anforderungen definiert, die so genannten Bewertungslisten, d. h. eine Reihe von Anforderungen oder Zertifizierungen, die diese Systeme erfüllen müssen, um auf dem Binnenmarkt der Europäischen Gemeinschaft eingesetzt werden zu können. Diese Aspekte sind also sehr wichtig, und innerhalb der EU-Kommission wird viel darüber diskutiert, denn einerseits heißt es, dass das Ziel der Europäischen Kommission darin besteht, die Entwicklung und den Einsatz von Technologien der künstlichen Intelligenz zu fördern, die in gewisser Weise die Menschen und die europäischen Bürgerinnen und Bürger schützen, aber gleichzeitig muss es eine Art Rechtssicherheit für die Unternehmen geben, damit sie diese Systeme in einem aus rechtlicher Sicht sicheren Umfeld entwickeln können, so dass sie keine Risiken eingehen, wenn sie Technologien der künstlichen Intelligenz in ihre Produkte und Dienstleistungen, in ihr Marktangebot einführen. Die größte Einschränkung, die derzeit diskutiert wird, ist natürlich, dass eine Überregulierung die Innovation in gewisser Weise einschränken könnte. Dies gilt insbesondere, wenn wir die beiden Systeme betrachten, über die wir vorhin gesprochen haben, das chinesische und das amerikanische, wo es viel weniger Regulierung gibt, insbesondere das amerikanische im Vergleich zu dem europäischen Markt, den wir zu schaffen versuchen. Es ist also sehr schwierig, einerseits die Notwendigkeit der Regulierung dieser Systeme, die, wenn sie böswillig eingesetzt werden, tatsächlich Schaden anrichten können, und andererseits den Versuch, die Entwicklung der europäischen Innovation zu fördern und sicherzustellen, dass es auch eine echte Entwicklung der Technologien der künstlichen Intelligenz gibt, aber nicht nur der künstlichen Intelligenz, sondern auch aller unterstützenden Technologien. Ich denke also an Blockchain, ich denke an Cloud-Technologien, ich denke an Performance Computing, weil es tatsächlich sehr wichtig ist, dass diese Technologien auch auf europäischer Ebene entwickelt werden können und dass das, was im koordinierten Plan als europäische technologische Souveränität bezeichnet wird, somit realisiert wird. Denken wir zum Beispiel auch an das Projekt Gaia X, das das gleiche Ziel verfolgt, nämlich eine Art europäische technologische Souveränität zu erreichen. 

FRAGE (F. ANANASSO)

Wenn ich also richtig verstanden habe, geht das Modell der Europäischen Kommission über das amerikanische und das chinesische Modell hinaus, die mit verschiedenen Aspekten in eine andere Richtung als unseres gehen, es ist mehr auf den Menschen ausgerichtet und “vertrauenswürdig”, wie Sie sagten. Danach werden wir vielleicht darüber sprechen, was in Italien vor sich geht. Wenn ich das Gesetz über künstliche Intelligenz, von dem Sie sprechen (das Gesetz vom 21. April 2021), richtig verstanden habe, sind die Risiken unterschiedlich hoch. Möchten Sie uns dazu etwas sagen, was sind die wichtigsten Punkte? Gibt es neben der Risikoklassifizierung des europäischen Vorschlags noch andere relevante Aspekte? Ich habe von 32 Fällen gehört, in denen man unter der Voraussetzung, dass es Haftbefehle gibt, eingreifen kann. Kann man auf die Schnelle etwas dazu sagen, was die wesentlichen Punkte des europäischen Vorschlags sind?

ANTWORT (E. GIRARDI)

Ja. Was die Risiken betrifft, so kann ich Ihnen sagen, dass es sich um Aspekte von Systemen der künstlichen Intelligenz handelt, deren Risiko als inakzeptabel angesehen wird, z. B. Social Scoring, biometrische Fernüberwachung von Menschen oder Systeme, die das Verhalten von Menschen – insbesondere von schutzbedürftigen Menschen – irgendwie beeinflussen oder manipulieren können. Diese Funktionen werden als inakzeptabel angesehen und sind daher in der Europäischen Gemeinschaft derzeit verboten. Bei den Hochrisikosystemen hingegen sind meiner Meinung nach noch einige Aspekte zu klären, denn es geht um die Konformitätsbewertung, um eine Liste von Kriterien, die erfüllt werden müssen, damit sie in der Europäischen Gemeinschaft eingeführt und verwendet werden können. Aber das Problem ist, dass auch von einer europäischen Zertifizierung die Rede ist, die im Moment noch nicht sehr eindeutig ist. Unter anderem müssen wir bedenken, dass die Wertschöpfungskette von Systemen der künstlichen Intelligenz äußerst komplex ist. Wenn wir an die Entwicklung eines Algorithmus für künstliche Intelligenz denken, geht es zum Beispiel von denjenigen, die die Daten sammeln, zu denen, die das Training durchführen, zu denen, die den Algorithmus entwickeln, zu denen, die ihn dann in ihren eigenen Systemen im eigenen Unternehmen einsetzen und/oder auf den Markt bringen, und dann wird vielleicht der Datensatz geändert – ein Re-Update ist nötig, und dann muss man vielleicht das System ändern und in diesem Fall alles durch die Nutzung überwachen. Wir sprechen hier wirklich über den gesamten Lebenszyklus des Systems der künstlichen Intelligenz, und dann müssen alle verschiedenen Akteure in der Lieferkette ständig in Verbindung bleiben und die Nutzung des Systems der künstlichen Intelligenz, das sie entwickelt, trainiert und auf den Markt gebracht haben, ständig überwachen. Diese Aspekte sind also noch nicht ganz geklärt, denn es gibt einen Aspekt der Lieferkette, der meiner Meinung nach sehr komplex ist. 

Ein weiterer komplexer Aspekt ist die Tatsache, dass derzeit Hochrisikosysteme definiert werden, wenn auch nicht auf eine sehr klare Art und Weise, aber sie werden dennoch definiert. Ein weiterer Aspekt ist die Tatsache, dass sich die Europäische Kommission derzeit das Recht zuspricht, diese Liste zu ändern und neue Systeme hinzuzufügen, was ziemlich umstritten ist, da es normalerweise immer eine Trennung zwischen der Legislative und der Exekutive geben sollte, so dass es bereits viele Diskussionen darüber gibt, die besagen, dass die Europäische Kommission nicht die Macht hat, einen Anhang eines Gesetzes zu ändern. Und so sind diese Aspekte ziemlich umstritten, zum Beispiel habe ich neulich gelesen, dass die verschiedenen CEN, CENELEC, … und die meisten der verschiedenen Normungsgremien nach dem Grund für die oben genannte Position der EU-Kommission gefragt haben. 

Es gibt auch einen sehr interessanten Aspekt in Bezug auf die Definition von KI-Normen, die im Moment auf europäischer Ebene noch fehlen, und deshalb arbeiten alle verschiedenen Normungsgremien daran. Das ist eine der Rückmeldungen, um die sie gebeten haben, denn in diesen Tagen schreibt jeder eine Rückmeldung an die Europäische Kommission, da der 6. August 2021 der letzte Tag war, an dem man Rückmeldungen einreichen konnte. Ein Vorschlag für eine Verordnung ist eine der Rückmeldungen, nämlich die Streichung von Artikel 41, d.h. die Tatsache, dass die Europäische Kommission diese Liste von Systemen mehr oder weniger nach Belieben variieren kann (das ist nicht genau der Fall, aber sie kann nach eigenem Ermessen handeln). Das sind also einige der, sagen wir, widersprüchlichsten Elemente.

Ein weiteres sehr widersprüchliches Element betrifft die KI-Definition, da sie sehr weit gefasst ist, während sie eigentlich, sagen wir mal, zukunftsorientiert und zukunftssicher sein soll. Andererseits werden im Moment auch Systeme, von denen ich nicht weiß, ob sie KI sind, als KI-Systeme betrachtet, wie z. B. fortgeschrittene Statistiksysteme, lineare Regressionssysteme … was die Verwendung dieser Systeme, die heute wahrscheinlich keine künstliche Intelligenz sind, sehr viel komplexer macht, so dass es viele Aspekte der Diskussion gibt. Ich denke, es wird zwei oder drei Jahre dauern, bis diese Verordnung in allen Mitgliedsstaaten angewendet wird.

FRAGE (F. ANANASSO)

Ausgezeichnet, ausgezeichnet, und nicht zu vergessen das neu gegründete Institut für künstliche Intelligenz in Turin, das eine erste Finanzierung erhalten hat, oder irre ich mich? 

ANTWORT (E. GIRARDI)

Nein, nein, leider irren Sie sich. Es ist eigentlich ein bisschen anders gelaufen, in dem Sinne, dass es in Turin sein sollte, aber jetzt gibt es in der Realität ein bisschen Unsicherheit, da diese Entscheidung, die von der vorherigen Regierung getroffen wurde, nicht weiterverfolgt wurde und dann nach verschiedenen Diskussionen beschlossen wurde, ein Zentrum für Forschung und Entwicklung im Automobilbereich zu gründen, das in Turin angesiedelt sein wird und auch Technologien der künstlichen Intelligenz nutzen wird, mit einer Finanzierung von, wenn ich mich richtig erinnere, 20 Millionen Euro. Daher wurde das italienische Institut für künstliche Intelligenz vorerst auf Eis gelegt, was meiner Meinung nach sehr schade ist, denn das hätte Italien die Möglichkeit gegeben, an den verschiedenen internationalen Tischen teilzunehmen, sagen wir mit einem institutionellen Hut, denn heute ist Italien leider an vielen internationalen Tischen vertreten, aber nur durch Einzelpersonen, die sich auszeichnen, nicht auf institutioneller Ebene, also ist es, sagen wir, eine verpasste Gelegenheit. 

Hoffen wir, dass diese neue Task Force in der Lage sein wird, sie wieder vorzuschlagen.

FRAGE (F. ANANASSO)

Sagen wir, es ist ein halber Sieg, sehen wir es in einem positiven Licht. Und sehen Sie, wir haben gesehen, dass die Welt, Europa und Italien, jetzt, um zum Schluss zu kommen, einen großen Bedarf an Weiterbildung haben, offensichtlich, weil jeder über künstliche Intelligenz spricht, diese Sache, die nur wenige wirklich vollständig verstehen, wenn man sich nicht im Detail damit beschäftigt. Ich denke, wir sind uns einig, dass die Weiterbildung von entscheidender Bedeutung ist, um zu verstehen, was diese Technologien sind und wie man sie sicher einsetzt. Besteht sogar die Gefahr, dass ohne eine angemessene Fortbildung – ich spreche vom italienischen System, da wir uns an diesem Projekt zur Fortbildung von Erwachsenen im Bereich der künstlichen Intelligenz beteiligen – eine Art “digitale Kluft” im Bereich der künstlichen Intelligenz im Vergleich zu anderen Bereichen entstehen könnte? Wie sehen Sie das, was ist wichtig und was sind Ihrer Meinung nach die wichtigen Dinge, die getan werden sollten, um das Potenzial, die Vor- und Nachteile, die Risiken und was auch immer von künstlicher Intelligenz gut und besser zu lehren? 

ANTWORT (E. GIRARDI)

Meiner Meinung nach ist dies der Schlüsselaspekt und das Wichtigste. Denken Sie nur daran, dass wir eingangs von über 50 Ländern sprachen, die bereits ihre nationale Strategie für künstliche Intelligenz festgelegt haben. Denken Sie daran, dass es Länder wie Finnland gibt, die als oberste Priorität ihrer Strategie für künstliche Intelligenz die Schulung, die Bildung ihrer Bürger:innen in Bezug auf Technologien der künstlichen Intelligenz festgelegt haben, es ist also wirklich ein Schlüsselaspekt. Auch China investiert übrigens sehr viel in die Bildung und Weiterbildung seiner Bürger:innen, da sie erkannt haben, dass dies, sagen wir mal, der Schlüssel zur aktiven Teilnahme an der Gesellschaft der Zukunft ist. Meiner Meinung nach ist dies also der Schlüsselaspekt. Denn wenn wir zum Beispiel an uns als Arbeitnehmer:innen oder als Bürger:innen oder als Studierende denken, dann werden die Arbeitsplätze der Zukunft mit Sicherheit die Fähigkeit erfordern, Technologien der künstlichen Intelligenz zu nutzen, und daher ist dieser Aspekt von grundlegender Bedeutung, denn es ist notwendig, sich fortzubilden oder weiterzubilden, um, sagen wir, neue Berufsprofile zu erlernen oder sich umschulen zu lassen, um wirklich etwas über völlig neue Arbeitsplätze zu erfahren. 

Und das ist meiner Meinung nach ein Schlüsselaspekt, denn wenn wir an ein Unternehmen denken, das zu diesem Zeitpunkt vielleicht robotergestützte Automatisierungssysteme von Prozessen einführt und dann irgendwie Ressourcen freisetzt, weil es Aufgaben gab, die von Menschen ausgeführt wurden, die jetzt von automatisierten Systemen ausgeführt werden, dann sollte diese frei gewordene Zeit, diese frei gewordenen Ressourcen, meiner Meinung nach unbedingt in die Ausbildung von Mitarbeiter:innen reinvestiert werden. Dieser Aspekt ist auch aus wirtschaftlicher Sicht wichtig, denn er bedeutet auch eine Umverteilung der wirtschaftlichen Vorteile, die sich aus der Einführung von Automatisierungssystemen in den Unternehmen ergeben, und daher ist es auch eine Umverteilung, sagen wir, der positiven Auswirkungen auf die verschiedenen Beteiligten, d.h. Investitionen in die Ausbildung, die meiner Meinung nach ein Recht aller Arbeitnehmer:innen sein sollten. 

Der andere Aspekt ist, dass es wirklich wichtig ist, die, sagen wir, digitalen Fähigkeiten zu erlernen, nicht nur die grundlegenden, sondern auch die fortgeschrittenen, um zu wissen, was die Technologien der künstlichen Intelligenz sind und um sie für die eigene Arbeit nutzen zu können, denn alle Arbeitsplätze werden diese Technologien nutzen, egal wie. In dieser Hinsicht ist zum Beispiel ein Ansatz sehr interessant, der eher die Bildung betrifft, also die Schulen, ein sehr schönes Projekt, das am MIT in Boston entwickelt wurde, zusammen mit einem Projekt, das von Schwartzman finanziert wurde, einem privaten Beteiligungsfonds von Herrn Schwartzman selbst, der ein College namens Schwartzman College gegründet hat, das eine Art zweisprachige Schule ist. Das heißt, was auch immer man studieren will – Philosophie, Anthropologie, Medizin, Jura, … – man studiert es zusammen mit Computerwissenschaften und künstlicher Intelligenz, denn die Idee ist, dass jeder in der Zukunft eine solide Basis in Computerwissenschaften und die Fähigkeit, Technologien der künstlichen Intelligenz zu nutzen, braucht. Diese Fächer sollten auch als Pflichtfächer in unsere Schulen aufgenommen werden, und zwar von Kindesbeinen an, d. h. von der Grundschule an, Fächer, die theoretisch bereits vorhanden sind, aber in der Realität leider nicht eingehend unterrichtet werden. Das Wichtigste ist also vielleicht die Ausbildung von Ausbilder:innen, und deshalb ist das Projekt, das Sie durchführen, meiner Meinung nach auch sehr wichtig, denn es zielt zunächst darauf ab, Ausbilder:innen auszubilden, damit sie dann in der Lage sind, diese Themen in den Schulen zu unterrichten. Das ist sehr wichtig, denn wenn wir zum Beispiel an die Ärzt:innen denken, die jetzt in den Krankenhäusern arbeiten, sind sie wahrscheinlich nicht in der Lage, die neuen Systeme der künstlichen Intelligenz zu benutzen, und auch die Ärzt:innen, die jetzt an der Universität studieren, die diese Technologien nicht studieren, wenn sie in den Krankenhäusern arbeiten, werden sie nicht in der Lage sein, sie zu benutzen, und wir haben gesehen, wie nützlich diese Technologien während der Pandemie Covid-19 waren, wenn wir sie also wirklich darin ausbilden könnten, diese Technologien zu benutzen, könnte das wirklich ein sehr nützliches Werkzeug für ihre Arbeit sein. 

Und dann gibt es noch den anderen Aspekt zu bedenken, dass die Arbeitsplätze der Zukunft anders sein werden als heute, d. h. der:die Arzt:in von heute wird ein ganz anderer sein als der:die Arzt:in von morgen. Daher müssen sie auch ihre Herangehensweise ändern, um zu lernen, wie man diese Technologien nutzt, und um eine Mentalität zu haben, die flüssiger und offener ist, um auch neue Aufgaben zu bewältigen, die es heute wahrscheinlich noch gar nicht gibt und die sich inhaltlich stark verändern werden.