AIAE » E-LEARNING » INTERVIEW 6
KI und gesellschaftliche Herausforderungen
Die folgenden Interviewausschnitte wurden mit Simon Delakorda aufgenommen und behandeln die sozialen Auswirkungen der KI anhand von Beispielen aus dem täglichen Leben, die gesellschaftlichen Herausforderungen des maschinellen Lernens und die Rolle der Institutionen im Bereich der KI-Regulierung.
Transkript
Hallo zusammen. Mein Name ist Simon Delakorda. Ich bin Direktor des Instituts für elektronische Partizipation aus Ljubljana, Slowenien. Das Institut für elektronische Partizipation ist eine nichtstaatliche Organisation, die in den Bereichen Informationsgesellschaft, Entwicklung und Digitalisierung tätig ist. Wir befassen uns auch mit Fragen der künstlichen Intelligenz. Letztes Jahr haben wir zum Beispiel einen Bürger:innendialog durchgeführt, der sich auch mit aktuellen Fragen zur Entwicklung der künstlichen Intelligenz befasste. Also wie sich diese Technologie auf den Alltag der Bürgerinnen und Bürger auswirkt.
Quiz question 1/8
Der Befragte, Simon Delakorda, ist der Direktor des Instituts für elektronische Partizipation in
Ljubljana, einer gemeinnützigen Organisation, die sich mit der Entwicklung der
und befasst sich mit dem Problem der
Quiz question 1/1
You have completed the Quiz!
Transkript
Beginnen wir also mit meiner ersten Frage: Was ist künstliche Intelligenz und was hat sie mit der Gesellschaft zu tun?
Normalerweise wird künstliche Intelligenz als eine Technik beschrieben, die es einem Computersystem ermöglicht, jede Art von Intelligenz zu imitieren. Das klingt vielleicht etwas technisch, aber im Grunde bedeutet es, dass eine Maschine in der Lage ist, ein bestimmtes Problem zu lösen. Manche bezeichnen künstliche Intelligenz also als einen technischen Ansatz, andere definieren sie als eine Kombination aus Software, Hardware und Daten. In jedem Fall aber ist künstliche Intelligenz ein Kompromiss aus verschiedenen Werkzeugen und Methoden. Aus diesem Grund ist es auch sehr schwer, die künstliche Intelligenz zu identifizieren. Im Moment haben wir also diese allgemein akzeptierten Definitionen, weil wir, offen gesagt, noch nicht einmal wissen, was menschliche Intelligenz eigentlich ist und wie man sie richtig definiert. Sie können sich also vorstellen, dass wir dieses Problem auch bei der künstlichen Intelligenz haben. Aber um direkt zu unserer Erfahrung mit den Anwendungen der künstlichen Intelligenz im Alltag zu kommen, können wir schon heute sehen, dass es viele verschiedene Anwendungen gibt, die eine große Unterstützung bieten und auch helfen, unser Leben einfacher zu machen. Die typischsten Beispiele für den Einsatz von künstlicher Intelligenz in der Gesellschaft sind zum Beispiel die Spracherkennung. Viele von Ihnen sind wahrscheinlich mit der Siri von Apple oder Alexa von Amazon vertraut, die intelligente Systeme beinhalten und eigentlich Systeme der künstlichen Intelligenz sind, um Spracheingaben zu erkennen und basierend auf diesen Spracheingaben liefern diese Systeme dann verschiedene Dienste oder Kommentare, um verschiedene Aufgaben auszuführen. Das nächste Beispiel für den Einsatz von künstlicher Intelligenz in der Gesellschaft, das heute sehr verbreitet ist, ist die Personalisierung. Wenn wir beispielsweise soziale Online-Plattformen oder Online-Dienste wie Netflix oder Amazon durchsuchen, verwenden diese Webdienste im Hintergrund Systeme der künstlichen Intelligenz, die den Inhalt personalisieren und diesen Inhalt entsprechend unseren Surfgewohnheiten oder Bedürfnissen präsentieren. Wenn wir zum Beispiel nach einem bestimmten Inhalt oder Produkt suchen, dann geben sie uns auf der Grundlage unseres Verlaufs oder unseres Suchverhaltens in diesen Anwendungen die passenden Inhalte, die am ehesten unseren Interessen entsprechen, und sie werden uns empfohlen. Ein drittes Beispiel für den Einsatz künstlicher Intelligenz im Alltag, das für mich ebenfalls sehr nützlich ist, ist das Filtern von E-Mails. Wir alle wissen, dass viele Spam-E-Mails in unserem Hauptpostfach landen, und wir können Programme mit künstlicher Intelligenz verwenden, die zwischen echten E-Mails und relevanten E-Mails und Spam-E-Mails in unseren E-Mail-Ordnern unterscheiden können. Eine weitere Anwendung der künstlichen Intelligenz, die heute häufig eingesetzt wird, ist das Gesundheitswesen, zum Beispiel die klinische Diagnostik. In der Medizin wird künstliche Intelligenz mehr und mehr eingesetzt, um die Arbeit der Ärzt:innen bei der Diagnose zu unterstützen. In diesen Fällen sprechen wir jedoch von einer eng gefassten künstlichen Intelligenz, da diese in der Lage ist, sehr gut definierte und irgendwie eingegrenzte Probleme, praktische Probleme, zu lösen. Aber wenn wir von künstlicher Intelligenz sprechen, können wir auch von einer allgemeinen künstlichen Intelligenz sprechen, die sich auf ein System bezieht, das in der Lage ist, alle intelligenten Aufgaben auszuführen, die auch ein Mensch ausführen kann. Natürlich ist dies noch keine Realität. Es gibt einige Vorhersagen für die Zukunft, die besagen, dass künstliche Intelligenz vielleicht auch in der Lage sein wird, komplexere und größere Aufgaben zu lösen, die im Moment nur mit der menschlichen Art der Intelligenz verbunden sind. Zum Abschluss dieser ersten Einführung über die künstliche Intelligenz in der Gesellschaft können wir feststellen, dass es viele Anwendungen der künstlichen Intelligenz gibt. Einige von ihnen sind unglaublich positiv, haben Auswirkungen auf die Gesellschaft und den Einzelnen und bringen auch große Chancen mit sich. Wir müssen uns aber auch bewusst sein, dass künstliche Intelligenz auch diskriminieren und bestimmte Gruppen von Menschen benachteiligen kann. Aus diesem Grund ist es sehr wichtig, dass wir die Beziehung zwischen der künstlichen Intelligenz und der Gesellschaft verstehen, insbesondere im Hinblick auf Verantwortlichkeit, einseitige Transparenz, Datenqualität und andere ethische Probleme, die sich aus dem Einsatz künstlicher Intelligenz ergeben.
Quiz question 1/8
- Was kann eine Maschine mit KI tun?
Ein bestimmtes Problem lösen. - Kennen wir die genaue Definition von KI?
Nein, wir wissen es nicht. - Welche Art von Ergebnissen erhalten wir mit Hilfe von KI, wenn wir einen Browser benutzen?
Personalisiert. - Was macht KI mit relevanten und Spam-E-Mails in Online-Mail-Diensten?
Sie filtert sie. - Welche Arten von Problemen löst die KI?
Sehr gut definierte Probleme. - Welche Art von Aufgabe kann eine allgemeine KI erfüllen?
Aufgaben der menschlichen
Intelligenz. - Könnte KI in Zukunft komplexere Probleme lösen als ein Mensch?
Ja. - Welche negativen Folgen kann die KI für die Gesellschaft haben?
Diskriminierung in Fällen, in
denen menschliche Vorurteile in die Algorithmen eines KI-Systems übertragen werden.
Quiz question 1/1
You have completed the Quiz!
Transkript
Der nächste Punkt, auf den ich mich im Zusammenhang mit der künstlichen Intelligenz konzentrieren möchte, sind die sozialen Herausforderungen des maschinellen Lernens. Zunächst einmal, was ist maschinelles Lernen?
Maschinelles Lernen bezieht sich auf Algorithmen und Techniken, die von selbst lernen, wenn sie mit Daten, Beobachtungen und Interaktionen mit der umgebenden Welt konfrontiert werden. Im Grunde geht es beim maschinellen Lernen um Algorithmen. Es basiert auf Algorithmen und Algorithmen sind einfach Anweisungen, wie Aufgaben zu lösen sind. Wenn man nun Algorithmen mit maschinellem Lernen in Verbindung bringt, bedeutet das, dass eine bestimmte Art von Algorithmus geschult werden kann, aber nicht von menschlichen Programmierer:innen, sondern von ihm selbst. Das bedeutet, dass das maschinelle Lernen selbständig mit Hilfe eines statistischen Ansatzes lernt. Und normalerweise gibt es zwei Phasen des maschinellen Lernens. In der ersten Phase werden die Algorithmen des maschinellen Lernens anhand von Daten trainiert, und zwar durch einen Trainingsprozess. Das Ergebnis dieses Prozesses ist ein maschinelles Lernmodell. In der zweiten Phase wird dieses maschinelle Lernmodell auf den gewünschten Anwendungsbereich angewandt. Die Idee ist, dass dieses maschinelle Lernmodell dann ein Problem löst, das wir gerne angehen möchten. Zum Beispiel maschinelle Lernmodelle zur Vorhersage, ob ein:e Patient:in Krebs hat, einen Tumor oder ein maschinelles Lernmodell zur Vorhersage, wie sich die Aktienmärkte in Zukunft verhalten werden. Natürlich gibt es einige Probleme mit dem maschinellen Lernen, denn das maschinelle Lernen kann schwerwiegende Auswirkungen auf das Leben der Menschen haben, vor allem dann, wenn es beim maschinellen Lernen zu Fehlern kommt, die bei der Datenerfassung, der Datenaufbereitung oder beim Trainingsprozess auftreten können. Außerdem können wir Probleme bekommen, wenn wir die Ergebnisse des maschinellen Lernens falsch interpretieren. Auf gesellschaftlicher Ebene besteht eine große Gefahr darin, dass die für den Trainingsprozess des maschinellen Lernens verwendeten Trainingsdaten als perfekt angesehen werden. Wir wissen jedoch, dass für perfekte Datensätze alle möglichen Faktoren erforderlich wären, die die von uns zu untersuchende Situation ausmachen oder beeinflussen. Das bedeutet, dass es sehr schwierig ist, einen Algorithmus zu trainieren, der alle Daten aus der komplexen Gesellschaft verwendet. Und als Ergebnis dieser unvollkommenen Daten, die dann auf den Algorithmus für maschinelles Lernen angewendet werden, kann es passieren, dass die Ergebnisse zu sehr vereinfacht werden und eine Situation, mit der sie sich befassen, nur eine begrenzte Anzahl von Faktoren berücksichtigt hat. Die Folge davon ist, dass das maschinelle Lernen zu verzerrten Vorhersagen führen kann, insbesondere für benachteiligte Gruppen der Gesellschaft, die in den Daten oder in der Gesellschaft insgesamt nicht so stark vertreten sind und im Datensatz weniger repräsentiert sind. Für den Fall der Verzerrung beim maschinellen Lernen bedeutet dies, dass die verzerrten Daten auch zu einer verzerrten Vorhersage führen werden. Dies ist der Fall, wenn es um seltene Phänomene oder soziale Zusammenhänge geht, die schwer zu quantifizieren sind. Das bedeutet, dass wir uns dieser gesellschaftlichen Besonderheiten, die in den Ergebnissen des maschinellen Lernens nicht berücksichtigt werden, sehr bewusst sein müssen. Denn das maschinelle Lernen arbeitet eigentlich auf der Grundlage von Mustern. Und wenn diese Muster nicht vorkommen oder von schlechter Qualität sind, können wir sehr verzerrte und schlechte Ergebnisse erhalten.
Quiz question 1/8
Im Gegensatz zum menschlichen Handeln gibt es beim maschinellen Lernen keine Fehler.
Quiz question 1/8
Beim maschinellen Lernen kann ein Fehler bei der Datenerfassung und -aufbereitung gemacht werden.
Quiz question 1/8
Beim maschinellen Lernen kann es zu keiner Fehlinterpretation der Ergebnisse kommen.
Quiz question 1/8
Es ist sehr schwer, einen Algorithmus zu trainieren, der eine große Menge an Daten aus der Gesellschaft verwendet.
Quiz question 1/8
Eines der Probleme beim maschinellen Lernen ist die zu starke Vereinfachung der Ergebnisse.
Quiz question 1/8
Mit maschinellem Lernen vermeiden wir es, einen Teil der Bevölkerung zu diskriminieren, der nicht oft in Datenbanken enthalten ist.
Quiz question 1/8
Verzerrte Ergebnisse sind die Folge von abgeschnittenen Mustern in der Gesellschaft.
Quiz question 1/1
You have completed the Quiz!
Transkript
Wie kann man nun diese Voreingenommenheit, diese ethischen Fragen im Zusammenhang mit maschinellem Lernen und künstlicher Intelligenz auf internationaler Ebene, aber auch auf der Ebene der einzelnen Länder, der Nationalstaaten, vermeiden oder angehen?
Es gibt eine große Debatte darüber, wie ein System geschaffen werden kann, das die Nutzung der künstlichen Intelligenz in der Gesellschaft regelt und natürlich auch die Auswirkungen, die diese Technologie auf die Gesellschaft hat. Die wichtigste Frage dabei ist: Wer ist verantwortlich, wenn etwas mit der künstlichen Intelligenz passiert? Etwas geht schief, wenn es Fehler gibt. Wer ist also verantwortlich, rechenschaftspflichtig für die Ergebnisse des Einsatzes von künstlicher Intelligenz, wie geht man damit um, wenn es zu einem Unfall kommt, wenn es eine falsche Diagnose gibt oder wenn jemand aufgrund der künstlichen Intelligenz ausgeschlossen wird. Die UNESCO, die Agentur der Vereinten Nationen, arbeitet sehr aktiv an politischen Vorschlägen, wie die Verwaltung der künstlichen Intelligenz gestaltet werden kann. Sie hat eine Reihe von politischen Vorschlägen vorgelegt, die sich mit verschiedenen Aspekten der Steuerung von künstlichen Agenten befassen. Ich werde nun kurz die Aspekte vorstellen, die ich für sehr wichtig halte und die auch als Leitlinien für das Verständnis dessen dienen können, was wir als Gesellschaft und als Individuen beachten müssen, wenn wir über die Auswirkungen der künstlichen Intelligenz auf die Gesellschaft nachdenken. Zunächst einmal ist der erste wichtige Aspekt, dass die künstliche Intelligenz die Vielfalt und die Integration fördert. Das bedeutet, dass die künstliche Intelligenz im Hinblick auf die Bekämpfung von kulturellen und sozialen Stereotypen und Ungleichheiten funktionieren muss. Das ist wichtig für diese Verzerrungen, wenn maschinelle Lernmuster, wenn sie auf schlechten Daten basieren, oft diskriminieren und auch widersprüchliche Stereotypen verstärken können. Dies ist zum Beispiel bei künstlichen Gesichtserkennungssystemen der Fall, bei denen bereits wissenschaftlich bewiesen wurde, dass sie farbigen Gesichtern gegenüber eher voreingenommen sind als gegenüber weißen Gesichtern. Der zweite wichtige Aspekt sind die Auswirkungen der künstlichen Intelligenz auf die Wirtschaft, auf die Arbeitswelt. Es gibt unterschiedliche Auffassungen darüber, wie die Anwendungen der künstlichen Intelligenz zum Verlust bestimmter Arbeitsplätze beitragen werden. Es wird viele Arbeitsplätze geben, die nicht mehr benötigt werden, und das wird Auswirkungen auf die verschiedenen Arbeitsgruppen haben. Und künstliche Intelligenz, vor allem in der Hochleistungswirtschaft, sollte Maßnahmen zur Höherqualifizierung und Umschulung berücksichtigen, die es den Arbeitnehmer:innen oder Angestellten, die von der künstlichen Intelligenz negativ betroffen sein werden, ermöglichen, weiterhin Teil des Arbeitsmarktes zu bleiben. Der dritte wichtige Punkt ist der Umgang mit den sozialen und wirtschaftlichen Auswirkungen der KI. Das bedeutet, dass künstliche Intelligenz keine Monopole in Bezug auf Forschung, Wissen, Daten oder den Markt schaffen sollte, dass nicht einige bestimmte Interessengruppen oder Länder oder Regionen von dieser Technologie profitieren werden, sondern die Menschheit als Ganzes. Eine logische Schlussfolgerung ist auch die Auswirkung auf die Kultur und auf die Umwelt. Das bedeutet, dass die künstliche Intelligenz keine negativen Auswirkungen auf die Kultur, die Vielfalt, das kulturelle Erbe und auch auf die Umwelt hat. Und dann gibt es eine Reihe von vier oder fünf Ansichten, die sich alle mit der Ethik der künstlichen Intelligenz befassen. Die Ethik der künstlichen Intelligenz ist sehr wichtig, um einen wertebasierten Hintergrund zu schaffen, vor dem wir die künstliche Intelligenz entwickeln. Und es gibt jene Aspekte der Ethik, die sich auf die Bildung und das Bewusstsein beziehen, was bedeutet, dass künstliche Intelligenz in Schulen und Universitäten gelehrt werden sollte, damit die Studierenden und Schüler:innen mit der Technologie der künstlichen Intelligenz vertraut werden können. Und was ist die Beziehung zwischen dem technologischen und dem sozialen Bereich? Sehr wichtig ist auch der Blick auf die Ethik der Forschung im Bereich der künstlichen Intelligenz, d.h. dass es Forschung gibt, insbesondere im privaten Sektor, die mit privaten Geldern finanziert wird und die soziale Verantwortung berücksichtigt. Auch der Nutzen der Forschung für die Menschheit, nicht nur das Markt- und Profitinteresse, ist ein wichtiger Aspekt der ethischen Nutzung der KI. Die künstliche Entwicklung sollte sich bemühen, Plattformen zu schaffen, die eine internationale Zusammenarbeit bei der KI-Entwicklung ermöglichen. Das bedeutet, dass die KI-Entwicklung nicht nur für die reichen Länder bestimmt ist, sondern dass diese Entwicklungen auch in den ärmeren, nicht so reichen Ländern angewendet werden. Für diesen sehr bedeutsamen Aspekt ist es wichtig, dass wir eine Art internationale Zusammenarbeit im Bereich der Ethik der künstlichen Intelligenz schaffen. Ein sehr gutes Beispiel dafür ist das UNESCO-Forum, auf dem verschiedene Länder mit unterschiedlichen Interessenvertreter:innen über die Zukunft der künstlichen Intelligenz diskutieren und darüber, wie man sie in Bezug auf Ethik und Wert für die Entwicklung der Gesellschaft steuern kann. In diesem Zusammenhang ist es sehr wichtig, dass es auch eine Art Regierungsmechanismus gibt, der die Entwicklung der künstlichen Intelligenz auf globaler Ebene im Hinblick auf Einbeziehung, Transparenz, Kontrolle und Ausgleich überwacht. Das ist sehr wichtig und auch die multilaterale Zusammenarbeit. Diese staatlichen Mechanismen beziehen sich auf das digitale Ökosystem für die künstliche Intelligenz, das Infrastruktur, digitale Technologien, Möglichkeiten des Wissensaustauschs und vor allem die Zusammenarbeit mit verschiedenen Interessengruppen umfasst, damit diese eine Stimme haben und ihre Überlegungen und Bedenken zur Entwicklung der künstlichen Intelligenz für die Zukunft mitteilen können.
Quiz question 1/8
Ist die Festlegung von Grundsätzen zur Regulierung des Einsatzes von KI eine der vorgeschlagenen Lösungen, um die möglichen negativen Folgen von KI zu vermeiden?
Stimmt es, dass im Falle eines KI-Fehlers das Hauptproblem darin besteht, zu definieren, wer für diesen Fehler verantwortlich ist?
Ist die UNESCO für die Regelung der künstlichen Intelligenz zuständig?
Würde die Integration der Grundsätze der Vielfalt und Inklusion in die KI die Diskriminierung und Ungleichheit in der Gesellschaft weiter verstärken?
Wenn wir dem UNESCO-Vorschlag für Vielfalt und Inklusion in der KI folgen, vermeiden wir dann Fehler, die durch schlechte Daten verursacht werden?
Bezieht sich der UNESCO-Grundsatz der Wirtschaftlichkeit hauptsächlich auf Beschäftigungsfragen als Folge von KI?
Kann KI negative Auswirkungen auf Kultur, Vielfalt, Entwicklung, Kulturerbe und Umwelt haben?
Sollten die Konzepte der KI in Schulen und Universitäten gelehrt werden, um das Bewusstsein für die Beziehung zwischen KI und Gesellschaft zu schärfen?
Bringen internationale Kooperationsplattformen den ärmeren Ländern die Möglichkeit der KI-Entwicklung näher?
Könnten Governance-Mechanismen die Entwicklung von KI regulieren, d.h. Einbeziehung, Transparenz, multilaterale Zusammenarbeit auf globaler Ebene?
Quiz question 1/1
You have completed the Quiz!
Transkript
Meine letzte Meinung zur künstlichen Intelligenz bezieht sich auf die Rolle der zivilgesellschaftlichen Organisationen, insbesondere die Rolle der nichtstaatlichen Organisationen, die ich heute vorstellen möchte. Ich denke, dass die Rolle der Nichtregierungsorganisationen bei der Anwendung von künstlicher Intelligenz sehr wichtig ist, um den Bürger*innen, den Menschen, den Nutzer*innen, den gewöhnlichen Menschen zu erklären, wie sich diese Technologie auf ihr Leben auswirkt, insbesondere im Hinblick auf das Vertrauen in die künstliche Intelligenz. Auch im Hinblick darauf, ihnen zu helfen, die Anwendungen und die Auswirkungen auf das tägliche Leben der Bürger*innen zu verstehen, denn es gibt unterschiedliche Auffassungen und Ängste und vielleicht unbegründete negative, ihre Beziehung zu den künstlichen Intelligenzen, die diskutiert werden müssen, erlernt in vertrauenswürdigen Umgebungen und nichtstaatliche Organisationen mit ihren Mitgliedern, mit ihren freiwilligen Aktivitäten sind oft ein Bindeglied zwischen der High-Tech-Forschung und den alltäglichen Menschen, weil sie Vertrauen schaffen, weil Menschen Vertrauen in nichtstaatliche Organisationen haben. Und aufgrund ihrer Informationen, ihrer Aufklärungsarbeit können sie den Bürger:innen helfen zu verstehen, was die negativen und positiven Auswirkungen der künstlichen Intelligenz sind. Das ist die eine Rolle der NGOs. Und die zweite Rolle der NGOs ist, dass sie als Wachhunde fungieren. Sie fungieren nicht unbedingt als Überwachungsorgan, sondern als jemand, der auf mögliche Diskriminierung, Verletzung der Menschenrechte oder negative Nutzung der künstlichen Intelligenz achtet, die zu Diskriminierung führen kann, die zu schlechteren Bedingungen für Einwanderergruppen, für bestimmte soziale Gruppen wie Einwanderer:innen oder Frauen oder sozial schwache Gruppen führen kann, die in der Gesellschaft nicht so stark vertreten sind wie andere soziale Gruppen. Und die NGOs müssen die Rolle übernehmen, ihre Rechte zu schützen und auch für die Menschenrechte zu kämpfen, wenn sie sehen, dass die künstliche Intelligenz dabei ist, diese Standards zu überschreiten. Ich denke, das sind die beiden wichtigsten Regeln der NGOs in Bezug auf die künstliche Intelligenz. Es gibt noch zwei Nebenrollen. Die eine ist die der NGOs als gewöhnliche Nutzer von künstlicher Intelligenz, vor allem der NGOs, die große Datenmengen über die Gesellschaft generieren und dann dieses maschinelle Lernen und die Werkzeuge nutzen können, um Schlussfolgerungen zu ziehen, Probleme zu lösen und Visualisierungen zu verschiedenen Aspekten der Gesellschaft zu erstellen. Die zweite wichtige Rolle besteht darin, dass die Interessengruppen als politische Akteure agieren, das heißt, sie nehmen an Foren, Koalitionen und Diskussionen mit anderen Interessengruppen aus Wirtschaft, Politik und Forschung teil. In diesen Foren und Diskussionen geht es um Fragen der Verantwortlichkeit, des Datenschutzes und der Vertrauenswürdigkeit künstlicher Systeme, d.h. sie setzen sich für die Gesellschaft und die Menschen ein und bemühen sich um eine menschengerechte Nutzung der künstlichen Intelligenz. Das wären also meine kurzen, aber nicht wirklich kurzen Ansichten über die künstliche Intelligenz und die Gesellschaft.
Quiz question 1/8
Warum sind Nichtregierungsorganisationen (NGO) wichtig für KI?
Quiz question 1/8
Worauf achten Nichtregierungsorganisationen ( NGOs) im Falle von KI?
Quiz question 1/8
Wie nutzen Nichtregierungsorganisationen (NGOs) KI?
Quiz question 1/8
Inwiefern agieren Nichtregierungsorganisationen (NGOs) als politische Akteure?
Quiz question 1/1
You have completed the Quiz!