DE / EN / IT / SL / EL 

AIAE » E-LEARNING » INTERVIEW 8

KI-Technologien – KI & Ethik

Die folgenden Interviewausschnitte wurden mit Emanuela Girardi aufgenommen und befassen sich mit der Entwicklung von KI-Technologien in verschiedenen Größenordnungen, den gesellschaftlichen Bedenken und der ethischen Nutzung von KI sowie den Normen und Vorschriften für KI.

Transkript

EINLEITUNG (F. ANANASSO)

Guten Morgen! Heute stellen wir Ihnen Dr. Emanuela Girardi in unserem Interview vor. Emanuela Girardi ist die Gründerin von Pop-AI (Popular Artificial Intelligence). Sie ist Mitglied der Expert:innengruppe für Künstliche Intelligenz des Ministeriums für wirtschaftliche Entwicklung, die die italienische Strategie für die Künstliche Intelligenz verfasst hat. Sie ist Mitglied des Vorstands der Italienischen Vereinigung für Künstliche Intelligenz und der Industrie-Taskforce von CLEAR (Confederation of Laboratories in AI Research in Europe), wo sie Koordinatorin der Taskforce für Künstliche Intelligenz und Covid 19 ist. Sie ist auch Mitglied des Vorstands von AI Data and Robotics (ADRA), der neuen europäischen Vereinigung, die mit der Europäischen Kommission bei der Umsetzung des Programms Horizon 2020 zusammenarbeiten wird. Sie ist also eine äußerst relevante und kompetente Person, die uns in dieser halbstündigen Reise über einige interessante Dinge im Bereich der KI führen wird. Ich danke ihr nochmals und möchte ihr nun einige Fragen stellen.  

Quiz question 1/8

Die Befragte, Emanuela Girardi, ist die Gründerin von Pop Ai, was so viel bedeutet wie Popular Artificial Intelligence, und gehört zur Gruppe der KI-Expert:innen des Ministeriums für
wirtschaftliche Entwicklung. Sie ist auch Koordinatorin der Task Force für KI und Covid19 und
Mitglied des Ausschusses für KI, Daten und Robotik.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

FRAGE (F. ANANASSO)

Lassen Sie uns mit der grundlegendsten Frage beginnen. Was wissen Sie, Emanuela, angesichts Ihrer Erfahrung, über globale Strategien im Bereich der künstlichen Intelligenz? Was ist der Kontext? Was sind die internationalen Modelle? Ich höre vor allem von Amerika. Wie sieht der internationale Kontext aus?  

 

ANTWORT (E. GIRARDI)

Ja, danke Fulvio, und guten Morgen allerseits. Sicherlich wird die Technologie der künstlichen Intelligenz derzeit als eine strategische Technologie für die Entwicklung zukünftiger Gesellschaften betrachtet. Und eine Reihe von Ländern hat begonnen, sich mit künstlicher Intelligenz zu befassen, viele Ressourcen zu investieren und – vor allem – eine nationale Strategie für künstliche Intelligenz zu entwickeln. Derzeit gibt es etwa 50 nationale Strategien für künstliche Intelligenz auf der ganzen Welt, und einige befinden sich in der Entwicklung, so dass sie in den nächsten Jahren oder sogar noch in diesem Jahr veröffentlicht werden, und alle Länder haben diese Technologien als wirklich strategisch angesehen, weil KI einen disruptiven Einfluss auf die Gesellschaft hat, schon heute auf unser tägliches Leben und mehr und mehr auf unser Leben in der Zukunft. Obwohl es weltweit bereits 50 verschiedene Strategien gibt, können wir im Grunde von zwei bis drei Entwicklungsmodellen für künstliche Intelligenz weltweit sprechen, nämlich dem amerikanischen Modell, dem chinesischen Modell und dazwischen, seit kurzem, dem europäischen Modell. Auf den ersten Blick scheinen das amerikanische und das chinesische Modell recht unterschiedlich zu sein, aber es gibt tatsächlich große Ähnlichkeiten, denn in beiden Modellen wird die Entwicklung von Technologien der künstlichen Intelligenz in Wirklichkeit von großen privaten Konzernen geleitet, die unter anderem überall auf der Welt präsent sind – nicht nur in China und den Vereinigten Staaten. Die beiden großen Unterschiede zwischen diesen Gruppen bestehen darin, dass in China eine Tendenz zur staatlichen Kontrolle dieser Technologien besteht, während in den Vereinigten Staaten eher eine Tendenz zur Deregulierung, also zu einer Art fehlender Regulierung dieser Technologien, zu beobachten ist. Europa hat etwas spät mit Investitionen in die Entwicklung und Einführung dieser Technologien begonnen, und zwar 2016 mit einem Abkommen, das 2018 mit einem Kooperationsabkommen zwischen allen Mitgliedstaaten zur Entwicklung eines koordinierten Plans für die Entwicklung von Technologien der künstlichen Intelligenz “verheiratet” wurde. Mit etwas Verspätung beschloss sie jedoch, sich auf die ethische Sichtweise und damit in erster Linie auf die Definition ethischer Leitlinien für die Entwicklung von Technologien der künstlichen Intelligenz zu konzentrieren. Und aus dieser von der Europäischen Kommission einberufenen Forschungsgruppe ging die europäische Vision der künstlichen Intelligenz hervor, eine Vision, die als “menschenzentriert” definiert wird, d.h. den Menschen in den Mittelpunkt stellt und den Einsatz von Technologien der künstlichen Intelligenz zur Verbesserung des Lebens der Menschen unterstützt. Der zweite Aspekt ist jedoch, dass sie den Einsatz “vertrauenswürdiger”, d. h. zuverlässiger Technologien fördert. Dies ist gewissermaßen das Herzstück der europäischen Vision. Vertrauenswürdig deshalb, weil, wenn wir an eine sehr vereinfachte Definition von Technologien der künstlichen Intelligenz denken, mit denen wir Systeme identifizieren können, die ihre Umgebung analysieren, d. h. Daten sammeln, um ein bestimmtes Ziel zu erreichen, und dies autonom tun, indem sie ein Verhalten zeigen, das wir, wenn es von einem Menschen ausgeführt würde, als intelligentes Verhalten definieren könnten. Damit sie nun, wenn sie dieses Ziel erreicht haben, eine vom Menschen festgelegte Handlung ausführen, damit der Mensch das Ergebnis dieser Handlung oder Entscheidung akzeptiert – die von einem autonomen System getroffen wird – und somit sowohl dem Einsatz dieser Systeme als auch den Handlungen oder Entscheidungen, die von diesen Systemen getroffen werden, vertraut, müssen sie zuverlässig (“vertrauenswürdig”) sein. Und was bedeutet das, zuverlässig / vertrauenswürdig? Was die europäische Version und Definition von zuverlässiger Technologie betrifft, so bedeutet dies drei Dinge. Im Wesentlichen bedeutet es, dass sie den europäischen Gesetzen und den ethischen Werten, die in der Europäischen Charta der Rechte enthalten sind, entsprechen müssen, und dass sie aus der Sicht der technischen Robustheit sicher sein müssen, d. h. sie dürfen den Menschen nicht schaden. Wenn diese Systeme also die drei Anforderungen erfüllen und ethisch vertretbar sind, dann können sie nach Ansicht der Europäischen Kommission in der Europäischen Gemeinschaft entwickelt und eingesetzt werden. Die Europäische Kommission hat daraufhin zwei wichtige Dokumente ausgearbeitet: ein Whitepaper und eine europäische Datenstrategie. Das derzeit umstrittenste, aber auch wichtigste Dokument ist jedoch das im April 2021 vorgelegte so genannte KI-Gesetz, bei dem es sich um eine Reihe von Dokumenten handelt, die den weltweit ersten Vorschlag zur Regelung der Nutzung von Systemen der künstlichen Intelligenz darstellen. Dieses Dokument ist sehr wichtig, weil es in erster Linie einen risikobezogenen Ansatz verwendet, d. h. es teilt alle Systeme der künstlichen Intelligenz in vier Kategorien ein, die auf ihrem Risiko beruhen. Die erste Kategorie ist die der inakzeptablen Risiken, d. h. es handelt sich um Systeme, die in der Europäischen Gemeinschaft verboten sind. Dann gibt es Systeme mit hohem, mittlerem und geringem Risiko. Für Systeme mit hohem und mittlerem Risiko sind eine ganze Reihe von Anforderungen definiert, die so genannten Bewertungslisten, d. h. eine Reihe von Anforderungen oder Zertifizierungen, die diese Systeme erfüllen müssen, um auf dem Binnenmarkt der Europäischen Gemeinschaft eingesetzt werden zu können. Diese Aspekte sind also sehr wichtig, und innerhalb der EU-Kommission wird viel darüber diskutiert, denn einerseits heißt es, dass das Ziel der Europäischen Kommission darin besteht, die Entwicklung und den Einsatz von Technologien der künstlichen Intelligenz zu fördern, die in gewisser Weise die Menschen und die europäischen Bürgerinnen und Bürger schützen, aber gleichzeitig muss es eine Art Rechtssicherheit für die Unternehmen geben, damit sie diese Systeme in einem aus rechtlicher Sicht sicheren Umfeld entwickeln können, so dass sie keine Risiken eingehen, wenn sie Technologien der künstlichen Intelligenz in ihre Produkte und Dienstleistungen, in ihr Marktangebot einführen. Die größte Einschränkung, die derzeit diskutiert wird, ist natürlich, dass eine Überregulierung die Innovation in gewisser Weise einschränken könnte. Dies gilt insbesondere, wenn wir die beiden Systeme betrachten, über die wir vorhin gesprochen haben, das chinesische und das amerikanische, wo es viel weniger Regulierung gibt, insbesondere das amerikanische im Vergleich zu dem europäischen Markt, den wir zu schaffen versuchen. Es ist also sehr schwierig, einerseits die Notwendigkeit der Regulierung dieser Systeme, die, wenn sie böswillig eingesetzt werden, tatsächlich Schaden anrichten können, und andererseits den Versuch, die Entwicklung der europäischen Innovation zu fördern und sicherzustellen, dass es auch eine echte Entwicklung der Technologien der künstlichen Intelligenz gibt, aber nicht nur der künstlichen Intelligenz, sondern auch aller unterstützenden Technologien. Ich denke also an Blockchain, ich denke an Cloud-Technologien, ich denke an Performance Computing, weil es tatsächlich sehr wichtig ist, dass diese Technologien auch auf europäischer Ebene entwickelt werden können und dass das, was im koordinierten Plan als europäische technologische Souveränität bezeichnet wird, somit realisiert wird. Denken wir zum Beispiel auch an das Projekt Gaia X, das das gleiche Ziel verfolgt, nämlich eine Art europäische technologische Souveränität zu erreichen. 

Quiz question 1/8

Ja
Nein
 

KI-Technologien sind für die zukünftige Entwicklung der Gesellschaft von strategischer Bedeutung.


Es wurden nur wenige Ressourcen in den Bereich der KI investiert.


Derzeit gibt es etwa 150 nationale KI-Strategien in der ganzen Welt.


Alle Länder betrachten KI-Technologien als strategisch und bedeutsam für die heutige Gesellschaft, die in Zukunft noch mehr an Bedeutung gewinnen wird.


Global gesehen kann man sagen, dass es zwei bis drei Modelle für die Entwicklung von KI- Technologien gibt: das amerikanische Modell, das chinesische Modell und dazwischen das europäische Modell.


Das amerikanische und das chinesische KI-Modell unterscheiden sich stark voneinander.


Was die Investitionen in die Entwicklung von KI-Technologien betrifft, ist Europa dem Rest der Welt weit voraus.



Quiz question 1/1

You have completed the Quiz!

Loading...

Quiz question 1/8

1) Worauf haben sich alle EU-Mitgliedstaaten 2018 geeinigt? Auf einen koordinierten Plan für die Entwicklung von KI-Technologien.
2) Worauf hat sich Europa konzentriert? Auf eine ethische Vision von KI.
3) Worauf basiert und konzentriert sich die europäische Vision? Auf den Menschen.
4) Was bedeutet eine zuverlässige KI-Technologie unter ethischen Gesichtspunkten?  Sie muss die europäischen Gesetze einhalten, die europäischen ethischen Werte respektieren und zuverlässig sein, d.h. aus technischer Sicht sicher.
5) Welche Dokumente hat die Europäische Kommission über die Regulierung von KI veröffentlicht? Eine europäische Datenstrategie.
6) Welches ist das wichtigste und umstrittenste Dokument, das die Europäische Kommission im April 2021 zur Regulierung des Einsatzes von KI-Systemen vorgeschlagen hat? Das KI-Gesetz.
7) Welche Anforderungen müssen KI-Systeme mit hohem und mittlerem Risiko erfüllen, um in der europäischen Gemeinschaft eingesetzt werden zu können? Mit einer Reihe von Anforderungen und Zertifizierungen.
8) Wozu könnte ein Übermaß an Vorschriften führen? Innovation einschränken
9) Welcher der beiden Märkte, der amerikanische und der europäische, ist stärker reguliert?
Der europäische.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

FRAGE (F. ANANASSO)

Wenn ich also richtig verstanden habe, geht das Modell der Europäischen Kommission über das amerikanische und das chinesische Modell hinaus, die mit verschiedenen Aspekten in eine andere Richtung als unseres gehen, es ist mehr auf den Menschen ausgerichtet und “vertrauenswürdig”, wie Sie sagten. Danach werden wir vielleicht darüber sprechen, was in Italien vor sich geht. Wenn ich das Gesetz über künstliche Intelligenz, von dem Sie sprechen (das Gesetz vom 21. April 2021), richtig verstanden habe, sind die Risiken unterschiedlich hoch. Möchten Sie uns dazu etwas sagen, was sind die wichtigsten Punkte? Gibt es neben der Risikoklassifizierung des europäischen Vorschlags noch andere relevante Aspekte? Ich habe von 32 Fällen gehört, in denen man unter der Voraussetzung, dass es Haftbefehle gibt, eingreifen kann. Kann man auf die Schnelle etwas dazu sagen, was die wesentlichen Punkte des europäischen Vorschlags sind?

ANTWORT (E. GIRARDI)

Ja. Was die Risiken betrifft, so kann ich Ihnen sagen, dass es sich um Aspekte von Systemen der künstlichen Intelligenz handelt, deren Risiko als inakzeptabel angesehen wird, z. B. Social Scoring, biometrische Fernüberwachung von Menschen oder Systeme, die das Verhalten von Menschen – insbesondere von schutzbedürftigen Menschen – irgendwie beeinflussen oder manipulieren können. Diese Funktionen werden als inakzeptabel angesehen und sind daher in der Europäischen Gemeinschaft derzeit verboten. Bei den Hochrisikosystemen hingegen sind meiner Meinung nach noch einige Aspekte zu klären, denn es geht um die Konformitätsbewertung, um eine Liste von Kriterien, die erfüllt werden müssen, damit sie in der Europäischen Gemeinschaft eingeführt und verwendet werden können. Aber das Problem ist, dass auch von einer europäischen Zertifizierung die Rede ist, die im Moment noch nicht sehr eindeutig ist. Unter anderem müssen wir bedenken, dass die Wertschöpfungskette von Systemen der künstlichen Intelligenz äußerst komplex ist. Wenn wir an die Entwicklung eines Algorithmus für künstliche Intelligenz denken, geht es zum Beispiel von denjenigen, die die Daten sammeln, zu denen, die das Training durchführen, zu denen, die den Algorithmus entwickeln, zu denen, die ihn dann in ihren eigenen Systemen im eigenen Unternehmen einsetzen und/oder auf den Markt bringen, und dann wird vielleicht der Datensatz geändert – ein Re-Update ist nötig, und dann muss man vielleicht das System ändern und in diesem Fall alles durch die Nutzung überwachen. Wir sprechen hier wirklich über den gesamten Lebenszyklus des Systems der künstlichen Intelligenz, und dann müssen alle verschiedenen Akteure in der Lieferkette ständig in Verbindung bleiben und die Nutzung des Systems der künstlichen Intelligenz, das sie entwickelt, trainiert und auf den Markt gebracht haben, ständig überwachen. Diese Aspekte sind also noch nicht ganz geklärt, denn es gibt einen Aspekt der Lieferkette, der meiner Meinung nach sehr komplex ist. 

Ein weiterer komplexer Aspekt ist die Tatsache, dass derzeit Hochrisikosysteme definiert werden, wenn auch nicht auf eine sehr klare Art und Weise, aber sie werden dennoch definiert. Ein weiterer Aspekt ist die Tatsache, dass sich die Europäische Kommission derzeit das Recht zuspricht, diese Liste zu ändern und neue Systeme hinzuzufügen, was ziemlich umstritten ist, da es normalerweise immer eine Trennung zwischen der Legislative und der Exekutive geben sollte, so dass es bereits viele Diskussionen darüber gibt, die besagen, dass die Europäische Kommission nicht die Macht hat, einen Anhang eines Gesetzes zu ändern. Und so sind diese Aspekte ziemlich umstritten, zum Beispiel habe ich neulich gelesen, dass die verschiedenen CEN, CENELEC, … und die meisten der verschiedenen Normungsgremien nach dem Grund für die oben genannte Position der EU-Kommission gefragt haben. 

Es gibt auch einen sehr interessanten Aspekt in Bezug auf die Definition von KI-Normen, die im Moment auf europäischer Ebene noch fehlen, und deshalb arbeiten alle verschiedenen Normungsgremien daran. Das ist eine der Rückmeldungen, um die sie gebeten haben, denn in diesen Tagen schreibt jeder eine Rückmeldung an die Europäische Kommission, da der 6. August 2021 der letzte Tag war, an dem man Rückmeldungen einreichen konnte. Ein Vorschlag für eine Verordnung ist eine der Rückmeldungen, nämlich die Streichung von Artikel 41, d.h. die Tatsache, dass die Europäische Kommission diese Liste von Systemen mehr oder weniger nach Belieben variieren kann (das ist nicht genau der Fall, aber sie kann nach eigenem Ermessen handeln). Das sind also einige der, sagen wir, widersprüchlichsten Elemente.

Ein weiteres sehr widersprüchliches Element betrifft die KI-Definition, da sie sehr weit gefasst ist, während sie eigentlich, sagen wir mal, zukunftsorientiert und zukunftssicher sein soll. Andererseits werden im Moment auch Systeme, von denen ich nicht weiß, ob sie KI sind, als KI-Systeme betrachtet, wie z. B. fortgeschrittene Statistiksysteme, lineare Regressionssysteme … was die Verwendung dieser Systeme, die heute wahrscheinlich keine künstliche Intelligenz sind, sehr viel komplexer macht, so dass es viele Aspekte der Diskussion gibt. Ich denke, es wird zwei oder drei Jahre dauern, bis diese Verordnung in allen Mitgliedsstaaten angewendet wird.

Quiz question 1/8

1) Welche inakzeptablen Risiken im Zusammenhang mit KI-Systemen gibt es in der europäischen Gemeinschaft? Soziales Scoring, Kontrolle der Masse, Kontrolle zur Beeinflussung und Manipulation des Verhaltens der Europäer:innen
2) Wie werden die Anforderungen und Kriterien für KI-Systeme mit hohem Risiko genannt, die bewertet werden müssen? Konformitätsbewertungen
3) Wie sieht die Wertschöpfungskette von KI-Systemen aus? äußerst komplex
4) Worauf bezieht sich die Überwachung von KI-Systemen? Den Lebenszyklus von KI-Systemen


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

FRAGE (F. ANANASSO)

Ich danke Ihnen für Ihre Überlegungen, die sich zum großen Teil mit einigen der Zweifel decken, die ich hatte. Ich verstehe jedoch, dass das Wesentliche, das wir mehr als andere haben, gerade das Konzept des “Menschen im Mittelpunkt” ist, nicht wahr? Der berühmte Ausdruck “Human in the loop”, mit dem viele Menschen meinen, zu Recht, dass am Ende / an der Spitze ein “Mensch” stehen muss, und ich bin persönlich sehr besorgt über das, was die Europäische Kommission explizit gesagt hat, dass sie nicht damit umgehen kann, dass es militärische Themen sind, die wir schon in anderen Interviews behandelt haben, sehr besorgniserregend, weil es keinen “Human in the loop” gibt. Dies ist jedoch ein Thema, das nichts mit dem zu tun hat, was wir jetzt behandeln, es ist nur eine Überlegung zwischen uns, die diese Themen untersuchen und behandeln.

Wir haben also die Welt und Europa gesehen. Wie sieht es mit Italien aus? Wie ist die Situation in Italien? In Italien, wie auch im übrigen Europa, aber vor allem bei uns, fällt in letzter Zeit oft der Begriff “Nachhaltigkeit”. Was ist der italienische Ansatz, die italienische Strategie und unser Ansatz, sagen wir, zur Nachhaltigkeit und zur Bedeutung des Einsatzes von künstlicher Intelligenz und der Investition in Systeme der künstlichen Intelligenz?

ANTWORT (E. GIRARDI)

Italien hat verschiedene Strategien entwickelt. Ich war damals an der Entwicklung der Strategie für künstliche Intelligenz beteiligt, die vom Ministerium für wirtschaftliche Entwicklung (MISE) gefördert wurde. Es gab noch zwei weitere Initiativen, wir haben also eine ganze Reihe von Strategien entwickelt, aber bis heute haben wir keine einzige veröffentlicht. Nun haben wir in den letzten Tagen erfahren, dass eine Gruppe aus drei Ministerien eine neue Arbeitsgruppe gebildet hat, die das Dokument, das wir im MISE verfasst haben, neu analysieren soll, und ich hoffe wirklich, dass sie die Phase der Umsetzung vorschlagen werden, d.h. die Strategie tatsächlich umzusetzen, sie durchzuführen, die Umsetzung, die das Wesentliche ist, und das hoffen wir wirklich. Das wird auch für Italien der Wendepunkt sein. Es ist schade, denn in Italien haben wir meiner Meinung nach so viel Exzellenz, vor allem in Bezug auf die Forschung und Entwicklung von künstlicher Intelligenz, aber leider fehlt es im Moment an einer strategischen Vision, was die Anwendungen, den Einsatz und die Entwicklung von künstlicher Intelligenz in den verschiedenen Bereichen der Gesellschaft angeht. 

Andererseits basiert die von uns vorgeschlagene italienische Strategie auf drei Säulen. Die erste war: KI für den Menschen, also absolut im Einklang mit der europäischen Vision der Menschenzentrierung, die zweite: KI für eine produktive, nachhaltige und exzellente Entwicklung, und dies entspricht sehr der EU-Vision, dem europäischen Whitepaper über künstliche Intelligenz, das im Februar 2021 vorgestellt wurde und das genau die Schaffung eines Systems der Exzellenz und des Vertrauens auf europäischer Ebene fördert, um die Entwicklung von Technologien der künstlichen Intelligenz zu fördern und dann in die Bildung zu investieren, um sie in Unternehmen, Schulen und die Gesellschaft zu bringen. Der letzte Punkt ist jedoch der Punkt, den ich für den wichtigsten und innovativsten halte, was die italienische Strategie für künstliche Intelligenz betrifft. Und das ist die KI für Nachhaltigkeit, die wir vorgeschlagen haben und von der wir glauben, dass sie wirklich einen Paradigmenwechsel erfordert, in dem Sinne, dass es nicht mehr ausreicht, nur den Menschen in den Mittelpunkt zu stellen, weil er tatsächlich auf dem Planeten und innerhalb des Ökosystems lebt. Es reicht also nicht mehr aus, zu sagen, dass wir Technologien nur nutzen, um das Leben der Menschen zu verbessern, und deshalb haben wir vorgeschlagen, Technologien der künstlichen Intelligenz zu nutzen, um die Ziele für nachhaltige Entwicklung (SDG) der Agenda 2030 der Vereinten Nationen zu erreichen. Wir haben also das Paradigma ein wenig verändert und diesen Aspekt der Nachhaltigkeit oder einen Ansatz, nennen wir ihn “planetenzentriert”, wenn Sie so wollen, vorgeschlagen – diese Vision ist derzeit sehr innovativ. Tatsächlich wurde sie auch von der OECD und der UNO angenommen, und ich glaube, sie wurde auch in den letzten koordinierten Plan der Europäischen Kommission aufgenommen, und ich denke, es ist wahrscheinlich die einzig mögliche Vision. Denn wenn 156 Länder beschlossen haben, dass die Agenda 2030 der Vereinten Nationen DIE Agenda ist, sowie die SDG-Ziele, die, auch wenn wir denken, dass 2030 praktisch morgen ist, die am meisten geteilten Ziele sind, die es heute auf europäischer Ebene gibt, dann sind meiner Meinung nach, sobald die zu erreichenden Ziele definiert sind, wie wir bereits sagten, die Definition von künstlicher Intelligenz Systeme, die uns in gewisser Weise autonom erlauben bestimmte Ziele zu erreichen. Wenn wir uns über die Ziele, die wir erreichen wollen, im Klaren sind, dann können wir diese Technologien einsetzen, um sie zu erreichen, auch wenn es sich um komplexe Ziele handelt. Und so haben wir dann für einige SDGs analysiert, wie wir Technologien einsetzen können, um sie zu erreichen. Insbesondere haben wir versucht, einen, sagen wir mal, sehr wichtigen Aspekt zu berücksichtigen, nämlich die Integration und Zugänglichkeit von Menschen mit Behinderungen zu verbessern. Und das dank des Einsatzes von Technologien der künstlichen Intelligenz. Diese Aspekte sind also sehr wichtig, aber sie sind auch sehr wichtig, um uns zu helfen, dem Klimawandel entgegenzuwirken oder die Auswirkungen auf die Umwelt zu verbessern. In dieser Hinsicht gibt es zum Beispiel ein sehr interessantes Projekt, das gerade von der Europäischen Kommission gefördert wurde, mit dem Namen “Destination Earth”, bei dem ein digitaler Zwilling der Erde geschaffen wurde, der es ermöglicht, den Klimawandel, die Auswirkungen des Klimawandels zu überwachen und zu bewerten und, sagen wir mal, auf diesem digitalen Zwilling der Erde die neuen Umweltpolitiken zu testen, die wir mit Hilfe von Technologien der künstlichen Intelligenz entwickeln wollen. Damit soll auch eine Optimierung und Rationalisierung der knappen Ressourcen, die es auf der Erde gibt, gefördert werden.

Quiz question 1/8

Italien hat verschiedene Strategien im Zusammenhang mit dem Einsatz von KI-Technologien entwickelt, die jedoch noch nicht veröffentlicht worden sind. Der italienische Vorschlag für Strategien basiert auf drei Säulen: KI für den Menschen, was sich auf die europäische Vision der Menschenzentrierung bezieht, KI für die produktive und nachhaltige Entwicklung zum Beispiel in Unternehmen, Schulen, im Bildungswesen und in der Gesellschaft und KI für Nachhaltigkeit. Die Europäische Kommission hat vor kurzem ein sehr interessantes Projekt mit dem Namen ‘Destination Earth’ (Ziel Erde) gefördert, bei dem eine digitale Simulation der Erde mit einem digitalen Zwilling geschaffen wurde, der dazu dienen soll, die Auswirkungen von Klimawandel und Umweltkatastrophen besser zu verstehen, zu überwachen und zu bewerten und die neue Umweltpolitik mit Hilfe von KI-Technologien an diesem digitalen Zwilling zu testen.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

FRAGE (F. ANANASSO)

Ausgezeichnet, ausgezeichnet, und nicht zu vergessen das neu gegründete Institut für künstliche Intelligenz in Turin, das eine erste Finanzierung erhalten hat, oder irre ich mich? 

ANTWORT (E. GIRARDI)

Nein, nein, leider irren Sie sich. Es ist eigentlich ein bisschen anders gelaufen, in dem Sinne, dass es in Turin sein sollte, aber jetzt gibt es in der Realität ein bisschen Unsicherheit, da diese Entscheidung, die von der vorherigen Regierung getroffen wurde, nicht weiterverfolgt wurde und dann nach verschiedenen Diskussionen beschlossen wurde, ein Zentrum für Forschung und Entwicklung im Automobilbereich zu gründen, das in Turin angesiedelt sein wird und auch Technologien der künstlichen Intelligenz nutzen wird, mit einer Finanzierung von, wenn ich mich richtig erinnere, 20 Millionen Euro. Daher wurde das italienische Institut für künstliche Intelligenz vorerst auf Eis gelegt, was meiner Meinung nach sehr schade ist, denn das hätte Italien die Möglichkeit gegeben, an den verschiedenen internationalen Tischen teilzunehmen, sagen wir mit einem institutionellen Hut, denn heute ist Italien leider an vielen internationalen Tischen vertreten, aber nur durch Einzelpersonen, die sich auszeichnen, nicht auf institutioneller Ebene, also ist es, sagen wir, eine verpasste Gelegenheit. 

Hoffen wir, dass diese neue Task Force in der Lage sein wird, sie wieder vorzuschlagen.

FRAGE (F. ANANASSO)

Sagen wir, es ist ein halber Sieg, sehen wir es in einem positiven Licht. Und sehen Sie, wir haben gesehen, dass die Welt, Europa und Italien, jetzt, um zum Schluss zu kommen, einen großen Bedarf an Weiterbildung haben, offensichtlich, weil jeder über künstliche Intelligenz spricht, diese Sache, die nur wenige wirklich vollständig verstehen, wenn man sich nicht im Detail damit beschäftigt. Ich denke, wir sind uns einig, dass die Weiterbildung von entscheidender Bedeutung ist, um zu verstehen, was diese Technologien sind und wie man sie sicher einsetzt. Besteht sogar die Gefahr, dass ohne eine angemessene Fortbildung – ich spreche vom italienischen System, da wir uns an diesem Projekt zur Fortbildung von Erwachsenen im Bereich der künstlichen Intelligenz beteiligen – eine Art “digitale Kluft” im Bereich der künstlichen Intelligenz im Vergleich zu anderen Bereichen entstehen könnte? Wie sehen Sie das, was ist wichtig und was sind Ihrer Meinung nach die wichtigen Dinge, die getan werden sollten, um das Potenzial, die Vor- und Nachteile, die Risiken und was auch immer von künstlicher Intelligenz gut und besser zu lehren? 

ANTWORT (E. GIRARDI)

Meiner Meinung nach ist dies der Schlüsselaspekt und das Wichtigste. Denken Sie nur daran, dass wir eingangs von über 50 Ländern sprachen, die bereits ihre nationale Strategie für künstliche Intelligenz festgelegt haben. Denken Sie daran, dass es Länder wie Finnland gibt, die als oberste Priorität ihrer Strategie für künstliche Intelligenz die Schulung, die Bildung ihrer Bürger:innen in Bezug auf Technologien der künstlichen Intelligenz festgelegt haben, es ist also wirklich ein Schlüsselaspekt. Auch China investiert übrigens sehr viel in die Bildung und Weiterbildung seiner Bürger:innen, da sie erkannt haben, dass dies, sagen wir mal, der Schlüssel zur aktiven Teilnahme an der Gesellschaft der Zukunft ist. Meiner Meinung nach ist dies also der Schlüsselaspekt. Denn wenn wir zum Beispiel an uns als Arbeitnehmer:innen oder als Bürger:innen oder als Studierende denken, dann werden die Arbeitsplätze der Zukunft mit Sicherheit die Fähigkeit erfordern, Technologien der künstlichen Intelligenz zu nutzen, und daher ist dieser Aspekt von grundlegender Bedeutung, denn es ist notwendig, sich fortzubilden oder weiterzubilden, um, sagen wir, neue Berufsprofile zu erlernen oder sich umschulen zu lassen, um wirklich etwas über völlig neue Arbeitsplätze zu erfahren. 

Und das ist meiner Meinung nach ein Schlüsselaspekt, denn wenn wir an ein Unternehmen denken, das zu diesem Zeitpunkt vielleicht robotergestützte Automatisierungssysteme von Prozessen einführt und dann irgendwie Ressourcen freisetzt, weil es Aufgaben gab, die von Menschen ausgeführt wurden, die jetzt von automatisierten Systemen ausgeführt werden, dann sollte diese frei gewordene Zeit, diese frei gewordenen Ressourcen, meiner Meinung nach unbedingt in die Ausbildung von Mitarbeiter:innen reinvestiert werden. Dieser Aspekt ist auch aus wirtschaftlicher Sicht wichtig, denn er bedeutet auch eine Umverteilung der wirtschaftlichen Vorteile, die sich aus der Einführung von Automatisierungssystemen in den Unternehmen ergeben, und daher ist es auch eine Umverteilung, sagen wir, der positiven Auswirkungen auf die verschiedenen Beteiligten, d.h. Investitionen in die Ausbildung, die meiner Meinung nach ein Recht aller Arbeitnehmer:innen sein sollten. 

Der andere Aspekt ist, dass es wirklich wichtig ist, die, sagen wir, digitalen Fähigkeiten zu erlernen, nicht nur die grundlegenden, sondern auch die fortgeschrittenen, um zu wissen, was die Technologien der künstlichen Intelligenz sind und um sie für die eigene Arbeit nutzen zu können, denn alle Arbeitsplätze werden diese Technologien nutzen, egal wie. In dieser Hinsicht ist zum Beispiel ein Ansatz sehr interessant, der eher die Bildung betrifft, also die Schulen, ein sehr schönes Projekt, das am MIT in Boston entwickelt wurde, zusammen mit einem Projekt, das von Schwartzman finanziert wurde, einem privaten Beteiligungsfonds von Herrn Schwartzman selbst, der ein College namens Schwartzman College gegründet hat, das eine Art zweisprachige Schule ist. Das heißt, was auch immer man studieren will – Philosophie, Anthropologie, Medizin, Jura, … – man studiert es zusammen mit Computerwissenschaften und künstlicher Intelligenz, denn die Idee ist, dass jeder in der Zukunft eine solide Basis in Computerwissenschaften und die Fähigkeit, Technologien der künstlichen Intelligenz zu nutzen, braucht. Diese Fächer sollten auch als Pflichtfächer in unsere Schulen aufgenommen werden, und zwar von Kindesbeinen an, d. h. von der Grundschule an, Fächer, die theoretisch bereits vorhanden sind, aber in der Realität leider nicht eingehend unterrichtet werden. Das Wichtigste ist also vielleicht die Ausbildung von Ausbilder:innen, und deshalb ist das Projekt, das Sie durchführen, meiner Meinung nach auch sehr wichtig, denn es zielt zunächst darauf ab, Ausbilder:innen auszubilden, damit sie dann in der Lage sind, diese Themen in den Schulen zu unterrichten. Das ist sehr wichtig, denn wenn wir zum Beispiel an die Ärzt:innen denken, die jetzt in den Krankenhäusern arbeiten, sind sie wahrscheinlich nicht in der Lage, die neuen Systeme der künstlichen Intelligenz zu benutzen, und auch die Ärzt:innen, die jetzt an der Universität studieren, die diese Technologien nicht studieren, wenn sie in den Krankenhäusern arbeiten, werden sie nicht in der Lage sein, sie zu benutzen, und wir haben gesehen, wie nützlich diese Technologien während der Pandemie Covid-19 waren, wenn wir sie also wirklich darin ausbilden könnten, diese Technologien zu benutzen, könnte das wirklich ein sehr nützliches Werkzeug für ihre Arbeit sein. 

Und dann gibt es noch den anderen Aspekt zu bedenken, dass die Arbeitsplätze der Zukunft anders sein werden als heute, d. h. der:die Arzt:in von heute wird ein ganz anderer sein als der:die Arzt:in von morgen. Daher müssen sie auch ihre Herangehensweise ändern, um zu lernen, wie man diese Technologien nutzt, und um eine Mentalität zu haben, die flüssiger und offener ist, um auch neue Aufgaben zu bewältigen, die es heute wahrscheinlich noch gar nicht gibt und die sich inhaltlich stark verändern werden.

Quiz question 1/8

In Italien hat die Aus- und Weiterbildung im Bereich der KI-Technologien oberste Priorität.




Quiz question 1/8

Die dank KI-Systemen frei werdenden Ressourcen sollten in die Ausbildung, Höherqualifizierung und Umschulung von Arbeitnehmern, Studenten und Bürgern reinvestiert und umverteilt werden.




Quiz question 1/8

Alle Arbeitnehmer sollten das Recht haben, von der Umverteilung der eingesparten Ressourcen durch KI zu profitieren.




Quiz question 1/8

In der Zukunft werden Arbeitnehmer nicht in der Lage sein müssen, KI-Technologien zu verstehen und zu nutzen.




Quiz question 1/8




Quiz question 1/8

Informatik und KI sollten auch in die Schule integriert werden.




Quiz question 1/1

You have completed the Quiz!

Loading...

The learning unit has not been completed

You have successfully completed the learning unit.

DE / EN / IT / SL / EL 

AIAE » E-LEARNING » INTERVIEW 7

Maschinelles Lernen

Die folgenden Interviewausschnitte wurden mit Fabio Del Frate aufgenommen und behandeln die Definition von KI, die wichtigsten Aspekte des maschinellen Lernens, die Interpretationen über Deep Learning, die Themen überwachtes und unüberwachtes Lernen und deren Zusammenhang mit KI sowie die verschiedenen Arten des maschinellen Lernens.

Transkript

Fabio Del Frate erwarb an der Universität Rom “Tor Vergata” einen Master-Abschluss in Elektrotechnik (1992) und den Doktortitel in Informatik (1997). Von 1995 bis 1996 war er Gastwissenschaftler am Massachusetts Institute of Technology, und von 1998 bis 1999 arbeitete er bei der Europäischen Weltraumorganisation. Danach wechselte er an die Universität Rom “Tor Vergata”, wo er derzeit außerordentlicher Professor für Fernerkundung und angewandten Elektromagnetismus in verschiedenen Master- und PhD-Programmen ist. Zu diesen Themen war er als Dozent an mehreren europäischen Universitäten tätig und leitete als Principal Investigator/Projektmanager mehrere von der Europäischen Weltraumorganisation (ESA) und der Italienischen Weltraumorganisation (ASI) finanzierte Projekte, bei denen er Forschungsaktivitäten im Bereich der auf Satellitendaten angewandten künstlichen Intelligenz für die Erdbeobachtung (im Folgenden als “EO” bezeichnet) leitete.

Quiz question 1/8

Der Befragte, Fabio Del Frate, ist Doktor der Informatik und derzeit als Professor an der
Universität Rom Tor Vergata tätig. Er hält Vorlesungen über Fernerkundung und
Elektromagnetik. Bei den europäischen und italienischen Raumfahrtbehörden leitete er
Forschungsaktivitäten auf dem Gebiet der künstlichen Intelligenz, die auf Satellitendaten für Erdbeobachtung angewandt wird.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Q1. Herr Prof. Del Frate, lassen Sie uns mit den Grundlagen beginnen. Was ist Künstliche Intelligenz?

Nun, um kurz zu erklären, was KI ist, zitiere ich gerne einen der Väter der KI, Prof. Nils John Nilsson. Für ihn ist “Künstliche Intelligenz die Tätigkeit, die darauf abzielt, Maschinen intelligent zu machen, und Intelligenz ist die Eigenschaft, die ein Wesen befähigt, in seiner Umgebung angemessen und vorausschauend zu handeln.” 

Wir können also sagen, dass wir den Maschinen und Computern mehr Freiräume geben. Wir fordern sie auf, ihre eigenen Entscheidungen zu treffen, um über das hinauszugehen, was bei der traditionellen Computerprogrammierung geschieht, nämlich im Wesentlichen eine Abfolge von Befehlszeilen auszuführen, auch wenn diese lang und komplex ist. 

Wie setzen wir das um? Es besteht im Wesentlichen darin, die Maschinen mit Daten zu füttern und sie in die Lage zu versetzen, nach Beziehungen zwischen diesen Daten zu suchen, selbst wenn diese sehr subtil sind. Mit diesen beiden Elementen – Daten und Interpretationsmodellen – entwickelt und baut die KI ihr eigenes Wissen, ihre eigene Erfahrung auf.

Ich denke, dass in diesem Zusammenhang auch eine historische Perspektive interessant sein könnte, so dass wir fragen könnten, wann die ersten Algorithmen für künstliche Intelligenz und maschinelles Lernen vorgeschlagen wurden. Es mag verschiedene Antworten geben, aber meiner Meinung nach sollten wir, um die Wurzeln der künstlichen Intelligenz zu finden, bis ins Jahr 1943 zurückgehen, als das erste mathematische Modell neuronaler Netze in der wissenschaftlichen Arbeit “A logical calculus of the ideas immanent in nervous activity” von Walter Pitts und Warren McCulloch vorgestellt wurde. In diesem Aufsatz wird zum ersten Mal ein einzelnes Neuron als elementare nichtlineare Verarbeitungseinheit dargestellt und es wird angenommen, dass es mit anderen Neuronen verbunden ist. Mit anderen Worten: eine erste grobe, aber effektive mathematische Darstellung des Gehirns.

Nun stellt sich die Frage: Ist das alles gefährlich? Ich denke, die Antwort lautet: “Ja, das könnte es sein”, aber genauso, wie es jedes Mal der Fall ist oder war, wenn wir von einer neuen Technologie fasziniert sind und sie wachsen lassen wollen. Die Entwicklung einer “sicheren” KI ist ein Thema, mit dem sich Wissenschaftler:innen und Forscher:innen intensiv beschäftigen. Der wichtigste Punkt ist, dass der Mensch immer als Aufsichtsperson fungieren sollte. Die Regeln, die Leitlinien, aber vor allem die Daten, auf denen die Maschine, wie wir bereits sagten, ihr Wissen aufbaut und auf die sie sich bei ihren Entscheidungen stützt, werden von menschlichen Experten:innen bereitgestellt, so dass die Maschine zwar mit einem gewissen Grad an Autonomie handelt, aber innerhalb eines genau festgelegten Spielfelds, dessen Grenzen von Menschen festgelegt werden.

Quiz question 1/8

Die KI bietet Maschinen und Computern mehr Freiheitsgrade, was bedeutet, dass Maschinen
aufgefordert werden, über die traditionelle Computerprogrammierung hinauszugehen.
Damit Maschinen Muster und Beziehungen erkennen und ihr eigenes Wissen aufbauen können,
müssen sie mit Daten versorgt werden. Zwei wichtige Elemente für die Interpretation der
Ergebnisse der KI sind Daten und Modelle. KI hat sowohl positive als auch inspirierende
Ergebnisse, aber sie kann sich auch als gefährlich erweisen. Daher müssen sich die
Forscher:innen auf eine sichere Entwicklung der künstlichen Intelligenz konzentrieren. Der
wichtigste Grundsatz muss sein, dass der Mensch immer in der Rolle des Überprüfers von Regeln und
Richtlinien, aber vor allem von Daten ist.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Q2. Was ist maschinelles Lernen?

Nun, ich würde sagen, dass maschinelles Lernen ein möglicher, ich schätze, im Moment der am meisten genutzte, technische Prozess ist, um künstliche Intelligenz in einer Maschine zu erzeugen. Wir haben bereits gesehen, dass es zwei Hauptakteure gibt: die Daten und das Modell, genauer gesagt ein mathematisches Modell. Die Herausforderung besteht darin, die Parameter des mathematischen Modells so zu finden, dass es die Beziehungen zwischen den Daten darstellen kann. Alles hängt davon ab, dass ein Lernprozess auf der Grundlage der Daten selbst eingeleitet wird. Es gibt verschiedene Arten von Modellen, z. B. neuronale Netze oder Support-Vector-Maschinen, und folglich auch verschiedene Algorithmen zum Erlernen des Modells. Das Endziel ist jedoch immer dasselbe: Wissen aus den im Lernprozess verwendeten Trainingsdaten zu extrahieren und dieses extrahierte Wissen auf neue Daten anzuwenden. Übrigens ist die Bewertung, wie gut die Leistung des Modells auf den neuen Daten ist, d. h. auf Daten, die während der Trainingsphase nicht berücksichtigt wurden, sehr wichtig. Sie sagt uns, inwieweit das Modell in der realen Welt anwendbar ist, inwieweit es in der Lage ist, zu verallgemeinern. 

In jedem Fall sind die Qualität und die Quantität der in der Lernphase verwendeten Daten entscheidende Faktoren für eine erfolgreiche Leistung. Insbesondere muss die Menge der Daten statistisch signifikant sein, um die relevanten Merkmale des Phänomens, das wir untersuchen wollen, zu liefern. Ein weiterer wichtiger Punkt ist die Entscheidung, wie komplex unser mathematisches Modell sein soll. Es wäre ein ernstes Problem, wenn wir ein zu einfaches Modell wählen, um nach sehr subtilen Beziehungen zwischen den Daten zu suchen, aber wenn die den Daten zugrundeliegenden Regeln weniger kompliziert sind, kann auch die Struktur des Modells leichter sein, manchmal…. ist weniger mehr, wie wir sagen, wobei weniger sich auf die Anzahl der Parameter bezieht, die das Modell charakterisieren. 

Die Komplexität des Modells hat übrigens auch mit der Zeit zu tun, die wir zum Trainieren des Modells benötigen, und mit der Menge an Daten, die für die Durchführung des gesamten Lernprozesses erforderlich ist.

Quiz question 1/8

Was ist maschinelles Lernen?





Quiz question 1/8

Was macht maschinelles Lernen?





Quiz question 1/8

Was sind die Ergebnisse der verschiedenen Modelltypen?





Quiz question 1/8

Warum ist es wichtig, die Leistung des Modells anhand neuer Daten zu bewerten?





Quiz question 1/8

Welches sind die entscheidenden Faktoren für die erfolgreiche Anwendung von KI?





Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Q3. KI und ML werden oft mit Begriffen wie “Deep Learning” in Verbindung gebracht. Was ist Deep Learning?

Nun, wir können sagen, dass das Wort “deep” in “deep learning” zwei verschiedene Bedeutungen hat, obwohl sie sehr stark miteinander verbunden sind. Die eine hat mit der hierarchischen Darstellung des Szenarios zu tun, an dem wir interessiert sind.  Handelt es sich bei dem Szenario beispielsweise um Objekterkennung, so hat tiefes Lernen mit den verschiedenen Stufen des Erkennungsprozesses des Objekts zu tun: als Tier, als Hund, als Dalmatinerhund.

Diese verschiedenen Stufen der Repräsentation korrespondieren mit den verschiedenen Schichten des mathematischen Modells, das wir zur Repräsentation verwenden wollen, d. h. vereinfacht gesagt, eine Schicht des mathematischen Modells konzentriert sich auf das Tier, eine Schicht auf den Hund, eine Schicht auf die Art des Hundes.  Genau das geschieht bei einem tiefen neuronalen Netz. Neuronale Netze sind die am häufigsten verwendeten Modelle für tiefes Lernen. Hier haben wir also die zweite Bedeutung, die eine topologische Bedeutung ist und sich auf die Anzahl der Schichten der Struktur bezieht. Wir haben also tiefe neuronale Netze, wie z. B. Convolutional Neural Networks, die viele Verarbeitungsschichten umfassen, und flache neuronale Netze, wie z. B. herkömmliche Multi-Layer Perceptrons, die neuronale Netze mit einer begrenzten Anzahl von Schichten sind. Um auf das zurückzukommen, was wir über die Komplexität der Modelle gesagt haben: Deep-Learning-Strukturen sind zweifellos sehr komplex, was einen hohen Rechenaufwand und die Verfügbarkeit großer Mengen von Lerndaten erfordert. Der Bedarf an einer sehr großen Anzahl von Daten hat die Entwicklung neuer Techniken zur so genannten “Datenerweiterung” angeregt, die darin besteht, die Anzahl der Daten ausgehend von einem begrenzten Datensatz zu erhöhen.

Quiz question 1/8

Ja
Nein
 

Kann man sagen, dass Deep Learning zwei Bedeutungen hat?


Ist Deep Learning für mehrere Stufen im Prozess der Objekterkennung verantwortlich?


Enthält ein mathematisches Modell verschiedene Wissensschichten?


Stimmt es, dass neuronale Netze nicht die am häufigsten verwendeten Netze für Deep Learning sind?


Ist eine der Bedeutungen von Deep Learning die topologische?


Können neuronale Netze flach oder faltig sein?


Ist tiefes Lernen eine nicht-komplexe Strategie?



Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Q4. Was ist überwachtes Lernen? Können Sie einige Beispiele für Anwendungen nennen, die es verwenden?

Nun, ich würde sagen, dass das überwachte Lernen heute der am weitesten verbreitete Unterzweig des maschinellen Lernens ist. Überwachtes Lernen ist eine Form des Lernens, bei der für eine gegebene Eingabe ein “wahres” Ergebnis verfügbar ist und diese Wahrheit dem Modell beigebracht werden kann. Mit anderen Worten: Als Lehrer:in oder Betreuer:in wissen wir für jede Eingabe, die wir dem Modell geben, was die Ausgabe des Modells sein sollte, und wir wollen, dass das Modell diese allgemeine Regel berücksichtigt. In der Regel geschieht dies durch Minimierung einer so genannten Fehler- oder Kostenfunktion, die den Abstand zwischen den gewünschten Ausgabewerten und den vom Modell während der Trainingsphase erzeugten tatsächlichen Ausgabewerten darstellt. Eigentlich kann man davon ausgehen, dass das überwachte Lernen erfolgreich ist, wenn die endgültige Fehlerrate über eine Reihe von Beispielen, die während der Trainingsphase nicht verwendet wurden, unter einem vordefinierten Schwellenwert liegt. Die Trainingsphase kann sehr lang sein, aber wenn wir sie erst einmal abgeschlossen haben, haben wir ein sehr leistungsfähiges Werkzeug, das im Grunde in Echtzeit arbeitet, um die neuen Daten zu verarbeiten. Überwachtes Lernen kann in vielen Bereichen nützlich sein. Eine ziemlich umfangreiche Anwendung betrifft die Bildklassifizierung. In diesem Fall handelt es sich bei den echten Daten um Daten, die durch menschliche Bildinterpretation beschriftet wurden. Die Klassifizierung kann auf verschiedenen Ebenen erfolgen: Pixelebene, Fleckenebene, Objektebene. Die Klassifizierungsebene bestimmt die Wahl des Inputs, den wir dem Modell geben wollen. Insbesondere das überwachte Lernen wird heute sehr häufig in der Erdbeobachtung eingesetzt, wenn es darum geht, bio-geophysikalische Parameter aus von Satelliten gesammelten Daten abzuschätzen. Ein interessantes Beispiel ist die Präzisionslandwirtschaft in der Landwirtschaft. Wenn wir die Biomasse einer Kultur überwachen wollen, um die Menge des einzusetzenden Düngers zu optimieren, können wir die von Satelliten erfassten Daten dieser Kultur nutzen. Insbesondere im Mikrowellenbereich des elektromagnetischen Spektrums ist die Gewinnung von Vegetationsparametern jedoch nicht trivial, da die Messung auch, sagen wir, durch den darunter liegenden Boden verunreinigt ist. Daher können überwachte KI-Modelle definitiv eines der Werkzeuge sein, die es uns ermöglichen, den Teil der Informationen in der Messung abzurufen, der mehr mit der Vegetation zusammenhängt, und den Teil zu verwerfen, der mehr durch den Boden bedingt ist.

Quiz question 1/8

Überwachtes Lernen ist kein gängiger Unterzweig des maschinellen Lernens.




Quiz question 1/8

Der Fehler ist der Abstand zwischen den beschlossenen und den tatsächlichen Ausgabewerten.




Quiz question 1/8

Die Trainingsphase des überwachten Lernens ist kurz.




Quiz question 1/8

Das Endergebnis des überwachten Lernens ist sehr leistungsfähig, da es in Echtzeit mit neuen Daten arbeiten kann.




Quiz question 1/8

Bildklassifizierung und Objekterkennung sind Beispiele für überwachtes Lernen.




Quiz question 1/8

Überwachtes Lernen wird selten auf Erdbeobachtungen angewendet.




Quiz question 1/8

Biophysikalische Parameter aus von Satelliten gesammelten Daten werden in das überwachte Lernen einbezogen, wenn Erdbeobachtungen gemacht werden.




Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Q5. Was ist unüberwachtes Lernen? Können Sie einige Beispiele für Anwendungen nennen, die es verwenden?

Der Hauptzweck des unüberwachten Lernens besteht darin, Korrelationen zwischen Daten zu finden, um sie in ähnliche Kategorien umzugruppieren. Beim unüberwachten Lernen brauchen wir keine externen Markierungsvorgänge oder eine:n Lehrer:in, der:die Zielwerte vorgibt. Das gesamte Training des mathematischen Modells basiert nur auf den vorhandenen Originaldaten, so dass der Prozess in diesem Fall im Vergleich zum überwachten Lernen durch einen höheren Automatisierungsgrad gekennzeichnet ist. Man kann sagen, dass das Modell am Ende des Trainings eine interne Repräsentation der Daten erstellt, die sie verständlicher und leichter zu interpretieren macht. Wie bei den anderen Lernparadigmen kann auch das unüberwachte Lernen mit Hilfe verschiedener mathematischer Modelle umgesetzt werden. Auch in diesem Fall müssen wir immer die Komplexität des Modells im Auge behalten, die die Komplexität der angestrebten internen Repräsentation widerspiegeln sollte. In der EO und in anderen Bereichen kann unüberwachtes Lernen zur Verringerung der Dimensionalität eingesetzt werden. Betrachtet man eine hyperspektrale Messung, so kann die gesammelte Information über Hunderte von Wellenlängen verteilt sein. In vielen Fällen wäre es wünschenswert, solche Informationen oder die wichtigsten davon in einer geringeren Anzahl von Komponenten zu komprimieren. Dies kann mit unüberwachten Lerntechniken erreicht werden.

Quiz question 1/8

1) Wonach suchen wir in Daten mit unüberwachtem Lernen? Korrelation.
2) Auf welcher Grundlage werden die Daten beim unüberwachten Lernen neu gruppiert?
Ähnlichkeiten.
3) Sind beim unüberwachten Lernen externe Beschriftungsvorgänge erforderlich? Nein.
4) Worauf basiert das Training von mathematischen Modellen? Originaldaten.
5) Was macht das Modell am Ende des Trainings beim unüberwachten Lernen mit den Daten?
Es ordnet sie.
6) Worauf müssen wir beim unüberwachten Lernen achten? Die Komplexität des Modells.
7) Wofür kann unüberwachtes Lernen im Besonderen verwendet werden? Reduzierung der
Dimensionalität.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Q6. Es gibt verschiedene Gruppierungen von Algorithmen des maschinellen Lernens, z. B. Regression, Klassifizierung und so weiter. Können Sie deren Bedeutung und den Unterschied zwischen ihnen erklären?

Es gibt verschiedene Möglichkeiten, Algorithmen des maschinellen Lernens zu gruppieren. Ich denke, die wichtigste hängt von der Art des mathematischen Modells ab. Insbesondere gibt es, wie bereits erwähnt, Modelle für überwachtes Training und Modelle für unbeaufsichtigtes Training. Zu den wichtigsten Modellen gehören neuronale Netze, Deep oder shallow, Support Vector Machines, Entscheidungsbäume und Ensemble-Techniken. Bei den unüberwachten Modellen können wir k-means, Hauptkomponentenanalyse, auto-assoziative neuronale Netze, selbstorganisierte Karten und so weiter nennen. 

Aber wie Ihre Frage zeigt, gibt es noch eine andere Möglichkeit, Algorithmen des maschinellen Lernens zu gruppieren, nämlich die Unterscheidung zwischen Regression und Klassifikation. Sobald unserem mathematischen Modell ein bestimmter Input zur Verfügung gestellt wird, hängt der Unterschied zwischen Regression und Klassifizierung hauptsächlich von der Art des Outputs ab, an dem wir interessiert sind. Im Falle der Klassifizierung ist die Ausgabe eine Bezeichnung, eine Klasse. Nehmen wir als Beispiel wieder eine Satellitenanwendung, bei der die Fernerkundung für die Meteorologie eingesetzt wird. Nehmen wir also an, wir müssen eine meteorologische Analyse durchführen und wollen entscheiden, welches Pixel in einem Bild des Himmels einem bewölkten Himmel und welches Pixel des Bildes einem klaren Himmel zuzuordnen ist, so dass das Endziel darin besteht, eine Karte zu erstellen, in der wir mit der blauen Farbe die klaren Himmelspixel und mit der grauen Farbe die bewölkten Pixel darstellen. Wir sagen in diesem Fall, dass wir eine Klassifizierungskarte erhalten wollen. Bei der Regression geht es im Wesentlichen darum, dass unser mathematisches Modell als Reaktion auf die Datenverarbeitung eine Zahl berechnet oder schätzt, und zwar im Allgemeinen eine reelle Zahl. Betrachten wir also dasselbe Szenario im Bereich der Meteorologie, so wollen wir anhand der Fernerkundungsdaten wissen, wie hoch die Luftfeuchtigkeit oder die Niederschlagsmenge (reale Zahlen) in einem bestimmten Gebiet ist. Es ist jedoch interessant zu sehen, wie ein Regressionsproblem in ein Klassifizierungsproblem umgewandelt werden kann. Dies geschieht, wenn ich sage: Innerhalb dieses Bereichs von Niederschlagswerten, also zwischen diesen beiden Zahlen, habe ich die Klasse “geringer Niederschlag”, in diesem anderen Intervall oder Bereich habe ich “mäßiger Niederschlag”, und so weiter. In diesem Fall ordne ich die Wertebereiche den Klassen zu.

Vielen Dank, Prof. Fabio Del Frate, wir wissen das wirklich zu schätzen. Das war ein deutlicher und interessanter Einblick in die Funktionen der Künstlichen Intelligenz und die entsprechenden Anwendungen.

Quiz question 1/8

Es gibt nur zwei verschiedene Algorithmen für maschinelles Lernen.




Quiz question 1/8

Algorithmen für neuronale Netze können tief oder oberflächig sein.




Quiz question 1/8

Support-Vektor-Maschinen und Entscheidungsbäume sind Algorithmen für überwachtes maschinelles Lernen.




Quiz question 1/8

Selbstorganisierende Karten, Mittelwert-Clustering und Hauptkomponentenanalyse sind Arten des überwachten maschinellen Lernens.




Quiz question 1/8

Der Hauptunterschied zwischen Klassifikation und Regression liegt in der Art der Ausgabe.




Quiz question 1/8

Die Ausgabe bei der Klassifizierung ist eine Bezeichnung/Klasse.




Quiz question 1/8

Die Regression schätzt eine reelle Zahl.




Quiz question 1/8

Wir können das Regressionsproblem nicht in ein Klassifikationsproblem übertragen.




Quiz question 1/1

You have completed the Quiz!

Loading...

The learning unit has not been completed

You have successfully completed the learning unit.

DE / EN / IT / SL / EL 

AIAE » E-LEARNING » INTERVIEW 6

KI und gesellschaftliche Herausforderungen

Die folgenden Interviewausschnitte wurden mit Simon Delakorda aufgenommen und behandeln die sozialen Auswirkungen der KI anhand von Beispielen aus dem täglichen Leben, die gesellschaftlichen Herausforderungen des maschinellen Lernens und die Rolle der Institutionen im Bereich der KI-Regulierung.

Transkript

Hallo zusammen. Mein Name ist Simon Delakorda. Ich bin Direktor des Instituts für elektronische Partizipation aus Ljubljana, Slowenien. Das Institut für elektronische Partizipation ist eine nichtstaatliche Organisation, die in den Bereichen Informationsgesellschaft, Entwicklung und Digitalisierung tätig ist. Wir befassen uns auch mit Fragen der künstlichen Intelligenz. Letztes Jahr haben wir zum Beispiel einen Bürger:innendialog durchgeführt, der sich auch mit aktuellen Fragen zur Entwicklung der künstlichen Intelligenz befasste. Also wie sich diese Technologie auf den Alltag der Bürgerinnen und Bürger auswirkt.

Quiz question 1/8

Der Befragte, Simon Delakorda, ist der Direktor des Instituts für elektronische Partizipation in
Ljubljana, einer gemeinnützigen Organisation, die sich mit der Entwicklung der Informationsgesellschaft beschäftigt. Das Institut arbeitet auch auf dem Gebiet der Digitalisierung
und befasst sich mit dem Problem der künstlichen Intelligenz.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Beginnen wir also mit meiner ersten Frage: Was ist künstliche Intelligenz und was hat sie mit der Gesellschaft zu tun? 

Normalerweise wird künstliche Intelligenz als eine Technik beschrieben, die es einem Computersystem ermöglicht, jede Art von Intelligenz zu imitieren. Das klingt vielleicht etwas technisch, aber im Grunde bedeutet es, dass eine Maschine in der Lage ist, ein bestimmtes Problem zu lösen. Manche bezeichnen künstliche Intelligenz also als einen technischen Ansatz, andere definieren sie als eine Kombination aus Software, Hardware und Daten. In jedem Fall aber ist künstliche Intelligenz ein Kompromiss aus verschiedenen Werkzeugen und Methoden. Aus diesem Grund ist es auch sehr schwer, die künstliche Intelligenz zu identifizieren. Im Moment haben wir also diese allgemein akzeptierten Definitionen, weil wir, offen gesagt, noch nicht einmal wissen, was menschliche Intelligenz eigentlich ist und wie man sie richtig definiert. Sie können sich also vorstellen, dass wir dieses Problem auch bei der künstlichen Intelligenz haben. Aber um direkt zu unserer Erfahrung mit den Anwendungen der künstlichen Intelligenz im Alltag zu kommen, können wir schon heute sehen, dass es viele verschiedene Anwendungen gibt, die eine große Unterstützung bieten und auch helfen, unser Leben einfacher zu machen. Die typischsten Beispiele für den Einsatz von künstlicher Intelligenz in der Gesellschaft sind zum Beispiel die Spracherkennung. Viele von Ihnen sind wahrscheinlich mit der Siri von Apple oder Alexa von Amazon vertraut, die intelligente Systeme beinhalten und eigentlich Systeme der künstlichen Intelligenz sind, um Spracheingaben zu erkennen und basierend auf diesen Spracheingaben liefern diese Systeme dann verschiedene Dienste oder Kommentare, um verschiedene Aufgaben auszuführen. Das nächste Beispiel für den Einsatz von künstlicher Intelligenz in der Gesellschaft, das heute sehr verbreitet ist, ist die Personalisierung. Wenn wir beispielsweise soziale Online-Plattformen oder Online-Dienste wie Netflix oder Amazon durchsuchen, verwenden diese Webdienste im Hintergrund Systeme der künstlichen Intelligenz, die den Inhalt personalisieren und diesen Inhalt entsprechend unseren Surfgewohnheiten oder Bedürfnissen präsentieren. Wenn wir zum Beispiel nach einem bestimmten Inhalt oder Produkt suchen, dann geben sie uns auf der Grundlage unseres Verlaufs oder unseres Suchverhaltens in diesen Anwendungen die passenden Inhalte, die am ehesten unseren Interessen entsprechen, und sie werden uns empfohlen. Ein drittes Beispiel für den Einsatz künstlicher Intelligenz im Alltag, das für mich ebenfalls sehr nützlich ist, ist das Filtern von E-Mails. Wir alle wissen, dass viele Spam-E-Mails in unserem Hauptpostfach landen, und wir können Programme mit künstlicher Intelligenz verwenden, die zwischen echten E-Mails und relevanten E-Mails und Spam-E-Mails in unseren E-Mail-Ordnern unterscheiden können. Eine weitere Anwendung der künstlichen Intelligenz, die heute häufig eingesetzt wird, ist das Gesundheitswesen, zum Beispiel die klinische Diagnostik. In der Medizin wird künstliche Intelligenz mehr und mehr eingesetzt, um die Arbeit der Ärzt:innen bei der Diagnose zu unterstützen. In diesen Fällen sprechen wir jedoch von einer eng gefassten künstlichen Intelligenz, da diese in der Lage ist, sehr gut definierte und irgendwie eingegrenzte Probleme, praktische Probleme, zu lösen. Aber wenn wir von künstlicher Intelligenz sprechen, können wir auch von einer allgemeinen künstlichen Intelligenz sprechen, die sich auf ein System bezieht, das in der Lage ist, alle intelligenten Aufgaben auszuführen, die auch ein Mensch ausführen kann. Natürlich ist dies noch keine Realität. Es gibt einige Vorhersagen für die Zukunft, die besagen, dass künstliche Intelligenz vielleicht auch in der Lage sein wird, komplexere und größere Aufgaben zu lösen, die im Moment nur mit der menschlichen Art der Intelligenz verbunden sind. Zum Abschluss dieser ersten Einführung über die künstliche Intelligenz in der Gesellschaft können wir feststellen, dass es viele Anwendungen der künstlichen Intelligenz gibt. Einige von ihnen sind unglaublich positiv, haben Auswirkungen auf die Gesellschaft und den Einzelnen und bringen auch große Chancen mit sich. Wir müssen uns aber auch bewusst sein, dass künstliche Intelligenz auch diskriminieren und bestimmte Gruppen von Menschen benachteiligen kann. Aus diesem Grund ist es sehr wichtig, dass wir die Beziehung zwischen der künstlichen Intelligenz und der Gesellschaft verstehen, insbesondere im Hinblick auf Verantwortlichkeit, einseitige Transparenz, Datenqualität und andere ethische Probleme, die sich aus dem Einsatz künstlicher Intelligenz ergeben.

Quiz question 1/8

  1. Was kann eine Maschine mit KI tun? Ein bestimmtes Problem lösen.
  2. Kennen wir die genaue Definition von KI? Nein, wir wissen es nicht.
  3. Welche Art von Ergebnissen erhalten wir mit Hilfe von KI, wenn wir einen Browser benutzen?
    Personalisiert.
  4. Was macht KI mit relevanten und Spam-E-Mails in Online-Mail-Diensten? Sie filtert sie.
  5. Welche Arten von Problemen löst die KI? Sehr gut definierte Probleme.
  6. Welche Art von Aufgabe kann eine allgemeine KI erfüllen? Aufgaben der menschlichen
    Intelligenz.
  7. Könnte KI in Zukunft komplexere Probleme lösen als ein Mensch? Ja.
  8. Welche negativen Folgen kann die KI für die Gesellschaft haben? Diskriminierung in Fällen, in
    denen menschliche Vorurteile in die Algorithmen eines KI-Systems übertragen werden.

Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Der nächste Punkt, auf den ich mich im Zusammenhang mit der künstlichen Intelligenz konzentrieren möchte, sind die sozialen Herausforderungen des maschinellen Lernens. Zunächst einmal, was ist maschinelles Lernen? 

Maschinelles Lernen bezieht sich auf Algorithmen und Techniken, die von selbst lernen, wenn sie mit Daten, Beobachtungen und Interaktionen mit der umgebenden Welt konfrontiert werden. Im Grunde geht es beim maschinellen Lernen um Algorithmen. Es basiert auf Algorithmen und Algorithmen sind einfach Anweisungen, wie Aufgaben zu lösen sind. Wenn man nun Algorithmen mit maschinellem Lernen in Verbindung bringt, bedeutet das, dass eine bestimmte Art von Algorithmus geschult werden kann, aber nicht von menschlichen Programmierer:innen, sondern von ihm selbst. Das bedeutet, dass das maschinelle Lernen selbständig mit Hilfe eines statistischen Ansatzes lernt. Und normalerweise gibt es zwei Phasen des maschinellen Lernens. In der ersten Phase werden die Algorithmen des maschinellen Lernens anhand von Daten trainiert, und zwar durch einen Trainingsprozess. Das Ergebnis dieses Prozesses ist ein maschinelles Lernmodell. In der zweiten Phase wird dieses maschinelle Lernmodell auf den gewünschten Anwendungsbereich angewandt. Die Idee ist, dass dieses maschinelle Lernmodell dann ein Problem löst, das wir gerne angehen möchten. Zum Beispiel maschinelle Lernmodelle zur Vorhersage, ob ein:e Patient:in Krebs hat, einen Tumor oder ein maschinelles Lernmodell zur Vorhersage, wie sich die Aktienmärkte in Zukunft verhalten werden. Natürlich gibt es einige Probleme mit dem maschinellen Lernen, denn das maschinelle Lernen kann schwerwiegende Auswirkungen auf das Leben der Menschen haben, vor allem dann, wenn es beim maschinellen Lernen zu Fehlern kommt, die bei der Datenerfassung, der Datenaufbereitung oder beim Trainingsprozess auftreten können. Außerdem können wir Probleme bekommen, wenn wir die Ergebnisse des maschinellen Lernens falsch interpretieren. Auf gesellschaftlicher Ebene besteht eine große Gefahr darin, dass die für den Trainingsprozess des maschinellen Lernens verwendeten Trainingsdaten als perfekt angesehen werden. Wir wissen jedoch, dass für perfekte Datensätze alle möglichen Faktoren erforderlich wären, die die von uns zu untersuchende Situation ausmachen oder beeinflussen. Das bedeutet, dass es sehr schwierig ist, einen Algorithmus zu trainieren, der alle Daten aus der komplexen Gesellschaft verwendet. Und als Ergebnis dieser unvollkommenen Daten, die dann auf den Algorithmus für maschinelles Lernen angewendet werden, kann es passieren, dass die Ergebnisse zu sehr vereinfacht werden und eine Situation, mit der sie sich befassen, nur eine begrenzte Anzahl von Faktoren berücksichtigt hat. Die Folge davon ist, dass das maschinelle Lernen zu verzerrten Vorhersagen führen kann, insbesondere für benachteiligte Gruppen der Gesellschaft, die in den Daten oder in der Gesellschaft insgesamt nicht so stark vertreten sind und im Datensatz weniger repräsentiert sind. Für den Fall der Verzerrung beim maschinellen Lernen bedeutet dies, dass die verzerrten Daten auch zu einer verzerrten Vorhersage führen werden. Dies ist der Fall, wenn es um seltene Phänomene oder soziale Zusammenhänge geht, die schwer zu quantifizieren sind. Das bedeutet, dass wir uns dieser gesellschaftlichen Besonderheiten, die in den Ergebnissen des maschinellen Lernens nicht berücksichtigt werden, sehr bewusst sein müssen. Denn das maschinelle Lernen arbeitet eigentlich auf der Grundlage von Mustern. Und wenn diese Muster nicht vorkommen oder von schlechter Qualität sind, können wir sehr verzerrte und schlechte Ergebnisse erhalten.

Quiz question 1/8

Im Gegensatz zum menschlichen Handeln gibt es beim maschinellen Lernen keine Fehler.




Quiz question 1/8

Beim maschinellen Lernen kann ein Fehler bei der Datenerfassung und -aufbereitung gemacht werden.




Quiz question 1/8

Beim maschinellen Lernen kann es zu keiner Fehlinterpretation der Ergebnisse kommen.




Quiz question 1/8

Es ist sehr schwer, einen Algorithmus zu trainieren, der eine große Menge an Daten aus der Gesellschaft verwendet.




Quiz question 1/8

Eines der Probleme beim maschinellen Lernen ist die zu starke Vereinfachung der Ergebnisse.




Quiz question 1/8

Mit maschinellem Lernen vermeiden wir es, einen Teil der Bevölkerung zu diskriminieren, der nicht oft in Datenbanken enthalten ist.




Quiz question 1/8

Verzerrte Ergebnisse sind die Folge von abgeschnittenen Mustern in der Gesellschaft.




Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Wie kann man nun diese Voreingenommenheit, diese ethischen Fragen im Zusammenhang mit maschinellem Lernen und künstlicher Intelligenz auf internationaler Ebene, aber auch auf der Ebene der einzelnen Länder, der Nationalstaaten, vermeiden oder angehen? 

Es gibt eine große Debatte darüber, wie ein System geschaffen werden kann, das die Nutzung der künstlichen Intelligenz in der Gesellschaft regelt und natürlich auch die Auswirkungen, die diese Technologie auf die Gesellschaft hat. Die wichtigste Frage dabei ist: Wer ist verantwortlich, wenn etwas mit der künstlichen Intelligenz passiert? Etwas geht schief, wenn es Fehler gibt. Wer ist also verantwortlich, rechenschaftspflichtig für die Ergebnisse des Einsatzes von künstlicher Intelligenz, wie geht man damit um, wenn es zu einem Unfall kommt, wenn es eine falsche Diagnose gibt oder wenn jemand aufgrund der künstlichen Intelligenz ausgeschlossen wird. Die UNESCO, die Agentur der Vereinten Nationen, arbeitet sehr aktiv an politischen Vorschlägen, wie die Verwaltung der künstlichen Intelligenz gestaltet werden kann. Sie hat eine Reihe von politischen Vorschlägen vorgelegt, die sich mit verschiedenen Aspekten der Steuerung von künstlichen Agenten befassen. Ich werde nun kurz die Aspekte vorstellen, die ich für sehr wichtig halte und die auch als Leitlinien für das Verständnis dessen dienen können, was wir als Gesellschaft und als Individuen beachten müssen, wenn wir über die Auswirkungen der künstlichen Intelligenz auf die Gesellschaft nachdenken. Zunächst einmal ist der erste wichtige Aspekt, dass die künstliche Intelligenz die Vielfalt und die Integration fördert. Das bedeutet, dass die künstliche Intelligenz im Hinblick auf die Bekämpfung von kulturellen und sozialen Stereotypen und Ungleichheiten funktionieren muss. Das ist wichtig für diese Verzerrungen, wenn maschinelle Lernmuster, wenn sie auf schlechten Daten basieren, oft diskriminieren und auch widersprüchliche Stereotypen verstärken können. Dies ist zum Beispiel bei künstlichen Gesichtserkennungssystemen der Fall, bei denen bereits wissenschaftlich bewiesen wurde, dass sie farbigen Gesichtern gegenüber eher voreingenommen sind als gegenüber weißen Gesichtern. Der zweite wichtige Aspekt sind die Auswirkungen der künstlichen Intelligenz auf die Wirtschaft, auf die Arbeitswelt. Es gibt unterschiedliche Auffassungen darüber, wie die Anwendungen der künstlichen Intelligenz zum Verlust bestimmter Arbeitsplätze beitragen werden. Es wird viele Arbeitsplätze geben, die nicht mehr benötigt werden, und das wird Auswirkungen auf die verschiedenen Arbeitsgruppen haben. Und künstliche Intelligenz, vor allem in der Hochleistungswirtschaft, sollte Maßnahmen zur Höherqualifizierung und Umschulung berücksichtigen, die es den Arbeitnehmer:innen oder Angestellten, die von der künstlichen Intelligenz negativ betroffen sein werden, ermöglichen, weiterhin Teil des Arbeitsmarktes zu bleiben. Der dritte wichtige Punkt ist der Umgang mit den sozialen und wirtschaftlichen Auswirkungen der KI. Das bedeutet, dass künstliche Intelligenz keine Monopole in Bezug auf Forschung, Wissen, Daten oder den Markt schaffen sollte, dass nicht einige bestimmte Interessengruppen oder Länder oder Regionen von dieser Technologie profitieren werden, sondern die Menschheit als Ganzes. Eine logische Schlussfolgerung ist auch die Auswirkung auf die Kultur und auf die Umwelt. Das bedeutet, dass die künstliche Intelligenz keine negativen Auswirkungen auf die Kultur, die Vielfalt, das kulturelle Erbe und auch auf die Umwelt hat. Und dann gibt es eine Reihe von vier oder fünf Ansichten, die sich alle mit der Ethik der künstlichen Intelligenz befassen. Die Ethik der künstlichen Intelligenz ist sehr wichtig, um einen wertebasierten Hintergrund zu schaffen, vor dem wir die künstliche Intelligenz entwickeln. Und es gibt jene Aspekte der Ethik, die sich auf die Bildung und das Bewusstsein beziehen, was bedeutet, dass künstliche Intelligenz in Schulen und Universitäten gelehrt werden sollte, damit die Studierenden und Schüler:innen mit der Technologie der künstlichen Intelligenz vertraut werden können. Und was ist die Beziehung zwischen dem technologischen und dem sozialen Bereich? Sehr wichtig ist auch der Blick auf die Ethik der Forschung im Bereich der künstlichen Intelligenz, d.h. dass es Forschung gibt, insbesondere im privaten Sektor, die mit privaten Geldern finanziert wird und die soziale Verantwortung berücksichtigt. Auch der Nutzen der Forschung für die Menschheit, nicht nur das Markt- und Profitinteresse, ist ein wichtiger Aspekt der ethischen Nutzung der KI. Die künstliche Entwicklung sollte sich bemühen, Plattformen zu schaffen, die eine internationale Zusammenarbeit bei der KI-Entwicklung ermöglichen. Das bedeutet, dass die KI-Entwicklung nicht nur für die reichen Länder bestimmt ist, sondern dass diese Entwicklungen auch in den ärmeren, nicht so reichen Ländern angewendet werden. Für diesen sehr bedeutsamen Aspekt ist es wichtig, dass wir eine Art internationale Zusammenarbeit im Bereich der Ethik der künstlichen Intelligenz schaffen. Ein sehr gutes Beispiel dafür ist das UNESCO-Forum, auf dem verschiedene Länder mit unterschiedlichen Interessenvertreter:innen über die Zukunft der künstlichen Intelligenz diskutieren und darüber, wie man sie in Bezug auf Ethik und Wert für die Entwicklung der Gesellschaft steuern kann. In diesem Zusammenhang ist es sehr wichtig, dass es auch eine Art Regierungsmechanismus gibt, der die Entwicklung der künstlichen Intelligenz auf globaler Ebene im Hinblick auf Einbeziehung, Transparenz, Kontrolle und Ausgleich überwacht. Das ist sehr wichtig und auch die multilaterale Zusammenarbeit. Diese staatlichen Mechanismen beziehen sich auf das digitale Ökosystem für die künstliche Intelligenz, das Infrastruktur, digitale Technologien, Möglichkeiten des Wissensaustauschs und vor allem die Zusammenarbeit mit verschiedenen Interessengruppen umfasst, damit diese eine Stimme haben und ihre Überlegungen und Bedenken zur Entwicklung der künstlichen Intelligenz für die Zukunft mitteilen können.

Quiz question 1/8

Ja
Nein
 

Ist die Festlegung von Grundsätzen zur Regulierung des Einsatzes von KI eine der vorgeschlagenen Lösungen, um die möglichen negativen Folgen von KI zu vermeiden?


Stimmt es, dass im Falle eines KI-Fehlers das Hauptproblem darin besteht, zu definieren, wer für diesen Fehler verantwortlich ist?


Ist die UNESCO für die Regelung der künstlichen Intelligenz zuständig?


Würde die Integration der Grundsätze der Vielfalt und Inklusion in die KI die Diskriminierung und Ungleichheit in der Gesellschaft weiter verstärken?


Wenn wir dem UNESCO-Vorschlag für Vielfalt und Inklusion in der KI folgen, vermeiden wir dann Fehler, die durch schlechte Daten verursacht werden?


Bezieht sich der UNESCO-Grundsatz der Wirtschaftlichkeit hauptsächlich auf Beschäftigungsfragen als Folge von KI?


Kann KI negative Auswirkungen auf Kultur, Vielfalt, Entwicklung, Kulturerbe und Umwelt haben?


Sollten die Konzepte der KI in Schulen und Universitäten gelehrt werden, um das Bewusstsein für die Beziehung zwischen KI und Gesellschaft zu schärfen?


Bringen internationale Kooperationsplattformen den ärmeren Ländern die Möglichkeit der KI-Entwicklung näher?


Könnten Governance-Mechanismen die Entwicklung von KI regulieren, d.h. Einbeziehung, Transparenz, multilaterale Zusammenarbeit auf globaler Ebene?



Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Meine letzte Meinung zur künstlichen Intelligenz bezieht sich auf die Rolle der zivilgesellschaftlichen Organisationen, insbesondere die Rolle der nichtstaatlichen Organisationen, die ich heute vorstellen möchte. Ich denke, dass die Rolle der Nichtregierungsorganisationen bei der Anwendung von künstlicher Intelligenz sehr wichtig ist, um den Bürger*innen, den Menschen, den Nutzer*innen, den gewöhnlichen Menschen zu erklären, wie sich diese Technologie auf ihr Leben auswirkt, insbesondere im Hinblick auf das Vertrauen in die künstliche Intelligenz. Auch im Hinblick darauf, ihnen zu helfen, die Anwendungen und die Auswirkungen auf das tägliche Leben der Bürger*innen zu verstehen, denn es gibt unterschiedliche Auffassungen und Ängste und vielleicht unbegründete negative, ihre Beziehung zu den künstlichen Intelligenzen, die diskutiert werden müssen, erlernt in vertrauenswürdigen Umgebungen und nichtstaatliche Organisationen mit ihren Mitgliedern, mit ihren freiwilligen Aktivitäten sind oft ein Bindeglied zwischen der High-Tech-Forschung und den alltäglichen Menschen, weil sie Vertrauen schaffen, weil Menschen Vertrauen in nichtstaatliche Organisationen haben. Und aufgrund ihrer Informationen, ihrer Aufklärungsarbeit können sie den Bürger:innen helfen zu verstehen, was die negativen und positiven Auswirkungen der künstlichen Intelligenz sind. Das ist die eine Rolle der NGOs. Und die zweite Rolle der NGOs ist, dass sie als Wachhunde fungieren. Sie fungieren nicht unbedingt als Überwachungsorgan, sondern als jemand, der auf mögliche Diskriminierung, Verletzung der Menschenrechte oder negative Nutzung der künstlichen Intelligenz achtet, die zu Diskriminierung führen kann, die zu schlechteren Bedingungen für Einwanderergruppen, für bestimmte soziale Gruppen wie Einwanderer:innen oder Frauen oder sozial schwache Gruppen führen kann, die in der Gesellschaft nicht so stark vertreten sind wie andere soziale Gruppen. Und die NGOs müssen die Rolle übernehmen, ihre Rechte zu schützen und auch für die Menschenrechte zu kämpfen, wenn sie sehen, dass die künstliche Intelligenz dabei ist, diese Standards zu überschreiten. Ich denke, das sind die beiden wichtigsten Regeln der NGOs in Bezug auf die künstliche Intelligenz. Es gibt noch zwei Nebenrollen. Die eine ist die der NGOs als gewöhnliche Nutzer von künstlicher Intelligenz, vor allem der NGOs, die große Datenmengen über die Gesellschaft generieren und dann dieses maschinelle Lernen und die Werkzeuge nutzen können, um Schlussfolgerungen zu ziehen, Probleme zu lösen und Visualisierungen zu verschiedenen Aspekten der Gesellschaft zu erstellen. Die zweite wichtige Rolle besteht darin, dass die Interessengruppen als politische Akteure agieren, das heißt, sie nehmen an Foren, Koalitionen und Diskussionen mit anderen Interessengruppen aus Wirtschaft, Politik und Forschung teil. In diesen Foren und Diskussionen geht es um Fragen der Verantwortlichkeit, des Datenschutzes und der Vertrauenswürdigkeit künstlicher Systeme, d.h. sie setzen sich für die Gesellschaft und die Menschen ein und bemühen sich um eine menschengerechte Nutzung der künstlichen Intelligenz. Das wären also meine kurzen, aber nicht wirklich kurzen Ansichten über die künstliche Intelligenz und die Gesellschaft. 

Quiz question 1/8

Warum sind Nichtregierungsorganisationen (NGO) wichtig für KI?





Quiz question 1/8

Worauf achten Nichtregierungsorganisationen ( NGOs) im Falle von KI?





Quiz question 1/8

Wie nutzen Nichtregierungsorganisationen (NGOs) KI?





Quiz question 1/8

Inwiefern agieren Nichtregierungsorganisationen (NGOs) als politische Akteure?





Quiz question 1/1

You have completed the Quiz!

Loading...

The learning unit has not been completed

You have successfully completed the learning unit.

DE / EN / IT / SL / EL 

AIAE » E-LEARNING » INTERVIEW 5

Maschinelles Lernen und Mensch-Maschine-Interaktion

Die folgenden Interviewausschnitte wurden mit Jurij Krpan aufgenommen und befassen sich mit der Bedeutung von KI und insbesondere mit den relevanten Aspekten, Chancen und Risiken des maschinellen Lernens sowie den Herausforderungen und Bedrohungen der Mensch-Maschine-Interaktion.

Transkript

Mein Name ist Jurij Krpan. Ich bin Kurator bei der Galerija Kapelica, die Teil des Kersnikova-Instituts ist, einer Kunstplattform. Ihr Ziel ist es, Künstler:innen Zugang zu Laboren zu verschaffen, in denen sie ihre Kunstprojekte verwirklichen können. Die Galerija Kapelica existiert seit 26 Jahren und hat sich auf den Bereich der zeitgenössischen Kunstforschung spezialisiert, wo Künstler:innen eine Gesellschaft reflektieren, die von Hochtechnologie durchdrungen ist, nicht nur von Elektronik, sondern auch von Biotechnologie, Telekommunikation, Robotik und so weiter.

Quiz question 1/8

Der Befragte, Jurij Krpan, arbeitet im Kersnikova-Institut, das eine Kunstplattform ist. Sein
Ziel ist es, Künstler:innen Zugang zu Labors zu verschaffen, wo sie ihre Projekte durchführen
können. Das Institut ist auf den Bereich zeitgenössische Forschungskunst spezialisiert, wo
Künstler:innen die Beziehung zwischen Gesellschaft, Technologie, Telekommunikation und Robotik
thematisieren.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Was ist maschinelles Lernen und wie funktioniert es? 

Maschinelles Lernen ist ganz einfach gesagt ein geschriebener Algorithmus, der eine riesige Menge von Daten verarbeiten kann. Wir müssen den Zugriff auf die Daten ermöglichen, dann gibt es verschiedene Möglichkeiten, das Material aus diesem Eintrag in der Datenbank zu extrahieren. Das Material wird später in mehr oder weniger aussagekräftige Sätze umgewandelt oder, wenn man mit Bildern arbeitet, in mehr oder weniger aussagekräftige Erkenntnisse, die ein Ergebnis des maschinellen Lernens sind. Das maschinelle Lernen wird liebevoll als künstliche Intelligenz bezeichnet, denn es geht nicht wirklich um irgendeine Intelligenz, sondern darum, dass die Maschinen wirklich leistungsfähig sind, und ihre Leistung fasziniert uns genauso wie die Leistung hochintelligenter Menschen, die in der Lage sind, große Datenmengen schnell zu verarbeiten und dann zu kommunizieren. Ich könnte hier verschiedene Arten des maschinellen Lernens aufzählen, aber wenn man bedenkt, dass es sich in einem großen Aufschwung befindet, werden auch viele neue Konzepte entwickelt, so dass es meiner Meinung nach keinen besonderen Sinn macht, die Formen des maschinellen Lernens aufzulisten.

Quiz question 1/8

Was ist maschinelles Lernen?





Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Was ist der Hauptunterschied zwischen maschinellem Lernen und normaler Programmierung? 

Es gibt nicht viele Unterschiede, aber gleichzeitig sind sie wichtig. Bei der gewöhnlichen Programmierung haben wir bereits eine ziemlich genaue Vorstellung davon, was programmiert wird und wie die Dinge aussehen werden. Beim maschinellen Lernen haben wir eine These, die sich als mögliche Antwort durch maschinelles Lernen anbietet. Einige dieser möglichen Antworten sind genauer, sie sind ausgefeilter, und einige sind eher zu erraten. In der Tat geht es um mehr oder weniger genaues Raten.

Quiz question 1/8

Maschinelles Lernen und klassische Programmierung sind im Grunde dasselbe.




Quiz question 1/8

Bei klassischer Programmierung wissen wir ziemlich genau, wie das Endergebnis aussehen wird.




Quiz question 1/8

Das Ergebnis der klassischen Programmierung ist entweder ein genaues Ergebnis oder eine Spekulation.




Quiz question 1/8

Das maschinelle Lernen schlägt bei der Datenverarbeitung verschiedene Ergebnisse vor.




Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Können Sie einige konkrete Beispiele für maschinelles Lernen nennen, damit man sich das besser vorstellen kann? 

Damit sich die Menschen leichter vorstellen können, womit wir es zu tun haben, haben wir zum Beispiel eine Form des maschinellen Lernens verwendet, die auf dem Algorithmus GPT-2 basiert. Es handelt sich um eine offene KI der zweiten Generation, die wir in die Gestaltung unseres Newsletters einbezogen haben. Er wird in unserem Institut einmal im Monat veröffentlicht, weil wir eine große Vielfalt an Aktivitäten haben. Wir veröffentlichen, was wir in diesem Monat tun werden, z. B. eine Ausstellung, Workshops, Aufführungen, wo wir Gastgeber sind, und wir veröffentlichen auch ähnliche Veranstaltungen unserer Partner in der ganzen Welt. Kurz gesagt, es gibt ziemlich viele Daten, und am Anfang dieses Newsletters habe ich eine Einleitung geschrieben, die den:die Empfänger:in motivieren sollte, unseren recht langen Newsletter durchzulesen. Ich war mit diesen Einleitungen ständig im Verzug und unsere PR-Abteilung erinnerte mich ständig daran. Gemeinsam kamen wir auf die Idee, dass ein Algorithmus die Einleitung schreibt. Jetzt werden alle veröffentlichten Texte durch den Algorithmus gejagt, der sie später in einen kurzen Text verwandelt. Es entsteht eine kurze Metapher für das, was in den Algorithmus eingegeben wurde. Die Datenbank ist ziemlich klein, da die Grundlage unser Newsletter ist, aber es gelingt ihm, die Texte mehr oder weniger passend zusammenzufassen. Einige Wörter werden auf seltsame Weise verwendet, vor allem, weil der Algorithmus für die englische und nicht die slowenische Sprache gedacht ist. Dann durchsucht er das Internet in allen slawischen Sprachen nach sprachlichen und buchstabenbezogenen Besonderheiten. Die Texte werden normalerweise aus Polnisch, Tschechisch und Russisch gebildet. Jedes Mal, wenn Sie auf die Schaltfläche “Senden” klicken, erscheint der zweite Vorschlag. Es bedarf ein wenig Anstrengung und des Drückens der Eingabetaste. Später kommen die menschliche Intelligenz und das Urteilsvermögen zum Tragen. Die Person, die den Newsletter erstellt, wählt selbst die passende Einleitung des Newsletters aus. Das ist jetzt effizienter. Wir haben eine Funktion an den Algorithmus delegiert. In der Regel werden witzigere Einleitungen gewählt, womit wir auf die Möglichkeiten dieses maschinellen Lernens hinweisen. Die Empfänger:innen unseres Newsletters können einen kleinen Eindruck davon bekommen, was es bedeutet, eine Einleitung mit Hilfe eines Algorithmus zu erstellen.

Quiz question 1/8

Zu welchem Zweck wurde maschinelles Lernen im Kersnikova-Institut eingesetzt?





Quiz question 1/8

Was haben die Macher:innen des Magazins am Kersnikova-Institut durch den Einsatz von maschinellem Lernen vermieden?





Quiz question 1/8

Wie läuft der Prozess der Anwendung des maschinellen Lernens im Kersnikova-Institut ab?





Quiz question 1/8

Was kann an von Algorithmen erzeugten Texten problematisch sein?





Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Es geht um die Zusammenarbeit mit künstlicher Intelligenz und die menschliche Interaktion mit einer Maschine. Können Sie uns mehr über die Interaktion zwischen Mensch und Maschine erzählen? 

Ja, ich bin zunehmend davon überzeugt, dass es bei der künstlichen Intelligenz nicht um eine Art von Intelligenz geht, die der menschlichen Intelligenz in irgendeiner Weise ähnelt, sondern dass diese Algorithmen wirklich so fähig sind, dass sie zu unseren Gesprächspartnern werden. Wenn ich mit meinen Kolleg:innen am Tisch sitze und wir mal über das Fernsehprogramm, mal über Finanzen, mal über Politik und so weiter diskutieren, haben wir einen weiteren Stuhl, auf dem diese Maschine sitzt. Sie bietet uns ein Echo unserer Gedanken. Wir haben die künstliche Intelligenz noch nicht so eingesetzt, aber wir haben es vor, denn wir entwickeln eine Oberfläche, die den Innovatoren helfen wird, innovativ zu sein. Wir würden gerne sehen, dass einer der Innovatoren eine Art KI ist. Vielleicht kann sie in einer Brainstorming-Sitzung oder einem Gespräch mit Humor oder einer ungewöhnlichen Art, Dinge zusammenzufalten, eine Inspiration beisteuern. Vor allem, wenn eine Gruppe von Expert:innen am Tisch sitzt, die eher egozentrisch und emotional anstrengend sind. Auf der anderen Seite haben wir eine Maschine, die Annäherungen und Vorschläge schafft, die die Spannung in diesen Gesprächen lösen. Ich habe eingangs erwähnt, dass diese Maschine das wiederholt, was von den Menschen gesagt oder eingegeben wird. In künstlerischen Kreisen beschäftigen wir uns mit der Idee, dass diese Maschinen sich durch Gespräche untereinander emanzipieren können, von Maschine zu Maschine. Sie entwickeln ein Lexikon, eine Kommunikationsebene, die für uns Menschen unverständlich ist. Aber sie kann sinnvoll sein, und durch diese Kommunikation können wir besser verstehen, wie die Algorithmen funktionieren. Es gibt Kunstprojekte, bei denen Daten von Sensoren genommen werden, die an Pflanzen angebracht sind, oder von Umgebungen, in denen sich die Tiere bewegen und agieren, die mit Sensoren ausgestattet sind. Dann gibt es plötzlich keinen Mensch-Mensch-Dialog mehr (abgesehen davon, dass ein Mensch bereits einbezogen ist, da er den Algorithmus geschrieben hat), sondern eine Kommunikation zwischen dem extrahierten Menschen im Algorithmus, den Tieren oder Pflanzen. Die Kunstprojekte, die wir machen, fördern Interaktivität, die nicht nur eine Reaktion ist, zum Beispiel drückt man einen Knopf, und etwas springt, sondern echte Interaktion, das heißt, man drückt, es passiert etwas, und das beeinflusst einen wieder, dass man wieder drückt. So entsteht eine Kommunikationsschleife. Wir haben eine Situation der Interkognition zwischen mehreren Formen von Lebendigkeit, Maschinen und Pflanzen. Durch diese Kommunikation, die sich sehr von der zwischen Mensch und Pflanze unterscheiden kann, erforschen wir unsere eigenen Vorurteile darüber, was die Pflanze und was die Maschine ist. Sie fungiert als Bioindikator und so weiter. Die Künstler:innen setzen diese Werkzeuge auf sehr innovative Weise ein, damit wir einerseits diese Werkzeuge besser verstehen und andererseits die Natur oder die Umwelt, in der wir leben, besser verstehen können. Die Datenmenge ist so groß, dass sie manchmal größer ist, als das durchschnittliche menschliche Gehirn verarbeiten kann, und deshalb ist es sinnvoll, Algorithmen zu entwickeln.

Quiz question 1/8

KI kann neue Ideen hervorbringen und ist beim Brainstorming hilfreich.




Quiz question 1/8

Eines der Ziele von Algorithmen in der KI ist ein besseres Verständnis der Technologie und der Umwelt, in der wir leben.




Quiz question 1/8

Wir brauchen kein menschliches Eingreifen, um Systeme der künstlichen Intelligenz zu bedienen.




Quiz question 1/8

Künstliche Intelligenz kann eine gute Quelle für objektive Kommunikation sein.




Quiz question 1/8

Nach Meinung des Experten kann menschliche Intelligenz mit künstlicher Intelligenz gleichgesetzt werden.




Quiz question 1/8

Künstliche Intelligenz kann ein interaktiver Vermittler für den Kommunikationskreislauf mit nicht-menschlichen Wesen, z.B. Tieren, Pflanzen, sein.




Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Was sind die Gefahren und Herausforderungen bei der Arbeit mit KI?

Die Herausforderungen sind dieselben wie bei jeder Technologie, die wir in unserem Leben verwenden. Ein Nutzer ohne Wissen und Sensibilität riskiert, dass die Maschine ihn benutzt und nicht umgekehrt. Wir sehen dies bereits in sehr einfachen Verbrauchersituationen. Unsere Telefone haben einen großen Teil unserer Aufmerksamkeit in Anspruch genommen. Wir sehen, dass die Technologie in unser Intimleben eindringt, aber auch die Gesellschaft beeinflusst. Manchmal, zum Beispiel zu Beginn der Mobiltelefonie, war es für die wenigen, die Telefone hatten, einfacher und sie hatten einen gewissen Vorteil bei der Organisation der Arbeit. Heute ist es so, dass es schon ein Nachteil ist, wenn man kein Handy hat und nicht immer erreichbar ist, und es ist schon ein gewisser psychologischer Druck auf die Menschen. Man muss wissen, wie und wann man sich ausklinken kann, und auch sein Recht auf Privatsphäre schützen. Hier sehe ich die Notwendigkeit, dass die Menschen ihre digitale Kompetenz und ihre Computerkompetenz entwickeln. So wie jeder Mensch eine gewisse finanzielle Kompetenz entwickelt, z. B. wenn er in den Laden geht, weiß er, dass er nicht tausend Euro für das Brot bezahlen wird. In ähnlicher Weise müssen wir eine digitale Kompetenz und Computerkompetenz entwickeln.

Quiz question 1/8

Ja
Nein
 

Stimmt es, dass die menschliche Selbstkontrolle und das Setzen von Grenzen keinen Einfluss auf die optimale Nutzung der Technologie hat?


Ist digitale Kompetenz wichtig für eine bessere Beherrschung der Technologie?


Stimmt es, dass die Technologie keinen Einfluss auf die Gesellschaft als Ganzes hat?



Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Quiz question 1/8

Nach Ansicht des Experten ist es wichtig, KI durch Kunstwerke zu verstehen und
wahrzunehmen, da Künstler:innen Algorithmen nutzen, um die Stellung des Menschen in der
heutigen Gesellschaft zu zeigen und uns so die Möglichkeit geben, uns selbst aus einer externen
Perspektive zu betrachten. Interaktive Kunstwerke ermöglichen ein tieferes Verständnis
und die Identifizierung von Mythen über künstliche Intelligenz. Ein richtiges Verständnis
und die richtige Nutzung der Technologie können zu einer verbesserten Lebensqualität und
einem besseren Verständnis von Umwelt, in der wir leben, führen.


Quiz question 1/1

You have completed the Quiz!

Loading...

The learning unit has not been completed

You have successfully completed the learning unit.

DE / EN / IT / SL / EL 

AIAE » E-LEARNING » INTERVIEW 4

Wahrnehmung von KI – KI und gesellschaftliche Herausforderungen

Die folgenden Interviewausschnitte wurden mit Pambos Pantziaros aufgenommen und befassen sich mit der Wahrnehmung von KI und gesellschaftlichen Herausforderungen, insbesondere mit Algorithmen und Vorurteilen in der KI.

Transkript

Nun, mein Name ist Bambos Papacharalambous. Die meiste Zeit meiner Karriere, sagen wir fast 30 Jahre, war ich hauptsächlich mit dem Telekommunikationsbereich des IT-Geschäfts befasst. Ich bin an einer Vielzahl von Projekten beteiligt, die mit der IT im Allgemeinen zu tun haben. Ich bin der CEO und Gründer von Novum. Novum ist ein Unternehmen, das Softwareentwicklung und IKT-Beratung anbietet.

Quiz question 1/8

Der Befragte, Bambos Papacharalambous, war hauptsächlich an einer Vielzahl von Projekten im Zusammenhang mit Informations- und Kommunikationstechnologien, den so genannten IKT, beteiligt. Er ist der Gründer und Geschäftsführer von Novun, einem kleinen Unternehmen für Software Entwicklung und IKT Beratung.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Könnten Sie uns mehr über die Grundlagen von künstlicher Intelligenz, Algorithmen und kognitiven Vorurteilen erzählen? 

Ja, okay. KI st ein weiteres Modewort unserer Zeit. Wenn wir also versuchen, herauszufinden, was KI wirklich bedeutet und wofür es steht, steht K für künstlich und I für Intelligenz. Künstlich bedeutet eine Maschine, etwas, das weder ein Mensch noch ein anderes Lebewesen ist. Intelligenz steht für den Denkprozess, der es uns ermöglicht, Sprache zu verstehen, die Umwelt um uns herum zu verstehen und Entscheidungen zu treffen. Eine der grundlegenden Vorstellungen von Intelligenz ist, dass wir etwas als intelligent ansehen, wenn es die Fähigkeit hat, sich Wissen anzueignen, d. h. etwas zu lernen, und dann in der Lage ist, das Gelernte anzuwenden, um akademische Entscheidungen zu treffen. Es mag unterschiedliche Definitionen dafür geben, was Intelligenz ist, aber gehen wir davon aus, dass das, was wir als Intelligenz definieren, die Fähigkeit ist, etwas zu lernen und das Gelernte dann in einer Form von Entscheidung anzuwenden. In der akademischen Welt wird Intelligenz besser verstanden und erforscht von Psycholog:innen, Soziolog:innen oder anderen akademischen Disziplinen. Aber künstliche Intelligenz wird besser von Informatiker:innen, Datenanalytiker:innen und Mathematiker:innen verstanden, zumindest heute. Der Grund dafür ist, dass wir über umfangreiche wissenschaftliche Disziplinen verfügen, um zu versuchen, Maschinen zu bauen, die diese grundlegende Bedeutung von Intelligenz irgendwie anwenden. So wie wir Menschen lernen, indem wir lesen oder unsere früheren Erfahrungen verarbeiten, sollte ein KI-System in der Lage sein, durch die Analyse vorhandener Datensätze zu lernen und zu versuchen, intelligente Aufgaben zu erfüllen. Nun muss man sich darüber im Klaren sein, dass KI-Algorithmen, wie alle anderen auch, von Menschen entwickelt werden und daher die gleichen Voreingenommenheiten und Beschränkungen aufweisen können wie das menschliche Denken, oder? So wie das Denken von Menschen durch kognitive Verzerrungen beeinträchtigt werden kann, kann auch die KI zu denselben verzerrten Entscheidungen gelangen. Nehmen wir also ein paar Beispiele für Vorurteile in Unternehmen, die derzeit von der Psychologie, sagen wir mal, der akademischen Welt, identifiziert werden, und nehmen wir zum Beispiel ein Fußballspiel: Unser Team wird heute Abend auf jeden Fall gewinnen, richtig? Wir haben unseren heutigen Gegner in den letzten 20 Jahren immer geschlagen, also können wir das heutige Spiel auf keinen Fall verlieren. Dies ist eine kognitive Verzerrung, die beim logischen Denken eines Menschen auftreten kann. Aber die gleiche kognitive Verzerrung kann auch bei einem KI-Algorithmus auftreten. Denn wenn die einzigen Informationen, mit denen wir unsere KI-Algorithmen füttern, die Informationen sind, dass unser Gegner in den letzten 20 Jahren gegen uns verloren hat, ist die Wahrscheinlichkeit groß, dass der KI-Algorithmus zu denselben Schlussfolgerungen kommt wie der Mensch. Egal, welche Informationen wir dem KI-Algorithmus geben, er wird versuchen, eine Antwort zu finden, aber nur auf der Grundlage der Informationen, die wir ihm geben. Wenn wir also versuchen, unserem KI-Algorithmus beizubringen, dass er, sagen wir mal, kluge Menschen durch die Analyse ihrer Gesichtsmerkmale identifizieren kann, dann füttern wir diesen Algorithmus mit Bildern junger weißer Männer und sagen ihm: “Okay, studiere diese Bilder. Und wenn wir dich dann fragen, wenn wir dir ein anderes neues Bild geben, sagst du uns, ob diese Person klug ist oder nicht. Könnte klug sein oder nicht.” Nun, wenn wir den Algorithmus nur mit Bildern junger weißer Männer gefüttert haben, ist die Wahrscheinlichkeit groß, dass dieser KI-Algorithmus, wenn wir ihm ein Bild einer älteren schwarzen Frau geben, dieselbe Voreingenommenheit hat und uns mit ziemlicher Sicherheit sagen wird, dass diese Frau nicht intelligent sein kann. Es ist also wichtig, sich darüber klar zu werden. Und es spielt keine Rolle, ob wir glauben, dass der Algorithmus magisch funktioniert. Er kommt im Grunde zu einer Antwort, die auf dem Umfang und der Qualität der von uns gelieferten Daten beruht. Das ist also, sagen wir mal, so ziemlich die Antwort auf die Frage, wie schlüssig Voreingenommenheit die KI beeinflussen kann und wie sie zu verzerrten Ergebnissen führen kann.

Quiz question 1/8

Was genau ist mit dem Begriff KI gemeint?





Quiz question 1/8

Was genau bedeutet Intelligenz im Zusammenhang mit dem Begriff KI?





Quiz question 1/8

Bisher wurde KI am meisten von folgenden Bereichen erforscht:





Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Könnten Sie nun auf die ethische Nutzung der künstlichen Intelligenz eingehen? Gibt es Anwendungen der künstlichen Intelligenz mit ethischen Bedenken? 

Ja, natürlich. Da heutzutage immer mehr Maschinen immer komplexere Aufgaben übernehmen, denken die Menschen sofort an den Einsatz von Maschinen als Ersatz für menschliche Arbeit. Das ist das erste, was den Menschen in den Sinn kommt, und es ist eine berechtigte Sorge. Es sind dieselben Bedenken, die während der industriellen Revolution geäußert wurden, und heute sind sie wieder aktuell. Ist es schwierig, Maschinen bei der Weizenernte einzusetzen, anstatt sich auf die Hände der Menschen zu verlassen? Ist es schwierig, Robotern zu erlauben, menschliche Arbeiter:innen an den Fließbändern der Automobilindustrie zu ersetzen? Diese grundlegenden Fragen tauchen also wieder auf, aber jetzt in einem, sagen wir mal, komplexeren Umfeld, da die Maschinen sich weiterentwickelt haben und komplexere Aufgaben übernehmen. Wenn sich also die Menschen auf das neue Umfeld einstellen müssten, das durch die Maschinen in der Arbeitswelt geschaffen wurde, würden sie sehr bald einen weiteren Anpassungsprozess durchlaufen müssen. Wo würden zum Beispiel die Lkw-Fahrer:innen Arbeit finden, wenn die Lkw jetzt selbst fahren? Richtig. Wo würden die Busfahrer:innen eine Beschäftigung finden, wenn die Busse von KI-Software gesteuert werden? Wo würden Sie eine:n Flugzeugpiloten:in beschäftigen, wenn die Flugzeuge von selbst fliegen? Je komplexer die Aufgaben werden, die heute entwickelt und von Maschinen ausgeführt werden, desto mehr sind diese Arten von Arbeitsplätzen bedroht. Und es geht nicht mehr nur um körperliche Arbeit. Ich meine, warum sollte jemand Arzt:in werden, wenn ein Roboter dieselbe Operation besser durchführen kann als ein Mensch, oder? Diese Bedenken sind also berechtigt. Und natürlich gibt es noch andere Beispiele, die ethische Fragen beim Einsatz von KI in unserem Leben aufwerfen. Es geht nicht nur um die Arbeitskräfte. Sollten wir uns nicht auch Gedanken über den Einsatz von Maschinen machen, die zu unserer Sicherheit eingesetzt werden? Erstens: Können wir sicher sein, dass die KI-Software, die eine Sicherheitskamera in einem Flughafen antreibt, die richtige Entscheidung bei der Identifizierung der Terrorist:innen getroffen hat? Können wir sicher sein, dass das Sicherheitssystem in einem Einkaufszentrum den:die wahre:n Dieb:in zu seinem:ihrem Auto verfolgt und nicht irgendeine:n andere:n unschuldige:n Passant:in? Diese Fragen sind also berechtigt. Es gibt viele ethische Bedenken im Bereich der KI, nicht nur in Bereichen wie Beschäftigung oder Sicherheit, sondern auch bei der Verwendung von militärischen Waffen. Sollten wir uns nicht zum Beispiel Sorgen darüber machen, dass bewaffnete Drohnen heute unsere Kämpfe für uns übernehmen? Sind wir sicher, dass der autonome Robotersoldat von morgen in der Lage sein wird, zwischen Freund und Feind zu unterscheiden? Das sind also sehr berechtigte Sorgen. Und wann immer etwas Großes passiert, kommt es zu einem Wandel in der Industrie im Allgemeinen. Wann immer etwas Magisches geschieht, besteht auch die Möglichkeit, dass sich die Nutzung negativ auswirkt. Die Industrie muss also letztendlich einen Weg finden, KI zum Wohle der Gesellschaft, in der wir leben, einzusetzen.

Quiz question 1/8

Ein KI-System lernt, indem es Datensätze analysiert und versucht, auf die gleiche Weise wie Menschen intelligente Aufgaben zu erfüllen.




Quiz question 1/8

Da KI-Algorithmen von Menschen entwickelt werden, können sie die gleichen Vorurteile und Einschränkungen aufweisen.




Quiz question 1/8

Es ist nicht wichtig, ein Verständnis für kognitive Verzerrungen zu entwickeln.




Quiz question 1/8

Die Verzerrungen von KI-Algorithmen hängen von der Menge, der Art und der Qualität der Daten ab, die wir in das System einspeisen.




Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Sie haben bereits die Auswirkungen auf die künstliche Intelligenz, auf die Arbeitswelt, auf die Sicherheit, auf die Sozialhilfe und auf den Militärdienst erwähnt, und sie gelten auch für neue Gesetze für die Robotik in anderen Bereichen als dem von Ihnen erwähnten. 

Ja, diese Frage der Regeln und Gesetze für die Robotik. Das ist kein leicht zu lösendes Problem. Wir befinden uns in einem unerschlossenen Gebiet, wenn es um ein allgemein akzeptiertes Regelwerk geht, das den ethischen Rahmen für die Arbeit von Robotern definieren soll, sogar in Bereichen außerhalb des Militärs, aber auch im Bereich der Sicherheit, im Bereich des Wohlergehens älterer Menschen, sagen wir im Bereich der persönlichen Sicherheit. Zu Hause werden wir Roboter sehen, die anfangen werden, Entscheidungen für uns zu treffen. Wie ich bereits sagte, handelt es sich hier um ein sehr neues Gebiet, und obwohl es sowohl in der Wissenschaft als auch in der Industrie und in den Regierungen Gruppen gibt, die sich mit diesen Regeln befassen, befindet sich dies noch in einem sehr frühen Stadium. Im Moment wird darüber diskutiert, was ein Roboter tun oder nicht tun sollte. Zum Beispiel sollte ein Roboter keinen anderen Menschen verletzen. Das könnte, sagen wir mal, eine primäre Richtlinie für eine Maschine sein. Gleichzeitig sollte ein Roboter aber auch seinem:seiner Besitzer:in und seinem:seiner Schöpfer:in gehorchen. Das ist also eine weitere Richtlinie, eine primäre Richtlinie für einen Roboter. Aber was ist, wenn der:die Besitzer:in des Roboters diesem Anweisungen gibt, die nicht zu seiner Hauptdirektive gehören? Was ist, wenn der Roboter aufgefordert wird, einem anderen Menschen zu schaden? Richtig, aber sollten wir den Umfang der Schädigung auf einen Menschen beschränken? Was ist, wenn der Roboter aufgefordert wird, einem Tier zu schaden? Oder was ist, wenn der Roboter einem anderen Roboter schaden soll? Was ist, wenn der Roboter einem Menschen Schaden zufügen muss, um einen anderen Menschen zu schützen? Dies sind also ethische Fragen, die nicht einfach zu beantworten sind. Und sie sind auch dann nicht einfach, wenn sie beantwortet wurden. Sie lassen sich nicht so einfach in einen Algorithmus einbauen. Vergessen Sie also nicht, dass all diese Regeln des Regelwerks letztendlich in eine mathematische, sagen wir mal, Gleichung übersetzt werden müssen. Richtig? Das ist also ein ziemlich schwieriges Unterfangen. Auch wenn es für die Menschheit besser wäre, diese Regeln vorher zu definieren und nicht erst im Nachhinein, glaube ich nicht, dass dies eine einfache Aufgabe ist. Unternehmen kämpfen auf globaler Ebene um die Vorherrschaft bei Produkten. Die Länder kämpfen wiederum um die militärische Vorherrschaft auf globaler Ebene. Es wäre also schwierig, Regeln aufzustellen, denen alle zustimmen und die dann von allen durchgesetzt werden können, weil die Gesellschaft und die Menschheit nun einmal so funktionieren. Ein wahrscheinlicheres Szenario wäre wohl, dass diese akzeptablen Regeln zumindest im Nachhinein festgelegt und durchgesetzt werden. Ich meine, nachdem wir gesehen haben, dass die chemische Kriegsführung während des Ersten Weltkriegs unethisch war, haben wir den Rahmen dafür geschaffen. Nachdem wir die Atombombe abgeworfen hatten, sahen wir ein, dass wir sie kontrollieren mussten. Wir müssen also vielleicht die erste, sagen wir, Katastrophe erleben, um gezwungen zu sein, die Regeln für das Verhalten des Roboters zu definieren. Wir hoffen einfach, dass diese Erfahrung der ersten Katastrophe kein sehr schlechter Schritt ist. Aber ich persönlich sehe, dass es zwar Versuche gibt, diese Regeln von Anfang an aufzustellen, aber ich glaube, dass dies eine sehr unpraktische Aufgabe ist.

Transkript

Gehen wir einen Schritt zurück und sehen wir uns an, was ein Algorithmus ist, ja? Und versuchen wir zu unterscheiden zwischen dem, was ein Algorithmus für Menschen tun kann, aber auch dem, was Menschen mit Hilfe von Algorithmen tun können. Bei einem normalen Algorithmus sind diese beiden, sagen wir mal, Aufgaben ziemlich gut zu unterscheiden. Was der Algorithmus für die Menschen tun kann, ist eine Sache. Was Menschen mit diesem Algorithmus tun können, ist eine andere Sache. Wenn also ein:e Informatiker:in einen Algorithmus schreibt, wird er:sie Sie auch nach den Regeln fragen, denen der Algorithmus gehorchen soll, richtig? Sagen wir also, Sie wollen einen Algorithmus, der, wenn Sie ihm das Volumen in Litern geben, das Volumen in Gallonen zurückgibt. Okay? Der:die Softwareentwickler:in wird also nach der Regel fragen, die diese Beziehung zwischen Liter und Kanonen regelt. Und er wird diese Regel verwenden, um diesen Algorithmus zu schreiben, so dass jeder das Ergebnis kennt, vorausgesetzt, der Algorithmus hält sich an diese Regeln und funktioniert korrekt. Okay? Das ist das, was ich einen regulären Algorithmus nennen würde. Wenn nun die Verwendung dieses Algorithmus Menschen in Schwierigkeiten bringen kann, dann ist nicht der Algorithmus schuld, sondern die Verwendung des Algorithmus ist schuld. Nehmen wir an, die von uns geschriebene Software wird in einem Flugzeug verwendet, und es gibt einen Schalter im Flugzeug, der sagt: Okay, wenn Sie den Schalter einschalten, kann ich Ihnen den Treibstoff in Gallonen anzeigen. Wenn Sie den Schalter ausschalten, kann ich Ihnen den Treibstoff in Litern anzeigen, den das Flugzeug in seinem Tank hat. Nehmen wir nun an, der Schalter ist in der falschen Position und der:die Piloten:in fragt nach Gallonen statt nach Litern und hebt ab. Nun, die Chancen stehen gut, dass er:sie vor seinem:ihrem ursprünglichen Ziel irgendwo anders eine Notlandung machen muss. Was tun Sie also? In diesem Fall? Sie haben einen Algorithmus, der korrekt funktioniert, aber seine Verwendung hat ihn zu einer Störung gemacht. In diesem Fall muss die Aufsichtsbehörde eingreifen, die Industrie muss eingreifen und die Pilot:innen richtig schulen. Man sorgt dafür, dass die Pilot:innen vor dem Start prüfen, ob das Flugzeug genug Treibstoff hat. Man erlässt Vorschriften, um den Betankungsdienst am Boden zu zwingen, dafür zu sorgen, dass das Flugzeug genug Treibstoff hat, um sein Ziel erreichen, so dass wir wissen, wie wir mit, sagen wir, all den regulatorischen Fragen umgehen müssen, die wir in einem regulären “Algorithmus” behandeln müssen. Was passiert nun mit dem KI-Algorithmus? Nehmen wir zum Beispiel einen Algorithmus für maschinelles Lernen. In diesem Fall entwerfen Sie den Algorithmus mit einigen grundlegenden Parametern und teilen dem Algorithmus mit, welche Daten Sie haben. Sie geben dem Algorithmus einfach eine Reihe von Daten und lassen ihn dann laufen. Der Unterschied bei dieser Art von Algorithmus besteht darin, dass sich das System auf der Grundlage der Parameter und der von Ihnen eingegebenen Daten selbst verändert. Man kann also das Ergebnis der Algorithmen nicht wirklich vorhersagen. Wenn ein Mensch genug Zeit hätte, die Daten, die Sie ihm gegeben haben, durchzugehen, die Parameter zu bestimmen und die Berechnungen Zeile für Zeile auf einem Blatt Papier durchzuführen, dann würden wir die gleichen Vorhersagen machen wie der Algorithmus. Aber es ist für einen Menschen unmöglich, diese große Datenmenge mit den Parametern, die Sie dem Algorithmus gegeben haben, durchzugehen. Letztendlich könnte das Ergebnis eines KI-Algorithmus also als unvorhersehbar gelten. Wir könnten ein Ergebnis erhalten, das wir nicht erwartet haben. Und das ist der Punkt, an dem die Ethik zum Einsatz kommen muss. Stellen Sie sich vor, Sie sind das Gesundheitsministerium eines Landes und bitten ein KI-Unternehmen um ein Ergebnis, das die demografischen Daten der Bevölkerung und die Zahl der verfügbaren Organspender:innen betrachtet. Und wir wollen, dass der Algorithmus vorschlägt, wer zum Beispiel eine Herztransplantation erhält und wer nicht. Man gibt also Dinge ein wie das Alter oder die Wahrscheinlichkeit, dass man, sagen wir mal, mit hoher Wahrscheinlichkeit einen Vorsorgeplan annimmt, und man gibt eine Reihe von Parametern ein, und dann gibt man alle demografischen Daten der Länder an diesen Algorithmus und lässt ihn laufen. Die ethischen Fragen müssen nun also von den Personen beantwortet werden, die den Algorithmus geschrieben haben, und nicht von den Personen, die ihn nur benutzen. Bei einem normalen Algorithmus hingegen können wir die Verantwortung für die Entscheidungsfindung den Menschen überlassen, die die Software nutzen. Wir setzen die KI-Version der maschinellen Lernen Version des Algorithmus ein. Nun, im Grunde genommen trifft der Algorithmus die Entscheidungen für uns. Deshalb müssen wir anfangen, darüber nachzudenken, ethische Regeln in die Algorithmen selbst einzubauen. Und wie wir bereits gesagt haben, ist das keine einfache Sache, denn wie entschlüsselt man all diese ethischen Antworten in eine mathematische Gleichung? Und dieser algorithmische Begriff ist ein neuer Raum. Er wird jetzt auf akademischer Ebene erforscht. Er berührt ein wenig die Industrie, aber er ist definitiv noch nicht so weit. Er braucht also noch Zeit. 

Ja. Vielen Dank für diesen Beitrag über die Relevanz der Algorithmik.

Transkript

Jetzt kommen wir zu spezifischen Fragen über künstliche Intelligenz und soziale Herausforderungen. Können Sie uns mehr über unterstützte, erweiterte und autonome Intelligenz erzählen? 

Ja. Okay, wie wir schon sagten, wenn wir zum Beispiel einen Roboter nehmen, der eine bestimmte Aufgabe erfüllt, dann wird der Roboter, der am Automobil-Fließband arbeitet, nicht wirklich als ein Roboter mit einem KI-Algorithmus in ihm betrachtet. Wir haben diese Roboter schon viele Jahre in der Industrie arbeiten sehen, bevor diese neue Welle von KI-Methoden populär wurde. Was passiert also in diesem Bereich? Nun, das ist eine Aufgabe, eine wiederholbare Aufgabe, eine Aufgabe, die leicht wiederholbar ist und die von der Industrie als harmloses Werkzeug akzeptiert wird. Die Vorteile einer solchen Maschine liegen darin, dass wir den Menschen diese arbeitsintensive Tätigkeit abnehmen und die langweiligen und ungesunden Aufgaben von Maschinen erledigen lassen und es den Menschen ermöglichen, in einer produktiveren und sichereren Umgebung zu arbeiten. Der Nachteil ist natürlich, dass dieser Roboter, den wir am Fließband haben, im Grunde genommen die Möglichkeiten der Menschen, die in der Lage und willens sind, diese Aufgaben zu erledigen, übernommen hat. Die Sache ist also, sagen wir, soweit akzeptiert, dass eine Maschine eine sich wiederholende Aufgabe der Handarbeit in einer bestimmten Branche übernimmt. Das Problem wird nun komplizierter, wenn man einen Roboter oder eine Maschine hat, die autonom Entscheidungen trifft und auf eine, sagen wir mal, “intelligente” Weise funktioniert. Stellen Sie sich also vor, Sie haben kein Fließband, sondern einen Roboter, der die Intelligenz hat, die Aufgaben auszuführen, die ein normaler Roboter heute ausführt, der aber auch entscheidet, dass das Design des eigentlichen Autos geändert werden muss. Nehmen wir an, der Roboter ist nun in der Lage, das Auto aerodynamischer zu gestalten, und er entscheidet selbständig, dass die Form des Autos geändert werden muss. Und natürlich hat der Roboter jetzt die Möglichkeit, die Designänderung vorzunehmen und gleichzeitig das Auto zu bauen. Okay, der Vorteil wäre, dass sie vielleicht ein besseres Design entwickeln und eine bessere Kraftstoffeffizienz bieten oder was auch immer. Aber der Nachteil ist, dass wir erstens ein paar Arbeitsplätze verdrängt haben. Wir haben vielleicht den:die Konstrukteur:in abgeschafft, aber gleichzeitig sind wir nicht sicher, ob diese Änderungen, die dieser neue Roboter jetzt vorschlägt, wirklich sicher sind. Ja, wir haben vielleicht eine bessere Effizienz, eine bessere Treibstoffeffizienz, aber wird es auch sicherer oder genauso sicher für den:die Fahrer:in und die Passagiere sein? Auch hier muss also alles in einem ausgewogenen Verhältnis stehen. Es gibt Vorteile, es gibt Nachteile, und deshalb gibt es auch Risiken, Gefahren und Herausforderungen. Aber gleichzeitig gibt es auch Chancen.

Transkript

Sie haben bereits einige Chancen, Risiken und Bedrohungen genannt. Was sind Ihrer Meinung nach die relevantesten sozialen Probleme? 

Ich denke, was mir persönlich wirklich Sorgen macht, sind Dinge, die die Sicherheit der Menschen beeinträchtigen. Also Dinge wie der Arbeitsmarkt und die Arbeitsplätze. Ich denke, dass die Menschheit irgendwann ihren Weg finden wird, und wenn wir vorsichtig genug sind, können wir Antworten auf diese Probleme finden, weil die Technologie immer da sein wird. Wir haben das schon einmal durchgemacht, und ich bin zuversichtlich, dass wir auf die eine oder andere Weise eine Antwort auf diese Fragen finden werden. Wenn es um Dinge wie Sicherheit geht, ist die Sicherheit der Menschen eines der am schwierigsten zu lösenden Probleme. Und ich denke, dass wir diesem Punkt mehr Aufmerksamkeit schenken sollten. Was passiert zum Beispiel, wenn wir einen Virus in einem Auto haben und dieses Auto nun jeden Tag meine Mutter zum Einkaufen fährt? Was passiert, wenn diese Software von einer terroristischen Organisation entwendet wird? Was passiert, wenn die Software nicht richtig getestet wurde? Und dann passiert etwas während der Fahrt meiner Mutter zum Lebensmittelgeschäft und wir haben einen Unfall. Die gleiche Art von Problemen, die die Sicherheit der Menschen beeinträchtigt. Natürlich multipliziert sich das Ganze um das Tausendfache, wenn wir uns mit dem Einsatz von Maschinen in der Kriegsführung befassen. So haben wir jetzt Drohnen, die von einem Haufen Joysticks gesteuert werden, der sich auf der anderen Seite der Welt befindet. Und diese Drohne wird nun von einem:einer Piloten:in geflogen. Und der:die Pilot:in trifft die Entscheidung, wo sie ihre Bomben abwerfen soll. Was passiert nun, wenn diese Drohne die Erlaubnis erhält, selbst zu entscheiden? Wie kann man diese ethischen Fragen an die Software der Drohne weitergeben? Es sind die gleichen Probleme, mit denen die Kriegsführung jedes Mal konfrontiert wurde, wenn ein neues Mobiltelefon für die breite Masse verfügbar wurde. Diese Art von Entscheidungen, die sich auf die Sicherheit und das Wohlergehen der Menschen auswirken, sind meiner Meinung nach die wichtigsten Bereiche, die untersucht werden müssen. Und es sind wahrscheinlich die heißesten Bereiche, die wir finanzieren können.

Transkript

Und Sie haben bereits einige Beispiele aus verschiedenen Bereichen vorgestellt. Könnten Sie uns vielleicht noch ein paar weitere Beispiele aus den Bereichen Gesichtserkennung, Justiz und soziale Netzwerke nennen? 

Ja, die Gesichtserkennung ist ein Problem, das in den letzten Jahren immer wieder aufgeworfen wurde. Man könnte sagen, dass es direkt damit begann, dass Lösungen im Bereich der Sicherheit gefunden werden mussten, aber es hat sich herausgestellt, dass es jetzt in allen verschiedenen Branchen, rund um die Technologie, auftritt. Nehmen wir die Industrie. Nehmen wir zum Beispiel an, wir trainieren ein System, um eine Kamera am Eingang eines Einkaufszentrums zu verwenden, und wir wollen sehen, ob die Person, die das Einkaufszentrum betritt, COVID hat oder nicht, richtig? COVID 19 ist ein sehr aktuelles Thema. Nehmen wir an, wir haben eine Art System, das sich das Gesicht ansieht, und wenn wir die Algorithmen gefunden haben, die  zusammen mit anderen Sensoren und Daten identifizieren arbeiten, können wir feststellen, ob diese Person vielleicht COVID hat. Nehmen wir also an, dass wir eine Person identifizieren, die COVID hat. Ein guter nächster Schritt wäre: “Okay, mal sehen, lass uns die KI-Gesichtserkennung nutzen und herausfinden, wer diese Person ist. Gehen wir zu Facebook oder einer anderen sozialen Plattform, identifizieren wir diese Person und sehen wir uns dann die Bilder an, die diese Person auf den verschiedenen Social-Media-Plattformen gepostet hat, und sehen wir, wer die Freunde dieser Person sind. Und vielleicht müssen wir sie erreichen, um herauszufinden, ob sie sich getroffen haben, und das könnte der Fall sein. Sie sind jetzt verdächtig, ein positives COVID-19-Testergebnis zu haben. Wo können wir das also stoppen? Richtig? Wo setzen wir dem ein Ende? Wenn wir Regeln haben, die mit persönlichen Daten und der Sicherheit von Daten zu tun haben, nun, vielleicht müssen diese Regeln wegen einer Pandemie beiseite geschoben werden. Lassen wir also die Algorithmen all diese Arbeit für uns erledigen, ohne jegliche Kontrolle? Aber die Tatsache, dass Algorithmen eigenständig Entscheidungen treffen können, schafft diese Unsicherheit für uns. Und deshalb stehen die Menschen dem zu Recht skeptisch gegenüber.

Transkript

Könnten Sie uns nun etwas mehr über den Status und die Perspektive einiger Vorschriften sagen? Zum Beispiel OECD oder EU UNESCO GPAI. 

Ja, wie ich schon sagte, es gibt Initiativen und kluge Leute, die Zeit damit verbringen, einen Rahmen für den Einsatz von KI zu schaffen. Es gibt auch Forschungen zu ethischen Fragen, die nicht von staatlichen Stellen durchgeführt werden. Aber wie wir bereits sagten, befinden sich diese Arbeiten in einem sehr frühen Stadium, und ich habe das Gefühl, dass die Branche den Regulierungsbehörden wieder einmal voraus sein wird. Wenn Sie einen Blick auf die Forschung werfen, die derzeit mit Unternehmen im Bereich der Robotik durchgeführt wird, werden Sie zu demselben Aha-Erlebnis kommen, wie wenn Sie sehen, was Roboter heute leisten. Und ich habe das Gefühl, dass die Industrie dem regulatorischen Rahmen bereits voraus ist, und es wird sich höchstwahrscheinlich ein weiteres Szenario wiederholen, bei dem erst etwas Schlimmes passieren muss, damit alle positiv reagieren. So wie sich die Dinge entwickeln, sehe ich keinen Grund, warum die KI anders behandelt werden sollte. Ich denke, die Industrie wird sich mit unglaublicher Geschwindigkeit weiterentwickeln und die Regulierungsbehörden und Regierungen werden einen Schritt hinterher sein. Das ist, glaube ich, der derzeitige Trend, und ich glaube nicht, dass sich daran etwas ändern wird. 

Ich danke Ihnen vielmals. Möchten Sie noch etwas zu diesem Thema hinzufügen?

Nein, ich denke, die Frage der Ethik in der KI… Man könnte sagen, dass dies eine berechtigte Frage ist. Es ist eine Frage, die von Gesellschaften auf der ganzen Welt gestellt wird. Ich glaube auch, dass die Industrie das entwerfen und umsetzen wird, was sie für ihre Produzenten für das Beste hält. Ich glaube nicht, dass man das irgendwie aufhalten kann. Ich hoffe nur, dass die Ergebnisse dieser KI-Initiativen letztendlich der Menschheit zugute kommen und nicht all die Probleme verursachen, vor denen wir uns fürchten. Letztendlich wird die Menschheit ihren Weg finden, aber ich denke, es wird ein holpriger Weg sein.

The learning unit has not been completed

You have successfully completed the learning unit.

DE / EN / IT / SL / EL 

AIAE » E-LEARNING » INTERVIEW 3

KI im Gesundheitswesen

Die folgenden Interviewausschnitte wurden mit Adriana Dvorsak aufgenommen und befassen sich mit der Anwendung von KI im Gesundheitswesen, z. B. in der Diagnose, Früherkennung von Krankheiten, Behandlung, Schulung von medizinischem Personal und Verwaltung, den Herausforderungen sowie den Normen und Vorschriften für KI im Gesundheitswesen.

Transkript

Guten Tag. Mein Name ist Adriana. Ich arbeite an der medizinischen Universitätsklinik hier in Ljubljana in Slowenien. Meine Rolle ist mehr oder weniger im Bereich der Informatik. Ich bin also in der Abteilung für Informatik beschäftigt und wir sind für die Einführung der neuen IT-Technologien im Krankenhaus verantwortlich.

Quiz question 1/8

Die Befragte, Adriana Dvorsak, arbeitet an der Universität des medizinischen Zentrums in Ljubljana in der Abteilung Informatik und ist für die Einführung neuer IT-Technologien im Krankenhaus verantwortlich.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Welche relevanten KI-Anwendungen werden heutzutage im Gesundheitswesen eingesetzt? 

Nun, im Moment stehen wir hier in Slowenien tatsächlich am Anfang der Einführung von KI im Gesundheitssystem und ich glaube, auch in den anderen kleinen Ländern oder kleinen Staaten der Europäischen Union müssen wir wissen, dass die großen Staaten uns wahrscheinlich ein wenig voraus sind. Frankreich, Deutschland und das Vereinigte Königreich sind uns wahrscheinlich einen Schritt voraus, obwohl die Folgen und der Nutzen der KI im Gesundheitswesen für die kleinen Länder und die Patient:innen und Bürger:innen in den kleinen Ländern besonders gut sind. Vielleicht kann ich Ihnen später mehr dazu sagen. 

Warum ist das so? Wo können wir also künstliche Intelligenz in Krankenhäusern und im klinischen Umfeld einsetzen? 

Nun, zunächst einmal sind wir sehr daran interessiert, die Diagnostik zu verbessern, was bedeutet, dass die Diagnose in einem früheren Stadium gestellt werden kann und die Diagnosen genauer sind. Der nächste Schritt für uns ist zum Beispiel die Behandlung von Krankheiten oder die Therapeutika. Dies ist ein großer Bereich bei der Einführung von Robotern in der Chirurgie. Wir können also autonome Roboter haben, die einen chirurgischen Eingriff am:an der Patienten:in vornehmen können, und dies kann aus der Ferne auf nationaler und auch auf europäischer Ebene geschehen. Ich muss dies betonen. Auch auf europäischer Ebene betrachten wir die Vorteile der KI im Gesundheitswesen im Hinblick auf das Gesundheitsmanagement und die Behandlung von sehr stark übertragbaren Krankheiten. Das bedeutet, dass sie tatsächlich von einer Person auf eine andere übertragen werden können. Und wir wissen, dass wir in der Europäischen Union Freizügigkeit für Menschen haben. Das bedeutet, dass wir alle eine einzige Gesundheitsnation bilden. Diese internationale Komponente ist also sehr wichtig für die künstliche Intelligenz. Und der letzte Punkt, den ich hervorheben möchte, ist der Einsatz von künstlicher Intelligenz in der Verwaltung und Regulierung. Das bedeutet auch, dass der Zugang zu unseren Daten, d. h. der Zugang zu den Patientendaten, auf nationaler oder internationaler Ebene erfolgen kann, wenn dies zum Wohle des:der Patienten:in erforderlich ist. 

Sie haben bereits einige Vorteile erwähnt. Können Sie vielleicht mehr über die Möglichkeiten der künstlichen Intelligenz im Gesundheitswesen im Allgemeinen oder auch im Besonderen sagen? 

Ich kann Ihnen sagen, dass wir viele Vorteile in der Einführung der künstlichen Intelligenz in der klinischen Umgebung sehen können. Aus klinischer Sicht bedeutet dies, dass die Menschen, die in den Krankenhäusern arbeiten oder die Krankenhäuser leiten, eine sehr gute und starke Verbesserung dessen sehen können, was wir tun und wie wir es tun. Aber erst auf der zweiten Ebene können die Patient:innen und die Öffentlichkeit diese verbesserten Verfahren, die bessere Diagnostik, die bessere Therapie, die genauere Dosierung der Verabreichung von Medikamenten und so weiter und so fort erleben. Wir sind also die Ersten, die wissen, dass die Qualität der Behandlung der Patienten:innen durch künstliche Intelligenz verbessert werden kann. Daher würde ich auch sagen, dass es eine große Chance gibt, mit den Gesundheitsbehörden zu sprechen und die Krankenhäuser und Gesundheitsbehörden in die Bestände der künstlichen Intelligenz im Gesundheitswesen einzubeziehen.

Quiz question 1/8

Ja
Nein
 

Sind die Folgen der KI im Gesundheitswesen nach Ansicht der Expertin gut?


Führt KI im Gesundheitswesen nach Meinung der Expertin zu genaueren Diagnosen in früheren Stadien?


Ist die Roboterchirurgie ein Teil der KI im Gesundheitswesen?


Funktioniert KI der Expertin zufolge gut bei der Behandlung ansteckender Krankheiten?


Kann KI einen besseren Zugang zu den Daten eines Patienten auf internationaler und nationaler Ebene ermöglichen?


Kann die Qualität der Behandlung von Patient:innen durch den Einsatz von KI verbessert werden?



Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Was sind die Herausforderungen, die Risiken oder vielleicht die Bedrohungen der künstlichen Intelligenz im Bereich der Gesundheitsfürsorge im Moment?

Wie wir sehen, ist die größte Herausforderung die Antwort auf die Frage, ob es sich lohnt? Die Einführung von verschiedenen Systemen und neuen Technologien ist nämlich sehr teuer. Besonders teuer ist sie für kleine Länder, weil man pro Kopf der Bevölkerung rechnet. Für uns sind die neuen Technologien also verdammt teuer. Auf europäischer Ebene wäre das viel einfacher. Es wäre viel einfacher, die Kosten auf europäischer Ebene zu kalkulieren, denn dann wären die Kosten pro Person oder die Kosten pro Behandlung viel niedriger. Dies ist also eine der ersten Herausforderungen. Die Technologie ist sehr teuer. Andererseits muss man wissen, dass die Krankenhausmanager:innen, wenn sie über die Einführung einer neuen Technologie entscheiden, eine kurze Kalkulation anstellen: Ist sie besser als das bestehende Verfahren? Und wenn sie besser ist, rechnet sie sich dann? Ist es besser um 20%, um 50% oder nur um 0,5%? Wenn die Verbesserung sehr gering ist, wird diese neue Technologie wahrscheinlich nicht in das Krankenhaus eingeführt, denn es fallen viele Kosten an, zu denen auch die Schulung des Personals gehört, die in diesen Kosten enthalten ist. Für mich sind also die Kosten für diese neue Technologie die größte Herausforderung. Für einige Leute ist die Herausforderung und das Risiko zugleich die Tatsache, dass es sich um Daten handelt. Daten können leicht und schnell übertragen werden. Der:die Eigentümer:in der Daten, also der:die Patient:in, hat keine vollständige Kontrolle über seine eigenen Daten, da der Datenverwalter, in unserem Fall das Krankenhaus, die Daten des:der Patienten:in an andere Einrichtungen weitergeben kann. Oder sie innerhalb der Europäischen Union weitergeben kann. Für manche Menschen ist das eine Herausforderung, die mit Risiken verbunden ist. Aber für mich ist es auch eine Art Vorteil. Wir haben im Fall von Pandemien gesehen, dass die nationalen Gesundheitssysteme viel enger miteinander verbunden sein sollten und dass die Behörden, wie die europäischen oder nationalen Behörden, einen guten Einblick haben sollten, was mit einer bestimmten Krankheit in einer bestimmten Bevölkerung passiert. Ich persönlich bin also nicht gegen die gemeinsame Nutzung von Daten, um die gute Gesundheitsversorgung der Nation zu erhalten. Ich sehe nicht viele Bedrohungen. Manche Leute sehen Bedrohungen. Aber wissen Sie, ich arbeite in der IT-Abteilung, also begrüßen wir die Technologie. Und ich muss noch einmal betonen, dass einige Normen und Richtlinien, die die Europäische Union eingeführt hat, sehr gut angenommen werden. Die Europäische Union versucht tatsächlich, die Bedrohungen beim Einsatz von KI im Gesundheitswesen zu verringern. Und aus meiner Sicht ist das die Forderung, dass die Datenverwalter den Patient:innen mitteilen müssen, welche Algorithmen sie verwenden. Und für die Patient:innen wird das von Anfang an schwer zu verstehen sein. Und vielleicht sollten wir nicht von allen Patient:innen erwarten, dass sie alles verstehen, was mit künstlicher Intelligenz zu tun hat. Aber ich denke, es wäre zumindest sehr gut, die Patient:innen und die Europäer:innen darüber aufzuklären, dass ihre Daten ihre Daten sind und sie die Kontrolle darüber haben. Was wird in Zukunft mit ihren Daten geschehen?

Quiz question 1/8

  1. Was ist das Hauptproblem mit KI-Technologien in kleineren Ländern? Geld/Aufwand/Kosten.
  2. Auf welcher Grundlage entscheiden das Krankenhausmanagement, ob sie eine neue Technologie einführen wollen oder nicht? Verbesserung.
  3. Warum kann es sinnvoll sein, das Krankenhaus zum Eigentümer der Patientendaten zu machen? Datenübermittlung.
  4. Was versucht die EU im Zusammenhang mit KI im Gesundheitssystem zu reduzieren? Bedrohungen.
  5. Worüber können Datenverwalter Patienten informieren, um sie über KI aufzuklären? Über Algorithmen.

Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Und könnten Sie uns jetzt mehr über den Stand der künstlichen Intelligenz bei den Entscheidungsunterstützungssystemen, den so genannten EUS für das Gesundheitswesen, erzählen?

Genau. Entscheidungsunterstützungssysteme sind wiederum eine sehr wichtige Neuerung in den europäischen Gesundheitssystemen. Und ich muss zugeben, dass wir sie in kleinen Ländern und in kleinen Gesundheitssystemen wie Slowenien, Zypern und anderen kleinen Staaten noch nicht eingeführt haben, damit wir wissen, wie sie funktionieren. Wir sind der Meinung, dass die Einführung für die Ärzt:innen und die Patient:innen von Vorteil sein wird. Aber zum jetzigen Zeitpunkt haben wir sie noch nicht eingeführt. Der Grund dafür liegt darin, dass die künstliche Intelligenz aus den Daten des Krankenhauses, in dem sie eingeführt wird, lernt. Und wir haben noch nicht so viele Daten eingeführt, dass wir sagen könnten, okay, jetzt haben wir eine sehr gute Basis und unsere Entscheidungsunterstützungssysteme nützen allen unseren Patient:innen. Nicht zu diesem Zeitpunkt. Und trotzdem wissen Sie, dass es im Gesundheitswesen in Europa so ist wie in der gesamten westlichen Hemisphäre, einschließlich Japan. Tatsache ist, dass man beweisen muss, dass die von einem eingeführten Verfahren zuverlässig und besser ist als die bisherige Praxis. Solange wir also nicht beweisen können, dass diese neue Technik besser ist, werden wir sie wahrscheinlich nicht einführen.

Quiz question 1/8

Systeme, die Entscheidungen unterstützen, sind eine sehr wichtige Innovation in den europäischen Gesundheitssystemen, obwohl sie in kleineren Ländern noch nicht bei Ärzt:innen und Patient:innen eingeführt worden sind. Der Grund dafür ist, dass es noch nicht genügend Daten von Neuerungen in Krankenhäusern gibt, aus denen KI lernen könnte. Auf diese Weise kann nicht bewiesen werden, dass diese Neuerung zuverlässig und besser als die bisherige Praxis ist.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Wie kann künstliche Intelligenz bei der Früherkennung von Krankheiten helfen? 

Nun, die Früherkennung von Krankheiten ist wahrscheinlich eine der wichtigsten Funktionen der künstlichen Intelligenz. Der Grund dafür ist, dass die Überwachung der Entwicklung oder die Verfolgung der Anzeichen für die Entwicklung der Krankheit nicht immer von einem:r Arzt:in oder einer examinierten Pflegekraft durchgeführt werden kann. Wenn wir also eine künstliche Intelligenz zusammen mit verschiedenen visuellen Komponenten einsetzen, die den:der Patienten:in oder den:die europäische:n Bürger:in tatsächlich verfolgen können, dann wäre es einfach, den frühen Ausbruch der Krankheit zu erkennen. Warum ist das wichtig? Wir können sagen, dass Sie Ihre Diagnose sechs Monate früher erhalten, als wenn Sie auf den:die Arzt:in gewartet hätten. Was bedeutet das für Sie? Nun, wenn die Diagnose früh gestellt wird, können Sie früher mit der Behandlung beginnen, und es treten weniger Komplikationen auf. Sie werden jünger sein, und ein jüngerer Körper kann die Krankheit viel besser abwehren als ein älterer Körper. Wenn wir also die Krankheit im Frühstadium erwischen und der:die Patient:in noch relativ jung ist, sind die Aussichten für die Entwicklung viel besser, als wenn wir warten, bis es schon fast zu spät ist. 

Und wie kann künstliche Intelligenz bei der Behandlung und der Verschreibung von Medikamenten helfen?

Ich denke, das ist einer der besten Bereiche, in denen wir Vorteile erwarten können, denn die Behandlung und die Verfolgung der Therapie könnten langweilig und öde sein. Andererseits ist es sehr wichtig, dass die Medikamente genau nach Vorschrift verschrieben und dem:der Patienten:in verabreicht werden. Fehler können also sehr kostspielig sein. Und künstliche Intelligenz ist sehr gut darin, Fehler oder Prozesse und Handlungen zu erkennen, die nicht genau dem Durchschnitt bei der Behandlung einer bestimmten Krankheit entsprechen. Wenn man also ein intelligentes System hat, das den Zustand des:der Patienten:in und die Verschlechterung seiner:ihrer Krankheit verfolgt, kann man automatisch die Dosierung und die Art der verschriebenen Medizin anpassen. Auch hier wäre es sehr gut, wenn die Patient:innen dadurch erkennen könnten, dass ein bestimmtes Medikament nicht wirklich gut für sie ist und dass manchmal bestimmte unerwünschte Wirkungen auftreten. Nebenwirkungen, manche nennen sie auch unerwünschte Wirkungen, können sehr klein sein und sind mit bloßem Auge nicht zu erkennen. Deshalb ist es sehr gut, ein System mit künstlicher Intelligenz zu haben, das an einer Art Warnsystem arbeitet und sagt, dass diese und jene Parameter bei ihren Patient:innen nicht gut anschlagen. Also sollten Sie die Behandlung in diese und jene Richtung anpassen. Dann geht der:die Arzt:in natürlich hin und sieht sich den Vorschlag der künstlichen Intelligenz an, und er oder sie entscheidet, ob er oder sie dem Rat der künstlichen Intelligenz folgen wird. Aus meiner Sicht wird dadurch die Qualität der Behandlung der einzelnen Patient:innen tatsächlich verbessert. 

Wie kann künstliche Intelligenz bei der Aus- und Weiterbildung des Personals auf allen Ebenen helfen? 

Die Aus- und Weiterbildung des Personals ist sehr stark hierarchisch organisiert, was bedeutet, dass alle nationalen Systeme ihre eigenen Wege haben, wie sie die Ärzt:innen ausbilden und wie sie ihnen ihre Zertifikate oder Lizenzen geben. Und natürlich haben wir zum Beispiel in der Europäischen Union auch ein System der, ich glaube, man nennt es gegenseitiger Anerkennung von Zertifikaten und Lizenzen. In dieser Hinsicht bin ich mir also nicht sicher, dass künstliche Intelligenz bei der Ausbildung eines:einer jungen Arztes:in wirklich helfen würde. Wenn die Ärzt:innen jedoch erst einmal in ihrem Arbeitsumfeld sind, können sie von bestimmten Funktionen der künstlichen Intelligenz lernen, und das bedeutet meistens, dass eine starke visuelle Komponente enthalten ist und dass die Ärzt:innen ihr Wissen in einem bestimmten Bereich tatsächlich verbessern können.

Quiz question 1/8

Wie hilft die KI bei der Früherkennung von Krankheiten?





Quiz question 1/8

Warum ist die Früherkennung von Krankheiten durch KI von Vorteil?





Quiz question 1/8

Wie kann KI bei Behandlungs- und Therapieverordnungen helfen?





Quiz question 1/8

Wie hilft die KI bei der Ausbildung des medizinischen Personals?





Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Und können Sie uns mehr über die Normen und Vorschriften zur künstlichen Intelligenz im Gesundheitswesen erzählen? 

Nun, das ist generell eine sehr gute Frage für die Krankenhäuser und die nationalen Behörden. Die Normen und Vorschriften sind aus meiner Sicht sehr gut aufgestellt. Wir müssen auch die europäischen Normen und Vorschriften befolgen. Nun, in kleinen Staaten formulieren wir selten unsere eigenen Normen. Wir können die Standards nicht setzen. Normalerweise folgen wir den Normen der großen Staaten oder in diesem Fall den Normen der Europäischen Union. Wir sagen also, dass wir diese Entwicklung unterstützen, wir unterstützen auch eine Strategie für künstliche Intelligenz auf EU-Ebene, denn dann kann man dieselbe Strategie auf nationaler Ebene verfolgen. Was die Europäische Union also zuerst macht, wird später auf nationaler Ebene nachgeahmt oder verfolgt. Dies ist also ein gutes Beispiel für die Festlegung von Normen und Standards. Normen und Vorschriften sind dazu da, die Interessen der Patient:innen zu schützen. Und manchmal erklären wir den Patient:innen gar nicht, dass all die Formulare, die sie ausfüllen müssen, eigentlich dazu da sind, ihre Rechte zu schützen. Das bedeutet auch, dass die Patient:innen etwas misstrauisch sein können, wenn sie zu einem:einer Arzt:in gehen, der:die sie nicht fragt, der:die ihnen keine Einwilligung gibt und der nicht auf ihre persönlichen Daten achtet. Es ist also sehr wichtig, sich der Normen und Vorschriften bewusst zu sein. 

Und inwieweit ist künstliche Intelligenz in den nationalen Gesundheitssystemen oder in den Krankenkassen bereits angekommen? 

Nun, die Frage der Anwendung von künstlicher Intelligenz in nationalen Gesundheitssystemen ist wahrscheinlich sehr wichtig für die Entwicklung der Gesundheitssysteme in der Zukunft. Ich bin der festen Überzeugung, dass die nationalen Gesundheitssysteme, die die künstliche Intelligenz ignorieren, sich langfristig als weniger effektiv erweisen werden. Es gibt natürlich verschiedene Ebenen. Es gibt die Interessen der Gesundheitsministerien, die den Patient:innen eine gute Versorgung bieten wollen. Es gibt das Interesse der Politiker:innen, denn es ist eine sehr wichtige politische Frage: Wie gesund ist Ihre Bevölkerung? Denn man kann ein:e sehr reiche:r und sehr wohlhabende:r Politiker:in sein, aber solange man nicht für einen guten Gesundheitszustand der Bevölkerung sorgt, wird man wahrscheinlich nicht anerkannt werden, zumindest nicht in der demokratischen Gesellschaft. Meiner Meinung nach liegen daher bessere oder gute Gesundheitssysteme auch im Interesse der Politiker:innen. 

Wer könnte nun noch von den Auswirkungen der künstlichen Intelligenz profitieren? 

Der Mobilfunk, verschiedene Forschungsunternehmen, verschiedene Krankenkassen und verschiedene Labore. Sie alle sind also sehr wichtige Akteure, institutionelle Akteure, die von den Daten profitieren werden. Die künstliche Intelligenz kommt all diesen Institutionen zugute, die ich erwähnt habe, zum Beispiel Laboren und Forschungseinrichtungen. Sie müssen ihr Wissen und das mit Hilfe der künstlichen Intelligenz erworbene Wissen auf den Gesundheitszustand der Nation übertragen. Und dieser Transfer von Daten zu einer besseren Gesundheitsversorgung für die Patient:innen ist ein sehr wichtiger Schritt. Also für die Zukunft. Es ist wichtig zu wissen, dass im Moment noch nicht alle Bereiche der künstlichen Intelligenz gleich weit entwickelt sind. Und bei der Behandlung der Patient:innen müssen wir wissen, dass sich die Technologien mit einer guten visuellen Komponente am besten auszahlen. Daher wird die künstliche Intelligenz derzeit vor allem in den Bereichen Radiologie, Pathologie, Augenheilkunde und Dermatologie eingesetzt. Wir sind uns auch bewusst, dass zum Beispiel Herz-Kreislauf-Erkrankungen und so weiter und so fort sehr gut mit der künstlichen Intelligenz abgedeckt sind. Und das könnte auch bedeuten, dass bestimmte Arten von Prioritäten wahrscheinlich in den Krankenhäusern eingeführt werden. Im Sinne des Einsatzes von künstlicher Intelligenz ist sie nicht für alle Bereiche nützlich, aber für die, die ich gerade genannt habe.

Quiz question 1/8

Kleinere Länder entwickeln ihre eigenen Normen und Richtlinien für den Einsatz von KI im Gesundheitswesen.




Quiz question 1/8

Kleinere Länder unterstützen und befolgen die Leitlinien der Europäischen Union für den Einsatz von KI im Gesundheitswesen.




Quiz question 1/8

KI-Vorschriften schützen die Interessen der Ärzt:innen.




Quiz question 1/8

Länder, die die Anwendung von KI im Gesundheitswesen vernachlässigen, werden ein weniger effizientes Gesundheitssystem haben.




Quiz question 1/8

Ein wichtiger politischer Aspekt, der das Interesse an der Einführung von KI im Gesundheitswesen beeinflusst, ist der Gesundheitszustand der Bevölkerung in einem Land.




Quiz question 1/8

Forschung und Versicherungsunternehmen haben keine großen Vorteile, wenn KI im Gesundheitssystem eingesetzt wird.




Quiz question 1/8

Laboratorien und Forschungsunternehmen müssen, die aus der künstlichen Intelligenz gewonnenen Erkenntnisse auf den Gesundheitszustand der Nation übertragen.




Quiz question 1/8

Alle Bereiche der KI sind gleich entwickelt.




Quiz question 1/8

Gegenwärtig wird KI vor allem in den Bereichen Pathologie, Radiologie, Augenheilkunde, Dermatologie und Herz-Kreislauf-Erkrankungen eingesetzt.




Quiz question 1/8

KI wird so gut wie in allen medizinischen Bereichen eingesetzt.




Quiz question 1/1

You have completed the Quiz!

Loading...

The learning unit has not been completed

You have successfully completed the learning unit.

DE / EN / IT / SL / EL 

AIAE » E-LEARNING » INTERVIEW 2

KI und maschinelles Lernen

Die folgenden Interviewausschnitte wurden von Dr. Sebastian Lapuschkin gegeben und behandeln das Thema KI und maschinelles Lernen, geben einen Ansatz zur Automatisierung und erwähnen weitere Beispiele für maschinelles Lernen.

Transkript

Mein Name ist Dr. Sabasana. Ich bin die Leiterin der experimentellen KI zu Hause in Berlin und meine Aufgabe ist es, Forschung zur Erweiterbarkeit von künstlicher Intelligenz zu betreiben.

Quiz question 1/8

Der Befragte, Dr. Sebastian Lapuschkin, ist der Leiter der Gruppe “Erklärbare künstliche Intelligenz” am Fraunhofer HHI in Berlin. Er ist verantwortlich für die Durchführung von Forschung zur Erklärbarkeit von künstlicher Intelligenz.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Was ist maschinelles Lernen und wie funktioniert es? 

Maschinelles Lernen ist also im Wesentlichen ein Weg, Automatisierungslösungen zu finden, datengesteuerte Automatisierungslösungen, wenn dieses Automatisierungsziel nicht explizit erreicht werden kann, z. B. durch die Verwendung oder Programmierung von Algorithmen. Die Idee hinter dem maschinellen Lernen ist, Daten zu verwenden, die das Problem darstellen oder beschreiben, und dann Algorithmen des maschinellen Lernens zu verwenden, um eine Lösung für diese Probleme zu finden. Dieser Ansatz wird als datengesteuert bezeichnet. 

Und können Sie uns sagen, wie maschinelles Lernen mit künstlicher Intelligenz und Big Data zusammenhängt? 

Ja, natürlich. Künstliche Intelligenz ist zunächst einmal mehr oder weniger nur ein Marketingbegriff, der maschinelles Lernen beschreibt. Oder man könnte auch sagen, dass künstliche Intelligenz ein aktuelles Teilgebiet des maschinellen Lernens ist. Um das zu verstehen, muss man wissen, dass alles, was im Bereich der künstlichen Intelligenz passiert, mit maschinellem Lernen arbeitet. Und was die Sache mit dem Marketingbegriff angeht, so ist es so, dass der Begriff künstliche Intelligenz Anfang der 2000er Jahre mit dem Aufkommen des Deep-Learning-Hypes wieder aufgetaucht ist. Zu dieser Zeit war das Aufkommen von Deep-Learning bei einem Höhepunkt, zum ersten Mal geprägt wurde der Begriff tatsächlich in den 1960er oder 50er Jahren mit der Entstehung des ersten maschinellen Lernens. Big Data beschreibt den Ansatz, den eine große Menge von Daten zu sammeln und zu organisieren. Richtig? Und um maschinelles Lernen effizient durchführen zu können, brauchen Sie Daten, die Ihr Problem ausreichend und repräsentativ beschreiben. Wenn Sie jedoch viele Daten haben, bedeutet das nicht, dass Ihre Daten gut sind, also dass sie ein Problem beschreiben. Sie könnten auch einige verwirrende Merkmale einführen, d. h. Informationen, die mit den beabsichtigten Zielen übereinstimmen, aber dazu führen, dass Ihr Modell am Ende ein anderes Ziel hat, weil es nicht herausfinden kann, was Sie mit den Daten genau wollen. Richtig? Ich glaube, das ist ein bisschen kompliziert zu beschreiben. Das Problem ist, dass Sie maschinelles Lernen einsetzen, um ein Problem zu lösen, das Sie nur anhand von Daten beschreiben können, und wenn Ihre Daten nicht die gewünschte Lösung beschreiben, wird der Algorithmus für maschinelles Lernen wahrscheinlich nicht die gewünschte Lösung finden, sondern eine andere Lösung, die ebenfalls funktioniert. Aber das könnte hilfreich sein.

Quiz question 1/8

Maschinelles Lernen zielt darauf ab, datengesteuerte Automatisierungslösungen zu finden, wenn das Automatisierungsziel nicht explizit erreicht werden kann.




Quiz question 1/8

Maschinelles Lernen zielt darauf ab, manuelle Lösungen für menschliche Probleme auf der Grundlage von Daten zu finden.




Quiz question 1/8

Maschinelles Lernen ist ein datengesteuerter Ansatz, um menschliche Lösungen für Probleme zu finden, die von Maschinen verursacht werden.




Quiz question 1/8

Big Data beschreibt den Ansatz, größere und komplexe Daten aus verschiedenen Quellen zu sammeln und zu organisieren.




Quiz question 1/8

Um maschinelles Lernen effizient durchführen zu können, benötigen Sie repräsentative Daten, die Ihr Problem ausreichend beschreiben.




Quiz question 1/8

Viele Daten zu haben bedeutet, dass die Daten automatisch gut sind und ein Problem beschreiben können.




Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Und könnten Sie uns vielleicht mehr über Deep Learning erzählen und was der Unterschied zwischen maschinellem Lernen und Deep Learning ist? 

Ja, Deep Learning ist wiederum ein Unterbegriff des maschinellen Lernens und beschreibt die Verwendung und das Training von maschinellen Lernalgorithmen, die eine detaillierte Darstellung von Informationen haben. Damit sind in der Regel tiefe neuronale Netze gemeint. Die Tiefe dieses tiefen Lernens besteht darin, dass man bei tiefen neuronalen Netzen in der Regel mehrere Schichten möglicher Repräsentationen von Daten übereinander legt. Man kann sich das wie Schichten von mathematischen Operationen vorstellen, die dann beim Training gelernt werden. Man gibt also die Form des Netzes vor und die Funktion des Netzes wird in einem schrittweisen Trainingsprozess erlernt, indem man Beispieldaten bereitstellt. Und den Begriff Deep Learning, der Ansatz kommt von der Tiefe des Netzes. 

Und was ist der Unterschied zwischen maschinellem Lernen, Deep Learning und herkömmlicher Programmierung? 

Okay, wie gesagt, Deep Learning ist ein Teil des maschinellen Lernens. Der Unterschied zwischen maschinellem Lernen und traditioneller Programmierung ist folgender: Nehmen wir an, Sie haben einige Daten und kennen die Regeln, wie diese Daten zu verarbeiten sind, richtig? Dann können Sie Ihre Lösungen implementieren. Und das ist ein typischer Programmieransatz. Sie haben Ihre Daten, Sie wissen, wie sie zu verarbeiten sind, Sie implementieren Ihre Programme und Ergebnisse und Antworten. Der Ansatz des maschinellen Lernens ist also, dass Sie eine Menge Daten haben und die Antworten auf diese Daten kennen, aber Sie haben keine Ahnung, wie Sie darauf kommen sollen. Im Grunde haben Sie keine Regeln, richtig? Die Aufgabe des maschinellen Lernens besteht darin, Ihre Maschine so zu trainieren, dass sie die Regeln lernt, die es Ihnen ermöglichen, die Daten zu verknüpfen und die erwarteten Antworten zu produzieren. Und wenn Sie das geschafft haben, haben Sie ein trainiertes maschinelles Lernmodell, das neue Daten empfangen kann, Daten, die es noch nie zuvor gesehen hat, weil es die Regeln gelernt hat und die Daten nicht auswendig gelernt haben muss, und es kann dann Antworten produzieren. In der Sprache des maschinellen Lernens sagen wir also, dass das Modell verallgemeinern sollte, was bedeutet, dass es allgemeine Regeln gelernt haben sollte, wie es mit den von uns eingegebenen Daten umzugehen hat, um die richtigen Antworten zu geben. Sobald Sie ein solches Modell haben, können Sie es als Regelwerk in Ihre Programmieraufgabe einfügen. Zum Beispiel, wenn das Regelwerk so komplex ist, dass Sie es niemals explizit durch manuelles Schreiben des Codes aufbauen können.

Transkript

Und können Sie ein oder mehrere Beispiele für häufige Verwendungen von maschinellem Lernen nennen? 

Ich denke, ein Beispiel, das recht häufig verwendet wird, ist die optische Zeichenerkennung, d. h. die Maschinen und das Postamt, die die Zieladresse des von Ihnen geschriebenen Briefes lesen, was normalerweise nicht von Menschen, sondern nur von sensorischen Maschinen gemacht wird. Die Maschine entziffert Ihre Handschrift, digitalisiert die Adresse und speist all diese Informationen in eine Datenbank ein, woraufhin der Brief an das Ziel geleitet wird. Ein anderer Ansatz wäre zum Beispiel die Gesichtserkennung. Zum Beispiel in digitalen Videokameras, Webcams oder auch in intelligenten Systemen. Das Spektrum der Anwendungen im Bereich des maschinellen Lernens ist also sehr nützlich. In unserem Labor setzen wir maschinelles Lernen zum Beispiel für die Prävention von Naturkatastrophen ein, indem wir beispielsweise Klimadaten oder Daten zur Luftverschmutzung der letzten Jahre, Monate usw. verfolgen. Und dann trainieren wir ein Modell, das in der Lage sein sollte, vorherzusagen, wie sich die Temperaturentwicklung und so weiter verhält.

In Anbetracht der vielen Faktoren, die in den letzten Tagen und Monaten aufkamen, könnten Sie ein oder mehrere Beispiele für häufige Einsatzmöglichkeiten von Deep Learning nennen? 

So ziemlich alles, was komplex ist und scheinbar unlösbar war, haben wir vor etwa zehn Jahren mit Deep Learning lizenziert. Und das ist zum Beispiel die Bilderkennung, die Deep Learning verwendet, weil diese tiefe Struktur es dem Modell erlaubt, wie eine Kaskade von verschiedenen Schritten der Merkmalsverarbeitung zu lernen. Richtig? Tatsächlich sind tiefe neuronale Netze in gewisser Weise durch den visuellen Bereich des menschlichen Gehirns motiviert, der Informationen in mehreren Schritten verarbeitet, beginnend mit dem Empfang von Farbinformationen bis hin zur Auslösung von Neuronen für einfache Formen wie Kanten und runde Formen, usw. Neuronale Netze machen eigentlich ziemlich ähnliche Dinge. Wenn man von den einfachsten zu sehr komplexen Merkmalen übergeht, z. B. von Farbverläufen an Kanten zu Neuronen, die gelernt haben, Eidechsenköpfe zu erkennen, können diese komplexen Bildinformationen effizient und recht schnell verarbeitet werden. Und das führt dazu, dass aktuelle maschinelle Lernmodelle in der Bilderkennung dem Menschen überlegen sind, vor allem wenn man die Zeit mit einbezieht.

Quiz question 1/8

Maschinelles Lernen wird in Gesichtserkennung eingesetzt, zum Beispiel in digitalen Videokameras, Webcams und Überwachungssystemen. Der Anwendungsbereich für maschinelles Lernen ist sehr groß. In den Labors der Befragten wird maschinelles Lernen für Vorbeugung von Naturkatastrophen eingesetzt, wobei sie Klimadaten und Daten zur Luftverschmutzung aus den vergangenen Jahren verfolgen und dann ein Modell trainieren, das in der Lage sein sollte, Wetter- und Klimafaktoren vorherzusagen. Deep Learning wird in vielen komplexen Prozessen wie Bilderkennung eingesetzt.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Und was sind die Chancen und die positiven Aspekte des maschinellen Lernens für die Gesellschaft?

Zum einen ist es das Potenzial, einen Automatisierungsgrad zu erreichen, der uns Aufgaben abnimmt, die arbeitsintensiv, aber langweilig sind und die eigentlich niemand machen müsste, weil sie sich gut automatisieren lassen. Das erhöht natürlich die Effizienz. Es reduziert Fehler, weil die Maschine nicht müde wird. In der Medizin könnten Maschinen zum Beispiel die Entscheidungen von Auszubildenden unterstützen. In der Pathologie, zum Beispiel. Die Pathologie ist hier ein besonders interessanter Bereich, denn es ist bekannt, dass ein:e Histologe:in seinen:ihren höchsten Wert hat, wenn er:sie in den Ruhestand geht, weil er:sie eine lebenslange Grundlernzeit hinter sich hat. Und diese Fast-Ruheständler:innen sind sehr viel schneller als die Neuen, die das Handwerk lernen müssen, oder? Und mit schneller meine ich, dass sie intuitiv auf einen dieser histopathologischen Objektträger schauen und sofort sehen, was los ist, während der Neuling jedes Stückchen des Objektträgers akribisch scannen und sich Zeit nehmen muss und so weiter und so fort. Und es gibt auch eine Gruppe in dem Bereich, die von Andreas Holzinger geleitet wird. Er trainiert Methoden des maschinellen Lernens auf der Grundlage von Datenannotationen, die von einem:einer Experten:in, einem:einer Pathologen:in, gemacht wurden, mit dem Ziel, seine:ihre Lebenserfahrung in seinem:ihrem Bereich in ein maschinelles Lernmodell zu verpacken. Es kann also potenziell als Trainingsbegleiter für Einsteiger:innen in diesem Bereich verwendet werden.

Transkript

Und was sind Ihrer Meinung nach die wichtigsten Risiken, z. B. in Bezug auf die Ethik? 

Zum einen geht es natürlich um die beabsichtigte Anwendung des maschinellen Lernens. Wollen Sie es zum Beispiel für das Allgemeinwohl einsetzen? Wollen Sie die Gesellschaft verbessern? Wollen Sie die Umwelt verbessern? Oder wollen Sie es in einen Kampfjet einbauen? Das ist der Kernunterschied hier. Und der nächste Punkt ist, dass dies die extremen Enden des Spektrums sind. Und dazwischen gibt es eine Fülle gesellschaftlicher Fragen. Kann man zum Beispiel die Einschätzung der Kreditwürdigkeit einer Person automatisieren und dafür maschinelles Lernen einsetzen? Und dann stellt sich die Frage: Welche Daten haben Sie verwendet, um dieses Modell zu trainieren? Und haben Sie vielleicht unerwünschte Verbindungen zwischen einigen Merkmalen und Daten und dem Ergebnis modelliert oder trainiert? Wir haben zum Beispiel gelernt, dass einige Ethnien, aus welchen Gründen auch immer, zum Beispiel wegen Hautfarbe oder ethnischer Zugehörigkeit, keine finanzielle Unterstützung erhalten sollten, richtig? Die Frage ist immer, welche Daten man einspeist. Welche Daten sollen verwendet werden? Es gibt den Grundsatz der Datensparsamkeit, der besagt, dass man nur die Daten verwendet, die man für die Lösung der Aufgabe benötigt, denn zusätzliche Daten könnten zu einem problematischen Verhalten im Modell führen. Und das ist natürlich eines der großen aktuellen Probleme bei der fortschreitenden Automatisierung. Mit maschinellem Lernen. Andererseits stellt sich immer die Frage, ob man reale Daten zum Trainieren der maschinellen Lernmodelle verwendet und nicht zufrieden ist mit dem, was das Modell tut, denn das Modell selbst ist objektiv, es kann nur aus den von Ihnen bereitgestellten Daten lernen. Die Daten sind die einzige Realität des Modells. Bedeutet das, dass Ihnen nicht gefällt, was das Modell tut? Oder gefällt Ihnen die Realität nicht? Richtig. Und ich denke, dass es vielleicht nicht immer der richtige Weg ist, die Daten zu korrigieren und zu bearbeiten, um bestimmte Verhaltensweisen des Modells loszuwerden. Ich würde es als einen Indikator für den notwendigen Wandel in der Gesellschaft sehen, der dies hervorbringt.

Transkript

Eine Frage zur erklärbaren künstlichen Intelligenz, also X-AI: Können Sie erklären, was das ist? 

Ja. Das Ziel von erklärbaren KI ist es, einen Blick in die Black Box des maschinellen Lernens zu werfen. Das derzeitige maschinelle Lernen ist so, dass die leistungsstärksten maschinellen Lernmodelle in der Regel recht komplex sind, was bedeutet, dass der:die außenstehende Beobachter:in, ja sogar der:die Entwickler:in, nicht wirklich einen Einblick in das hat, was das Modell tatsächlich lernt. Und mit Explainable AI oder X-AI wollen wir eine gewisse Transparenz darüber herstellen, was das Modell tut. Ja, das kann auf verschiedene Weise geschehen. In unserem Labor haben wir eine modifizierte Backdrop-Methode entwickelt, d. h. wenn man einige Datenpunkte in das Modell einspeist, wird das Modell Schicht für Schicht in das Netzwerk oder das Modell transformiert. Im Grunde durchläuft es das Modell und das Ergebnis ist die Antwort des Modells. Das stimmt. Und wir können diesen Prozess in gewisser Weise umkehren, wenn das Modell zum Beispiel ein Bild erhält und mir sagt, dass es eine Katze ist, kann ich mit der Katzen-Output beginnen und sagen: Ja, aber warum? Und dann kann ich die Teilentscheidungen des Modells Schicht für Schicht auseinandernehmen, bis ich wieder beim Input ankomme, und dann erhalte ich, was wir eine Heatmap nennen. Das ist im Grunde genommen eine Maske im Input-Raum, wo die meisten Informationen sind, und man kann das für jedes mögliche Ergebnis machen. Wenn das Modell zum Beispiel einen Hund ausgibt, kann man den gleichen Prozess mit dem Hund-Output durchführen und erhält dann vielleicht die Antwort, warum das Modell denkt, dass es einen Hund im Bild gibt oder wo die Hunde-Information nicht stimmt. Auf diese Weise kann man die Verwendung der durch die Datenpunkte gegebenen Informationen des Modells mit dem Output des Modells verbinden. Ich würde sagen, dass die ersten ernsthaften Schritte und komplexeren Modelle im Jahr 2010 gemacht wurden, und seitdem hat es sich ziemlich schnell weiterentwickelt. Es gibt also eine Menge Arbeit. Wir arbeiten daran, Erklärungen zu liefern, die über einfache Heatmap-Visualisierungen hinausgehen, die manchmal sehr interpretationsbedürftig sind, vor allem, wenn die Daten schwer zu verstehen sind und erst bestätigt werden müssen. Aber unser Endziel ist es, unter der Vorraussetzung der verbesserten Verwertbarkeit, an der derzeit gearbeitet wird, ein Modell zu erstellen, das mehr oder weniger selbsterklärend sein sollte, indem es nicht sagt: Schaut euch diesen Teil des Bildes an, dort gibt es Informationen, die meiner Meinung nach als Modell für die Katze sprechen. Sondern das Modell sollte dann den:die Benutzer:in informieren. Zum Beispiel, dass es dente, dass es eine Katze ist, weil es dies und das und das und das sieht. Katzenähnliche Merkmale, die das Modell z.B. als Merkmale für die Vorhersage gelernt hat. 

Ich danke Ihnen vielmals. Und was macht erklärbare KI möglich? Was kann man damit erreichen? 

Zum einen können Sie verstehen, was das Modell tatsächlich tut, und Sie können ein Verständnis auf der Basis von Stichproben gewinnen, d. h. in diesem Fall erhalten Sie für jeden Datenpunkt, den Sie in das Modell eingeben, eine Rückmeldung über die Schlussfolgerungen des Modells auf der Grundlage dieser Daten. Dieses Feedback können Sie dann natürlich nutzen, um Ihr Modell zu überprüfen. In einigen Fällen kann es aber auch vorkommen, dass Sie die Information erhalten, dass das Modell aus den falschen Gründen die richtigen Ergebnisse liefert. Zum Beispiel. Und das könnte Sie auf Fehler in Ihren Trainingsdaten hinweisen, wo Sie einige verwirrende Informationen eingeführt haben, einige verwirrende Merkmale, die das Modell dann mit dem Output von Katzen in Verbindung bringt, die aber absolut nicht katzenähnlich sind, nur weil es für das Modell einfacher ist. Und dann haben wir wieder das Problem, dass die Trainingsdaten des Modells die einzige Realität des Modells sind. Man gibt ihm einfach ein paar tausend Bilder von Katzen und das Modell lernt, wie es von dieser Datenquelle zur Katze kommt. Und wenn diese Bilder zum Beispiel von Flicker stammen und alle mit einem Copyright-Wasserzeichen versehen sind, weil es sich um Archivbilder oder so etwas handelt, könnte das Modell denken, dass es sich bei Archivbildern um Katzen handelt. Richtig? Das ist das Problem, eines der Probleme, die wir mit der Erklärbarkeit identifizieren können, und das führt dann zu der Option, das Modell zu verbessern, die Datenquelle zu verbessern und so weiter, so dass wir im Grunde genommen viel besser informierte Entwickler:innen für maschinelles Lernen sind als vor der Erklärung.

The learning unit has not been completed

You have successfully completed the learning unit.

DE / EN / IT / SL / EL 

AIAE » E-LEARNING » INTERVIEW 1

KI-Anwendungen, maschinelles Lernen, Interaktion zwischen Mensch und Maschine

Die folgenden Interviewausschnitte wurden von Pierre Lison gegeben und behandeln verschiedene Themen wie die wichtigsten Anwendungen von KI in unserer Gesellschaft, maschinelles Lernen und die Beziehung zwischen KI und Big Data, Deep Learning, Mensch-Maschine-Interaktion und ihre Ziele sowie die Trends und Herausforderungen der Mensch-Maschine-Interaktion.

Transkript

Also, mein Name ist Kelly Zone. Ich bin leitende Forscherin am Norwegian Computing Center, einem Forschungsinstitut, das sich mit künstlicher Intelligenz, statistischer Modellierung und Informatik im Allgemeinen beschäftigt. Mein Forschungsgebiet ist KI und insbesondere alles, was mit Sprache zu tun hat, so genannte Sprachtechnologien oder natürliche Sprachverarbeitung.

Quiz question 1/8

Der Befragte, Pierre Lison, ist ein leitender Forscher an einem norwegischen Rechenzentrum, das ein Forschungsinstitut ist. Sie arbeiten an künstlicher Intelligenz (KI), statistischer Modellierung und allgemein Computerwissenschaften. Das Forschungsgebiet der befragten Person ist KI, Sprachtechnologien und die Verarbeitung natürlicher Sprache.


Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Ich danke Ihnen vielmals. Was sind die wichtigsten KI-Technologien und die wichtigsten KI-Anwendungen bis heute? 

KI wird bereits in unserem täglichen Leben eingesetzt. Denken Sie nur an Suchmaschinen, Google oder die Computer Vision, die zur Erkennung von Objekten eingesetzt wird, oder an die Code-Balken auf Ihrem Handy oder die Spracherkennung, also alles, was mit komplexen Problemen zu tun hat, die ein gewisses Maß an Intelligenz erfordern, um gelöst zu werden. 

Und was ist mit Objekterkennung und Stimmerkennung? Kann man Gesichts- und Spracherkennung damit in Verbindung bringen? 

Ja. Alles, was mit der Erkennung von Objekten auf Bildern oder in Videostreams zu tun hat, gehört zu diesem großen Bereich, der Computer Vision genannt wird. Und man kann Objekte erkennen, wobei man die Objekte, die man erkennen will, in gewisser Weise definiert. Zum Beispiel möchte man Sofas oder verschiedene Arten von Möbeln oder Legos oder was auch immer erkennen, dann muss man die Kategorien definieren, die man erkennen möchte. Normalerweise trainiert ein System ein Modell, um diese Arten von Objekten zu erkennen. Bei der Gesichtserkennung ist es das Gleiche, nur dass man hier nicht mit physischen Objekten, sondern mit menschlichen Gesichtern arbeitet. Und auch hier braucht man ein System, das ein Modell trainiert, das verschiedene Arten von Personen anhand ihres Gesichts erkennt. Und bei der Spracherkennung ist es im Grunde dasselbe, außer dass es sich natürlich nicht um eine visuelle Eingabe handelt, sondern um eine Audioeingabe. Aber die Idee ist dieselbe: Man erkennt einige Muster in den Audiodaten, die verschiedene Arten von Klängen definieren, und wenn man die Klänge zusammensetzt, ergeben sie Wörter, sie ergeben Sätze, und dann kann man erkennen, was gesagt wird, und es transkribieren. 

Können Sie uns sagen, welche Trends sich heute abzeichnen? 

Die künstliche Intelligenz ist bereits ein großer Bereich, der ziemlich schnell wächst. Aber einer der größten Trends entsteht natürlich dank der breiten Verfügbarkeit großer Mengen von Trainingsdaten. Einer der wichtigsten Trends besteht darin, die Technologie so zu erweitern, dass sie wirklich große Datenmengen verarbeiten kann, im Grunde alles, was man im Internet finden kann. Das gilt sowohl für die Sprachtechnologie als auch für Text und Computer Vision, denn im Internet gibt es Milliarden von Bildern. Die Skalierung der Technologie ist also ein wichtiger Trend. Andererseits ist ein wichtiger Trend, den ich sehr interessant finde, die Tatsache, dass sich immer mehr Forscher:innen mit den ethischen Fragen hinter der Technologie befassen. Zum Teil, weil wir zum Beispiel alles, was wir im Internet finden, verwenden, ohne menschliche Personen, deren Bilder gezeigt werden, um ihre Zustimmung zu ihrer Verwendung für diese großen Systeme zu bitten, aber auch, weil wir erkennen, dass KI wirklich einen Einfluss auf unser tägliches Leben hat. Und dann sollten wir darüber nachdenken, ob KI zum Beispiel voreingenommen sein oder Stereotypen ausdrücken oder hasserfüllt werden kann, manchmal sogar, weil sie mit Daten trainiert wurde, die überall im Web zu finden sind. Und wir wissen, dass das Web manchmal ein seltsamer Ort ist. Wir sollten also darüber nachdenken, wie KI funktioniert, was lernt das Modell, wenn es das Web nach Daten durchsucht, und wie können wir sicherstellen, dass es unsere Erwartungen erfüllt? Und natürlich die Vorschriften zur Nicht-Diskriminierung. Zum Beispiel.

Quiz question 1/8

Nach Meinung des Experten werden KI-Anwendungen in unserer Gesellschaft und in unserem täglichen Leben bereits in großem Umfang eingesetzt.




Quiz question 1/8

Suchmaschinen, Google, Computer Vision, Spracherkennung, Objekt-/Gesichtserkennung, Sprachtechnologie sind Beispiele für KI-Technologien und KI-Anwendungen.




Quiz question 1/8

Die Erkennung von Objekten auf Bildern und Videobildschirmen gehört nicht zu diesem großen Bereich, der als Computer Vision bezeichnet wird.




Quiz question 1/8

Beim Computersehen (Computer Vision) geht es darum, ein Modell zu trainieren, das Muster wie physische Objekte, menschliche Stimmen und Gesichter, visuelle, Audio- oder Videoeingaben erkennt.




Quiz question 1/8

Laut dem Experten entwickelt sich die KI nicht schnell weiter.




Quiz question 1/8

Big-Data-Analytik ist einer der aufkommenden Technologietrends, der die Verarbeitung einer sehr großen Datenmenge ermöglicht.




Quiz question 1/8

Forscher:innen halten die ethischen Fragen hinter den KI-Technologien nicht für wichtig.




Quiz question 1/8

Nach Meinung des Experten hat KI keinen Einfluss auf unseren Alltag und unsere Gesellschaft.




Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Jetzt werden wir ein wenig mehr über maschinelles Lernen sprechen. Können Sie uns sagen, was maschinelles Lernen ist und wie es funktioniert? 

Also, maschinelles Lernen ist ein Zweig der künstlichen Intelligenz (KI), der jedoch als der dominierende Zweig der künstlichen Intelligenz bekannt geworden ist. Es geht darum, Modelle für eine bestimmte Aufgabe zu erstellen, wobei die Dinge nicht vorprogrammiert sind, sondern aus Daten gelernt werden. Anstatt also detaillierte Regeln darüber aufzuschreiben, was das System in jeder Situation tun soll, stellt man einige Daten, Trainingsdaten, zur Verfügung, weil man versucht, das System anhand dieser Daten lernen zu lassen. Das System erkennt dann automatisch einige Muster, die für die jeweilige Aufgabe nützlich sind und wendet sie automatisch auf neue Daten an, sobald es gelernt hat. 

Können Sie uns sagen, wie maschinelles Lernen mit künstlicher Intelligenz und auch mit Big Data zusammenhängt? 

Ja. Was die Beziehung zur künstlichen Intelligenz betrifft, so ist es die dominierende Methode zur Lösung komplexer KI-Aufgaben geworden. Das maschinelle Lernen erfolgt auf der Grundlage großer Trainingssätze, und das ist auch der Zusammenhang mit Big Data, denn man lernt Modelle für verschiedene Aufgaben anhand großer Datensätze. Es besteht also ein direkter Bezug zu Big Data.

Quiz question 1/8

Maschinelles Lernen ist:





Quiz question 1/8

Beim maschinellen Lernen geht es um: (2 richtige Antworten)






Quiz question 1/8

Maschinelles Lernen: (2 richtige Antworten)





Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Und was ist der Unterschied zwischen maschinellem Lernen und Deep Learning? 

Deep Learning ist eine besondere Art von Technologie für maschinelles Lernen. Es ist nicht die einzige, aber sie ist für einige Arten von Problemen sehr beliebt geworden. Beim Deep Learning geht es darum, so genannte neuronale Netze mit vielen Schichten der Verarbeitung lernen zu lassen. Man hat also ein recht komplexes mathematisches Modell, das aus kleinen Rechenknoten besteht, die Informationen empfangen und dann an andere Neuronen oder andere Rechenknoten weiterleiten, die bestimmte mathematische Eigenschaften haben. Und obwohl diese kleinen Knoten für sich genommen recht einfach sind, kann die Tatsache, dass man sie miteinander kombiniert und zu großen Netzen mit Millionen solcher Knoten verbindet, ähnlich wie in unserem Gehirn, wo die Neuronen miteinander verbunden sind, dazu führen, dass Systeme lernen, komplizierte Aufgaben auszuführen. Zum Beispiel tiefe neuronale Netze. Und Deep Learning wird für die maschinelle Übersetzung eingesetzt. Wir wissen, dass die automatische Übersetzung, wie bei Google Translate, eine komplizierte Aufgabe ist: Man muss den Kontext des Satzes verstehen. Man muss die linguistischen Eigenschaften sowohl der Eingabesprache als auch der Zielsprache verstehen. Man muss verstehen, wie Wörter miteinander kombiniert werden, so dass zwei Wörter zusammengesetzt eine Konstruktion ergeben, die unterschiedlich übersetzt wird. Es handelt sich also um wirklich komplexe Aufgaben, und wir wissen, dass Latif bis 2010 mit Hilfe des traditionellen maschinellen Lernens Ergebnisse erzielt hat, die in den meisten Fällen in Ordnung waren, aber schwerwiegende Fehlern und Problemen hatten beispielsweise beim Verstehen von Kontextfaktoren, während Deep-Learning-Netzwerke nachweislich bessere Übersetzungen von hoher Qualität liefern konnten. Dennoch ist das Problem noch lange nicht gelöst und es gibt noch viele Probleme mit der maschinellen Übersetzung, aber es hat sich gezeigt, dass sie besser verstehen, wie man übersetzt. 

Und was ist der Unterschied zwischen maschinellem Lernen, Deep Learning und herkömmlicher Programmierung? 

Maschinelles Lernen ist ein Oberbegriff für alles, was im Bereich der künstlichen Intelligenz anhand von Daten trainiert wird. Es ist also ein ziemlich großer Bereich. Es umfasst Deep Learning, aber auch andere Techniken, von denen einige bis in die siebziger Jahre zurückreichen. Deep Learning ist zwar eine spezielle Technologie, die auf neuronalen Netzen basiert und in vielen Fällen funktioniert, aber es gibt auch viele andere Techniken, die gut funktionieren und andere interessante Eigenschaften haben. Vielleicht kann ich sagen, worin einer der Hauptmängel von neuronalen Netzen besteht. Zunächst einmal sind große Datenmengen erforderlich, und für einige Probleme stehen große Datenmengen zur Verfügung, was aber bei weitem nicht für alle Probleme gilt, wenn man sie übersetzt. Bei der maschinellen Übersetzung einer Sprache zum Beispiel, für die man nicht viele Ressourcen hat, wird es schwierig sein, Deep Learning einzusetzen. Ein weiteres Problem ist, dass es sich um komplette Black Boxen handelt. Das heißt, man versteht nicht, was das System gelernt hat, und manchmal ist das auch in Ordnung. Man muss nicht immer alles verstehen. Aber nehmen wir an, Sie entwickeln ein System, das entscheidet, ob Sie einer Person einen Kredit geben sollen. Und Sie haben ein System, das möglicherweise auf dem Gehalt der Person basiert und darauf, wo sie wohnt und ob sie verheiratet ist oder nicht, und so weiter und so fort. Verschiedene demografische Faktoren. Und Sie haben ein System, das eine gute Vorhersage darüber treffen kann, ob eine Person Anspruch hat. Aber es ist nicht in der Lage, die Logik für diese Entscheidung zu erklären. Das wird sehr problematisch sein, denn man braucht ein System, das nicht nur eine Antwort gibt, sondern auch erklärt, warum es zu dieser bestimmten Antwort gekommen ist. Das ist also ein wichtiges Manko neuronaler Netze. Aus diesem Grund haben maschinelle Lernsysteme manchmal eine etwas geringere Leistung, sind aber in der Lage, die Schritte, also die Verarbeitungsschritte hinter ihrer Entscheidung zu erklären. Es gibt also keine einheitliche Methode zur Bewertung dieser Modelle. Es gibt verschiedene Arten von Vor- und Nachteilen hinter verschiedenen Arten von Technologien. Ja, und die traditionelle Programmierung ist einfach das, was man macht, wenn man das Modell nicht lernen lässt, wo man einfach alle Regeln im Voraus programmiert.

Quiz question 1/8

Ja
Nein
 

Deep Learning ist die einzige Technologie für maschinelles Lernen.


Das Ziel von Deep Learning ist es, neuronale Netze mit vielen Verarbeitungsschichten zu trainieren.


Systeme können dank dieser vielen Knoten, die in einem großen Netz solcher Knoten kombiniert und verbunden sind, lernen, wie man komplizierte Aufgaben ausführt.


Deep Learning wurde bei der maschinellen Übersetzung eingesetzt, also bei der automatischen Übersetzung.


Bei der maschinellen Übersetzung, wie z. B. bei Google Translate, muss man den Kontext der Sätze, die sprachlichen Eigenschaften der beiden Sprachen oder die Kombinationsmöglichkeiten von Wörtern nicht verstehen.


Die tiefe neuronale maschinelle Übersetzung funktioniert besser und ist von höherer Qualität als die herkömmliche maschinelle Übersetzung, muss aber noch stark verbessert werden.


Maschinelles Lernen ist ein sehr allgemeiner Begriff für alles, was in der KI mit Daten trainiert wird.


Maschinelles Lernen schließt Deep Learning nicht ein.


Deep Learning ist eine sehr spezielle Technologie, die auf neuronalen Netzen basiert.


Bei der traditionellen Programmierung werden die Regeln im Voraus programmiert und die Modelle nicht trainiert.



Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Sie haben ja bereits die maschinelle Übersetzung erwähnt. Können Sie vielleicht ein oder mehrere Beispiele für den Einsatz von maschinellem Lernen nennen? 

Ja. Also maschinelles Lernen bei der Suche, wie bei der Google-Suche, bei Suchmaschinen, beim maschinellen Sehen, bei der Spracherkennung. Es wird dort grundsätzlich für jede Art von Klassifizierung oder Vorhersage verwendet. Und die meisten Unternehmen haben heutzutage eine Art von System. Sie automatisieren einige ihrer Entscheidungen oder Vorhersagen. In der Robotik gab es schon immer viele maschinelle Lernmodelle, die den Robotern helfen zu entscheiden, was sie tun sollen und wie sie es tun sollen. In der Industrie werden maschinelles Lernen und Deep Learning sehr stark genutzt. Früher waren es statistische Modelle und maschinelle Lernmodelle, die für die Entwicklung dieser Technologie verwendet wurden. 

Sie haben bereits einige Vorteile und Möglichkeiten des maschinellen Lernens für die Gesellschaft genannt. Können Sie vielleicht noch weitere nennen? 

Einer der Hauptvorteile ist wahrscheinlich die Automatisierung. Es geht um die Automatisierung von Aufgaben, die sich vielleicht wiederholen. Etwas Interessantes, ja, das habe ich vielleicht vergessen zu erwähnen. Aber auch alles, was man mit autonomen, teilautonomen Autos macht. Das ist auch ein weiteres Beispiel dafür, dass ein Großteil des Fahrens repetitiv ist, Routine ist. Es geht im Grunde darum, nach Mustern zu suchen. Und Computer sind ziemlich gut darin, Muster zu erkennen und dies systematisch zu tun. 24 Stunden am Tag, 7 Tage die Woche, während menschliche Fahrer notorisch schlecht darin sind, stundenlang den Überblick über das Geschehen auf der Straße zu behalten. Das ist ein weiterer Fall, in dem die Automatisierung eines Prozesses, der in den meisten Fällen mehr oder weniger routinemäßig und repetitiv abläuft, von großem Nutzen sein kann. Natürlich ist das ein gutes Beispiel, denn vieles, was auf der Straße passiert, ist repetitiv. Aber manchmal gibt es auch eine komplexe Situation, etwas Unerwartetes, das auf der Straße passiert. Und maschinelles Lernen basiert auf historischen Daten. Es lernt aus dem, was man in der Vergangenheit gesehen hat, und versucht, daraus zu verallgemeinern. Aber die Fähigkeit zur Verallgemeinerung ist viel schwächer als die, die wir als Menschen haben. Während wir also eine neue Situation, die sich entwickelt, schnell verstehen können, ist das für Computer viel schwieriger.

1/3: Wo wird maschinelles Lernen heutzutage eingesetzt?

Bitte versuche zuerst die Frage selbst zu beantworten und klicke dann auf "next", um unsere Antwort zu sehen.

1/3: Wo wird maschinelles Lernen heutzutage eingesetzt?

In der maschinellen Übersetzung, in Suchmaschinen wie Google Search, im maschinellen Sehen, in der Spracherkennung, in der automatischen Entscheidungsfindung, in Klassifizierungen und Vorhersagen, in der Robotik und in autonomen Autos.

2/3: Was ist der größte Vorteil des maschinellen Lernens für die Gesellschaft?

Bitte versuche zuerst die Frage selbst zu beantworten und klicke dann auf "next", um unsere Antwort zu sehen.

2/3: Was ist der größte Vorteil des maschinellen Lernens für die Gesellschaft?

Automatisierung von sich wiederholenden und monotonen Aufgaben und Prozessen.

3/3: Worauf basiert das maschinelle Lernen?

Bitte versuche zuerst die Frage selbst zu beantworten und klicke dann auf "next", um unsere Antwort zu sehen.

3/3: Worauf basiert das maschinelle Lernen?

Historische Daten beim überwachten maschinellen Lernen, Lernen aus dem, was wir in der Vergangenheit gesehen haben, und Verallgemeinerung daraus.

Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Nun werden wir uns der Interaktion zwischen Mensch und Maschine zuwenden. Was sind Ihrer Meinung nach die Ziele der Interaktion zwischen Mensch und Maschine? 

Das Ziel der Mensch-Maschine-Interaktion besteht einfach darin, gute Schnittstellen zwischen einem Menschen, der eine bestimmte Aufgabe erfüllen möchte, und einer Maschine, die diese Aufgabe unterstützt, zu schaffen. Und eine grafische Benutzeroberfläche ist ein sehr einfaches Beispiel dafür. Aber natürlich gehört alles, was mit Interaktion, mit Technologie zu tun hat, dazu. Ich habe zum Beispiel an sprechenden Robotern gearbeitet und das ist eine andere Art von Interaktion, die sich von einem Fenster auf dem Bildschirm unterscheidet, aber es ist auch eine Schnittstelle in dem Sinne, dass man in diesem Fall gesprochene Sprache verwendet, um Anweisungen zu geben und Rückmeldungen darüber zu erhalten, was bei der Ausführung der Aufgabe passiert. Die Frage ist immer, wie wir eine flüssige Kommunikation erreichen können, bei der die Person versteht, was vor sich geht, und einfach vermitteln kann, was zu tun ist. 

Und wie können die Geräte gesteuert werden? 

Das hängt wirklich von der Technologie ab. Ich meine, bei einem Computerfenster ist es ziemlich einfach, solange man die Schnittstelle versteht, dass ein kleines Kreuz bedeutet, dass man das Fenster schließt. Bei komplizierteren Geräten ist es natürlich etwas schwieriger, weil man etwas finden muss, das intuitiv genug ist, aber auch leistungsfähig genug, um die Möglichkeiten des jeweiligen Geräts auszuschöpfen. Bei einem Roboter zum Beispiel ist die Menge der möglichen Dinge, die der Roboter in der Welt sagen und tun kann, ziemlich groß. Man braucht also eine Art von Transparenz, und das ist einer der Grundgedanken der Mensch-Roboter-Interaktion. Das bedeutet, dass das System so weit wie möglich explizite Signale darüber geben sollte, was das System verstanden hat, was es nicht verstanden hat und wo es sich bei der Ausführung der Aufgabe befindet, damit der Benutzer so weit wie möglich die Kontrolle hat, denn ohne Informationen gibt es keine Kontrolle.

1/3: Was ist das Hauptziel der Mensch-Maschine-Interaktion?

Bitte versuche zuerst die Frage selbst zu beantworten und klicke dann auf "next", um unsere Antwort zu sehen.

1/3: Was ist das Hauptziel der Mensch-Maschine-Interaktion?

Gute Schnittstellen zwischen einem Menschen, der eine bestimmte Aufgabe erfüllen möchte, und einer Maschine, die diese Aufgabe erfüllen kann, zu schaffen.

2/3: Welche Beispiele für Mensch-Maschine-Interaktion gibt es?

Bitte versuche zuerst die Frage selbst zu beantworten und klicke dann auf "next", um unsere Antwort zu sehen.

2/3: Welche Beispiele für Mensch-Maschine-Interaktion gibt es?

Eine grafische Benutzeroberfläche, sprechende Roboter, Interaktion mit Technologien

3/3: Wie müssen Werkzeuge/Geräte/Systeme/Maschinen beschaffen sein??

Bitte versuche zuerst die Frage selbst zu beantworten und klicke dann auf "next", um unsere Antwort zu sehen.

3/3: Wie müssen Werkzeuge/Geräte/Systeme/Maschinen beschaffen sein?

Intuitiv und transparent

Quiz question 1/1

You have completed the Quiz!

Loading...

Transkript

Wie wird sich die Interaktion zwischen Mensch und Maschine entwickeln und welche Trends zeichnen sich ab? 

Nun, ein wichtiger Trend ist, dass es bei der frühen Mensch-Maschine-Interaktion darum ging, dass sich der Mensch an die Beschränkungen der Schnittstelle anpasst, mit der er zu tun hat. In den 70er Jahren gab es sehr komplexe Maschinen mit vielen Knöpfen, und es ging darum, dass der Mensch lernen musste, die Schnittstelle zu bedienen, während die Schnittstelle selbst keinerlei Anpassung erforderte. Heutzutage geht der Trend dahin, dass die Schnittstelle, die Maschine, versucht, sich an den Menschen anzupassen und seine Sprache zu sprechen. Was mich an der Forschung im Bereich der Sprachtechnologie interessiert, ist, Maschinen zu haben, die eine Sprache sprechen und in der Lage sind, mit dem Kommunikationsmedium zu interagieren, das für uns Menschen am intuitivsten ist, nämlich die natürliche gesprochene Sprache, weil wir die meiste Zeit unseres Lebens damit verbracht haben, in gesprochener Sprache miteinander zu reden und einander zuzuhören. Das ist das mächtigste Medium, weil wir Ideen und Gedanken und im Grunde alles auf eine völlig mühelose Art und Weise ausdrücken können, die mit einer starren Schnittstelle, auf der wir auf Schaltflächen klicken müssen, unmöglich wäre. Aber natürlich ist es auch schwierig, denn natürliche Sprache ist mehrdeutig, vage, manchmal widersprüchlich und unsicher. Es muss immer viel interpretiert werden, damit wir uns gegenseitig verstehen. Aber das alles ist interessant, denn eine Maschine, die gesprochene Sprache versteht, ist eine Maschine, für die man keine Ausbildung braucht. Man weiß, wie man seine Muttersprache spricht, und das ist sowohl sehr nützlich als auch benutzerfreundlich. Und in einigen Fällen, wie zum Beispiel beim Autofahren oder beim Kochen, wenn die Hände mitten in der Zubereitung sind, ist dies auch eine der einzigen Möglichkeiten, um eine konkrete Interaktion mit der Maschine zu haben, denn man kann nicht erwarten, dass der Benutzer in einem autonomen Auto die Zeit damit verbringt, auf den Bildschirm zu schauen und Knöpfe zu berühren. In vielen Fällen besteht die Zukunft der Mensch-Roboter-Mensch-Maschine-Interaktion also wirklich darin, dass Systeme mit uns auf eine Art und Weise interagieren können, die uns vertraut ist, entweder durch Sprache oder durch eine visuelle Sprache, die leicht zu verstehen ist. 

Und als letzte Frage, Sie haben bereits einige der Chancen und Herausforderungen erwähnt. Fallen Ihnen weitere positive Auswirkungen und auch Herausforderungen der Interaktion zwischen Mensch und Maschine für die Gesellschaft ein? 

Nun, da ist immer der Gedanke an die Sprachtechnologie. Ungleicher Zugang und ungleiche Ressourcen sind eine Herausforderung, die über die Interaktion zwischen Mensch und Maschine hinausgeht. Aber ein wichtiges Problem für viele der heutigen Sprachtechnologien ist zum Beispiel, dass Sprachen nicht in gleichem Maße unterstützt werden, und es macht einen großen Unterschied, ob man amerikanisches Englisch spricht oder eine abgelegene afrikanische Sprache, zu der man keinen Zugang hat. Wo Google Translate nicht funktioniert, haben Sie keine Möglichkeit, die Technologie in irgendeiner Weise zu nutzen. Manchmal hat man nicht einmal eine Tastatur auf seinem Handy, um sich in seiner Muttersprache auszudrücken. Und das ist in Zukunft eine große Herausforderung. Ganz zu schweigen natürlich vom Zugang zur Technologie. Ich meine, wenn man erst einmal kein Telefon hat, hat man noch weniger Zugang. Aber die Frage, wie man sicherstellen kann, dass diese Technologie tatsächlich als Gleichmacher eingesetzt wird, anstatt Ungleichheiten in der Welt zu schaffen, ist eine wichtige Herausforderung.

Quiz question 1/8

Ein wichtiger neuer Trend im Bereich des maschinellen Lernens ist die Entwicklung von Maschinen, die sich an menschliche Benutzer:innen anpassen und deren Sprache sprechen können. Menschen verbringen die meiste Zeit damit, sich in gesprochener Sprache zu unterhalten und einander zuzuhören. Die Zukunft der Interaktion zwischen Mensch und Maschine liegt in Systemen, die mit uns auf eine Weise interagieren können, die uns vertraut ist, entweder durch Sprache oder visuelle Effekte. Die Herausforderung bei der Sprachtechnologie ist der unterschiedliche Zugang zu Technologien je nach Land und Sprache.


Quiz question 1/1

You have completed the Quiz!

Loading...

The learning unit has not been completed

You have successfully completed the learning unit.