Interview: Künstliche Intelligenz und ihr Einfluss auf Gesellschaften
#Künstliche IntelligenzKünstliche Intelligenz wird unsere Gesellschaft fundamental verändern. Ulrike Bischler und Sebastian Matthes berichten über die anstehende Herrenhäuser Konferenz, die dieses facettenreiche Thema in den Fokus nimmt.
Welche Wirkung hat Künstliche Intelligenz auf politische und wirtschaftliche Systeme? Was sind die Auswirkungen auf Mobilität, Gesundheit oder unsere Arbeitswelt? Darum geht es auf der Herrenhäuser Konferenz "AI and the Future of Societies" vom 12. bis 14. Oktober. Wir sprachen mit Sebastian Matthes und Ulrike Bischler, die das Themenfeld in der Stiftung betreuen.
Die Fortschritte im Feld der Künstlichen Intelligenz (KI) werden unsere Gesellschaft fundamental verändern. Wo besteht bei dieser Entwicklung der größte Handlungsbedarf?
Sebastian Matthes: KI wird alle Bereiche des Lebens nach und nach durchdringen. Dabei geht es um große Systemfragen wie das Wirtschaften der Zukunft oder die Frage, wie wir die Transformation in Richtung Nachhaltigkeit erreichen. Es geht aber auch um unser Privatleben: etwa um Überlegungen, wie wir zukünftig unsere Arbeit organisieren, lernen, wie wir unsere Autos steuern und wie wir öffentlichen Nahverkehr gestalten. Solche fundamentalen gesellschaftlichen Veränderungen bergen immer Chancen und Risiken, die leider sehr ungleich verteilt sind. Eine große Herausforderung ist es daher, diese Entwicklung fair zu gestalten.
Ulrike Bischler: Ich sehe zwei große Herausforderungen bei KI: Die eine ist der verantwortliche Umgang, die zweite ist Transparenz. Wenn wir Künstliche Intelligenz bei der Entscheidungsfindung verwenden, etwa um Anspruch auf staatliche Leistungen zu prüfen oder Rückfallquoten für eine vorzeitige Haftentlassung abzuschätzen, ist es für mich unverzichtbar, dass der Mensch selbst die letzte Instanz bleibt und die Verantwortung nicht auf eine Maschine abgewälzt werden kann. Dafür braucht es rechtliche Vorgaben. Im Sinne der Transparenz muss außerdem für jeden nachvollziehbar sein, wie Entscheidungen zustande kommen. Ein Algorithmus darf keine Blackbox sein, bei der am Ende etwas rauskommt, auf das wir uns blind verlassen.
Vom 12. bis zum 14. Oktober 2022 veranstaltet die VolkswagenStiftung die Herrenhäuser Konferenz "AI and the future of societies", bei der Forscher:innen über den Einfluss von KI auf unsere Gesellschaft diskutieren. Was ist das Ziel der Veranstaltung?
Sebastian Matthes: Bei der Konferenz spielen insbesondere drei Aspekte eine Rolle: Erstens, dass die Entwicklung von Künstlicher Intelligenz multidisziplinär betrachtet wird. Uns ist es wichtig, die Natur- und Technikwissenschaften mit den Geistes- und Sozialwissenschaften zusammenzuführen. Es geht nicht darum, KI als Technologie zu begreifen. Es geht darum, wie sie unsere Gesellschaft beeinflusst.
Dr. Ulrike Bischler betreut die Förderinitiative "Künstliche Intelligenz - Ihre Auswirkungen auf die Gesellschaft von morgen".
Zum zweiten wollen wir KI-Forschung aus einer globalen Perspektive betrachten. Darin liegt ein Reiz der Konferenz, denn bislang findet der KI-Diskurs fast ausschließlich im globalen Norden statt. Wir wollen Regionen mit in die Diskussion holen, die sonst in Entwicklung und Forschung nur eine kleine Rolle spielen.
Der dritte Aspekt ist, dass wir eine kritische Perspektive zu dem Thema einnehmen. Es gibt große Chancen und herausragende Möglichkeiten in der KI-Forschung – das sehen wir durchaus. Wir wollen in der Konferenz aber auch die Ambivalenzen dieser Entwicklungen aufzeigen und vor dem Hintergrund sozialer Ungleichheiten betrachten.
Ulrike Bischler: Die Konferenz dient zudem der Vernetzung von Wissenschaftler:innen über Länder- und Fächergrenzen hinweg. So können sich neue Netzwerke für die Zukunft entwickeln.
Die Idee der Künstlichen Intelligenz ist ja nicht neu. Warum erfährt sie jetzt so viel Aufwind?
Ulrike Bischler: Durch die technischen Entwicklungen der letzten Jahre und die Deep-Learning-Algorithmen ist Künstliche Intelligenz sehr mächtig geworden. Das ist faszinierend und beängstigend zugleich. Wichtig ist, dass man die Entwicklung und den Einsatz von KI nicht allein dem kommerziellen Sektor überlassen darf. Ohne ethische Debatten, staatliche Regulierungen und gute Ausbildung der Entwickler:innen und Anwender:innen kann es unwissentlich oder gar gezielt zu Ungleichbehandlung kommen.
Wie eine KI funktioniert, ist stark abhängig von den Daten, mit denen der Algorithmus trainiert wurde. So kann eine Künstliche Intelligenz fair entscheiden, aber auch soziale Ungleichheiten reproduzieren. Wie kann man Diskriminierung verhindern?
Ulrike Bischler: Es braucht eine Möglichkeit zur Überwachung und eine Transparenz der Daten, im Grunde eine Art Algorithmus-TÜV. Denn Algorithmen haben keine Vorlieben oder Vorurteile, aber in den Trainingsdaten versteckte Ungleichheiten werden unweigerlich reproduziert.
Sebastian Matthes: Das ist sehr wichtig. Sonst besteht die Gefahr, wie bereits einige Studien andeuten, dass sich gesellschaftliche Vorurteile oder Diskriminierung in einer Künstlichen Intelligenz reproduzieren. Das ist eine bedeutende Aufgabe kritischer Forschung: Sie muss Benachteiligung und Intransparenz sichtbar machen, damit wir daraus lernen können. So haben wir zum Beispiel im Rahmen unserer Initiative "Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen" ein Projekt gefördert, das versucht, Menschen in sozialen Medien aus ihren Filterblasen zu holen und einen demokratischen Diskurs zu etablieren. Ein anderes Projekt beschäftigt sich mit der Frage, wie das Konzept von Fairness in Algorithmen integriert werden kann, was überhaupt faire Daten sind und wie sie für das Training von Algorithmen genutzt werden können.
Kann die Herrenhäuser Konferenz einen Impuls in die richtige Richtung geben?
Ulrike Bischler: Wir hoffen, dass sie die Debatte in der Wissenschaft anregt und vertieft – aber nicht nur da. Um auch die interessierte Öffentlichkeit an der Diskussion zu beteiligen, gibt es einen öffentlichen Abendvortrag "Wie KI bestehende Ungleichheitsverhältnisse beeinflusst". Bei unseren stiftungsgeförderten KI-Forscher:innen sehen wir zudem, dass viele nicht nur in ihrer Fachcommunity aktiv sind, sondern auch in zivilgesellschaftlichen Organisationen oder als Blogger:innen. Diese Wissenschaftskommunikation und der Dialog sind gerade auf dem Feld der Künstlichen Intelligenz extrem wichtig.
Dr. Sebastian Matthes betreut neben der Förderinitiative zu Künstlicher Intelligenz auch die Initiative "Perspektiven auf Reichtum".
Die Entwicklung von KI ist also eine Medaille mit zwei Seiten?
Sebastian Matthes: Genau! Auf der einen Seite gibt es Dinge, die den menschlichen Verstand übersteigen, aber nicht die Möglichkeiten einer Künstlichen Intelligenz. Für uns ist es nahezu unmöglich, in Zeiträumen von 10.000 Jahren zu planen. Eine KI könnte das wahrscheinlich leisten und so zum Beispiel Entscheidungen mit Blick auf eine klimafreundliche Zukunft treffen. Auf der anderen Seite trifft eine neue Technik wie KI immer auf existierende Ungleichheitsverhältnisse, die sich dadurch noch weiter festigen könnten.
Ulrike Bischler: Wenn Künstliche Intelligenz in autokratischen Überwachungsstaaten die Daten aller Bürger:innen permanent auswertet, können Bewegungen für bürgerliche Freiheiten und Demokratie schon im Keim erstickt werden. Gleichzeitig kann Künstliche Intelligenz viel Positives bewirken: Sie ist schon heute sehr gut darin, Muster zu erkennen. Sie kann zum Beispiel Röntgen- oder Ultraschallaufnahmen auswerten und Hinweise für ärztliche Diagnosen und die Überwachung des Behandlungserfolgs liefern – und das, ohne je müde zu werden.
Wie geht es nach der Herrenhäuser Konferenz weiter?
Sebastian Matthes: Die vielfältigen Forschungsprojekte, die wir im Rahmen der Initiative "Künstliche Intelligenz – Ihre Auswirkungen auf die Gesellschaft von morgen" fördern, laufen zum Teil noch bis 2025 weiter. Wir freuen uns, dass wir mit der Auswahl der Forschungsprojekte einen wichtigen Impuls setzen können, damit die Auswirkungen von KI auf die Gesellschaft von vornherein mit in den wissenschaftlichen Fokus gerät.
Ulrike Bischler: Außerdem wird die Konferenz nicht die letzte Veranstaltung sein, die wir zu KI haben werden. Wir planen in circa zwei Jahren eine weitere große Konferenz zum Thema, um die Ergebnisse aus den geförderten Projekten zu KI und Gesellschaft wissenschaftlich zu diskutieren und in die Breite zu tragen.