Am 7. Juni 2018 fand im Kursaal in Bern die fünfte Ausgabe der Swiss Conference on Data Science SDS statt. Die Swiss Alliance for Data-Intensive Services führt diese internationale Konferenz jährlich durch, die SATW hat dieses Mal eine Podiumsdiskussion zum Thema künstliche Intelligenz organisiert.
Zum Abschluss der englischsprachigen Konferenz SDS2018 mit hervorragenden Referaten und einer breiten Palette von Breakout-Sessions organisierte die SATW das Panel «The impact we want AI to have on society». SATW-Mitglied Matthias Kaiserswerth, Geschäftsführer der Hasler-Stiftung, moderierte die hochkarätige Podiumsdiskussion. Für viele steht ausser Frage, dass künstliche Intelligenz (KI) erhebliche Auswirkungen auf die Gesellschaft haben wird. Inwieweit das jedoch unser Verhalten und unsere Gewohnheiten verändern wird, ist schwer vorherzusagen. Klar ist, dass wir bei der Entscheidung über den Einsatz der Technologie eine aktive Rolle spielen sollten. Doch wissen wir eigentlich, was wir wollen?
Um Auswirkungen abzuschätzen, stellt sich zunächst die Frage, wo KI zuerst eingeführt wird. Sabine Süsstrunk, Professorin an der EPFL, nannte Social Media als Bereich, wo KI bereits eine wichtige Rolle spielt. Sie warnte, dass kostenlose Dienstleistungen unter Umständen problematisch sind, da sie nicht zwingend zu 100% korrekt sein müssen. Abraham Bernstein, Professor an der Universität Zürich glaubt, dass es kaum Bereiche gibt, die von KI in Zukunft nicht massgeblich verändert werden. Laut Joachim Buhmann, Informatik-Professor an der ETH Zürich, hängt die Antwort von der verwendeten KI-Definition ab. Maschinelles Lernen sei bereits weit verbreitet, vor allem dort, wo Fehler nicht allzu schmerzhaft sind. Laut Nationalrätin Min Li Marti muss der Gesellschaft bewusst werden, dass KI nicht beängstigend ist, aber auch nicht unbedingt klug. Laut Prof. Rudolf Minsch, Chefökonom von economiesuisse, werde die Technologie zuerst dort eingesetzt, wo der Bedarf danach am höchsten sei. Alternativ und vermutlich realistischer formuliert, werde es dort sein, wo am meisten Geld fliesst - namentlich in der Finanzbranche und in der Unterhaltungsindustrie, speziell im Bereich Pornografie.
KI kann Personen bei ihren Aktivitäten unterstützen und ihre Fähigkeiten erweitern. Wenn wir aber mehr und mehr Aufgaben an Computer delegieren, geben wir Entscheidungen auf und verlieren womöglich wichtige Fähigkeiten, gab Joachim Buhmann zu bedenken. Auf die Frage, ob man KI politische Entscheidung treffen lassen sollte, antwortete Min Li Marti, dass es sich dabei um eine Frage der Verantwortung und Zuverlässigkeit handle. Auch ideologische und ethische Werte seien wichtig. Menschen wollen partizipieren: Würden sie ihre politische Meinung delegieren, fühlten sie sich schlechter. Entscheidungen, die von Computern getroffen werden, mögen vielleicht besser sein, aber die Menschheit wäre unzufriedener mit einer Regierung, die rein auf Algorithmen basiert. Und was geschieht, wenn die Algorithmen versagen? Ein Beispiel war die Wirtschaftskrise. Als es los ging, waren die grundlegenden Modellannahmen plötzlich völlig falsch. Blindes Vertrauen in solche Modelle kombiniert mit einer breiten Einführung von KI bergen die Gefahr, dass wir verlernen, für uns selbst zu denken.
Heute entspricht KI hauptsächlich Datenanalyse. Daten sind eine wesentliche Grundlage für diese Systeme – können aber auch befangen sein. Bisweilen spiegeln sie gesellschaftliche Werte wider, was manchmal beängstigend ist. Die Entscheidung, ob etwas richtig oder falsch ist, hängt immer von der zugrundliegenden Nutzenfunktion ab. Nötig sei eine Reflektion darüber, wie wir denken und nach welchen Werten wir leben wollen. Der Aufschwung von KI hat auch starke Auswirkungen auf das Bildungssystem. Computational Thinking sollte frühzeitig unterrichtet werden. Gleichzeitig sollten wir uns auf die Vermittlung von kritischem Denken, sozialer Kompetenz und Kreativität konzentrieren – Fähigkeiten also, die nur schwer durch Algorithmen programmierbar sind. Menschen sind keine Maschinen und leben in viel mehr Dimensionen als Computer. Allein deshalb sind wir nicht von der KI bedroht. Zudem sind Technologien keine Naturgesetze: Menschen entscheiden aktiv, welche vorteilhaft, ethisch und gut sind. Wir sollten an der Entwicklung dieses Prozesses mitwirken und es nicht grossen Unternehmen überlassen, zu tun, was sie für richtig halten. Die in jüngster Zeit zunehmende Kritik an grossen Technologieunternehmen ist nicht unbegründet.
Es gelte jetzt zu diskutieren und entscheiden, was uns wichtig ist. Die Menschen müssten die Prinzipien von Daten verstehen. Daten können parteiisch sein - sie hängen von ihrem Umfeld ab. Algorithmen verarbeiten ebensolche Daten, um im Gegenzug die Umwelt - entsprechend nicht ganz neutral - zu beschreiben und Entscheidungen zu fällen. Diese Aspekte müssen vermittelt werden, sowohl auf Universitätsniveau als auch in frühen Schuljahren.
Welche Auswirkungen soll nun also KI auf unsere Gesellschaft haben? Das Publikum hatte zahlreiche weitere Fragen parat, die aufgrund der fortgeschrittenen Zeit nicht mehr beantwortet werden konnten. Die Diskussion hat gerade erst begonnen und viele weitere sind nötig. Im Verlaufe der Debatte werden wir regelmässig die jüngsten Entwicklungen in Frage stellen und die Richtung, in die wir uns bewegen, anpassen müssen. Unbestritten ist, dass die Gesellschaft neutral über die Technologie aufgeklärt werden und im Prozess deren Weiterverbreitung eine aktive Rolle spielen sollte. Das ist nötig, um ein grundlegendes Verständnis und eine breite Akzeptanz zu schaffen, damit KI dabei helfen kann, die grossen Probleme der Menschheit zu lösen.
Die SATW wird den Dialog mit Fachleuten und der breiten Öffentlichkeit fortsetzen. Verpassen Sie nicht den kommenden TecToday zum Thema «Man vs. Machine – Battle of Brains» am Donnerstag 13. September im Rahmen des Digital Festivals 2018 sowie die Euro-CASE-Konferenz 2018 zum Thema «How AI will shape our future» am Montag 24. September 2018.
Manuel Kugler, Leiter Schwerpunktprogramme Advanced Manufacturing und Künstliche Intelligenz, Tel. +41 44 226 50 21, manuel.kugler(at)satw.ch
