Am Donnerstag, 6. Juni, fand die erste Veranstaltung zum Austausch zwischen Bürgerinnen und Bürgern sowie Fachleuten zu Anwendungen künstlicher Intelligenz statt. Die Teilnehmerinnen und Teilnehmer diskutierten angeregt und offenbarten ihre Hoffnungen und Ängste gegenüber dem Einsatz der Technologie.
Dr. Esther Koller, Stellvertretende Generalsekretärin der SATW und Leiterin Produktentwicklung, sowie Matthias Holenstein, Geschäftsführer der Stiftung Risiko-Dialog, begrüssten die Teilnehmerinnen und Teilnehmer im Kraftwerk Zürich. Sie stellten das Ziel des gemeinsamen Projekts vor, das von den Akademien der Wissenschaften Schweiz unterstützt wird: Das Gespräch mit der Bevölkerung zum Thema künstliche Intelligenz suchen und sie einbinden. Mittels partizipativer Workshops sollen bestehende Ängste und Hoffnungen gegenüber dem Einsatz der Technologie diskutiert werden. Die Kenntnis dieser ist die Basis, um Anwendungen so zu gestalten, dass sie sich langfristig positiv auf unsere Gesellschaft auswirken.
In seiner einleitenden Keynote gab Dr. Markus Christen, Leiter Digital Society Initiative der Universität Zürich, einen Überblick über das Thema künstliche Intelligenz und warnte vor der Überschätzung der Fähigkeiten heutiger Systeme. Er präsentierte auch erste Resultate aus der Bevölkerungsbefragung, die im Vorfeld der Veranstaltung in Zusammenarbeit mit seinem Studienteam realisiert wurde. Dieses führt im Auftrag von TA-SWISS eine Studie durch mit dem Titel: «Wenn Algorithmen für uns entscheiden: die Herausforderungen der künstlichen Intelligenz.»
Für die anschliessenden Workshops teilten sich die Teilnehmenden in drei Gruppen auf, in denen die Themen KI in sozialen Medien, in Bewerbungsprozessen und in der Medizin behandelt wurden. Zunächst wurden mittels Brainstorming Befürchtungen und Hoffnungen der Teilnehmenden gegenüber KI in dem jeweiligen Anwendungsbereich zusammengetragen. Danach gaben die jeweiligen Fachleute einen vertieften Einblick in aktuelle Entwicklungen sowie Hintergrundinformationen zum Einsatzgebiet. Anschliessend wurden die Handlungsfelder priorisiert und Aktionen diskutiert, um den Einsatz von KI darin zu verbessern.
In Bewerbungsprozessen werden KI-Systeme genutzt, um anhand von Personen- und Performancedaten das künftige Verhalten von Bewerberinnen und Bewerbern vorauszusagen und geeignete Kandidatinnen und Kandidaten vorzuschlagen. Dies erhöht die Effizienz von sonst sehr aufwändigen Rekrutierungsprozessen. Wie das genau funktioniert, zeigte Chantelle Larsen Brandt, Future of Work Director Deloitte Switzerland, anhand des Systems «Amelia» auf. Allerdings geht bei solchen Verfahren die menschliche Komponente verloren. Fünf dominierende Aspekte kristallisierten sich im Brainstorming heraus: Selektionseffizienz, Fremdsteuerungsängste, Objektivität bei der Vorauswahl, Dateneingabepflicht und der fehlende «Human Touch».
Nach dem Input wurden die Aspekte Objektivität in der Vorauswahl, Dateneingabepflicht und «Human Touch» als am bedeutendsten erachtet. Spielerische Pilotprojekte, gesetzliche Eindämmung bis hin zu interdisziplinärer Weiterentwicklung der Technologie waren Ideen, um diese Aspekte in Zukunft zu berücksichtigen und zu verbessern.
Der Workshop «KI in den sozialen Medien» zeigte, dass dieses Thema deutlich mehr Ängste und negative Assoziationen hervorruft als Hoffnungen und Chancen. KI wird in dem Bereich nicht isoliert wahrgenommen, Themen wie Filterblasen und Fake News sind damit eng verschachtelt. Als grosse Chance wurde die hohe Effizienz und der Komfortgewinn durch die zunehmende Individualisierung von Informationsangeboten genannt. Diese wird gleichzeitig aber auch als Hauptgefahr empfunden. Die Art und Weise, wie unterschiedliche Informationszugänge den Meinungsbildungs- und damit auch den Demokratieprozess verändern, löst Unbehagen und grosse Unsicherheit aus. Allerdings kann KI hier auch Teil der Lösung sein. So gibt es bereits viele erfolgreiche Beispiele, wie KI-Systeme helfen, Fake News zu entlarven.
In Kleingruppen wurden anschliessend ausgewählte Fragestellungen diskutiert und Lösungsansätze besprochen. Der Meinungsbildungsprozess sollte durch Aufklärung und Förderung von Kompetenzen verbessert werden, beispielsweise mithilfe traditioneller Medien oder Bildungsinstitutionen, aber auch durch Plattformen wie Facebook oder Twitter selbst. Zudem könnte ein Siegel für qualitative und geprüfte Informationen Vertrauen schaffen. KI solle vermehrt zur Bewertung der Qualität von Nachrichten eingesetzt werden, um die gezielte Streuung falscher Informationen aus politischen oder wirtschaftlichen Motiven zu unterbinden.
Eine offene Frage, die beim Brainstorming im Workshop «KI in der Medizin» von einer Teilnehmerin gestellt wurde, war inwiefern man der Technologie mehr Vertrauen kann, als dem Menschen? Wenig umstritten scheint, dass die Technologie unser Leben bereichern kann, beispielsweise durch verbesserte Diagnostik und Therapie. Den Menschen werde es aber noch lange brauchen und die Entwicklung der KI-Systeme bis zur Marktreife wird viel Zeit beanspruchen. Mache eine KI Fehler, sei dies zudem besonders kritisch, weil es entsprechend juristische Fragen nach sich ziehe. Der Radiologe Dr. Alexander Ciritsis vom Universitätsspital Zürich zeigte, wie KI Ärzte entlasten kann, damit diese wieder mehr Zeit für die Betreuung der Patientinnen und Patienten haben. KI beschleunige die Prozesse: Im Anwendungsbeispiel dauert die Klassifizierung der Brustdichte durch automatisierte Auswertung medizinischer Bilddaten statt 20 bis 30 Minuten nur deren zwei. Entsprechend kürzer fällt die Wartezeit für Patientinnen und Patienten aus.
Trotz dieser Vorteile gewichteten die Teilnehmenden die Herausforderungen höher. Insbesondere Haftungsfragen sollten durch Beteiligung aller Stakeholder in Form eines Dialoges geklärt und durch Richtlinien geregelt werden. Mehr und bessere Standards sollten die Anzahl systematischer Fehler durch KI verringern. Beim Datenschutz sei die Nachvollziehbarkeit der Daten zentral, ebenso wie eine Compliance-Prüfung, wiederum mit entsprechenden Standards.
Am Ende wurden die erarbeiteten Lösungen im Plenum vorgestellt. Festhalten lässt sich, dass die Diskussionen zu den Lösungsideen teils zu kurz geraten sind und noch lange hätten weitergeführt werden können. In Zukunft werden wir dafür mehr Zeit einplanen müssen. Zumindest gab es beim anschliessenden Apéro noch Gelegenheit, sich untereinander und mit den Referentinnen und Referenten weiter auszutauschen, was rege getan wurde.
Manuel Kugler, Leiter Schwerpunktprogramme Advanced Manufacturing und Künstliche Intelligenz, Tel. +41 44 226 50 21, manuel.kugler@satw.ch
Unter dem Begriff «Künstliche Intelligenz» KI (engl. «Artificial Intelligence» AI) verstehen wir im Rahmen dieser Veranstaltungsreihe Anwendungen von Computern, die selbstständig aus Daten lernen. Basierend auf diesen Erfahrungen erstellen sie in neuen Situationen Vorhersagen. Solche Computerprogramme können relativ eigenständig Probleme lösen und Entscheidungen fällen.
