In den bisherigen Beiträgen dieser Blogserie wurden relevante Aspekte der Künstlichen Intelligenz (KI) anhand konkreter Sachlagen dargestellt. Im jüngsten Blog 5 (Podcast) gelangten die Autoren zum Schluss, dass die staatliche Regulierung von KI auf eine gesellschaftspolitische Güterabwägung zwischen dem Nutzen (z.B. Erkenntnisgewinn; Produktivitätssteigerungen) und den Risiken (z.B. hoher Energieverbrauch für benötigte Rechenkapazitäten; Verwendung statistisch nicht repräsentativer Trainingsdaten) von KI-Anwendungen hinausläuft.
Der vorliegende Blog 6 ist deshalb der Frage der Regulierung von KI gewidmet. Dabei geht es in diesem Kurzbeitrag nicht um eine abstrakte Darstellung bestehender oder sich noch in Ausarbeitung befindlicher Rechtsnormen, sondern es soll summarisch dargelegt werden, inwieweit die in den Blogs 1 bis 4 diskutierten Sachverhalte von der im August 2024 in der EU in Kraft getretenen Verordnung über künstliche Intelligenz (KI-Verordnung) erfasst sind.
Den Fokus auf die EU-Verordnung zu legen, drängt sich deshalb auf, weil diese auch für die schweizerische Exportindustrie massgeblich ist, soweit sie Produkte mit KI-Systemen auf dem EU-Binnenmarkt absetzen will. Gleichzeitig wird die KI-Verordnung auch für die Regulierung des schweizerischen Markts von Bedeutung sein, da der nationale Gesetzgeber das unionsrechtliche Umfeld weder wird ignorieren können noch wollen.
Das (schädigende) Verhalten des Robodogs in Blog 1 ist eine Folge der Software, die mit künstlichen neuronalen Netzwerken entwickelt sowie mit einschlägigen Daten trainiert worden ist. Der Robodog enthält folglich ein KI-System im Sinne der neuen KI-Verordnung und fällt deshalb in deren Geltungsbereich.
Als gewissermassen «künstliches Tier» stellt der Robodog jedoch in erster Linie eine Maschine dar, die innerhalb des EU-Binnenmarkts der EU-Maschinenrichtlinie bzw. der (diese ersetzenden) EU-Maschinenverordnung untersteht. Dies bedeutet, dass der Robodog als Produkt sowohl den Sicherheitsanforderungen der KI-Verordnung als auch der Maschinenverordnung genügen muss, wenn er auf dem EU-Binnenmarkt abgesetzt werden soll. Diese zweifache Regulierung impliziert die Gefahr administrativer Doppelbelastungen für die Inverkehrsetzung von Produkten mit KI-Systemen. Der EU-Gesetzgeber hat dieses Problem zwar im Ansatz erkannt, es in der KI-Verordnung aber nur allgemein angesprochen. Es gilt daher die weiteren Bestimmungen und Leitlinien der EU-Kommission abzuwarten, bevor die konkreten Auswirkungen der KI-Verordnung auf den Robodog einigermassen zuverlässig beurteilt werden können.
Auch automatisierte Motorfahrzeuge verwenden Software, die mit neuronalen Netzwerken entwickelt wird. Diese Software verbessert sich nicht selbständig im Rahmen eines permanenten Lernprozesses in Echtzeit, also nicht während laufender Fahrt, sondern wird durch periodische Updates des Herstellers auf dem Fahrzeug auf den neuesten Stand gebracht, wie man es etwa von Smartphones gewohnt ist. Als sicherheitsrelevanter Fahrzeugbestandteil stellt solche Software ein KI-System dar, welches im EU-Binnenmarkt unter die KI-Verordnung fällt.
Die Inverkehrssetzung von automatisierten Motorfahrzeugen (namentlich mit Typengenehmigung) im EU-Binnenmarkt unterliegt einem komplexen Geflecht von internationalen Sonderbestimmungen (namentlich UNECE-Reglementen) und umfangreichen EU-Verordnungen, die von automatisierten Fahrzeugen zusätzlich zur KI-Verordnung zu beachten sind. Dementsprechend werden die motorfahrzeugspezifischen EU-Verordnungen durch die KI-Verordnung dahingehend angepasst, dass die EU-Kommission im Rahmen von Durchführungs- und Delegationsrechtsakten die KI-spezifischen Anforderungen an Hochrisiko-KI-Systeme zu berücksichtigen hat. Auch hier gilt es, die entsprechenden Rechtsakte der EU-Kommission abzuwarten, bevor die effektiven Auswirkungen der KI-Verordnung auf die Inverkehrsetzung von automatisierten Motorfahrzeugen im EU-Binnenmarkt konkret beurteilt werden können. Wann diese vorliegen werden, ist zurzeit noch offen.
Der Blog 3 hatte ein digitales Bild eines malenden Hundes zum Gegenstand, das mit einer im Internet zugänglichen Applikation generiert worden war. Diskutiert wurde insbesondere die Frage der immaterialgüterrechtlichen Urheberschaft des Bildes. Solche Applikationen (sofern nicht aufgrund einer open-source Lizenz frei zugänglich) gelten nach der KI-Verordnung grundsätzlich als KI-Modelle mit allgemeinem Verwendungszweck (ohne systemisches Risiko). Wer solche KI-Modelle im EU-Binnenmarkt anbieten will, muss folglich die Vorgaben dieser Verordnung beachten, namentlich eine technische Dokumentation sowie Informationen zur Integration des KI-Modells in andere AI-Systeme sowie zur Einhaltung des Urheberrechts und zu den verwendeten Trainingsdaten. Neben den Anforderungen für die Inverkehrsetzung solcher KI-Modelle, gibt es auch Vorgaben für das Ergebnis ihrer Verwendung, also im vorliegenden Fall für das digitale Bild des malenden Hundes. Dieses muss gemäss der KI-Verordnung einen Hinweis auf seine künstliche Entstehungsweise enthalten.
Im Blog 4 haben wir erörtert, dass die Medizintechnik schon heute stark reguliert ist. Die bereits bestehende Regulierung verfolgt das Ziel, für Medizinprodukte ein gesellschaftlich akzeptables Nutzen-Risiko-Verhältnis sicherzustellen. Damit stellt sich die Frage, ob es für die Medizintechnik zusätzlich einer spezifischen KI-Regulierung bedarf, sowie welche konkreten Auswirkungen, die in der EU in Kraft gesetzte KI-Verordnung für diesen Industriezweig in der Schweiz haben dürfte. Wird ein KI verwendendes Medizingerät als Hochrisiko-KI-System klassifiziert, muss es notwendigerweise auch die gesetzlichen Anforderungen der EU-Verordnung für Medizinprodukte erfüllen, namentlich jene betreffend Registrierung, Konformitätsbewertung (auch durch Dritte), technische Dokumentation und Risikomanagement. Vor diesem Hintergrund ist es wünschenswert, dass die Erfahrungen aus dem MedTech Bereich in eine allfällige KI-Regulierung in der Schweiz miteinfliessen. Die relevantesten Stakeholder sollten daher frühzeitig einbezogen werden, damit das sektorielle Fachwissen integriert wird und eine unnötig komplizierte und detaillierte Regelung, wie sie dem EU-Recht eigen ist, vermieden werden kann.
Mit dem Erlass der KI-Verordnung nimmt die EU eine Vorreiterrolle ein. Die Definition von KI-Systemen basiert auf jener der OECD, ist jedoch genereller gehalten und erfasst damit eine grössere Anzahl von ICT-Anwendungen. Es besteht vermutlich auch in der Schweiz Konsens darüber, dass die in der KI-Verordnung verbotenen KI-Praktiken nicht zugelassen werden sollten. Niemand in Europa will wohl Verhältnisse wie z.B. in China mit Social Scoring oder ähnlich einschneidenden Anwendungen. Diverse Ausschlüsse namentlich für Militär, Verwaltung und Behörden ebnen allerdings auch bei der KI-Verordnung den Weg für übergriffige staatliche Praktiken in diesen Bereichen. Es braucht indes auch hier eine reflektierte Güterabwägung zwischen Nutzen und Risiken von KI-Anwendungen.
Auf vielen Gebieten (z.B. automatisierte Fahrzeuge, Medizinprodukte) bestehen seit langem strenge regulative Vorgaben, die hohe Anforderungen an die Inverkehrbringer stellen. Es ist daher zu vermeiden, dass die Umsetzung der KI-Verordnung unnötige Zusatzhürden mit sich bringt, die zu mehr Bürokratie führen, ohne im Ergebnis die Sicherheit für die Gesellschaft zu erhöhen. In der Schweiz sollte bei einer allfälligen KI-Gesetzgebung pragmatisch und besonnen vorgegangen werden. Selektive Verbote für besonders schädliche KI-Anwendungen sowie risikobasierte, sektorielle Vorgaben, welche allfällige Lücken in der bereits bestehenden Regulierung füllen, scheint uns der richtige Weg zu sein.
Die Blogbeiträge dieser Serie bieten eine interdisziplinäre Betrachtung der aktuellen KI-Entwicklung aus technischer und geisteswissenschaftlicher Perspektive. Sie sind das Ergebnis eines wiederkehrenden Austauschs und der Zusammenarbeit mit Thomas Probst, emeritierter Professor für Recht und Technologie (UNIFR), sowie SATW-Mitglied Roger Abächerli, Dozent für Medizinaltechnik (HSLU). Mit diesen monatlichen Beiträgen streben wir eine sachlich neutrale Analyse der wesentlichen Fragen an, die sich im Zusammenhang mit dem Einsatz von KI-Systemen in verschiedenen Anwendungsbereichen ergeben. Unser Ziel ist es, einzelne Aspekte des KI-Themas verständlich und fachlich fundiert zu erläutern, ohne dabei zu technisch ins Detail zu gehen.
