Dans les contributions précédentes à cette série de blogs, des aspects pertinents de l'intelligence artificielle (IA) ont été discutés en rapport avec des situations concrètes. Dans le plus récent blog 5 (podcast), les auteurs sont ensuite parvenus à la conclusion que la réglementation de l'IA par l'État revient à une pesée socio-politique des avantages (p. ex. gain de connaissances ; augmentation de la productivité) et des risques respectifs de l’IA (p. ex. consommation élevée d'énergie pour les capacités de calcul nécessaires; utilisation de données d'entraînement statistiquement non représentatives).
Le présent blog 6 aborde maintenant la question de la réglementation de l'IA. Le but n’est pas de faire une présentation abstraite des normes juridiques existantes ou en cours d'élaboration, mais un exposé sommaire permettant d’apprécier la mesure dans laquelle les cas d’espèce discutés dans les blogs 1 à 4 sont couverts par le règlement sur l'intelligence artificielle (règlement IA) entré en vigueur dans l'UE en août 2024.
Il semble judicieux de relever ce règlement de l'UE car il sera déterminant pour l'industrie d'exportation suisse dans la mesure où celle-ci vise à vendre des produits équipés de systèmes d'IA sur le marché intérieur de l'UE. En même temps, le règlement IA sera également pertinent pour la réglementation du marché suisse, car le législateur national ne pourra, ni ne voudra, ignorer le cadre juridique de l'Union en la matière.
Le comportement (dommageable) du Robodog dans le blog 1 est une conséquence du logiciel ayant été développé avec des réseaux neuronaux artificiels et entraîné au moyen de données pertinentes. Le Robodog contient ainsi un système d'IA au sens du nouveau règlement IA et tombe ainsi dans son champ d'application.
Cependant, en tant qu'«animal artificiel», pour ainsi dire, le Robodog est avant tout une machine soumise à la directive sur les machines, respectivement au règlement sur les machines de l'UE (qui remplace la première) au sein du marché intérieur de l'UE. Cela signifie que le Robodog, en tant que produit, doit satisfaire à la fois aux exigences de sécurité du règlement IA et à celles du règlement sur les machines s'il veut être vendu sur le marché intérieur de l'UE. Cette double réglementation implique le risque d'une double charge administrative pour la mise sur le marché de produits équipés de systèmes d'IA.
Le législateur européen a certes reconnu ce problème dans les grandes lignes, mais il ne l'a abordé que de manière générale dans le règlement IA. Il convient donc d'attendre les dispositions et lignes directrices supplémentaires de la Commission européenne avant de pouvoir évaluer de manière plus ou moins fiable les effets concrets du règlement IA sur le Robodog. A ce jour, on ne sait pas encore quand elles seront disponibles.
Les véhicules motorisés automatisés utilisent également des logiciels développés à l'aide de réseaux neuronaux. Un tel logiciel ne s'améliore pas de manière autonome dans le cadre d'un processus d'apprentissage permanent en temps réel, c'est-à-dire pendant la conduite, mais il est mis à jour périodiquement par le fabricant sur le véhicule, comme c'est le cas pour les smartphones. En tant qu'élément de sécurité du véhicule, ce logiciel constitue un système d'IA qui, sur le marché intérieur de l'UE, est soumis au règlement IA.
La mise en circulation de véhicules à moteur automatisés (notamment avec réception par type) sur le marché intérieur de l'UE est soumise à un ensemble complexe de dispositions internationales spéciales (notamment les règlements UNECE) et de nombreux règlements de l'UE qui doivent être respectés par les véhicules automatisés en plus du règlement IA. En conséquence, les règlements de l'UE spécifiques aux véhicules à moteur sont à coordonner avec le règlement IA de sorte que la Commission européenne tiendra compte des exigences spécifiques à l'IA pour les systèmes d'IA à haut risque dans le cadre des actes d'exécution et de délégation. Ici aussi, il convient d'attendre les actes juridiques correspondants de la Commission européenne avant de pouvoir évaluer concrètement les effets concrets du règlement IA sur la mise en circulation de véhicules à moteur automatisés sur le marché intérieur de l'UE.
Le blog 3 avait pour objet l’image numérique d'un chien en train de peindre, qui avait été générée par une application accessible sur Internet. La discussion portait notamment sur la question de la qualité d'auteur de l'image au regard du droit de la propriété intellectuelle. Selon le règlement IA, de telles applications (sauf si elles sont librement accessibles en vertu d'une licence open-source) sont en principe considérées comme des modèles d'IA à usage général (sans risque systémique). Quiconque souhaite proposer de tels modèles d'IA sur le marché intérieur de l'UE doit donc respecter les exigences de ce règlement, notamment établir une documentation technique ainsi que fournir des informations sur l'intégration du modèle d'IA dans d'autres systèmes d'IA, sur le respect du droit d'auteur et sur les données d'entraînement utilisées. Outre les exigences relatives à la mise sur le marché de ces modèles d'IA, il existe également des exigences quant au résultat de leur utilisation, c'est-à-dire, dans le cas présent, concernant l'image numérique du chien en train de peindre. Conformément au règlement IA, cette image doit ainsi contenir une indication sur son mode de création artificielle.
Dans le blog 4, nous avons expliqué qu’à ce jour la technologie médicale est déjà fortement réglementée. Cette réglementation a pour but de garantir un rapport bénéfice/risque socialement acceptable pour les dispositifs médicaux. La question se pose ainsi de savoir si, d’une part, une réglementation spécifique de l'IA est vraiment nécessaire pour la technique médicale et, d’autre part, quelles seront les conséquences concrètes du règlement IA pour le secteur industriel correspondant en Suisse. Si un appareil médical, qui utilise de l'IA, est classé comme système d'IA à haut risque, il doit nécessairement remplir les exigences légales du règlement européen sur les dispositifs médicaux, notamment celles concernant l'enregistrement, l'évaluation de la conformité (également par des tiers), la documentation technique et la gestion des risques. Dans ce contexte, il est souhaitable que les expériences faites dans le domaine MedTech soient prises en compte dans une éventuelle réglementation de l'IA en Suisse. Les parties prenantes les plus pertinentes devraient donc être impliquées à un stade précoce afin d'intégrer l'expertise sectorielle et d'éviter une réglementation inutilement compliquée et détaillée, comme c'est le cas dans la législation européenne.
Avec l'adoption du règlement IA, l'UE joue un rôle de pionnier. La définition des systèmes d'IA est basée sur celle de l'OCDE, mais elle est plus générale et couvre ainsi un plus grand nombre d'applications TIC. En Suisse, il devrait exister un consensus que les pratiques d'IA interdites par le règlement IA ne devraient pas non plus être autorisées chez nous. En effet, personne en Europe ne veut d'une situation comme celle en Chine avec du scoring social ou des applications intrusives similaires. Toutefois, dans le règlement IA, diverses exclusions, notamment pour l'armée, l'administration et les autorités ouvrent la voie à des pratiques étatiques abusives. Il sied donc de veiller à ce que, dans ces domaines, on procède à une évaluation réfléchie des avantages et risques pour toute application d’IA.
Dans de nombreux domaines (p. ex. véhicules automatisés, dispositifs médicaux), il existe depuis longtemps des directives réglementaires strictes qui imposent des exigences élevées aux responsables de la mise sur le marché. Il convient donc d'éviter que la mise en œuvre du règlement IA n'entraîne des obstacles supplémentaires inutiles, qui conduiraient à davantage de bureaucratie sans, au final, augmenter la sécurité pour la société. En Suisse, une éventuelle législation IA devrait être abordée de manière pragmatique et réfléchie. Des interdictions sélectives pour les applications d'IA particulièrement nocives ainsi que des dispositions sectorielles basées sur les risques effectifs, tendant à combler d’éventuelles lacunes de la réglementation déjà existante, nous semblent être la bonne voie.
Les articles de blog de cette série proposent un regard interdisciplinaire sur le développement actuel de l'IA dans une perspective technique et de sciences humaines. Ils sont le fruit d'un échange et d'une collaboration récurrents avec Thomas Probst, professeur émérite de droit et de technologie (UNIFR), ainsi que membre de la SATW Roger Abächerli, chargé de cours en technique médicale (HSLU). Avec ces contributions mensuelles, nous nous efforçons d'analyser de manière objective et neutre les questions essentielles qui se posent en rapport avec l'utilisation de systèmes d'IA dans différents domaines d'application. Notre objectif est d'expliquer certains aspects du thème de l'IA de manière compréhensible et professionnellement fondée, sans pour autant entrer dans des détails trop techniques.
