Le 12 juillet dernier était publié au Journal Officiel de l’Union Européenne, le Règlement communautaire « établissant des règles harmonisées concernant l’intelligence artificielle », également appelé « Règlement sur l’Intelligence Artificielle ». Un énième texte venant alourdir le droit du numérique et l’actualité législative déjà bien chargée. Mais alors que contient-il réellement ?
Catégorie
🗞
NewsTranscription
00:00...
00:06On termine avec Mathieu Bourgeois.
00:08Bonjour, Mathieu.
00:09Vous êtes avocat associé, vice-président
00:12du Cercle de la Donnée.
00:13Aujourd'hui, on va parler de l'AIA Act,
00:15ou en français, le RIA,
00:17le Règlement sur l'intelligence artificielle.
00:20Il a été publié au journal officiel de l'Union européenne
00:24le 12 juillet 2024.
00:25Pouvez-vous revenir brièvement sur la raison d'existence
00:29de ce nouveau texte ?
00:30Bonjour, Delphine.
00:31Le but de ce nouveau texte, c'est de conjurer les risques
00:35que font courir les IA trop nuisibles à la société,
00:38des risques de discrimination,
00:40de prolifération de contenu manipulatoire ou erroné,
00:43mais aussi pour la santé et l'environnement.
00:46On s'en est déjà exprimé dans cette tribune.
00:49Le moyen qui a été employé, c'est un moyen classique,
00:52c'est-à-dire dans la droite ligne de la doctrine
00:55suivie par la Commission,
00:56c'est une logique d'autodiscipline.
00:58En fait, l'Europe fait le pari
01:01que les organisations, les entreprises
01:03vont s'autodiscipliner parce que la conformité
01:06sera gage de confiance
01:07et que l'IA non conforme ne sera pas adoptée.
01:10C'est une logique qui est discutable,
01:12de mon point de vue, parce qu'elle a montré ses limites
01:16parce que les entreprises n'ont pas toujours les moyens,
01:19et les pouvoirs publics ne mettent pas toujours
01:21les moyens de justice.
01:23On aurait pu avoir une logique différente
01:26mais ce n'est pas la logique qui a été suivie.
01:28C'est la logique que vous auriez appréciée.
01:31On en a déjà parlé. Une logique plus contraignante.
01:33Avant d'entrer dans le fond du texte,
01:36pouvez-vous nous rappeler ce qu'on appelle
01:38une intelligence artificielle et les différents types d'IA ?
01:41Très important.
01:43Une intelligence artificielle, il y a une définition très large
01:46qui la définit comme un ensemble de théories et de techniques
01:50mis en oeuvre pour simuler l'intelligence humaine.
01:53C'est très large.
01:55Il y a deux grands types d'intelligence artificielle.
01:58Tout d'abord, il y a l'IA dite symbolique ou cognitive.
02:01C'est une IA qui s'appuie sur un moteur d'inférence
02:04qui utilise des règles préalablement définies par des experts.
02:07On appelle ça aussi les systèmes experts.
02:09Cette IA-là est très simple.
02:11Elle déduit, c'est-à-dire qu'elle part des règles
02:14et elle va conclure sur des faits.
02:16Elle n'a pas de capacité de généralisation.
02:18Autrement dit, on lui apprend le monde
02:21et face au monde, elle raisonne.
02:22Mais elle n'évolue pas.
02:24C'est l'IA cognitive ou symbolique.
02:26Et puis, il y a l'IA connexionniste
02:28qui, à l'inverse, n'a pas de raisonnement déductif
02:30comme la précédente, mais un raisonnement inductif.
02:33C'est-à-dire que face à des faits, autrement dit, face à des données,
02:37elle va tirer des conclusions générales.
02:39C'est cette IA-là qui a eu un succès fulgurant ces dernières années
02:43parce qu'il y a l'apparition du big data
02:45et que les données sont massivement disponibles.
02:48Un des algorithmes de cette IA qui a eu beaucoup de succès,
02:51c'est l'algorithme de rétropropagation du gradient,
02:54qui est le résultat notamment des travaux du chercheur Geoffrey Hinton
02:58et aussi en collaboration avec Yann Lequin et Yosha Bengio,
03:02qui ont eu le Prix Turing en 2019, dont on a déjà parlé dans cette tribune.
03:06Et cette IA-là, elle fonctionne de la manière suivante.
03:09Elle est constituée d'un réseau de neurones artificiels.
03:12En fait, ce sont des microcalculateurs, les neurones artificiels,
03:15qui sont confrontés à des stimuli,
03:18c'est-à-dire à des données étiquetées.
03:21C'est ce qu'on appelle les données d'apprentissage.
03:23Et à ce moment-là, avec un moteur d'optimisation,
03:26un algorithme d'optimisation,
03:28elle va se corriger au fur et à mesure dans cette base d'apprentissage
03:31de sorte à généraliser et à créer un modèle.
03:34Un modèle, c'est-à-dire en fait un ensemble de principes
03:37qu'elle va donc avoir en elle.
03:40Et ensuite, face à un environnement réel,
03:41c'est-à-dire face à des données non étiquetées,
03:43elle va apporter des réponses cohérentes dans un contexte inconnu.
03:47Cette IA connexionniste, vous avez compris, Delphine,
03:49ne fonctionne pas sur la base d'une programmation explicite.
03:53C'est un mécanisme d'optimisation.
03:55La connaissance est déportée dans les données.
03:57D'où l'importance d'avoir des bonnes données.
03:59Absolument. Alors, au sens de ce nouveau règlement,
04:02qu'est-ce qu'on entend par système d'IA ?
04:04Alors, c'est très important parce que nous, les juristes,
04:06on va se demander si les entreprises,
04:09quand elles nous soumettent un projet numérique
04:11et qu'elles prétendent qu'il s'agit d'une IA,
04:13est-ce que c'est véritablement une IA ?
04:14Alors, le règlement définit cela de la manière suivante.
04:18C'est l'article 3.
04:19Une IA est un système automatisé,
04:21ensemble de logiciels et de matériels, autrement dit,
04:23qui fonctionne à différents niveaux d'autonomie,
04:26pas de difficultés,
04:27et peut faire preuve d'une capacité d'adaptation.
04:30Le peut est déterminant parce qu'elle peut ou ne peut pas.
04:32C'est ce qui permet d'inclure dans cette définition
04:35les IA connexionnistes,
04:36qui font preuve d'une capacité d'adaptation,
04:38mais aussi les IA symboliques,
04:40qui n'ont pas de capacité d'adaptation
04:41puisque le peut n'est qu'une faculté et pas une nécessité.
04:44La définition poursuit en disant
04:45et qui, pour des objectifs explicites ou implicites,
04:47déduit, là, c'est une maladresse de plume,
04:49le texte aurait dû dire déduit ou induit,
04:53donc il faut entendre déduit ou induit,
04:55même si le texte ne le dit pas,
04:56sinon on exclut les IA connexionnistes,
04:58ce qui n'est évidemment pas possible.
05:00La manière de générer des sorties
05:02telles que des prédictions, des contenus,
05:04des recommandations, des décisions.
05:05Il y a deux maladresses dans cette définition.
05:08La première, je l'ai relevée,
05:09c'est qu'il aurait fallu rajouter induit.
05:11Et la deuxième, c'est qu'on nous dit
05:13que l'IA peut générer des contenus.
05:15Or, le problème, c'est qu'avec cette définition,
05:17vous voyez, on se demande si Excel n'est pas une IA,
05:19puisque finalement, Excel a bien des principes
05:22et déduit des contenus.
05:23En fait, l'IA, a priori, sort des connaissances
05:26et pas simplement des contenus.
05:27La définition aurait dû être un peu mieux rédigée.
05:29Il y a encore beaucoup de travail sur ce texte.
05:32Heureusement qu'on a un peu de temps pour l'appliquer.
05:33Merci beaucoup, Mathieu Bourgeois.
05:35Je rappelle que vous êtes avocat associé
05:37et vice-président du Cercle de la Donnée.
05:39Merci à vous de nous suivre.
05:41C'était Smartech.
05:41Vous nous regardez sur la chaîne vSmart for Change.
05:43Je vous dis à très bientôt.
05:47♪♪♪