Virginie Rozière, directrice du numérique au ministère de l'Europe et des Affaires Etrangères et ancienne eurodéputée rapporteure pour la protection des droits d’auteurs, nous partage sa vision sur l’impact de l’intelligence artificielle et l’importance de la maîtrise des informations.
Category
🤖
TechnologieTranscription
00:00La question de l'accès aux sources, que ce soit dans une logique de transparence, de démocratie
00:03ou d'accès à la création, va se poser de manière encore plus prégnante
00:07avec l'essor des intelligences artificielles.
00:14Aujourd'hui, on voit que pour fonctionner et pour avoir une IA performante,
00:19la matière première sous-jacente, c'est celle des données en nombre et en qualité
00:25qu'on est en mesure de fournir pour alimenter les moteurs d'IA.
00:30La question qui se pose, surtout pour un ministère comme le nôtre,
00:33où, comme je le disais, on manipule de l'information sensible,
00:35c'est bien le maintien de la maîtrise sur cette information.
00:39Et donc, effectivement, le recours à des intelligences artificielles,
00:45on va dire externes, est proscrite pour nous,
00:48puisqu'on ne peut pas envisager de laisser toute une partie de nos informations
00:52sortir vers des systèmes et potentiellement des entités qui pourraient en tirer bénéfice.
01:06Le marketing de l'innovation et le déploiement dans l'espace numérique de nouveaux services
01:12vient souvent bouleverser les chaînes de valeur.
01:16On l'a vu avec l'émergence de ce qu'on a appelé à la fin des années 2000, au début des années 2010,
01:23d'abord l'économie collaborative, pour se rendre compte qu'en fait,
01:27ce n'était pas une économie collaborative, mais une économie des plateformes.
01:29Et donc, on a vu se former un oligopole numérique autour des GAFA
01:34avec une captation des données où nos données personnelles
01:39sont aujourd'hui un enjeu et une valeur qui s'échangent entre les acteurs du numérique
01:45et également une captation de l'économie de la création sur les intermédiaires numériques de bout de chaîne.
01:52Et donc effectivement, l'Union européenne fait aujourd'hui figure un peu de résistance vis-à-vis de l'hégémonie des GAFA,
02:00que ce soit dans la protection des données personnelles avec le RGPD,
02:05le Règlement général de la protection des données,
02:07ou dans la volonté de préserver la rémunération de la création avec la Directive droit d'auteur
02:13dont j'ai eu à m'occuper pour justement maintenir la répartition de la valeur sur l'ensemble de la chaîne.
02:18Aujourd'hui, l'arrivée des IA et notamment de l'IA générative vient poser un nouveau filtre
02:23et une nouvelle distance entre les sources primaires,
02:28qu'elles soient des sources d'information, des sources de données ou des sources de création,
02:33et le consommateur ou l'utilisateur.
02:36Si demain, Google remplace son moteur de recherche et la présentation de résultats du web
02:42par un prompt d'IA qui fournit une information synthétisée,
02:45il désintermédie et efface complètement les sources primaires.
02:49Et donc la question de l'accès aux sources, que ce soit dans une logique de transparence, de démocratie
02:53ou d'accès à la création, va se poser de manière encore plus prégnante avec l'essor des intelligences artificielles.
02:59La matière première qui conditionne à la fois la maîtrise de l'IA et la qualité de sa production,
03:15c'est la donnée sous-jacente.
03:17Et donc on voit bien que c'est autour de cette donnée que se cristallisent à la fois les enjeux d'éthique
03:23et les enjeux de souveraineté et de maîtrise.
03:27Pour nous, au ministère de l'Europe et des Affaires étrangères, la maîtrise de notre information est centrale.
03:32Et donc on voit bien qu'on est quelque part bridé dans une volonté qui pourrait nous amener à utiliser des IA à ce service
03:44en déversant nos données dans un réceptacle inconnu.
03:48Donc la maîtrise de données reste quelque chose d'essentiel.
03:51Mais autour de la question des biais, c'est aussi cette question de maîtrise et de qualité des données qui se posent.
03:56Quelque part, aujourd'hui, les informations qui sont ingérées par les intelligences artificielles accessibles au grand public
04:03sont le reflet de nos sociétés et de leur fonctionnement et de la manière dont elles se conçoivent.
04:11Et donc, quelque part, une IA aujourd'hui qui discrimine, c'est une IA qui a bien appris,
04:14puisque le corpus de données qui lui est mis à disposition n'est évidemment pas exempt des travers qui sont ceux de nos sociétés.
04:22Et donc, la responsabilité éthique que l'on a, elle est vraiment dans ce travail sur les données
04:28et aussi de mettre en transparence et en conscience cette corrélation entre quelles données de base on dispose,
04:35quel travail on fait pour les aligner justement sur des enjeux éthiques
04:39et comment elles sont ou non mises à disposition des intelligences artificielles.