Nos invités sont Hugo Caselles-Dupré, chercheur en intelligence artificielle et co-fondateur du collectif artistique Obvious, et Éric Sadin, philosophe, spécialiste des technologies numériques. Plus d'info : https://www.radiofrance.fr/franceinter/podcasts/le-debat-du-7-10/le-debat-du-7-10-du-mercredi-11-decembre-2024-5249670
Category
🗞
NewsTranscription
00:00Débat ce matin sur l'intelligence artificielle et la création, la semaine dernière les
00:06comédiens de doublage manifestés à Paris contre ce qu'ils considèrent être le vol
00:11de leur voix par les IA, la semaine dernière, toujours, la Confédération Internationale
00:18des Sociétés d'Auteurs et Compositeurs qui représente 5 millions de créateurs dans
00:22116 pays, publiait la toute première étude mondiale consacrée aux impacts de l'IA
00:29sur les contenus musicaux et audiovisuels et sur l'économie de ces secteurs artistiques
00:36en général. Impact considérable, on va y venir. L'intelligence artificielle va-t-elle
00:41faire disparaître des pans entiers de la création culturelle ? Ou la question doit-elle
00:46se poser de manière plus complexe ? On en débat ce matin avec Eric Sadin, bonjour.
00:51Bonjour. Philosophe spécialiste des technologies numériques, auteur de 10 livres sur ces questions,
00:58le dernier en date « La vie spectrale, penser l'ère du métavers » et des IA génératives
01:04chez Grasset. Hugo Cazel Dupré, bonjour. Chercheur en intelligence artificielle et
01:10co-fondateur du collectif artistique Obvious, vous travaillez à l'Institut des Systèmes
01:17Intelligents et de Robotique, c'est une unité de recherche Sorbonne Université,
01:22CNRS et INSERM. Merci à tous les deux d'être au micro d'Inter, partons de cette
01:28enquête de la Confédération Internationale des Sociétés d'Auteurs et Compositeurs,
01:33les créateurs pourraient perdre près d'un quart de leurs revenus à l'horizon 2028,
01:37c'est-à-dire demain matin, à cause de l'effet de substitution de l'IA sur les
01:43œuvres des créateurs humains. Comment recevez-vous ce chiffre et cette perspective Eric Sadin ?
01:49Cette information représente un des signes parmi tant d'autres, et il y en aura toujours
01:53plus dans les mois à venir, qui témoignent du fait que nous vivons un moment de gravité.
01:58Je dirais même d'une très haute gravité, mais nous ne le voyons pas, nous commençons
02:02à le voir, et nous le verrons de plus en plus dans les mois et les années qui viennent.
02:07Car, pour dire précisément les choses, depuis deux ans, depuis le 30 novembre 2022,
02:15lors de, à l'occasion de la première mise en ligne de chaque GPT dans sa version publique,
02:20il s'est produit ce que j'appelle un tremblement de terre social, culturel, civilisationnel
02:27et, utilisons des grands mots, anthropologique. Pourquoi ? Parce que des machines, sur une
02:32simple instruction de notre part, ce qui est appelé un prompt, se sont mises à produire
02:37du texte, des images fixes ou vidéos, et des musiques. Et qu'est-ce qu'on a vu ? Il
02:43faut nous interroger sur nos pratiques. On a vu des foules se jeter toutes inversescentes
02:48sur ces oracles robotisés, succès fulgurant, sans nullement se soucier de l'étendue des
02:56conséquences civilisationnelles et sociales, et elles sont très importantes. La raison
03:00pourquoi nous sommes-nous jetés comme ça, dans une telle insouciance, ou même avec
03:04une tant de passion et d'enthousiasme, c'est parce que les personnes n'ont vu que l'aspect
03:08pratique. Et ça, c'est dû à l'utilitarisme et au fonctionnalisme qui est tellement à
03:12l'œuvre depuis 200 ans dans nos sociétés, qu'il en est arrivé à tellement imprégné
03:16nos psychés, que les personnes ne voient plus qu'à partir du midi de leur intérêt.
03:24Et à mon sens, la première des questions, la première des toutes premières questions
03:30que nous aurions dû nous poser dès le 1er décembre 2022, c'est celle de nos enfants
03:35et de nos petits-enfants, qu'ils voient, vous, dans un ou deux ans, et ça commence
03:39déjà, ils vont nous poser la question « Mais pourquoi, papa, maman, je vais à l'école,
03:43moi, si un système sur une simple instruction de ma part va écrire à ma place ? ». Mais
03:47non, cette question, nous ne laissons pas poser, n'a pas fait partie du registre de
03:51nos préoccupations, et ça, je le regrette.
03:53Hugo Cazel Dupré, il y a la question de l'art et de la création, mais à entendre Éric
03:59Sadin, il faut l'inscrire dans une dimension beaucoup plus large, qui est celle d'une
04:04rupture anthropologique, c'est le mot employé. Vous partagez le constat ?
04:09Tout à fait, quelque part, oui, on le partage, dans le sens où on partage le fait que l'arrivée
04:15de cette technologie est une rupture dans notre société, et que la réponse a clairement
04:19été, comme l'a dit Éric, une réponse très productiviste, qui est, on voit un nouvel
04:24outil qui nous rend plus productifs, on vit dans un système capitaliste qui promouvoit
04:29la productivité, et donc, logiquement, on se met à le prendre dans ses mains et l'utiliser
04:33le plus vite possible pour gratter de la valeur à gauche ou à droite.
04:37Comment on gratte de la valeur dans le monde de l'art ?
04:40Alors, dans le monde de l'art, je pense que c'est justement différent. En fait, je pense
04:43qu'il faut vraiment faire une différence entre le monde de l'art avec un « grand A
04:48» dans lequel l'arrivée de l'intelligence artificielle peut être comparée à l'arrivée
04:52de la photographie. Quand la photographie est arrivée en 1850, c'était réservé à des
04:56ingénieurs hautement qualifiés, c'était pas de l'art, et certaines personnes ont
05:01voulu commencer à faire de l'art avec des appareils photos, et on leur a dit « maintenant,
05:05tu cliques sur un bouton, c'est pas de l'art, l'art c'est le caravage, c'est les personnes
05:09qui peignent, etc. » Aujourd'hui, un peu moins de 200 ans plus tard, on est tous d'accord
05:13pour dire que la photographie est un mouvement artistique à part entière, on a tous des
05:17appareils photos dans notre téléphone, mais on n'est pas tous photographes, on est
05:20tous d'accord là-dessus, et il faut avoir un œil, il faut savoir utiliser la technique,
05:23il faut avoir un message.
05:24C'est ce que dit Depardon, on produit des images, on ne produit pas des photos avec
05:26notre téléphone portable.
05:28Tout à fait, exactement. Et donc, du coup, certaines personnes se sont démarquées comme
05:33ayant été capables d'utiliser la photographie comme un outil artistique. Donc dans le monde
05:37de l'art avec un « grand A », on pense qu'il va se passer la même chose, nous
05:40c'est ce qu'on essaie de faire via notre pratique artistique. Par contre, dans le monde
05:43de la création plus globalement, et donc dans le monde qui s'inscrit dans le système
05:47plus capitaliste, même si le monde de l'art s'inscrit aussi dans ce système-là, mais
05:50un petit peu moins je dirais, dans le monde de la création, les designers, les doubleurs,
05:54toutes les personnes qui écrivent, les traducteurs, les scénaristes, tous ces métiers-là sont
05:58forcément mis à mal par cette technologie-là. Et nous, via notre art, ce qu'on essaie
06:04de faire, c'est de prévenir le fait que ces technologies arrivent, essayer via l'art
06:08de pouvoir discuter de cette question-là, et aussi essayer de sensibiliser les personnes
06:14sur le fait qu'il faut parler au gouvernement.
06:16Il y a des métiers dispensables désormais à cause de l'intelligence artificielle ?
06:20Comme les portraitistes en 1850. Les portraitistes ont disparu parce que l'appareil photo est arrivé.
06:24Mais là, c'est une toute outre-mesure.
06:26Éric Zadin.
06:27C'est une toute outre-mesure. Parce qu'il faut donner des concepts aux phénomènes,
06:31aux situations que nous vivons. Nous vivons actuellement ce que j'appelle, c'est très
06:35simple, on va tous comprendre, le tournant intellectuel et créatif de l'intelligence
06:40artificielle. Qu'est-ce que ça veut dire le tournant intellectuel ?
06:42C'est pas bien ça ?
06:44Pour l'instant, c'est ni bien ni mal.
06:46Non, parce que intellectuel et créatif, moi je le prends.
06:48Non, mais je vous propose d'analyser ce qui se joue. Qu'est-ce que ça veut dire ?
06:51D'un point de vue, pour en saisir toute la portée, ce que je disais dans ma tribune
06:55qui est parue dans Le Monde la semaine dernière, c'est que pour en saisir toute la portée,
07:00il faut utiliser une formule littérale. C'est-à-dire qu'il est dorénavant, il faut entendre tout
07:04le poids de ce que je veux dire là. Il est dorénavant d'évoluer à des systèmes, d'assurer
07:09des tâches qui, jusque-là, mobilisaient nos facultés intellectuelles et créatives.
07:16C'est ça le tournant intellectuel et créatif qui fait suite à la dimension cognitive et
07:22organisationnelle de l'IA, celle qui est à l'œuvre depuis une quinzaine d'années,
07:25c'est-à-dire qui interprète et qui renvoie des signaux pour agir en fonction de résultats
07:31produits par l'intelligence artificielle.
07:32Et ce tournant intellectuel et créatif, il a, je vais vous la faire extrêmement rapidement
07:38cher Nicolas Demorand, trois grandes incidences. D'abord sur notre rapport au langage, dont
07:45on croit que c'est un langage qui s'apparente au nôtre, alors que c'est tout à l'opposé,
07:49un langage schématisé, fondé sur des corrélations statistiques, probabilistes, c'est-à-dire
07:54n'advient que ce qui doit advenir, n'advient que ce qui a déjà eu lieu. C'est un langage
07:59issu de ce que j'appelle un capitalisme linguistique, c'est-à-dire des entreprises qui produisent
08:03des systèmes appelés à écrire à notre place en vue de générer des profits, qui
08:08est en réalité un langage nécrosé, à l'opposé absolu de la façon dont nous utilisons
08:12le langage. Et ce langage nécrosé, schématisé, mathématisé, est appelé à terme, à devenir
08:18majoritaire dans notre environnement informationnel. Le deuxième point, c'est le régime de la
08:24représentation de l'image. Parce que, voyez-vous, cher Nicolas Demorand, la société n'est
08:29pas déjà suffisamment frappée par la psychiatrie, l'attention, l'expression des rancœurs,
08:33les fake news, le complotisme. Il faut en rajouter, n'est-ce pas ? Désormais, n'importe
08:38qui, en utilisant Dali ou Mid-Journey ou n'importe quel système, peut générer l'image
08:42de son voisin qui frappe sa voisine, et la frapper sur Internet. Et ça, c'est d'une
08:46extrême gravité. Parce que de ne pas savoir quelles sont ni l'origine ni la nature d'une
08:51image, ça va entraîner ce que j'appelle un régime de l'indistinction généralisée
08:56où chacun ne saura plus ce que sont ces images. Et ça, c'est d'une extrême gravité parce
09:03que la société, ce ne sont pas que des référents, que des principes communs, ce sont aussi
09:09des référents communs. Faute de compte, on ne se comprend plus. Et relativement à
09:15l'image, il y a aussi dans le monde de la culture, le fait que de plus en plus de systèmes
09:22proposent de produire des dix romans, des séries, des films qui s'ajustent à nos
09:27vues. C'est-à-dire que c'est l'altérité qui est éloignée. Je renvoie à la plateforme
09:34Cloud. C'est un grand marqueur de l'époque. C'est-à-dire que voilà des systèmes qui
09:40proposent d'écrire des scénarios qui correspondent à nos souhaits, de réaliser des films qui
09:45correspondent à nos souhaits, et qui fait qu'il n'y a plus que nos vues qui sont réalisées.
09:51C'est le génie de l'altérité qui se trouve éloigné. Et deuxième point, mais
09:54nous y reviendrons, je ne veux pas être trop long, c'est évidemment les métiers
09:57de service. Tous les métiers de service au moment où nous vivons le tournant intellectuel
10:01et créatif de l'intelligence artificielle.
10:02Nicolas Demorand Hugo Cazel Dupré, vous faites partie d'un
10:04trio d'artistes, je le disais, Obvious, qui fabrique des œuvres à partir d'algorithmes
10:09d'intelligence artificielle. Vous êtes précurseur dans le domaine. En 2018, vous
10:14avez rendu un tableau Edmond de Bellamy pour 435 000 dollars chez Christie's, ce qui
10:21a propulsé votre carrière. C'est un portrait fictif, aux contours flous, entièrement
10:26conçu par un algorithme d'IA. Je l'ai revu ce matin, c'est un très beau portrait
10:31qu'on pourrait trouver, je ne sais pas, peut-être fin 19e siècle, peut-être début 20e siècle.
10:39Quand vous entendez Eric Sadin faire le tableau apocalyptique qu'il vient de faire, comment
10:48recevez-vous ces mots ?
10:50Je le rejoins dans le sens où c'est la vue de ce qui peut arriver dans une dystopie.
10:54Dans une dystopie, si on décide d'utiliser l'intelligence artificielle pour toutes
10:59ces applications-là, c'est ce qui va arriver. Je pense qu'on peut comparer à plein d'autres
11:04technologies transformatives comme le nucléaire ou Internet. C'est la manière dont tu l'utilises,
11:09c'est vraiment assez trivial de dire que la technologie n'est pas mauvaise en soi,
11:13c'est l'utilisation qu'on en fait qui est un problème. Si on l'utilise pour
11:17faire des photos de son voisin qui bat sa femme, évidemment que l'intelligence artificielle
11:21ce n'est pas terrible, on est tous d'accord là-dessus. Par contre, si on utilise l'intelligence
11:25artificielle pour résoudre le problème du cancer par exemple, on est tous d'accord,
11:30c'est trivial pareil, que c'est une chose positive. Donc ma question, plutôt pour Eric,
11:34c'est à quoi bon blâmer la technologie quand c'est son utilisation qui est problématique ?
11:37Non, je ne blâme en aucune manière.
11:40Du coup, votre proposition, est-ce que votre proposition c'est d'arrêter le progrès
11:43et de se priver de cela ?
11:44Absolument pas.
11:45Alors, que faire avec l'intelligence artificielle ? Est-ce que vous me rejoignez sur le fait
11:48que ça peut nous apporter quelque chose dans l'humanité ?
11:50Eric Sadin.
11:51Alors, je vais redéfinir votre question.
11:54Elle était assez claire, Eric Sadin.
11:57Vous savez, quand on parle, nous vivons ce que j'appelle un fondamentalisme de l'IA.
12:03C'est-à-dire, en gros, c'est l'avenir lumineux et inéluctable de l'humanité.
12:07Mais ne vous inquiétez pas, mesdames et messieurs, nous avons une parade qui va nous prémunir
12:13de toutes les dérives.
12:14C'est la régulation.
12:15Et c'est une façon de vous répondre, ce que je dis là.
12:17La régulation, la façon dont elle est posée, Nicolas Demorand, en ce moment, elle est totalement
12:21erronée.
12:22C'est totalement erroné.
12:23Et je vous rejoins là-dessus.
12:24Pourquoi la façon dont le régulateur pense l'intelligence artificielle sur une équation
12:29totalement erronée ?
12:30C'est parce qu'elle est fondée toujours sur cette sempiternelle équation avantage-inconvénient.
12:35Ce que vous venez de dire.
12:36Alors, pourquoi ça c'est une équation erronée ?
12:40Parce que l'avantage-inconvénient et l'UE Act développé par Thierry Breton est totalement
12:45fondé sur cela.
12:46Sur une échelle des risques.
12:47Parce que d'abord, les avantages et l'inconvénient, c'est relatif, n'est-ce pas ?
12:51Et puis c'est uniquement fonctionnaliste.
12:53C'est sur une toute autre équation qu'il faudrait poser les choses.
12:56Alors laquelle ? Parce qu'on n'a plus le temps.
12:58Alors, c'est là où on a la main et là où on n'a pas la main.
13:00Vous avez parlé de cancer.
13:02Si des systèmes nous permettent de développer des molécules, comme ça se passe dans la
13:07pharmacologie.
13:08Ou des outils diagnostiques.
13:09Ou alors, par exemple, dans l'aéronautique, affiner des productions de design.
13:16Mais là, ça ne pose pas de problème.
13:17Mais là, on n'a pas la main.
13:19Et savez-vous que dans les entrepôts Amazon, des systèmes d'intelligence artificielle
13:23orientent continuellement les manufacturiers pour aller chercher tel produit à telle vitesse
13:26et les redéposer à tel pile ?
13:27Et ça, c'est problématique.
13:28Qui réduit des humains, des robots de chair et de sang.
13:30Est-ce que vous avez entendu une seule fois un régulateur parler de ça ? Jamais.
13:34Et la deuxième équation qu'on devrait se poser, que n'est jamais posée Nicolas Demorand,
13:39c'est est-ce que ces systèmes respectent ou non les principes fondamentaux qui sont
13:42les nôtres ? Et quels sont-ils ? Ils sont au nombre de cinq à mon sens.
13:45Ce n'est pas très compliqué.
13:46C'est le respect de la liberté, de la dignité, de l'intégrité humaine, de la créativité
13:51et de la sociabilité.
13:53Mais cela, voyez-vous, nous ne tenons pas compte au nom de seuls intérêts économiques.
13:58Il nous reste 30 secondes Eric Sadin.
13:59Vous vouliez nous dire quelque chose ?
14:02Oui, je souhaite en primeur sur l'antenne de France Inter, merci de me laisser quelques
14:05secondes pour annoncer cette nouvelle, cher Nicolas Demorand.
14:10Vous savez que les 10 et 11 février se tiendra à Paris une gigantesque messe propagandiste.
14:16Le sommet mondial sur l'IA qui va inviter une centaine de chefs d'État et tout le
14:20monde de la tech.
14:21On s'invite.
14:22Ça va être encore les mêmes discours d'investissement toujours plus important dans cette course
14:28toujours plus folle à l'intelligence artificielle où des quantités de personnes vont parler
14:32à notre place.
14:33Je réfléchis très sérieusement, ça va être confirmé début janvier, avec plusieurs
14:37groupements à monter un contre-sommet à Paris où seront invitées toutes les corporations
14:43concernées, non pas à parler de façon hors-sol mais à partir des réalités quotidiennes.
14:48Et il y a le syndicat national des journalistes qui est très intéressé et qui va assurer
14:53l'organisation logistique et comme c'est un lundi, c'est jour de relâche dans les
14:56salles parisiennes.
14:57Ça va avoir lieu le lundi 10 février et j'invite les auditeurs qui souhaitent
15:03témoigner dans le cadre de cette journée à m'écrire sur le site à mon adresse et
15:08puis tout cela sera structuré par le comité d'organisation.