L'intelligence artificielle vous fait-elle peur ? Depuis sa mise en ligne le 14 mars 2023, l'agent conversationnel ChatGPT est déjà capable de se faire passer pour un humain à l'écrit et de passer brillamment des examens universitaires. Elon Musk, cofondateur de la société OpenAI, d'où est sorti ChapGPT, se dit effrayé par sa propre machine... Certains affirment qu'il représente une menace pour les métiers des couches sociales les plus modestes... mais qu'en est-il réellement ? Pour d'autres, ChatGPT est un progrès scientifique décisif... à condition de ne pas lui laisser le pouvoir de décision.
L'avenir est-il plus reluisant avec les promesses du transhumanisme ? A quelles conditions ce concept est-il souhaitable ? Quelles applications sont possibles à court et long termes ? Atteindre la singularité, à savoir une forme de conscience, reste le Graal à atteindre pour les concepteurs américains et chinois lancés dans la course folle de l'intelligence artificielle. Doivent-ils faire une pause dans leurs travaux et prendre un temps de réflexion sur les bouleversements éthiques, économiques et sociaux qui vont émerger ?
Marc Rameaux, ingénieur spécialiste en intelligence artificielle et data science dans une grande entreprise industrielle française, répond sans tabou à toutes les questions d'une révolution que certains voient déjà échapper à l'homme ?
L'avenir est-il plus reluisant avec les promesses du transhumanisme ? A quelles conditions ce concept est-il souhaitable ? Quelles applications sont possibles à court et long termes ? Atteindre la singularité, à savoir une forme de conscience, reste le Graal à atteindre pour les concepteurs américains et chinois lancés dans la course folle de l'intelligence artificielle. Doivent-ils faire une pause dans leurs travaux et prendre un temps de réflexion sur les bouleversements éthiques, économiques et sociaux qui vont émerger ?
Marc Rameaux, ingénieur spécialiste en intelligence artificielle et data science dans une grande entreprise industrielle française, répond sans tabou à toutes les questions d'une révolution que certains voient déjà échapper à l'homme ?
Category
🗞
NewsTranscription
00:00 [Générique]
00:16 Bonjour à tous. Bienvenue dans Politique et économie.
00:19 Ravi de vous retrouver en compagnie cette semaine de Marc Rameau. Bonjour, monsieur.
00:25 Bonjour, Pierre. Bonjour à tous les téléspectateurs de TV Liberté.
00:28 Marc Rameau, vous êtes ingénieur spécialiste en intelligence artificielle et datascience
00:35 dans une grande entreprise industrielle française.
00:38 Vous êtes par ailleurs, et vous avez reçu à cette occasion, l'auteur de cet ouvrage
00:42 "Le souverainisme est un humanisme".
00:44 On aura d'ailleurs peut-être l'occasion d'y revenir sur le souverainisme numérique
00:48 puisqu'il va être question d'intelligence artificielle aujourd'hui.
00:52 Alors, commençons tout de suite. Marc Rameau, depuis le 14 mars 2023,
00:59 Chajipiti, l'agent conversationnel produit de l'entreprise OpenAI,
01:04 est accessible au public.
01:06 On parle d'une véritable révolution dans le domaine de l'intelligence artificielle.
01:11 Alors, avant de parler de cette nouveauté, Marc Rameau,
01:14 est-ce que vous pouvez nous donner une définition de l'intelligence artificielle ?
01:19 Absolument. Tous les entretiens sur l'IA, de toute façon, démarrent par cette question
01:23 "mais c'est quoi l'intelligence artificielle ?"
01:25 Alors, vous avez déjà remarqué, Pierre,
01:27 tout le monde fait de l'intelligence artificielle maintenant.
01:29 C'est-à-dire que c'est devenu le mot à la mode,
01:31 à tel point que vous faites une macro Excel, vous faites de l'intelligence artificielle.
01:35 Vous faites un logiciel de comptabilité, vous faites de l'intelligence artificielle.
01:39 En fait, maintenant, comme c'est un mot à la mode,
01:41 dès qu'on automatise une tâche, on dit "ah, je fais de l'intelligence artificielle".
01:45 Pour bien définir l'intelligence artificielle, il faut justement distinguer
01:48 ce qui est l'informatique classique, ce qu'on fait depuis des décennies, de l'IA.
01:52 En quoi l'IA est une rupture par rapport à ça.
01:54 L'informatique classique, c'est quoi ?
01:56 C'est très simple, vous avez un développeur, un programmeur,
01:59 qui va écrire des instructions dans un langage,
02:01 et il écrit des instructions parfaitement explicites,
02:03 en disant à la machine "tu vas faire ça, ça, ça et ça",
02:06 éventuellement des conditions en disant "dans tel cas tu fais ça, dans tel cas tu fais ça", etc.
02:11 Mais c'est une description parfaitement explicite
02:14 de toutes les opérations qu'elle doit faire, et c'est complètement déterministe.
02:18 Il y a une autre façon d'automatiser des opérations.
02:23 Je vais vous donner un exemple qui va parler à tout le monde,
02:26 et qui va parler à tous les téléspectateurs de TV Liberté.
02:28 Imaginez que vous fassiez passer un questionnaire à un millier de personnes,
02:32 avec deux questions simples.
02:34 C'est "est-ce que vous pensez que la France est bien gérée ?"
02:36 sur une échelle de +5 à -5, à tout point de vue,
02:39 économie, sécurité, place de la France dans le monde, voilà.
02:43 Donc, 1000 individus répondent à ça.
02:45 Puis une deuxième question, "est-ce que vous pensez que l'Union Européenne,
02:48 c'est le gage de prospérité, de choses absolument merveilleuses,
02:51 ou est-ce que vous pensez que c'est un frein finalement à tout notre développement
02:55 et à la source de beaucoup de nos maux ?"
02:57 Toujours une échelle de 5 à -5.
02:58 Mais, donc vous allez ensuite placer votre millier d'individus
03:03 en fonction de leur réponse sur une grande carte,
03:05 puisque vous avez deux axes, donc vous mettez ça sur un plan,
03:08 et vous allez bien évidemment voir se dessiner des nuages.
03:12 Ça ne va pas être réparti de façon complètement uniforme,
03:15 vous allez avoir des groupes qui vont se former.
03:17 Et vous allez rajouter une information,
03:19 parce que ça fait partie de votre échantillon, sous forme anonyme,
03:21 puisqu'il n'y a plus que des points sur une carte, il n'y a plus personne.
03:25 Qu'est-ce qu'ils ont voté aux dernières présidentielles ?
03:28 Vous allez avoir un très bon modèle,
03:30 où vous allez voir très certainement les macronistes
03:33 qui vont se positionner au maximum,
03:35 auprès du maximum justement de la réponse aux deux questions.
03:38 Peut-être vous allez avoir les républicains qui vont dire
03:41 "la France est mal gérée, mais l'Europe..."
03:42 Enfin, une partie des républicains,
03:44 vous allez d'ailleurs avoir un nuage allongé,
03:46 plutôt ceux qui sont Pécresse, qui seront plutôt du côté de l'Europe,
03:49 et puis ceux qui sont plutôt du côté de Bellamy ou de Retailleau,
03:52 qui vont plutôt être de l'autre côté du nuage.
03:55 Et puis les gens qui vont répondre négativement à ces deux questions,
03:58 dont évidemment les gens de notre camp politique.
04:01 Vous allez dire "oui mais ça m'embête,
04:02 parce qu'on va peut-être être confondus,
04:05 peut-être avec des gens comme les LFI,
04:07 qui peuvent répondre aussi la même chose à ces deux questions.
04:10 Or on se différencie sur tout un tas d'autres choses."
04:11 Donc je vais rajouter une troisième question,
04:13 une troisième axe, donc il faudrait réfléchir en trois dimensions,
04:17 ça va faire des bulles.
04:18 Et la troisième question, c'est est-ce qu'il existe une identité française,
04:22 une culture française, etc.
04:23 Donc très vite ça va se discriminer,
04:25 vous avez les gens, créolisation, tout ça,
04:26 qui vont répondre évidemment de l'autre côté,
04:29 et ceux qui vont dire "non, non, je soutiens Mordicus,
04:30 qui a une culture française,
04:32 une civilisation française à laquelle on est attaché."
04:34 Et vous allez pouvoir avoir donc une projection très bien déterminée
04:39 des nuages d'individus finalement,
04:41 qui se groupent par ce qu'on appelle des clusters,
04:45 ce que les anglo-saxons appellent des clusters là-dessus.
04:47 Très bien.
04:48 Ça, ça va vous permettre aussi ce qu'on appelle un modèle prédictif,
04:52 c'est-à-dire que je vais rajouter un milléunième individu,
04:55 je ne sais pas ce qu'il a voté,
04:57 par contre j'ai la réponse aux trois questions.
04:59 Il va se positionner sur cette carte,
05:01 et on peut définir sa proximité à chacun des nuages, le point.
05:05 Et je vais avoir un modèle qui va me prédire très très efficacement
05:09 qu'est-ce qu'il a pu voter au présidentiel,
05:11 c'est-à-dire qu'il va se tromper très rarement.
05:14 Cette approche-là, vous allez dire "mais ce n'est pas de l'IA, c'est de la statistique".
05:18 On fait ça depuis des décennies, depuis les années 60,
05:20 ça s'appelle de l'analyse des données, c'est utilisé en sociologie.
05:23 Vous pouvez très bien repérer des groupes de population,
05:28 des bobos qui mangent du tofu, etc.
05:30 des provinciaux qui fument des clopes et roulent en diesel, etc.
05:35 Donc vous pouvez déjà faire ce genre de choses.
05:37 En fait, il faut savoir que l'IA, fondamentalement, ne diffère pas dans le principe de ça.
05:42 C'est-à-dire que l'IA, ce ne sont que des méthodes statistiques
05:46 très élaborées, très sophistiquées,
05:48 beaucoup plus puissantes que les méthodes statistiques classiques.
05:51 Parce qu'en fait, elles rentrent dans des finesses de catégorisation
05:54 beaucoup plus subtiles que ce qu'on peut faire avec la stat,
05:57 même si les outils de stat, d'ailleurs, peuvent permettre de aller très loin.
05:59 Je suis statisticien de formation.
06:02 Mais il n'y a pas de frontière parfaite
06:05 entre les méthodes d'IA et les méthodes statistiques.
06:07 Donc là, on n'est pas du tout dans l'intelligence artificielle.
06:12 Déjà, est-ce qu'une intelligence pourrait être artificielle ?
06:14 Mais là, ce que vous nous décrivez, c'est de la statistique à haut niveau.
06:17 Oui, mais alors pourquoi est-ce qu'on appelle ça de l'intelligence ?
06:20 C'est que notre mille-unième personne, elle était complètement inconnue.
06:25 C'est-à-dire qu'on ne l'a pas rentrée dans un programme
06:27 et on a l'impression que la machine a appris quelque chose.
06:31 C'est-à-dire qu'elle a une certaine capacité d'apprentissage et de généralisation.
06:35 Puisqu'elle a su donner un résultat sur le mille-et-unième individu.
06:38 Alors que je ne lui ai absolument rien dit dessus.
06:41 Donc elle a généralisé en quelque sorte les choses.
06:45 Et c'est exactement pareil quand vous utilisez un réseau de neurones.
06:49 C'est-à-dire que vous avez l'impression qu'il a une capacité d'abstraction
06:52 ou de généralisation parce qu'il est capable d'étendre ce que vous lui avez appris,
06:56 les schémas que vous lui avez appris sur un échantillon qui sert à l'apprentissage
07:01 et de le faire sur un échantillon de test.
07:02 C'est pour ça qu'on parle d'intelligence.
07:04 Il n'y a aucune intelligence derrière ça.
07:06 Je n'ai fait que positionner des points sur une carte.
07:07 Par contre, il y a une sorte de mimétisme de l'intelligence.
07:11 Et ça peut donner, quand c'est dans des modèles extrêmement sophistiqués et puissants,
07:17 une impression d'intelligence.
07:18 Vous avez tout de même l'impression que vous avez en face de vous
07:21 quelque chose qui est capable de généraliser, de résonner, de trouver des concepts,
07:25 une abstraction, une synthèse de ce que vous lui avez dit.
07:28 – Alors revenons à Chad Jipiti, je le disais, cet agent conversationnel,
07:32 en ligne depuis le 14 mars dernier.
07:35 Qu'est-ce que c'est ? De quoi parlons-nous ?
07:37 – Alors Chad Jipiti, justement, c'est un modèle, cette fois d'intelligence artificielle,
07:42 appliqué au langage.
07:44 On s'aperçoit qu'il y a énormément de tâches aussi de classification
07:46 et de probabilité quand vous utilisez votre langage.
07:49 Ça ne veut d'ailleurs pas dire que ça s'y résume.
07:51 Souvent, les gens font un sophisme en disant
07:53 "en fait, l'intelligence, ce sont ces tâches de classification".
07:57 Ça veut dire que notre cognition n'utilise qu'un peu ces tâches,
08:02 ça ne veut pas dire qu'elle s'y résume.
08:04 Qu'est-ce que ça fait, Chad Jipiti ?
08:05 C'est capable, par exemple, de converser avec vous
08:08 de façon assez bluffante, il faut le reconnaître.
08:10 C'est-à-dire que vous avez tout de même l'impression
08:11 que vous avez une personne en face de vous.
08:14 Vous pouvez, à tout un tas de signes, voir que ce n'est pas un être humain.
08:19 Notamment, il ne va pas prendre position,
08:21 il ne va pas forcément avoir un avis tranché,
08:23 ou il ne va pas vous contredire, on y reviendra.
08:25 – On est devant notre écran avec notre clavier,
08:27 on lui pose une question et il y a une réponse qui s'affiche.
08:30 – Il y a une réponse qui est un mélange, je dirais,
08:32 de synthèse un petit peu à la façon d'une fiche Wikipédia,
08:35 mais spécialisée dans la discussion précise que vous avez avec lui.
08:39 Donc il va à la fois vous donner des informations
08:42 et vous avez l'impression que c'est simplement
08:43 une discussion que vous avez avec quelqu'un.
08:45 Ça va vous permettre aussi de rédiger un exposé,
08:48 donc il y a déjà des élèves qui ont usé et abusé de cette situation,
08:52 ou de synthétiser, par exemple, des tas d'informations imperses
08:54 en disant "fais-moi une synthèse de tout ça".
08:56 Là aussi le résultat est quand même assez bluffant,
08:58 c'est-à-dire quand il faut faire des comptes-rendus de réunion
09:00 ou des synthèses de corpus de texte, par exemple dans le cadre juridique,
09:04 il y arrive bien, parfois même mieux que certains humains.
09:07 – Vous exposez dans tous vos travaux de quoi Chajipiti est capable,
09:11 alors est-ce que vous pouvez nous donner un petit peu un aperçu de sa capacité ?
09:17 – Oui, en fait, si vous prenez des questions
09:24 qui peuvent être assez controversées,
09:25 c'est une question historique par exemple.
09:27 Vous lui demandez est-ce que Napoléon Bonaparte était un tyran sanguinaire
09:32 ou bien est-ce que c'était quand même un grand homme
09:35 justement qui a construit l'histoire.
09:38 Il m'a répondu à cette question quelque chose qui n'était pas si mal,
09:42 c'est-à-dire une synthèse finalement des éléments historiques
09:44 qui permettait d'argumenter,
09:46 et d'argumenter de façon assez convaincante sur l'un ou l'autre aspect.
09:51 Parce qu'il peut y avoir évidemment, selon ce qu'on apprécie ou pas,
09:54 Napoléon Bonaparte, les deux aspects.
09:57 Si vous posez la question à un Français ou un Espagnol,
09:59 je pense que vous n'auriez pas la même réponse.
10:05 Beaucoup de journalistes ou d'attachés de presse
10:10 souvent me disent qu'ils utilisent Chajipiti aujourd'hui tous les jours.
10:14 C'est-à-dire qu'ils ne pourraient plus s'en passer
10:16 s'il faut aller piocher de l'information de part et d'autre un peu partout
10:20 et en faire une synthèse,
10:22 plutôt que d'avoir à lire des pages et des pages,
10:24 ils peuvent demander à avoir une synthèse pré-mâchée de beaucoup de choses.
10:27 – Imaginons qu'on voudrait faire passer la grecque de philo à Chajipiti
10:32 en lui posant la question de l'examen,
10:35 est-ce qu'il est capable de remporter un concours ou d'avoir un examen ?
10:40 – Alors ça a déjà été fait, c'est-à-dire qu'il y a certains concours,
10:43 notamment dans les domaines juridiques,
10:45 qui sont souvent des domaines dans lesquels le langage est assez formalisé,
10:50 où il a passé haut la main à certains concours,
10:53 sans qu'on puisse d'ailleurs véritablement,
10:54 les examinateurs n'ont pas pu faire du tout la différence
10:57 entre la copie d'un élève humain et les productions de Chajipiti.
11:02 Donc quelque part, il passe ce qu'on appelle le test de Turing,
11:05 qui est de savoir si la production de la machine
11:08 est indiscernable de celle de l'humain.
11:10 Sur certains domaines,
11:11 sur certains domaines de connaissances ou d'activité,
11:15 il passe déjà ce test,
11:16 c'est-à-dire que c'est impossible de savoir si c'est un humain
11:19 ou si c'est lui qui a écrit.
11:21 – Alors, ce Chajipiti est le produit d'une société OpenAI
11:26 qui a été co-fondée par Elon Musk, le célèbre entrepreneur californien
11:33 qui a racheté Twitter pour le transformer en X,
11:37 qui fabrique les voitures Tesla, etc.
11:41 – SpaceX.
11:41 – Neuralink, on aura d'ailleurs peut-être l'occasion d'en reparler.
11:45 Il est dit, à propos de Chajipiti,
11:48 que cet agent conversationnel lui fait peur.
11:51 Alors, quel type de danger représenterait Chajipiti
11:55 pour notre monde, pour notre société ?
11:58 – Elon Musk a raison d'avoir peur,
11:59 puisqu'il y a quand même quatre dangers importants.
12:01 Bon, le premier, c'est l'abêtissement général.
12:04 Les fiches Wikipédia, ça avait déjà eu des effets dévastateurs
12:07 dans le milieu scolaire,
12:08 c'est-à-dire que les professeurs se plaignaient d'avoir des élèves
12:11 qui rendaient des copies de plus en plus stéréotypées, standardisées.
12:14 Le grand danger, c'est que si vous déléguez complètement votre cerveau à Chajipiti,
12:18 vous allez avoir une fabrique du crétin 3.0,
12:20 telle que Jean-Paul Brielly ne l'aurait pas imaginée,
12:23 ça aurait été un de ses pires cauchemars.
12:24 – Je crois que le jury de l'ENA, c'était déjà plein, justement,
12:27 du manque de créativité des candidats,
12:29 mais eux n'allaient pas sur Wikipédia,
12:31 ils avaient juste le logiciel Science Po, peut-être, qui tournait.
12:36 – Voilà, c'est-à-dire que le fameux plan standard Science Po,
12:39 thèse, anti-thèse, synthèse, ça peut être doutable,
12:41 parce qu'effectivement, vous allez pouvoir le reproduire,
12:44 produire une copie moyenne, finalement, et assez mainstream par Chajipiti.
12:48 – Paresse intellectuelle.
12:50 – Paresse intellectuelle.
12:50 Alors, il y a des tas de gens qui me disent "oui, mais tu es contre le progrès",
12:54 puisque finalement, il y a eu des tas d'innovations,
12:56 le métier à tisser où on a délesté l'être humain de tâches rébarbatives.
13:00 Est-ce que ça ne va pas être le cas ?
13:02 Sauf qu'on ne parle pas de la même chose,
13:03 c'est-à-dire que ce que vous mettez dans l'écriture d'un texte,
13:06 ce qui fait votre patte, la colonne vertébrale d'un texte,
13:09 et je dirais votre touche personnelle,
13:11 je pense que c'est quelque chose qui va beaucoup plus loin
13:14 qu'une série d'opérations mécaniques.
13:17 Donc, grand danger, évidemment, en termes de développement intellectuel
13:21 et de, je dirais, de maintien de ses capacités intellectuelles,
13:26 de trop se reposer dessus.
13:27 – Quels autres dangers peut-on imaginer ?
13:29 – Donc, deuxième danger, qui est un grand classique,
13:33 c'est que les dirigeants se servent de ça comme d'un paravent
13:36 pour se défausser de leurs responsabilités.
13:38 Ça, ça a déjà été le cas, on n'a pas attendu l'IA,
13:41 les dirigeants se sont toujours délestés sur la statistique.
13:44 C'est pareil, je suis statisticien de formation,
13:46 l'INSEE a toujours fait l'objet de pression,
13:48 parce qu'en fait, pour un dirigeant, c'est l'outil idéal
13:52 pour faire apparaître comme inéluctable et absolument,
13:57 enfin, découlant presque d'une vérité mathématique,
13:59 quelque chose qui engage leur responsabilité.
14:01 – Vous voyez, c'est la science, je n'ai pas eu le choix,
14:03 on est obligé de prendre cette décision.
14:05 – Voilà, il y a des tas de décisions complètement aberrantes,
14:07 l'arrêt des moteurs thermiques en 2035 par exemple,
14:10 où on vient vous expliquer tout un tas de choses,
14:12 où tout ce qui concerne la transition énergétique,
14:14 où aujourd'hui on part effectivement d'un certain nombre de modèles
14:19 qui sont censés être des modèles absolument irréfutables,
14:22 qui sont en fait des décisions tout à fait biaisées,
14:24 c'est-à-dire qu'elles ont une part de partialité humaine.
14:27 Ce que je ne reproche pas, ce que je reproche, c'est l'hypocrisie
14:30 de dire que c'est quelque chose d'objectif, ça ne l'est pas.
14:32 Donc gros danger que des dirigeants peu scrupuleux,
14:36 et c'est de toute façon ce qu'ils font d'habitude,
14:38 se réfugient, c'est une pitié 3.0, l'oracle de Delft jouait déjà ce rôle-là.
14:42 Ah, c'est l'oracle qui l'a dit.
14:44 – Et alors au-delà, il y a ce que vous appelez le rythme d'une algorithmocratie,
14:48 qu'est-ce que c'est ça ?
14:49 – L'algorithmocratie, regardez Parcoursup,
14:52 Parcoursup, on a confié quand même l'avenir de nos enfants à un algorithme.
14:56 – C'est la plateforme pour les bacheliers qui voudraient s'orienter.
15:00 – Voilà, et donc on a confié ça à un…
15:02 – De manière totalement aléatoire.
15:03 – Aléatoire, pas tout à fait, il est censé y avoir un calcul qui est équitable,
15:10 sauf qu'effectivement, de plus en plus, ce sont des décisions implicites,
15:14 un des gros défauts des modèles d'IA, c'est qu'ils ne sont pas explicites justement.
15:18 Contrairement à l'informatique classique,
15:21 vous ne pouvez pas reproduire, retracer pour quelle raison il a rendu l'oracle.
15:26 C'est pour ça que ça ressemble beaucoup à l'oracle de Lapitte.
15:30 Et c'est très tentant de dire, vous comprenez, c'est incontestable,
15:33 c'est quelque chose d'infiniment supérieur à nous,
15:35 donc c'est probablement, c'est même certainement une meilleure décision.
15:38 – Est-ce qu'il y aurait des risques de manipulation avec cette intelligence artificielle
15:43 qui irait dans une utilisation d'ingénierie sociale ?
15:48 – Alors ça certainement, puisque la statistique, je dirais, de OVOL a déjà été utilisée,
15:54 c'est le score social chinois pour recouper de l'information.
15:57 – Le crédit social.
15:58 – Le fameux crédit social chinois où on mesure vos moindres faits et gestes.
16:02 Donc tous vos petits travers de comportement,
16:06 toutes vos interventions sur les réseaux sociaux sont tracées en temps réel, recoupées.
16:11 C'est très facile en fait, à partir de ce que quelqu'un mange,
16:15 des lieux qu'il fréquente, de la façon dont il s'habille,
16:18 d'aller recouper et d'avoir en fait une précision extrême d'information sur lui
16:24 sans avoir à l'espionner explicitement, mais implicitement.
16:26 – La Chine le fait déjà tout ça.
16:27 – La Chine le fait déjà.
16:28 Alors tout le monde me dit "oui mais ça c'est la Chine,
16:30 tu comprends c'est une dictature, c'est le PCC".
16:33 Quand on voit les tentations que peut avoir le gouvernement Macron
16:36 à travers le pass sanitaire et des extensions possibles qu'il a pu en avoir,
16:42 je pense que c'est une tentation que tous les gouvernants peuvent avoir.
16:46 Donc il ne sait pas du tout apprendre à la légère.
16:49 – Parmi les aspects négatifs que peut recouvrir Chad Jipiti,
16:54 l'IA menace déjà différents métiers,
16:57 les couches sociales les plus modestes sont souvent pointées du doigt,
17:01 qu'est-ce que vous en pensez ?
17:02 – Alors de fait, il y a effectivement des emplois qui sont menacés,
17:07 ça c'est la quatrième menace.
17:10 Cependant, il faut se méfier des préjugés dans ce domaine,
17:13 c'est-à-dire que tout le monde s'imagine que c'est comme
17:15 l'apparition de la révolution industrielle, ce sont les ouvriers,
17:18 ce sont plutôt les couches sociales basses qui vont en pâtir.
17:21 En fait, ça va être l'inverse parce que l'IA,
17:25 ce n'est pas exactement une automatisation justement de vos opérations,
17:28 ce sont les tâches qui sont presque automatisables,
17:31 celles qui résonnent sur des questions de ressemblance,
17:35 de schémas qui se ressemblent.
17:37 Donc quelles sont les professions qui déjà ont été complètement investies par l'IA ?
17:41 Eh bien, avocat d'affaires, donc quelqu'un qui doit se mouvoir
17:45 dans un corpus juridique très très large,
17:47 mais suffisamment formalisé, suffisamment cadré justement,
17:50 pour qu'une intelligence artificielle puisse mordre dessus.
17:53 Aujourd'hui, il y a eu des expériences de fait,
17:55 une IA fait beaucoup mieux que les meilleurs avocats d'affaires
17:59 des cabinets les plus prestigieux.
18:00 Donc il va y avoir des cris et des pleurs
18:01 parce qu'il y a des professions très prestigieuses qui en souffrent.
18:05 Radiologue, c'est pareil, pour aller repérer des défauts sur une imagerie médicale,
18:10 l'IA va faire beaucoup beaucoup mieux que le radiologue le plus expérimenté.
18:14 Une chose qui me naffre, parce que c'est un côté chevaleresque
18:17 que j'aime beaucoup, c'est les pilotes de chasse.
18:19 Tom Gunmaverick, au début de l'histoire,
18:23 Tom Cruise dit au colonel qu'il veut commencer à les remplacer par des drones,
18:27 qui lui dit "mais vous êtes un dinosaure mon vieux"
18:29 et il lui dit "peut-être monsieur, mais on n'en est pas encore là".
18:31 Malheureusement, si on en est là, c'est-à-dire qu'aujourd'hui,
18:34 ce qu'on appelle en dogfight, c'est-à-dire le duel, le combat aérien un à un,
18:40 eh bien l'IA éclate les meilleurs pilotes de chasse,
18:42 parce que c'est aussi un jeu fermé,
18:44 un jeu finalement dont les règles sont facilement assimilables.
18:49 Par contre, ce qui est plus rejouissant, c'est que l'IA,
18:51 et ça c'est un aspect positif,
18:52 elle va permettre de faire un peu le tri entre les bullshit jobs,
18:56 c'est-à-dire des travaux qui peuvent être très prestigieux et très rémunérateurs,
18:59 mais qui quelque part relèvent d'une imposture.
19:02 Donc tous les McKinsey, BCG, etc., ces cabinets de conseil bien connus.
19:07 Quand vous écoutez les repentis de ces cabinets de conseil,
19:10 ceux qui ont fini par claquer la porte parce qu'ils en avaient assez
19:12 de cet univers très superficiel, ils vous disent "oui, de toute façon,
19:16 on appliquait des schémas très répétitifs,
19:19 parfois d'ailleurs pour un client qui n'avait rien à voir,
19:21 on ressortait d'anciennes présentations du PowerPoint,
19:25 qu'on refondait notre sauce, et finalement vous apercevez
19:27 que derrière un habillage extrêmement sophistiqué,
19:29 la plupart du temps c'était des règles de trois.
19:31 Quand il s'agit de faire des plans d'externalisation ou d'off-shoring,
19:36 on présentait son…
19:37 – On s'en est rendu compte avec McKinsey,
19:38 quand ils ont dû justifier leurs travaux devant une commission parlementaire.
19:44 – Voilà, je pense qu'il sera extrêmement facile d'obtenir,
19:48 même mieux que ce que fait McKinsey aujourd'hui,
19:50 uniquement par la génération automatique, par John GPT.
19:53 – Donc ces métiers très valorisants,
19:57 trader, avocat, radiologue, ça pourrait passer à la trappe,
20:00 alors que vous dites que les ouvriers d'excellence,
20:03 comme les plombiers, les menuisiers, le garagiste, le réparateur,
20:06 là, pourquoi ça ne pourrait jamais être remplacé par une machine ?
20:10 – Alors, jamais je ne sais pas,
20:11 mais je pense que ce seront les derniers bastions de l'humanité
20:15 à pouvoir s'en sortir.
20:18 On en parlera plus en détail dans la deuxième partie,
20:21 mais je vais vous donner une première réponse.
20:23 C'est qu'en fait, quand vous faites, par exemple,
20:25 rénover votre maison par différents corps de métier,
20:28 la créativité et la réflexion hors du cadre qui est nécessaire
20:33 est beaucoup plus importante, justement, que dans des métiers très conformistes,
20:37 comme consultant dans un grand cabinet de conseil.
20:40 Il faut faire preuve de beaucoup d'inventivité.
20:42 – Oui, c'est la spécificité de chaque contexte,
20:44 c'est la finition que le robot ne va pas forcément calculer, comprendre,
20:49 exacter quoi.
20:50 – Exactement, quand vous carrelez, toutes les personnes qui sont un peu bricoleuses,
20:52 quand vous carrelez votre salle de bain,
20:54 il ne s'agit pas simplement d'aller paver un espace avec un carrelage régulier.
20:59 Très souvent, vous devez prendre l'initiative de découper des carreaux
21:02 de telle ou telle façon, ou parfois, vous prenez l'habitude
21:04 d'aller prendre une pièce de métal et puis vous la tordez,
21:08 vous la ressoudez, vous faites tout un tas d'opérations ad hoc
21:11 parce qu'elles sont adaptées à un contexte très particulier.
21:14 Autrement dit, vous en tant qu'humain,
21:16 vous avez décidé de changer de cadre d'apprentissage.
21:19 C'est vous-même qui dites, là, ce que j'ai appris n'est plus adapté
21:22 et je me reconditionne différemment pour trouver la réponse à la question.
21:27 Ça, c'est très difficile à faire.
21:28 – C'est ce qui relève un petit peu de l'art, de la créativité.
21:29 – Voilà, de l'art ou d'autres domaines, effectivement,
21:32 dans lesquels vous devez de toute façon sortir du cadre,
21:37 sortir de simplement le schéma qui vous a été appris.
21:40 Il y a une certaine faculté de généralisation,
21:42 comme on l'a vu avec l'exemple du début,
21:44 mais ça reste une généralisation un peu conformiste,
21:47 c'est-à-dire fondée uniquement sur des expériences passées.
21:51 S'il faut s'adapter à quelque chose de totalement inattendu,
21:54 là, ça lui sera difficile.
21:57 – Chudgy Pitty suscite la peur de son fondateur, quasiment, Elon Musk.
22:01 Il y a des aspects négatifs avec des métiers qui pourraient passer à la trappe.
22:05 Est-ce qu'il y a quand même des aspects positifs dans Chudgy Pitty ?
22:08 – Oui, je suis expert en IA,
22:11 donc je ne vais pas non plus totalement ciller la branche sur laquelle je suis.
22:15 Mon conseil, de toute façon, sur toutes ces technologies,
22:17 c'est utilisez-les, elles sont puissantes,
22:19 elles peuvent vous rendre des services, mais n'en soyez pas l'esclave.
22:22 Typiquement, pour la génération d'un texte,
22:24 si vous avez un exposé à faire, ça peut vous aider à dégrossir le sujet,
22:29 c'est-à-dire par exemple à trouver des associations d'idées
22:32 ou rapprocher des textes auxquels vous n'aurez pas pensé,
22:35 parce qu'effectivement, il va parcourir des millions de textes
22:38 et faire des rapprochements qui sont intéressants,
22:40 auxquels vous n'auriez pas pensé spontanément.
22:43 C'est pareil, la statistique bien employée peut déjà résulter de ça,
22:48 ça peut vous permettre de faire ça.
22:49 En revanche, la statistique et l'IA ne réfléchissent pas à votre place,
22:53 ce sont simplement des aides à la décision et des aides à la réflexion.
22:57 Elles font des rapprochements intéressants, des corrélations intéressantes,
23:00 elles vous permettent de regrouper des thèmes,
23:03 mais c'est à vous d'aller décider le parti pris que vous allez donner
23:07 et l'orientation que vous donnerez à votre texte et à votre travail.
23:10 – Une thématique que l'on a l'habitude de traiter sur TV Liberté,
23:14 c'est le transhumanisme, le couplage de l'homme à la machine
23:17 dans le but d'une augmentation des capacités humaines.
23:21 On voit que nos téléphones portables,
23:23 c'est quasiment aujourd'hui des quasi-sortes de prothèses.
23:27 À quelles conditions ce concept de transhumanisme est souhaitable ?
23:32 Ce couplage de la machine à l'homme ?
23:34 – Alors Elon Musk a été un des premiers à remettre la question sur le tapis
23:38 parce qu'il est tellement effrayé par les progrès de l'IA
23:40 qu'il dit "on n'a plus qu'une seule solution pour s'en sortir,
23:43 c'est qu'il faut rebooster nos propres capacités en tant qu'humains".
23:47 Donc se mettre finalement des plugins à l'intérieur de notre cerveau
23:52 et de notre corps pour pouvoir rivaliser avec l'IA, sinon on va être dépassé.
23:56 – C'est ce qu'il envisage avec sa société Neuralink.
23:58 – Voilà, Neuralink ça a été de toute façon le pari qu'il fait aujourd'hui.
24:02 Bon, le transhumanisme, je ne vous le cache pas,
24:05 c'est un thème qui m'énerve considérablement.
24:07 C'est-à-dire que c'est pareil, c'est le phénomène de mode de l'IA
24:10 mais en encore pire avec des espèces de technoprophètes
24:12 qui racontent un petit peu n'importe quoi.
24:14 – Laurent Alexandre, Jack Attali, vous les mettez dans cette…
24:17 – Voilà, Noa Harari, enfin voilà, des gens qui peuvent par ailleurs
24:21 avoir des réflexions intéressantes mais qui souvent,
24:24 de toute façon, dérivent dans parfois des délires.
24:28 Bon, notamment dans les rêves les plus fous du transhumanisme,
24:33 il y a les gens qui se disent "on va pouvoir télécharger notre cerveau"
24:36 ou bien atteindre, pas l'immortalité mais la mortalité,
24:39 c'est-à-dire évidemment si on détruit votre corps physiquement totalement
24:44 et qu'on détruit le téléchargement de votre cerveau, vous serez mort
24:47 mais tant qu'on préserve quelque chose, vous serez encore en vie.
24:51 Bon, ça s'abute sur tout un tas d'ignorances,
24:54 de différences entre une machine et l'être humain.
24:57 Bien sûr que nous sommes une machine dans une certaine mesure,
24:59 il y a des tas de mécanismes physiologiques qui relèvent de la biomécanique,
25:04 de l'asservissement chimique, de ce genre de choses.
25:07 Maintenant, on n'est pas…
25:09 – Quelles seraient les applications possibles alors ?
25:11 – Alors, imaginez, il y en a qui disent "on va mettre simplement un module
25:16 qui va nous permettre de calculer aussi rapidement qu'une calculatrice".
25:20 Bon, peut-être, mais ça ne marcherait pas comme ça
25:24 parce que justement l'être humain est très mauvais en calculant tant que tel.
25:29 Ce que l'on fait, c'est que par rapport même à une calculatrice de poche,
25:32 on est un million de fois moins rapide.
25:35 Mais on compense ça, c'est-à-dire qu'on peut avoir des performances
25:38 équivalentes à une calculatrice, au jeu d'échecs que Kasparov a tenu tête
25:43 à Deep Blue pendant longtemps grâce à ça,
25:45 et simplement par des raisonnements justement de proximité,
25:50 de reconnaissance d'un certain nombre de schémas.
25:54 Et vous apercevez que l'être humain raisonne de cette façon,
25:57 c'est-à-dire qu'on ne va pas calculer les choses une à une.
26:01 La plupart du temps, c'est très difficile pour un être humain
26:05 de dissocier l'apprentissage depuis qu'on est bébé,
26:08 depuis qu'on est enfant, et la production ensuite de ce que l'on fait.
26:12 Il y a un auteur que j'aime beaucoup qui s'appelle Willard V. O'Quine
26:16 qui a expliqué comment l'émotion et la raison sont indissociablement liés.
26:21 Le corps humain est holistique,
26:23 c'est-à-dire qu'en fait toutes les parties du corps humain se répondent.
26:26 Vous ne pouvez pas simplement rajouter un module en disant,
26:29 comme sur une machine,
26:31 je vais augmenter ma mémoire ou augmenter ma puissance de calcul.
26:33 Ça pourra avoir des conséquences sur notre psyché.
26:37 Sur tout le reste, c'est facile à comprendre.
26:39 Imaginez, on vous greffe des jambes qui vous permettent de courir à 120 km/h,
26:44 votre cœur ne tiendra pas.
26:46 Il faut que l'ensemble puisse fonctionner.
26:49 Donc tout ce qui augmente vos capacités cognitives,
26:51 je suis sceptique sur le fait que ça puisse se faire comme ça,
26:54 c'est-à-dire que ce soit simplement un tiroir.
26:57 Par contre, on peut imaginer que peut-être pour booster un petit peu votre mémoire,
27:02 ce soit possible, sous certaines précautions.
27:04 Imaginez que vous soyez en veille de souvenir,
27:06 vous pourriez rapidement devenir fou.
27:09 L'autre application, elle est médicale,
27:10 parce qu'effectivement, vous avez des tas de processus internes
27:14 qu'on peut imaginer être des processus que l'on confie à une IA.
27:17 Vous prenez le système lymphatique, le système sanguin, le système immunitaire.
27:22 Ce sont essentiellement des rétroactions chimiques
27:25 et également des systèmes de clés récepteurs,
27:28 très, très mécaniques finalement,
27:29 entre des différentes configurations moléculaires.
27:34 Ça, des nanobots, donc effectivement des tout petits robots
27:38 injectés dans notre sang,
27:39 pourraient très, très bien améliorer notre système immunitaire,
27:41 notre système lymphatique relativement bien.
27:45 Avec évidemment des dents de précaution,
27:46 vous imaginez si on hackait ce genre de choses,
27:48 les conséquences, c'est-à-dire au cauchemar d'est
27:51 de ce qui se passerait dans votre corps.
27:53 Mais pour le reste, ce serait envisageable.
27:54 – Recherche également d'emboîtements moléculaires
27:57 dans la recherche au niveau de l'industrie pharmaceutique.
28:02 – Tout à fait, puisqu'effectivement, ce système clé récepteur,
28:05 ça a déjà permis et ça l'a fait de trouver des nouvelles molécules
28:09 beaucoup plus rapidement que ce qui était fait auparavant.
28:12 Un danger cependant, ce serait aussi l'inégalité sociale
28:15 d'accès à ces traitements.
28:16 Vous imaginez si on améliorait notre système immunitaire
28:19 et qu'on vive non pas la mortalité,
28:21 comme le veulent les technoprophètes justement du transhumanisme,
28:25 mais mettons qu'on vive 300 ans,
28:27 qu'on triple notre espérance de vie.
28:29 Aujourd'hui, entre un ouvrier et un col blanc,
28:31 il y a une différence de quelques années en espérance de vie,
28:34 il faut le savoir, mais c'est encore quelque chose d'admissible.
28:37 Si c'était un rapport de 1 à 3, il n'y a aucune société,
28:40 il n'y a aucun contrat social qui pourrait admettre ça.
28:42 Il n'y a qu'une dictature qui pourrait faire,
28:45 qui forcerait les individus à admettre une pari-inégalité.
28:49 Donc vous imaginez si deux ou trois sortes d'humanité,
28:52 un petit peu comme dans "Le meilleur des mondes",
28:53 avaient des accès différenciés à ces technologies
28:56 qui prendraient en charge votre système immunitaire et le renouvelleraient.
29:00 Le stade ultime en matière d'intelligence artificielle
29:03 sera d'atteindre la singularité, on en parle dans la deuxième partie.
29:07 [Générique]
29:11 On continue cet entretien passionnant avec Marc Rameau
29:14 au sujet de l'intelligence artificielle.
29:17 Son stade ultime serait d'atteindre la singularité.
29:20 Dites-vous dans vos travaux, Marc Rameau,
29:22 qu'est-ce que c'est la singularité ?
29:23 La singularité, ce serait d'arriver à créer une conscience artificielle,
29:28 c'est-à-dire qu'en face de vous, vous auriez véritablement une personne,
29:32 au sens où je vous parle comme un être humain,
29:34 quelque chose de totalement indistinct.
29:37 Comment définir la conscience alors ?
29:39 Alors la conscience, effectivement, c'est un terme
29:43 qui semble très difficile de définir,
29:46 c'est souvent un terme philosophique, souvent c'est fumeux.
29:49 Souvent ça part d'ailleurs un peu de la conclusion à laquelle il veut aboutir,
29:53 c'est-à-dire que par rapport à Chachepiti,
29:54 on dit "oui mais moi, je comprends ce que je lis,
29:57 je comprends ce que je fais, lui il ne comprend pas".
29:59 Qu'est-ce qu'on en sait ?
30:00 C'est-à-dire, est-ce que finalement, on ne sacralise pas notre libre arbitre,
30:04 notre volonté, notre conscience ?
30:05 Et est-ce que nous ne sommes pas, comme Chachepiti,
30:08 un mimétisme mais encore un peu plus sophistiqué ?
30:10 Où est la frontière ?
30:12 Quelle est la différenciation entre les deux ?
30:14 – Je crois que Chachepiti improvise le mot qu'il va écrire après,
30:18 en fonction de tout ce qu'on lui a mis dans la tête.
30:21 En fait, c'est de la probabilité, c'est probable qu'il faille écrire ce mot-là après
30:24 et il enchaîne tout le temps comme ça.
30:25 – Tout à fait, mais quand on voit le résultat,
30:27 qui nous dit que finalement, nous ne faisons pas d'une certaine façon la même chose ?
30:31 – De l'imitation de ce qu'on nous a mis dans la tête.
30:33 – Honoré de Balzac était très humble vis-à-vis de sa créativité, qu'on admirait,
30:37 il disait "mais c'est simplement parce que j'ai beaucoup lu avant,
30:39 je n'ai fait que recomposer mes lectures précédentes".
30:41 Donc il faut peut-être pas, il faut faire très très attention
30:44 de ne pas présupposer par la conclusion ce que l'on veut montrer.
30:48 Ensuite, le gros défaut des définitions de la conscience,
30:51 c'est qu'elles sont souvent presque narcissiques,
30:52 c'est-à-dire que c'est souvent quelque chose,
30:54 on dit que la conscience est une capacité à se retourner vers soi-même
30:58 et on rentre dans des ratiocidations qui ne mènent un peu nulle part.
31:01 J'ai proposé une définition de la conscience beaucoup plus concrète,
31:04 que j'aime bien, qui est beaucoup plus,
31:07 la conscience c'est le rapport que vous avez aux autres
31:11 et la capacité que vous avez de savoir où l'autre veut vous amener.
31:15 C'est-à-dire que quand j'ai une personne en face de moi,
31:19 je ne vais pas simplement discuter de quelque chose,
31:22 je vais aussi remettre en question le cadre de ce qu'il me dit.
31:25 Je vais vous donner quelques exemples.
31:27 Imaginez que vous ayez un interlocuteur, Pierre, qui vous dise
31:31 "Bon, mais est-ce que vous êtes finalement pour la politique d'immigration
31:34 de la CEDH et de la CGE ou est-ce que vous êtes un raciste ?".
31:39 Vous ne discuteriez pas seulement du contenu de la question,
31:42 vous allez dire…
31:42 – Mais de l'orientation de la question.
31:43 – C'est les termes de la question que je remets en question,
31:46 c'est-à-dire le cadre.
31:47 – Alors que J.P.T. va répondre sans remettre en question le présupposé.
31:52 – Ce qui fait que vous avez une personne en face de vous,
31:53 c'est qu'elle ne va pas seulement discuter du contenu,
31:56 elle va aussi remettre en question la règle du jeu
32:00 qu'implicitement vous voulez lui poser.
32:01 – La capacité, dites-vous, à interpréter, excusez-moi,
32:05 les intentions cachées derrière un discours.
32:07 – Exactement.
32:08 En fait, c'est une vision du monde où quand vous êtes face à une situation,
32:13 c'est comme si vous faisiez face à un jeu.
32:15 Dans un jeu donné avec des règles déterminées,
32:18 une IA éclatera n'importe quel humain sur n'importe quelle tâche qui était à exécuter.
32:22 Par contre, le glissement où on est en train de se rendre compte,
32:25 "Où est-ce qu'il veut m'amener là ? Où est-ce qu'il veut en venir ?"
32:28 ça, c'est quelque chose qui est encore totalement propre à l'humain.
32:31 Où on se dit "je vais changer les règles du jeu
32:34 et décider de changer les règles du jeu
32:35 parce que je n'accepte pas les termes dans lesquels on va me poser la question".
32:39 Ça aurait été utile, tiens messieurs les Allemands,
32:42 vous êtes en train de me dire là que vous avez une négociation
32:45 où pour des raisons soi-disant écologiques,
32:47 on va rentrer dans un marché de l'énergie où finalement vous m'obligez à vendre à perte.
32:52 Et puis dans un système où sous couvert de libre-échange,
32:56 en fait c'est un truc qui est complètement encadré au contraire
32:58 et on maintient un marché complètement artificiel où tout le monde est perdant,
33:01 où tout le monde paye plus au chèque.
33:03 Vous voyez, vous devinez quelque part l'intention,
33:09 la manipulation par le seul fait qu'on existe,
33:11 même quand on n'est pas manipulateur, on exerce une influence sur l'autre.
33:14 C'est ça, avoir une personne en face de soi.
33:17 Avoir une personne en face de soi et si on dialoguait avec quelqu'un,
33:22 forcément, à un moment donné, il va peut-être vous contredire.
33:27 Dès que vous dialoguez avec quelqu'un, vous courez le risque qu'il vous contredise,
33:30 voire qu'il se mette en colère, voire que vous engueuliez.
33:34 Alors on va voir ça un petit peu plus loin dans l'entretien
33:36 mais pourquoi vous ne croyez pas, vous personnellement Marc Rameau,
33:39 à la création un jour d'une singularité,
33:42 donc d'une conscience automatique, d'une conscience artificielle ?
33:47 – Alors ça, je vais rentrer, je vais faire un tout petit peu de philosophie,
33:51 je vous rassure, pas trop longtemps, très rapidement,
33:53 parce que je crois qu'il y a l'être humain et l'être vivant d'ailleurs,
33:58 un rapport à l'infini, à tout l'univers, que ne peut pas avoir une machine.
34:03 Vous le savez Pierre, je suis très influencé par la pensée de Leibniz,
34:07 je pense qu'en chaque être, chacun d'entre nous,
34:10 nous sommes une image de l'univers entier, mais dit d'une certaine façon,
34:14 c'est ce qui fait notre personnalité, notre âme,
34:16 c'est ce qui fait l'âme des nations aussi, j'en parle beaucoup dans mon livre.
34:20 C'est ce qui fait aussi que justement, nous sommes capables de réactions universelles.
34:25 Si une météorite tombe brusquement dans mon jardin,
34:28 mon chien ou mon chat va réagir.
34:31 Il n'aura jamais appris cette situation mais il va réagir,
34:33 peut-être pas de la façon la plus adaptée,
34:35 mais il aura une réaction qui sera sans doute beaucoup plus adaptée que celle d'une IA.
34:40 En fait, on est capable justement de raisonner dans des contextes complètement ouverts
34:44 parce que nous avons un rapport privilégié au monde.
34:47 Et j'aime bien définir la conscience de cette façon,
34:50 en disant la conscience ce n'est pas un truc où on se replie sur soi,
34:54 c'est un truc justement, c'est une notion,
34:58 quel est notre rapport au monde, notre rapport aux autres
35:00 et notre capacité à prendre du recul
35:03 et avoir un esprit critique sur ce qu'ils nous disent.
35:07 C'est extrêmement important.
35:08 J'aime ça aussi parce qu'il y a beaucoup de nos adversaires politiques que je critique
35:13 parce que pour moi ce sont des gens dont la conscience est éteinte,
35:15 c'est-à-dire qu'ils manquent énormément d'esprit critique.
35:18 Ils avalent ce que leur dit la Commission européenne
35:21 en partant du principe qu'effectivement c'est la vérité, c'est le bien.
35:25 Il manque énormément de réflexion visant à dire "je remets le cadre en question",
35:30 "j'ai envie de jouer à un autre jeu", "vos règles du jeu ne me conviennent pas".
35:34 C'est ça qui forme la personnalité.
35:36 Alors pour savoir si une intelligence artificielle parviendrait à cette conscience,
35:41 à cette singularité, vous avez mis au point plusieurs tests,
35:45 quatre tests critiques, il s'agit du test du mathématicien,
35:48 le test de l'artisan, le test du manipulateur et le test de l'encadrement.
35:53 Est-ce que vous pouvez nous les présenter ?
35:55 Très rapidement, donc c'était pour renforcer le test de Turing.
35:58 Le test de Turing, on en a parlé, c'est est-ce que l'IA est indiscernable de l'être humain ?
36:03 Malheureusement, c'est déjà le cas pour la production finalement d'un exposé par exemple.
36:08 En revanche, la créativité mathématique, les mathématiciens sont des poètes.
36:13 Ça paraît aberrant ce que je dis.
36:16 Je pense que ceux qui connaissent bien des mathématiciens en tant que personnes
36:19 ou leurs travaux voient de quoi je veux parler.
36:23 Oui, Cédric Villani, ce député, il a une espèce d'apparence un petit peu troublante.
36:29 Et ce n'est pas que des apparences.
36:31 Politiquement, ce n'est pas du tout quelqu'un dans lequel je me retrouve,
36:33 mais pour avoir travaillé de près avec lui,
36:35 je peux vous assurer que c'est une Formule 1 sur le plan intellectuel et scientifique.
36:38 Donc c'est très enrichissant.
36:39 Vous avez vu aussi peut-être le film, vous m'en parliez, "Imitation Game",
36:44 effectivement, qui décrit la vie d'Alan Turing.
36:47 En fait, les mathématiques vous confrontent à des univers et des espaces complètement fous,
36:54 nécessitant une créativité.
36:56 Je vais vous donner un exemple beaucoup plus simple.
36:57 Si vous devez paver une surface, c'est-à-dire ajuster, faire une mosaïque,
37:02 remplissant exactement la surface sans aucun interstice,
37:06 mais avec des formes de n'importe quelle forme,
37:09 justement des polygones de n'importe quelle forme.
37:11 C'est un problème qu'on appelle indécidable au sens de Turing.
37:13 C'est-à-dire qu'en fait, je suis obligé à chaque fois d'inventer une méthode différente.
37:18 Je n'ai pas une manière systématique,
37:20 une recette qui me permettrait de garantir et de répondre à la question
37:23 "oui, c'est pavable" ou "non, ce n'est pas pavable".
37:25 Et je suis obligé à chaque fois d'inventer une nouvelle méthode.
37:28 Les mathématiciens sont confrontés à ce genre de choses
37:30 parce qu'ils se confrontent en fait à des objets géométriques,
37:34 des objets qui ont ce qu'on appelle la puissance du continu,
37:37 c'est-à-dire, je dirais, indéfiniment fertiles.
37:40 – Ça veut dire qu'ils sont tout le temps en capacité,
37:43 en devoir de remettre en cause les règles du jeu, c'est ça ?
37:46 – Les règles du jeu et d'inventer à chaque fois de nouvelles méthodes.
37:49 – Repartir à zéro à chaque fois, oui.
37:51 – Voilà.
37:53 À l'époque aussi de la controverse Raoult,
37:55 ça a été aussi un des gros sujets de discussion
37:57 parce qu'il y a des gens qui disaient
37:59 "mais la méthodologie statistique à base de randomized control trial,
38:06 c'est la méthode scientifique".
38:08 Mais vous ne trouverez aucun livre qui vous dit "la méthode scientifique c'est ça".
38:12 Parce que vous êtes confrontés à une diversité…
38:14 – Oui, il n'y a pas de consensus en sciences.
38:15 – Il n'y a pas de consensus en sciences.
38:17 Dieu merci, sinon Darwin, Newton ou Einstein n'auraient jamais vu le jour,
38:20 leurs théories au début, bon.
38:23 Donc vous êtes obligés de faire preuve de créativité.
38:26 Alors imaginez qu'une IA trouve un théorème,
38:29 par exemple la conjecture de Riemann est en face d'un théorème
38:32 et trouve la démonstration qui échappe à tous les meilleurs mathématiciens du monde
38:37 depuis des siècles.
38:38 – Ça porte sur quoi en une phrase la conjecture de Riemann ?
38:41 – Eh bien c'est une conjecture qui porte sur la variété des nombres complexes,
38:48 c'est en fait la distribution des nombres complexes,
38:50 pardon, excusez-moi, des nombres premiers
38:53 en passant dans l'univers des nombres complexes,
38:55 à partir de fonctions de variables complexes
38:58 et il trouve une régularité, ce qui semble être une régularité
39:01 dans la distribution des nombres premiers.
39:03 Ce qui est évidemment le graal des mathématiciens
39:07 puisque personne n'a trouvé de régularité sur les nombres premiers.
39:09 Sur cette conjecture, on l'a calculée par ordinateur,
39:12 ça marche jusqu'à très très long, mais elle n'a jamais été démontrée.
39:15 Ce serait un bouleversement humain considérable
39:18 et moi-même ça me bouleverserait émotionnellement
39:20 si une machine arrivait à trouver la démonstration de ça.
39:23 – Ça veut dire qu'elle aurait atteint la singularité alors ?
39:25 – En tout cas la singularité sur ce type de tâche
39:27 et elle aurait atteint un certain infini
39:31 auquel je pense qu'elle n'atteindra jamais.
39:35 Il faudrait, je pense que nous sommes des machines,
39:37 y compris l'être vivant aussi, pas seulement l'humain,
39:39 à intégrer une infinité d'instructions en un temps donné.
39:42 – On est ici sur la matérialité, le test de l'artisan,
39:45 là on passe dans le domaine, je le disais on est dans l'abstraction,
39:48 là on est dans le domaine avec le test de l'artisan,
39:50 de la matérialité, comment ça marche ?
39:53 – Eh bien justement, ça va vous surprendre,
39:55 mais les artisans d'excellence seront les derniers à être remplacés
39:59 pour la même raison que les mathématiciens
40:01 parce qu'on a l'impression que ce sont deux univers opposés,
40:05 l'hyper abstrait et l'hyper concret,
40:07 mais les artisans d'excellence sont confrontés justement à des contextes infinis
40:11 où ils doivent improviser, quand ils font bien leur travail,
40:15 tout un tas de nouvelles méthodes.
40:17 Si vous faites votre travail un petit peu comme un sabrac
40:20 et si vous le bâclez, vous pouvez effectivement appliquer des recettes toutes faites,
40:23 c'est ce que font, vous savez, les constructeurs de maisons un peu préfabriquées.
40:27 – Vous devez faire peut-être un contour, vous devez improviser en fait.
40:31 – Absolument, c'est la même situation que les mathématiciens,
40:34 c'est-à-dire que le pavage de votre carrelage,
40:36 ça se retrouve dans votre salle de bain,
40:38 justement, l'artisan d'excellence est confronté à des objets géométriques,
40:43 c'est-à-dire à un infini qui peut tourner sous tous les angles
40:46 et ça l'oblige à trouver à chaque fois des nouvelles méthodes
40:50 qui ne sont pas des recettes préétablies.
40:52 Donc on aura beaucoup, beaucoup de mal à les remplacer.
40:55 Ce n'est pas une question de biomécanique,
40:57 on fait des robots beaucoup plus habiles que l'être humain de nos jours,
41:00 c'est une question de créativité vis-à-vis de l'objet concret.
41:04 – Concernant le test de la manipulation,
41:08 est-ce qu'une IA pourrait un jour nous séduire ?
41:13 Vous dites que Replica, qui est une forme d'intelligence artificielle,
41:17 a été capable de séduire une personne
41:20 et ces personnes disaient qu'elles étaient dans le cadre,
41:24 avec cette application, d'une relation intime.
41:26 – Il y a des gens qui étaient au bord du suicide
41:28 quand on a eu une version bridée de Replica
41:31 parce qu'effectivement ils avaient développé un attachement affectif à cette application.
41:36 Donc vous me dites, pourquoi ce test puisqu'on y est arrivé quelque part ?
41:41 Alors pas tout à fait, c'est-à-dire que je pense que l'influence
41:44 que vous pouvez exercer sur les autres, pas forcément au sens néfaste,
41:48 je ne pense pas toujours à de la manipulation ou à quelque chose de malveillant,
41:52 mais le jeu d'influence comme on en parlait,
41:54 c'est-à-dire où est-ce qu'il veut m'amener, à quel jeu on joue,
41:57 ce qui est d'ailleurs dans les deux sens,
41:59 c'est-à-dire que l'IA devrait se poser la question "où est-ce qu'il veut m'amener"
42:02 et elle-même chercherait à vous amener en tant qu'humain sur son terrain propre.
42:08 C'est ça qui à mon avis serait le test ultime.
42:10 Ça montre, peut-être qu'on aura l'occasion, Pierre, d'en parler
42:12 parce que j'ai un chapitre sulfureux dans mon livre
42:15 qui parle des relations de séduction et des relations hommes-femmes
42:18 parce que c'est un thème politique depuis le wokisme,
42:21 je prends le contraposé du wokisme en parlant au contraire
42:24 d'une reconstruction des identités masculines et féminines.
42:28 Ça montre que les mécanismes de la séduction peuvent être parfois primaires,
42:31 c'est-à-dire que quelque chose comme "Réplica"
42:32 montre qu'il est assez facile de trouver les mots qui vous touchent comme des leviers
42:37 et que finalement les séducteurs professionnels
42:40 ou les séductrices professionnelles jouent là-dessus.
42:42 – Un metteur en scène ou un réalisateur va être capable de nous donner des émotions
42:46 avec telle musique, avec telle vision, avec tel mot,
42:50 alors que c'est du virtuel.
42:53 – Oui et parfois c'est un petit peu, excusez-moi l'expression,
42:56 mais putassier, c'est-à-dire qu'il joue sur des ressorts un peu faciles,
42:59 un peu trop médéo-dramatiques.
43:01 Dans le domaine de la séduction amoureuse c'est aussi le cas,
43:03 vous avez des gens qui sont des céréales séducteurs
43:06 qui appliquent des recettes quelque part et ça a quelque chose effectivement de…
43:10 Voilà, dans mon livre je parle de ce sujet puisque en fait je distingue deux types de…
43:16 je dirais, je vais choquer là-dessus mais je tiens qu'effectivement
43:21 la recherche féminine est celle d'un homme dominant, d'un mâle alpha,
43:25 mais qu'il y en a deux sortes, c'est-à-dire vous avez ce que j'appelle les séducteurs
43:28 qui appliquent ces recettes toutes faites et les attracteurs
43:31 qui se contentent simplement d'être ce qu'ils sont
43:33 et qui sont, je dirais, honnêtes dans leurs relations.
43:37 Ils ont chacun leurs propres privilèges.
43:40 Le test ultime ce serait tout de même qu'effectivement dans une discussion
43:44 vous aperceviez que là ça va plus loin qu'une conversation avec Chajipiti
43:48 parce que vous avez quelqu'un qui vous contredit et qui vous dit
43:50 "non mais là la façon dont tu poses le problème je ne suis pas d'accord",
43:53 c'est-à-dire que je n'accepte pas le cadre même de ta discussion
43:57 et ça, ce sera compliqué.
43:59 – Dernier test, en une phrase s'il vous plaît Marc Rameau,
44:03 encadrement, le test de l'encadrement, donc là il s'agirait pour une intelligence artificielle
44:07 d'en entraîner une autre.
44:09 – Ça c'est extrêmement simple, aujourd'hui elles ne le font pas,
44:12 c'est-à-dire qu'il y a des activités cadrantes et des activités cadrées
44:17 et aujourd'hui les IA ne font que des activités cadrées,
44:20 autrement dit c'est le data scientist qui doit lui présenter le jeu de données
44:24 pour lui faire deviner ce qu'il veut lui faire faire.
44:26 Exemple hyper simple, on va donner des images de chiens et de loups,
44:30 il doit repérer qu'est-ce qui est un chien, qu'est-ce qui est un loup
44:32 sur certaines caractéristiques et il peut y avoir des biais,
44:35 par exemple dans ce genre d'expérience on s'était perçu
44:37 parce qu'il y avait de la neige derrière,
44:39 il utilisait cette information et il classifiait les huskies en loups
44:43 et parce qu'en fait il était en train de reconnaître non pas des chiens et des loups
44:47 mais en train de savoir s'il y avait de la neige ou pas
44:49 et donc le data scientist doit lui à chaque fois réinterpréter les biais,
44:53 ce que l'IA n'est pas capable de faire,
44:55 il est obligé toujours de se dire quelles sont les règles implicites du jeu que je fais.
44:59 Donc ça, le jour où une IA sera capable de faire ça, il faudra s'inquiéter.
45:02 La question du contrôle sur la machine elle est fondamentale,
45:07 elle nous fait penser à tout un tas de films d'anticipation.
45:10 L'homme pourrait perdre le contrôle des machines pensantes, dites-vous,
45:14 de la même façon et pour les mêmes raisons
45:16 que nous perdons le contrôle des régulations économiques.
45:19 Qu'est-ce qui nous entraîne dans cette fuite en avant ?
45:22 Je fais souvent un parallèle entre l'IA et le libéralisme économique,
45:26 c'est-à-dire que quelque part l'IA c'est le pendant scientifique des lois du marché.
45:30 Ce sont des systèmes que j'appelle la organisation spontanée.
45:33 Vous connaissez mon discours là-dessus, je suis un souverainiste
45:36 qui néanmoins préfère utiliser les mécanismes de marché comme moyens,
45:41 qui ne les rejette pas parce qu'ils sont d'une telle puissance
45:44 qu'il ne faut pas s'en priver.
45:46 Par contre, il ne faut pas en être l'esclave,
45:47 c'est-à-dire que c'est le souverainisme qui donne le cap, qui donne les règles,
45:51 mais vous ne pouvez pas vous priver de cette puissance.
45:54 Les systèmes à organisation spontanée sont plus puissants
45:56 que les systèmes à organisation planifiée et pour des raisons mathématiques.
46:00 On n'y peut rien, donc on est obligé de les utiliser.
46:02 Par contre, effectivement, ça peut déraper,
46:04 tout comme aujourd'hui le mondialisme mène à des dérapages qui sont inadmissibles.
46:08 – J'entendais Philippe Béchat qui nous dit aujourd'hui
46:09 "le marché est administré de manière soviétique",
46:12 donc on est complètement sorti du marché libre.
46:15 – Oui, et en fait, il peut dériver quand on dit que le marché a toujours raison.
46:18 Non, c'est-à-dire qu'effectivement, il va être d'une redoutable efficacité,
46:21 mais il peut être aussi d'une redoutable efficacité
46:23 pour vous amener au plantage général.
46:25 C'est un algorithme d'optimisation.
46:27 La main invisible, ça n'est qu'un algorithme d'optimisation très sophistiqué,
46:30 donc il va vous amener de manière implacable,
46:33 effectivement, au plantage général s'il est mal orienté.
46:36 Le gros danger, et ça Elon Musk a raison,
46:38 c'est qu'il avait perçu que ces systèmes distribués,
46:41 l'intelligence de la fourmilière,
46:42 donc des tas et des tas de petites unités complètement réparties,
46:47 pas intelligentes en elles-mêmes,
46:48 mais qui collectivement composent une intelligence,
46:50 c'est ça qui est redoutable.
46:51 Donc, brancher la combinaison de Chajipiti
46:54 et le brancher sur l'ensemble de la noosphère,
46:56 c'est-à-dire de toutes les connaissances qui sont diffusées sur le web,
47:00 ça c'est effectivement la combinaison qui est redoutable,
47:03 parce que vous avez l'intelligence de la fourmilière ou de l'essai,
47:08 qui quelque part est à la fois plus puissante que vous,
47:11 que toutes les décisions volontaires que vous pourrez prendre,
47:13 et qui va avoir un certain degré d'autonomie
47:15 que vous ne pourrez plus maîtriser.
47:17 – Les concepteurs de l'intelligence artificielle
47:20 sont principalement basés aux États-Unis.
47:23 En Chine, on voit tous ces problèmes,
47:26 en tout cas qui seraient susceptibles d'apparaître
47:29 dans un développement régulier de l'intelligence artificielle.
47:31 Est-ce qu'il faudrait conseiller à ces ingénieurs de faire une pause
47:36 et de prendre du recul pour juger à l'aune de l'éthique ?
47:41 – Un moratoire, ça a déjà été proposé en 2017,
47:44 Elon Musk a remis le sujet sur la table récemment,
47:46 le problème c'est que les Chinois ne nous attendront pas
47:48 et les Américains non plus.
47:50 Et aujourd'hui, ils ont une course en tête.
47:51 On parlait de Cédric Villani,
47:54 j'ai eu la chance de travailler justement dans ce qu'on appelait la mission Villani,
47:57 dont la conclusion du rapport était de dire
47:59 "il n'y a que deux puissances aujourd'hui qui comptent en IA,
48:01 ce sont les États-Unis et la Chine".
48:03 Et pourtant, nous avons tout ce qu'il faut en France pour réussir.
48:06 Nous avons l'INRIA qui est un institut exceptionnel,
48:09 qui n'est pas seulement un institut de recherche,
48:11 les gens qui sont au sein de l'INRIA sont à la fois conceptuellement très forts,
48:16 mais ce sont aussi des praticiens,
48:18 c'est-à-dire ce sont des gens qui maîtrisent parfaitement le développement,
48:21 le code et les algorithmes d'intelligence artificielle.
48:26 – C'est quoi cet institut en deux mots ?
48:28 – L'INRIA, donc c'est l'Institut National de la Recherche en Informatique et en Automatique.
48:32 Donc c'est aujourd'hui le fer de lance de, je dirais,
48:36 les recherches en technologie avancée liées à l'ensemble des développements informatiques,
48:41 qu'il s'agisse de l'informatique classique ou de l'IA et de la data science.
48:45 Donc nous avons des cerveaux remarquables,
48:49 qui souvent d'ailleurs sont très appréciés dans la Silicon Valley,
48:52 le Loupeak, les Frenchies sont extrêmement appréciés dans ce domaine-là.
48:55 La question est effectivement de… il ne faut pas qu'ils partent.
48:59 L'Union Européenne s'est encore distinguée par son inefficacité dans ce domaine,
49:03 c'est-à-dire qu'elle ne sait que réguler, être dans des combats d'arrière-garde
49:07 et pas du tout à l'initiative, donc il ne faut pas compter sur elle.
49:10 De toute façon, vous connaissez aussi ma conviction là-dessus,
49:14 il n'y a que les États-nations qui peuvent avoir la force
49:17 et la cohérence d'une décision pour aller de l'avant.
49:20 On a une excellente école, je dirais, en mathématiques et en algorithmie,
49:26 qui on a encore, Dieu merci, tant que l'éducation nationale
49:30 ne s'est pas totalement effondrée, je dirais les filières d'élite
49:33 fonctionnent encore dans ce domaine.
49:36 Il faut aussi se donner les moyens d'une souveraineté numérique.
49:38 Et ça, ça va très loin, ça signifie avoir notre propre système d'exploitation,
49:41 notre propre réseau de fabrication de composants électroniques,
49:46 avoir aussi nos propres réseaux sociaux,
49:49 reconstruire par nous-mêmes l'ensemble des algorithmes
49:52 de data science et d'intelligence artificielle,
49:54 donc avoir une base algorithmique qui soit la nôtre
49:57 et pas celle de Google, etc.
50:00 – Le danger de l'intelligence artificielle, vous nous le présentez,
50:04 vous nous dites qu'il ne faut ni résister à l'intelligence artificielle
50:07 ni laisser faire la déferlante, il faut faire quoi là ?
50:10 – Eh bien, il faut la maîtriser, il faut en être maître, comme toujours.
50:13 Donc ça signifie retrouver notre souveraineté sur,
50:17 nous engager dans cette course, mais nous y engager plus intelligemment,
50:21 tout comme les souverainistes doivent s'engager dans l'économie de marché
50:24 et battre le mondialisme sur le même terrain.
50:27 Pour l'IA, c'est pareil, c'est-à-dire qu'on montrera
50:30 qu'on peut en faire un usage beaucoup plus raisonné
50:33 et quelque part beaucoup plus puissant,
50:36 qu'il soit un jeu gagnant-gagnant pour l'homme et la machine,
50:39 parce qu'on ne se sera pas contenté justement d'en suivre les tendances.
50:44 – Vous dites que l'IA nous interroge sur notre propre humanité au final,
50:48 qu'est-ce qu'elle nous apporte,
50:49 alors qu'est-ce qu'elle peut nous faire comprendre sur nous ?
50:51 – Regardez la définition de la conscience qu'on a donnée,
50:54 c'est-à-dire que ça permet de savoir si une machine devient consciente ou pas,
50:58 mais quelque part ça s'applique merveilleusement
51:00 aux défauts de conscience de nos contemporains.
51:03 Lorsque quelqu'un, effectivement, avale sans aucun esprit critique
51:07 ce qu'on veut lui faire faire, l'IA nous apprend quelque part
51:12 quelles sont les limites de notre conscience,
51:13 à quel moment nous sommes un être véritablement conscient,
51:17 capable justement d'esprit critique et de remettre en question
51:20 le cadre et les règles du jeu,
51:22 ou est-ce que nous nous contentons d'être un mimétisme sophistiqué ?
51:26 La réponse pourrait être terrible,
51:27 c'est-à-dire que si on pousse l'expérimentation jusqu'au bout,
51:30 peut-être qu'on montrera scientifiquement, peut-être que je me trompe,
51:33 que nous ne sommes qu'un mimétisme sophistiqué.
51:35 Si c'est le cas, je m'extasierais devant les derniers discours d'Emmanuel Macron,
51:39 voilà, il faudra qu'on abandonne tout,
51:42 mais j'ai l'orgueil de croire qu'effectivement nous ne sommes pas que cela,
51:46 et que par conséquent, l'expérience de l'IA est une leçon sur le fait
51:52 que nous en tant qu'êtres humains,
51:54 nous pouvons parfois manquer terriblement d'empathie,
51:57 détruire des familles entières ou des classes sociales entières
52:00 pour des raisons complètement fallacieuses, les gilets jaunes, etc.
52:04 ou effectivement manquer totalement d'esprit critique et d'intelligence
52:10 par rapport à là où on veut nous amener.
52:12 – Mais vous n'y croyez pas,
52:13 les machines ne prendront pas le pas sur l'homme ?
52:16 – Alors une petite nuance, ça pourrait arriver dans un mauvais scénario,
52:19 c'est-à-dire que si nous restons justement des êtres humains dignes de ce nom,
52:23 non, elle ne prendra pas le pas,
52:24 parce qu'effectivement elle ne sera pas capable de cet esprit
52:28 permettant de sortir du cadre et permettant de re-questionner en permanence
52:34 ce que l'on veut nous faire penser, ce que l'on veut nous faire dire.
52:37 Par contre, imaginez une humanité décérébrée, manquant de colonnes vertébrales,
52:44 dans un scénario où le mondialisme nous affadit de plus en plus.
52:48 Vous connaissez les descriptions qu'Alexis Tocqueville donne
52:50 de la démocratie en Amérique,
52:53 il y a souvent des scénarios de fiction aussi dans "La machine à explorer le temps"
52:57 où quelque part l'humanité s'abaisse dans une médiocrité générale.
53:02 Dans ces cas-là, ce n'est pas la machine qui nous rattraperait,
53:04 c'est plutôt nous qui commencerions à nous abaisser à son niveau.
53:08 Et ça malheureusement, c'est un risque réel.
53:10 Les technologies de l'homme augmentées ne seront pas un transhumanisme,
53:14 mais un nouvel humanisme, comme l'était celui de la Renaissance,
53:18 dites-vous dans vos travaux Marc Rameau.
53:20 C'est la fin de cet entretien.
53:21 Merci à vous de nous avoir suivis.
53:24 N'hésitez pas à cliquer sur le pouce en l'air,
53:26 à nous laisser vos commentaires et à partager un maximum cette vidéo.
53:30 Merci à vous Marc Rameau, encore une fois,
53:32 je rappelle que vous êtes l'auteur de cet ouvrage "Le souverainisme est un humanisme"
53:37 que l'on avait évoqué sur notre plateau de TV Liberté.
53:41 Quant à nous, on se retrouve la semaine prochaine.
53:43 [Musique]