Emploi, démocratie, culture... Les dangers de l'intelligence artificielle
Des personnalités comme Elon Musk appellent à faire "une pause dans la recherche de l'intelligence artificielle". L'intelligence artificielle inquiète le marché de l'emploi: dans 10 ans, l'intelligence artificielle aura éliminé 7% des jobs en moins soit 300 millions d'emplois en moins. Elle inquiète aussi la démocratie car elle peut générer une succession de fake news, créer des polémiques.
Transcript
00:00 "Je débranche tout", aurait dit France Gall.
00:02 Ils nous disent "arrêtons la recherche pendant au moins 6 mois,
00:05 arrêtons cette course incontrôlée présentant des risques majeurs pour l'humanité".
00:10 C'est un cri d'alarme, historique, sans doute inutile, j'y reviendrai.
00:14 Commençons par les problèmes bien réels que pointe cette tribune depuis quelques semaines.
00:19 Ces programmes d'intelligence artificielle sont ouverts au grand public,
00:23 ça veut dire que n'importe qui peut leur soumettre une requête.
00:25 Or ils sont auto-apprenants.
00:27 L'IA, à chaque fois que vous allez l'utiliser, elle progresse,
00:31 d'où cet emballement exponentiel.
00:33 Plus personne, je cite cette tribune,
00:35 "pas même leur créateur ne peut plus les comprendre ou les contrôler".
00:39 Inquiétant. Premier effet visible ces derniers jours et première question.
00:42 Donc va-t-on laisser, par exemple, ces intelligences artificielles
00:45 inonder les réseaux sociaux de fake news, de fausses photos ?
00:49 On en voit de plus en plus depuis le fameux cliché du pape en doudoune,
00:53 vous l'avez sûrement croisé, là voici.
00:55 Non, Emmanuel Macron n'a pas ramassé les poubelles.
00:58 Obama ne mange pas de glace avec Merkel sur une plage.
01:01 C'est généré tout cela par le logiciel Midjourney.
01:05 Assez troublant, avouons-le.
01:07 Bientôt, nous vous dit-on, ce sera carrément des vidéos.
01:09 Alors pour l'instant, si vous demandez à l'intelligence artificielle,
01:12 "fais-moi Will Smith qui mange des spaghettis",
01:15 bon, ça donne ça. Pas vraiment encore convaincant,
01:17 mais on approche et dans moins d'un an, nous dit-on,
01:20 ça sera quasi parfait et 100% flippant.
01:22 On peut en sourire, mais c'est une menace pour la démocratie.
01:26 Et pas la moindre, c'est l'eurodéputé Raphaël Glucksmann qui nous prévient,
01:30 lui qui travaille sur la manipulation des élections.
01:32 Ces IA, elles sont déjà au cœur des campagnes de déstabilisation
01:36 qu'il a pu observer, la Chine, la Russie,
01:38 il y a des sociétés israéliennes aussi qui ont déjà recours.
01:40 Pour s'ingérer dans les débats,
01:42 des IA savent pondre des milliers de commentaires dans toutes les langues,
01:46 voire pondre des articles de toutes pièces, créer des polémiques.
01:50 C'est ce qu'on appelle la propagande computationnelle.
01:52 Ce n'est pas un gros mot, je vous rassure,
01:54 mais c'est très inquiétant pour autant,
01:55 car ces logiciels, ils apprennent en ce moment à profiler leur cible.
01:59 Qui va voir ces faux contenus que je génère ?
02:01 Qui est prêt à y croire ?
02:03 C'était déjà efficace, là, ça va être redoutable.
02:05 Inquiétude pour la démocratie, inquiétude pour l'emploi.
02:08 C'est l'autre question soulignée par cette tribune.
02:11 Est-ce qu'on n'est pas un peu débile de nourrir des logiciels
02:14 qui vont finir par nous remplacer ?
02:15 Goldman Sachs, la bande américaine, nous dit cette semaine
02:18 que dans 10 ans, l'IA, même si elle restait au stade d'aujourd'hui,
02:21 il n'y a aucun progrès, elle aura quand même éliminé 7% des emplois dans le monde.
02:26 300 millions de jobs en moins.
02:29 Je ne sais pas si on réalise,
02:30 environ le quart des postes qui restent seront automatisés.
02:34 Alors, il y a les optimistes comme Benoît Hamon qui applaudissent.
02:37 Ouais, c'est un gain de productivité, ça veut dire plus de loisirs.
02:40 On se réorganise, puisque l'IA, c'est aussi 7000 milliards de dollars
02:44 de croissance en plus.
02:45 On n'a qu'à partager et profiter.
02:47 Génial.
02:48 D'autres sont plus inquiets.
02:49 Ceux dont la profession va tout bonnement disparaître, par exemple.
02:52 Fini les mannequins chez Levis.
02:54 Ces modèles, nous dit-on cette semaine,
02:55 seront désormais générés par ordi pour plus d'inclusivité.
02:59 L'info a été très reprise parce qu'elle est marquante, elle est visible,
03:02 mais elle concerne finalement assez peu de gens, avouons-le.
03:05 La vraie révolution est bien plus discrète et plus profonde.
03:08 En fait, c'est la première fois de toute l'histoire
03:11 qu'une avancée technologique va toucher avant tout les diplômés,
03:14 les cols blancs.
03:16 Ça concerne un tiers des cadres qui sont menacés,
03:19 29% des dirigeants.
03:21 Et je ne vous parle pas de tout ce qu'on appelle fonction support,
03:23 DRH, marketing, informatique, compta.
03:26 Là, c'est près de la moitié des postes qui devraient disparaître.
03:30 Tout ça peut être automatisé.
03:32 Donc on arrête tout vraiment ?
03:33 On peut y croire à cette pause ?
03:35 Non, c'est pour ça que je vous disais que cette tribune risque d'être inutile.
03:38 C'est que la boîte de Pandore est ouverte et l'histoire nous a montré
03:41 que c'est compliqué à refermer, voire impossible.
03:44 Trop d'argent en jeu, trop d'acteurs impliqués.
03:46 Désormais, on peine à croire que la Chine, par exemple, joue le jeu.
03:49 Et on ne va quand même pas leur laisser le lead sur cette révolution majeure.
03:54 C'est peu probable.
03:55 Non, c'est plus un débat philosophique qui s'ouvre et politique.
03:58 On nous prenait déjà en 2016 un certain Stephen Hawking,
04:01 qui s'y connaît en science.
04:02 "Ça sera la plus grande révolution de l'histoire", saisit-il.
04:05 Mais sans doute la dernière, si on ne sait pas la contrôler.
04:08 Il prenait les angles des armes autonomes qui vont finir par nous échapper
04:12 et nous flinguer comme dans les mauvais films de science-fiction.
04:14 Il y a le philosophe Noam Chomsky qui reprend la parole aussi ces derniers jours
04:18 en dénonçant une fausse promesse.
04:20 Il nous dit "Chadjipiti, ce n'est pas intelligent, c'est de la sous-pensée.
04:23 C'est dangereux, c'est ce qu'Anna Arendt appelait la banalité du mal.
04:26 On obéit aveuglement en recyclant toute la bouillie dispo qu'on va trouver.
04:31 Jamais on réfléchit, on est dans une indifférence morale", nous dit-il.
04:36 Tout se vaut.
04:36 Et en plus, je suis responsable de rien parce que je n'en suis pas vraiment l'auteur.
04:40 C'est Lordi qui a fourni la réponse.
04:42 Les artistes étaient les premiers à s'en émouvoir.
04:44 Vous avez sans doute vu ces chroniques quand ils disent
04:47 "Attendez, nous on nous pille justement, on n'est plus auteur de nos trucs.
04:50 On va récupérer nos créations sans nous créditer ni nous rémunérer".
04:55 Des logiciels tellement dénués de morale et de pensée
04:58 qu'un Belge a fini par se suicider la semaine dernière
05:01 à force de parler avec une de ses intelligences artificielles
05:04 pour ne pas le froisser.
05:05 En fait, elle confirmait toutes ses inquiétudes.
05:07 Lui, il avait très peur pour le climat.
05:09 Elle lui a dit "Oui, en effet, vraiment, l'éco-anxiété doit être encore amplifiée".
05:14 Et du coup, il est passé à l'acte.
05:16 Voilà concrètement ce qu'on appelle la banalité du mal.
05:19 Donc cette chronique, elle ne va pas arrêter la recherche,
05:22 mais on va peut-être commencer, le grand public en tout cas,
05:25 à se demander ce qui se cache derrière ces IA.
05:27 Non, ce n'est pas magique.
05:28 Il y a des humains, il y a des lignes de code,
05:30 il y a des choix qui sont faits,
05:31 il y a des lois qui peuvent être passées pour obliger à plus de transparence.
05:35 Déjà, citer ces sources, ça serait déjà un immense progrès pour ces logiciels.
05:39 On espère qu'enfin, nos sociétés vont s'y pencher.
05:42 Je ne sais pas si je vous ai convaincus, mais les enjeux sont énormes,
05:45 que ce soit dans le point de vue culturel, économique, politique.
05:49 Ça va tout bouleverser et ce n'est pas juste pour nous faire flipper.