ChatGPT est-il dangereux ? | ARTE Info Plus
L’intelligence artificielle est devenue accessible au grand public et simple d’utilisation. Elle touche désormais de nombreux domaines de la vie courante, avec des résultats particulièrement spectaculaires dans le domaine de la communication. Mais l'IA n'est pas sans danger. De quoi faut-il se méfier ? Eléments de réponse avec ARTE Info Plus.
Transcript
00:00 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:05 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:10 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:15 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:20 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:25 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:30 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:35 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:40 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:45 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:50 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
00:55 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:00 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:05 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:10 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:15 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:20 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:25 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:30 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:35 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:40 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:45 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:50 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
01:55 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
02:00 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
02:05 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
02:10 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
02:15 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
02:20 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
02:25 L'enjeu de la Chambre des communes est de faire face à la question de la qualité d'Igne d'Arte.
02:30 Dans le chat GPT, il existe tout un tas d'autres applications d'intelligence artificielle capables par exemple de créer des images ou des graphiques plus ou moins à la demande.
02:38 Il n'y a qu'à décrire l'image recherchée.
02:41 Pour obtenir une réponse d'une IA comme chat GPT, il faut lui donner ce qu'on appelle des "prompts".
02:59 La qualité des réponses dépendra de la formulation de ces prompts.
03:02 Plus notre requête sera contextualisée, plus la réponse obtenue sera précise, sachant qu'à chaque requête, l'IA s'améliore et peaufine ses réponses.
03:10 On ignore quelles bases de données ont servi à alimenter chat GPT.
03:14 La base de données C4 de Google, qui alimente d'autres IA, concentre à elle seule les contenus de 15 millions de sites web,
03:20 dont des sites de médias et Wikipédia, mais aussi des descriptifs d'images et de films de sites pornographiques.
03:27 Un des problèmes que posent ces outils intelligents, c'est qu'ils se trompent.
03:31 Mais nous ne l'admettons pas spontanément.
03:33 Ils affirment des choses fausses, et si on les conteste, ils s'inventent des sources et des citations montées de toutes pièces.
03:39 L'IA délire.
03:41 Pas simple pour l'utilisateur, car...
03:44 Les gens ont tendance à juger de la crédibilité d'une information en fonction de la façon dont elle leur est présentée.
03:51 Ainsi, plus elle sera formulée de façon éloquente, plus elle sera jugée crédible.
03:56 On aura tendance à croire une information dont la formulation sera suffisamment sophistiquée et assortie d'une forme d'assurance verbale.
04:05 Ces puissants outils auront des répercussions sur nos sociétés, et notamment dans trois secteurs, la médecine, l'éducation et la formation de l'opinion publique.
04:14 Les robots pilotés par l'IA ne remplaceront sans doute pas le personnel soignant de sitôt.
04:23 Mais on a d'ores et déjà recours à l'intelligence artificielle pour traiter de grandes quantités de données et y détecter des schémas récurrents.
04:31 Elle sert notamment à la reconnaissance des tissus cancéreux.
04:34 Dans ce genre de cas, on se dit, ça ouvre des perspectives incroyables, parce que ça va permettre d'améliorer le diagnostic,
04:42 et éventuellement de repérer certains modèles récurrents dans les thérapeutiques mises en œuvre.
04:47 Quand j'allais à l'école, l'enseignement suivait souvent le modèle de l'entonnoir, qui consiste à recevoir des informations,
04:53 les apprendre par cœur et les restituer sans faire de fautes.
04:56 Un modèle pédagogique auquel Chad Jepete vient porter le coup de grâce, et c'est tant mieux.
05:01 Plus que nous aider à apprendre en nous disant « là tu te trompes, voilà la bonne réponse »,
05:07 l'intelligence artificielle peut nous aider à apprendre en nous disant « là tu te trompes, mais je sais pourquoi tu t'es trompé ».
05:13 Et c'est plutôt telle méthode. C'est ça son gros potentiel.
05:16 Peut-on empêcher les élèves d'utiliser Chad Jepete ou tout autre IA ?
05:21 L'intelligence artificielle sera utilisée. Sur ce point, on peut dire qu'on est déjà dans le futur,
05:26 que les écoles choisissent ou non de s'emparer de l'IA.
05:29 Si elles s'en emparent, l'apprentissage s'en trouvera révolutionné dans le bon sens, de façon tout à fait productive.
05:36 Si elles ne s'en emparent pas, l'apprentissage ne s'en trouvera pas moins révolutionné,
05:41 mais à cause des tentatives de triche, parce que l'IA incite à la triche.
05:46 L'élève va se dire « j'ai cet outil à disposition, alors pourquoi ne pas m'en servir alors que c'est accessible ? »
05:53 La diffusion de fausses informations, d'images truquées, ne date pas d'hier,
05:57 que le but soit stratégique ou simplement de faire rire.
06:01 Mais jusqu'ici, cela demandait un peu de travail et quelques compétences.
06:05 Aujourd'hui, pour fabriquer une photo du pape habillé en rappeur ou de Donald Trump se débattant lors de son arrestation,
06:11 il suffit de demander à lire.
06:14 Il se pourrait bien qu'on soit entré dans une nouvelle ère, où plus aucune vérité ne se dégage,
06:19 puisqu'on ne peut plus apporter de preuves satisfaisantes de quoi que ce soit.
06:24 L'intelligence artificielle permet à tout un chacun, sans qualification ou prérequis particuliers,
06:29 de falsifier ce qui constituait jusqu'ici nos éléments de preuve les plus fiables.
06:34 Ce que nous voyons de nos propres yeux ou entendons de nos propres oreilles.
06:38 On peut désormais truquer des photos et des vidéos, imiter des voix à la perfection
06:43 et fabriquer des preuves de tout et n'importe quoi, avec le risque d'aboutir à une forme de société nouvelle
06:49 où les gens ne croient plus que ce qu'ils veulent croire.
06:53 « Trolls, Twitter, Trump, sur les réseaux sociaux, nombreux sont ceux qui prétendent détenir la vérité,
06:58 et ceux dans des buts divers et variés. Le terrain est depuis longtemps propice aux fake news. »
07:03 « L'arrivée de ces nouvelles applications sur ces plateformes déjà préparées à la propagation des fake news
07:09 va encore amplifier la tendance.
07:12 Tout va beaucoup plus vite qu'il n'y a ne serait-ce que 20 ans,
07:16 parce que la technologie numérique est là, voilà ce à quoi on est en train d'assister. »
07:21 Le photographe berlinois, Boris El Dachshund, a remporté un prix prestigieux
07:26 avec une photo créée grâce à une IA, prix qu'il s'est empressé de refuser,
07:30 dans le but de susciter un débat sur notre capacité à démêler le vrai du faux.
07:34 « Celle-ci date d'octobre 2022, on voyait bien que c'était un fake.
07:39 Celle-là est de mars 2023, avec toujours le pape dans le quartier chaud de Hambourg.
07:45 On voit encore qu'ils ont six doigts, mais ça pouvait se corriger.
07:50 La prochaine étape, c'est l'image animée, voix comprise.
07:53 Suite à cette interview que je vous donne, ma façon de parler, ma voix vont se retrouver sur Internet.
07:59 Ce qui suffit pour que l'intelligence artificielle s'entraîne à les reproduire.
08:03 N'importe qui pourrait reprendre cette séquence et me faire dire des choses que je n'ai jamais dites. »
08:08 Comment appréhender cette toute nouvelle réalité ? Un débat s'impose.
08:13 « Selon de premières études, 300 millions d'emplois seraient menacés.
08:21 Ceux des scénaristes d'Hollywood actuellement en grève pourraient être les premiers d'une longue liste.
08:25 L'IA pourrait se substituer entièrement ou en partie aux graphistes, aux illustrateurs,
08:30 mais aussi aux journalistes, ou du moins leur mâcher le travail. »
08:34 « On est nombreux à penser qu'une machine ne peut pas faire de l'art.
08:38 L'histoire que vous racontez y perdrait son cœur, son âme.
08:41 Si vous laissez les rênes à l'intelligence artificielle, si le premier mot est généré artificiellement,
08:45 c'est toute l'histoire qui aura quelque chose d'artificiel. »
08:49 « Ils ne peuvent pas se passer de nous, en tout cas, pas pour le moment.
08:52 Ce qui est effrayant, c'est qu'on ignore comment cette technologie va évoluer.
08:55 C'est pour ça qu'on défend nos droits dès aujourd'hui. »
08:58 Autre réaction qui a fait parler d'elle, plus d'un millier d'experts ont demandé
09:02 la mise à l'arrêt du développement des IA pour une durée de six mois.
09:06 Le temps que les politiques et la société civile établissent un cadre réglementaire
09:10 et discutent des risques et de ses répercussions.
09:13 Mais comme Elon Musk faisait partie des signataires de cet appel,
09:16 certains ont eu l'impression qu'un milliardaire de la tech
09:19 n'a seulement gagné du temps pour rattraper son retard technique.
09:23 « Mon premier réflexe, en effet, a été de dire, moi aussi, je trouve que tout ça va trop vite.
09:28 On s'empresse de mettre sur les marchés des produits qui sont seulement à moitié finis.
09:32 Et la pression économique que ça a engendré est si forte
09:35 qu'il peut être utile d'appuyer sur pause, de s'offrir un répit. »
09:39 Fin mars, l'Italie tire la sonnette d'alarme et bloque chaque GPT,
09:43 par crainte pour la protection des mineurs et des données personnelles.
09:46 Le developer OpenAI ayant annoncé avoir apporté des améliorations,
09:49 tchad GPT est réautorisé quelques semaines plus tard.
09:53 « Faire des prédictions est toujours hasardeux, surtout concernant l'avenir.
10:01 Mais les questions que soulèvent les IA ne se régleront pas à la va-vite.
10:05 Bientôt, ces robots se référeront à ce qui est publié en temps réel sur Internet
10:08 et plus seulement au contenu d'avant.
10:11 Il nous faut donc accroître la sensibilisation, la transparence
10:14 et la connaissance du public en matière d'apprentissage automate. »
10:17 Fin mars, l'Italie tire la sonnette d'alarme et bloque chaque GPT,
10:20 par crainte pour la protection des mineurs et des données personnelles.
10:23 Le développeur OpenAI a annoncé avoir apporté des améliorations,
10:26 tchad GPT est réautorisé quelques semaines plus tard.