Alors que nous vivons une révolution numérique sans précédent, la désinformation est désormais le risque mondial numéro un à court terme, selon le Forum économique mondial. La menace ? Une société noyée sous les fake news et les informations dangereuses. Pour y remédier, l'Académie des technologies propose six recommandations clés.
Catégorie
🗞
NewsTranscription
00:00Voilà, que d'invité prestige dans ce Smartech aujourd'hui. Bonjour Joël Toledano.
00:09Bonjour.
00:10Merci d'être avec nous, professeur émérite en économie associée à la chaire gouvernance et régulation de l'université Paris Dauphine.
00:17Vous êtes membre de l'académie des technologies ainsi que de plusieurs conseils d'administration d'ailleurs de startups du numérique.
00:23Votre dernier ouvrage « GAFA, reprenons le pouvoir » publié chez Odile Jacob en 2020 a reçu de nombreux prix également.
00:32Mais notre sujet aujourd'hui ensemble, ça va être la production de ce rapport par l'académie des technologies dont le titre est « Lutte contre la mésinformation à l'ère de l'IA ».
00:42Déjà Joël, pourquoi ce choix de vocable « mésinformation » ?
00:48Parce que l'un des objectifs au fond de ce rapport, indépendamment des propositions, c'est de faire, je dirais, une analyse à 360 degrés de l'ensemble du sujet.
01:00Et que c'est l'élégance, si vous voulez, des mots pour pas tout de suite passer vers « fake news » et qu'on essaye d'appeler un chat un chat, si je puis dire.
01:11Et qu'il y a donc dans ce rapport l'idée que même si on va s'intéresser aux aspects très précis liés à l'intelligence artificielle par rapport aux fake news,
01:24on veut replacer le sujet dans le contexte, préciser de quoi on parle et pointer sur un certain nombre de points.
01:33Il y a eu beaucoup de sujets de rapport autour de la mésinformation, c'est très très important.
01:39Et notre objectif, au fond, c'était d'essayer, à partir de ce sujet, de pointer précisément sur quelque chose d'assez précis,
01:49qui est le lien entre la mésinformation numérique et l'IA.
01:55Donc vous n'employez pas non plus le terme de « désinformation » ?
02:01On l'emploie dans le rapport, mais ce n'est pas le même niveau, si vous voulez.
02:05Ce n'est pas le même niveau.
02:06C'est intéressant de préciser les définitions, même si après, évidemment, on arrive à la désinformation, parce que c'était le cœur de notre préoccupation.
02:14Et des deepfakes.
02:15Et des deepfakes. Mais effectivement, la mésinformation, c'est la mauvaise information.
02:20Mais la mauvaise information, ce n'est pas forcément volontaire. La désinformation, c'est volontaire.
02:26Et donc il s'agissait de préciser exactement le champ.
02:30Certains analystes considèrent, par exemple, qu'en réalité, plus que la désinformation, c'est la mésinformation qui explique le fait que les gens ne disent pas toujours ce qu'est la vérité scientifique.
02:47Donc il y a l'intention derrière, qui est importante.
02:51Quand vous avez pris en main ce rapport, est-ce que l'ampleur du risque vous a surpris ?
02:56Est-ce qu'aujourd'hui, vous pensez qu'elle est sous-estimée, cette dangerosité de la mésinformation ?
03:04Ou peut-être sur-estimée, d'ailleurs ?
03:06Non, elle n'est pas sous-estimée du tout.
03:09Elle est même, à certains égards, mais je dis bien à certains égards, à court terme, elle a été sur-estimée.
03:16Rappelez-vous, au début de 2024, on craignait que les élections européennes, que les élections américaines soient toutes complètement polluées par les deepfakes.
03:29Et les analyses aujourd'hui, alors on a bien un exemple qui est la Roumanie où ça s'est passé différemment,
03:36mais sinon tous les analystes aujourd'hui s'accordent à dire que ce n'est pas en tant que tel les deepfakes qui ont été au cœur des problèmes de mésinformation ou de désinformation.
03:51Mais on sait que la technologie progressant vite, que la nouvelle géopolitique change aussi pas mal de choses.
03:58C'est un problème auquel il faut quand même qu'on se confronte.
04:01Oui, qu'il faut qu'on se confronte, qu'on analyse et qu'on s'outille pour aller contre.
04:06Alors justement, ce qui est intéressant, c'est que dans ce rapport, vous proposez des outils.
04:09Ce ne sont pas juste des recommandations, c'est vraiment des propositions très concrètes.
04:13J'imagine que vous vouliez en préciser quelques-unes.
04:17Moi, j'ai noté notamment le développement d'un chatpédia au sein de l'éducation nationale.
04:22Ça consisterait en quoi ?
04:24Écoutez, l'idée est la suivante.
04:26Au fond, s'il y a un sujet qui est mis en avant dès qu'on parle de mésinformation et de désinformation, c'est l'éducation.
04:35Et quelle meilleure façon que de expliquer à chacun d'entre nous, au fond, mais là, c'est à l'éducation nationale, dans les écoles,
04:45comment ça marche, que de fabriquer ensemble un outil qui permet de comprendre comment effectivement ça marche.
04:56Pour simplifier, c'est ça un chatpédia.
04:58Il y a eu Wikipédia pour remplacer, entre guillemets, mais un peu quand même.
05:04Un outil encyclopédique.
05:06Et là, c'est un outil qui permet de comprendre ces fameux LLM, ces fameux langageurs, comment ça fonctionne, qu'est-ce qui fait que...
05:15Et ça, ça peut se construire.
05:17On voit bien qu'il y a toute une série d'initiatives de construction de langageurs adaptés à certaines situations.
05:25Et là, l'idée, c'est de le faire avec les professeurs et les élèves, et que ça les aide en le construisant et en l'utilisant à comprendre comment ça marche.
05:34Oui, c'est de l'éducation au numérique, finalement.
05:37Il faut rentrer, quand même, côté coulisses pour être plus au fait des risques.
05:43Vous parlez aussi d'imposer aux grandes plateformes l'affichage d'un score d'artificialité.
05:47Alors ça, moi, je vote à 100% pour. Mais comment est-ce qu'on pourrait imposer ça ?
05:51Écoutez, il se trouve qu'aujourd'hui, la question de l'artificialité est au cœur d'un certain nombre de questions.
05:58Au point que l'an dernier, je crois que c'est The Economist qui avait fait un article disant qu'Internet allait devenir le monde des zombies.
06:05En tout état de cause, les plateformes ont l'obligation de se préoccuper, et via l'IAAC, et via le DSA, des productions artificielles.
06:17Donc là, c'est une étape supplémentaire, si vous voulez, mais qui peut très bien se concevoir à l'intérieur de quelque chose qui est le digital service,
06:27avec le fameux règlement sur les services numériques.
06:33C'est ça, une précision, finalement. Et puis, ajouter dans le code de la défense un dispositif de sanction des opérations de désinformation.
06:41Alors, je vais vous répondre, et après je reviendrai sur une dernière proposition qui me tient à cœur.
06:47C'est tout simplement qu'aujourd'hui, de façon étrange, si vous avez donné des fausses informations en physique,
06:57aujourd'hui, le code pénal a de quoi s'attaquer à ce genre de problème, mais ce n'est pas le cas quand c'est dans le numérique.
07:04Donc c'est juste, si je puis dire, une façon d'adapter les textes.
07:08Et l'un des autres sujets qui nous semblent importants, c'est qu'aujourd'hui, on est dans un monde, en réalité,
07:14où ceux qui nous nourrissent en matière d'information, ce sont les plateformes.
07:17Elles sont jugées parties. Et nous pensons qu'il y a un vrai enjeu à créer un socle d'informations numériques neutres,
07:26un incinéria numérique qui permettrait, qui ferait que quand la Commission européenne se demande si les plateformes pornographiques
07:36ont ou n'ont dépassé le nombre d'utilisateurs qui fait qu'elles sont régulées, elles n'ont pas besoin d'attendre qu'on leur dise ce qu'il en est.
07:46Elles-mêmes qui demandent. Donc il nous semble important, et je sais qu'il faut être bref, de s'attaquer à ce sujet,
07:52parce qu'aujourd'hui, nous dépendons, pour tout ce qui concerne la compréhension du monde numérique,
07:58des plateformes elles-mêmes qui sont essentiellement opaques.
08:02Et jugées parties, vous l'avez bien précisé. Donc ce serait ce comité consultatif de l'information scientifique et technique ?
08:09Non, ça c'est encore une autre proposition.
08:12On n'a pas le temps d'en parler, je suis désolée Joëlle Toledo, il faudra revenir dans Smartech.
08:16Avec plaisir.
08:17Merci beaucoup. Je rappelle que vous êtes là en tant que membre de l'Académie des technologies et je vous invite à consulter ce rapport sur la mésinformation.