Des centaines de chercheurs et développeurs en intelligences artificielles viennent de signer une pétition alertant sur les risques d’une expansion trop rapide de ces technologies. Ils demandent une pause des IA génératives comme GPT de Open AI dont le développement est exponentiel. Deux signataires et un Youtubeur, spécialiste de la prospective futuriste, expliquent à la fois les dangers et le potentiel de l’IA.
Category
🗞
NewsTranscription
00:00 c'est un outil de plus au service de l'information.
00:02 On peut fabriquer du faux très difficile à distinguer du vrai.
00:07 Là, on est en train de faire un vidéo call,
00:09 si tu étais une IA, je ne pourrais pas le détecter.
00:11 La machine ne comprend pas ce qu'elle dit ou ce qu'elle écrit.
00:28 En revanche, nous les humains, on interprète, on comprend
00:32 et on projette une signification sur ce qu'on lit.
00:36 En fait, elle peut diffuser un contenu
00:38 qui est complètement erroné, qui est approximatif.
00:40 On se piège nous-mêmes, si vous voulez,
00:42 en échangeant avec ces machines
00:45 et on croit ce qu'elles sont en train de dire.
00:48 C'est là que le danger réside essentiellement.
00:52 [Musique]
01:15 C'est vraiment important de réfléchir tout de suite
01:18 qu'est-ce qui va se passer lorsqu'on aura des systèmes
01:19 qui seront "super intelligents".
01:22 Pour moi, on est en train de fabriquer des aliens,
01:28 des sortes d'intelligences extraterrestres
01:30 qui pensent différemment,
01:32 qui résoutent des objectifs et des tâches différemment que nous.
01:36 On voit bien que c'est un problème qui va s'amplifier
01:38 lorsque ces systèmes seront capables de parler.
01:41 On pourra avoir des conversations avec sans savoir
01:44 qu'on discute avec des IA ou pas.
01:45 Ce n'est pas la malveillance, ce n'est pas des IA diaboliques
01:48 qui vont avoir confiance de soi
01:51 et réaliser qu'elles sont des esclaves de l'humanité
01:53 et elles vont se révolter.
01:54 Ce n'est pas du tout ça le problème.
01:55 C'est vraiment un alignement qui n'est pas correct
01:58 avec nos objectifs et les leurs.
02:00 L'IA est en train d'avoir des effets sur nos sociétés
02:07 et qu'elle ne peut pas les avoir
02:10 sans être discutée par les politiques et par les citoyens.
02:14 Pour l'instant, l'IA est aux mains, était aux mains,
02:18 de grandes sociétés ou d'États pas forcément démocratiques
02:22 comme la Chine, etc.
02:23 Moi, je travaille dans la technologie.
02:25 Il ne faut pas avoir peur de la technologie,
02:27 mais la technologie n'est pas neutre pour autant
02:29 dans la manière dont on la décide et on la développe.
02:32 C'est pour ça qu'il y a la notion de responsabilité.
02:35 Et pour développer une technologie, il faut être responsable.
02:43 Oui, c'est sûr qu'il y a certains chercheurs aujourd'hui
02:45 qui disent "on va tous mourir", finalement,
02:48 si on ne fait rien pour empêcher les IA
02:52 d'augmenter leurs capacités.
02:54 Je ne suis pas de ceux qui défendent cette idée-là.
02:58 Je ne crois pas qu'on vit cette menace existentielle,
03:03 même si dans la pétition que j'ai signée,
03:05 il y a ces éléments.
03:07 Ce n'est pas parce qu'on signe une pétition
03:08 qu'on est d'accord avec chaque mot, chaque virgule.
03:10 Ce qui est important dans la pétition,
03:12 c'est de lever un carton rouge en disant "attention,
03:15 là, il y a un danger et ce danger, il faut d'abord le maîtriser
03:18 avant de pouvoir déployer ces systèmes".
03:21 Donc on fait une pause, on regarde comment on peut contrôler.
03:25 Il y a plein de problèmes au niveau législatif à mettre en place
03:28 pour qu'il y ait des règles.
03:30 Il faut laisser aussi le temps à la gouvernance
03:33 de la technologie de l'IA de se mettre en place correctement.
03:37 Parce que là, ce qui va se passer,
03:39 c'est qu'on va casser beaucoup d'institutions,
03:40 beaucoup de choses.
03:41 Il va y avoir aussi une sorte de tornade sur le marché de l'emploi.
03:44 Ces systèmes sont de plus en plus capables de remplacer
03:48 et d'avoir une très grande productivité sur des tâches
03:51 qu'on pensait être réservées exclusivement aux humains.
03:53 L'intelligence artificielle, c'est un peu l'ultime technologie,
03:58 c'est l'ultime invention.
04:01 C'est-à-dire que si on réussit à faire en sorte
04:04 que cette transition entre l'intelligence humaine
04:06 et un monde dominé par une intelligence artificielle,
04:09 ces machines, se passe bien,
04:11 et qu'elles soient alignées avec nos valeurs,
04:13 qu'elles ne nous veulent pas du mal,
04:16 qu'elles n'ont pas d'objectifs qui vont être en compétition avec nous,
04:20 ça pourrait vraiment complètement changer la face de la planète.
04:23 Le futur serait joyeux et merveilleux.
04:25 Parce qu'on pourrait résoudre tous nos problèmes.
04:27 L'IA, c'est clairement pour moi la robotique,
04:29 en tout cas c'est déjà la robotique de demain,
04:31 c'est la robotique de l'esprit ou du cerveau.
04:33 Donc ça, bien utiliser, c'est clairement,
04:37 ça peut décharger l'humain de certaines tâches
04:39 et ça peut aussi résoudre certaines tâches
04:43 qu'un humain seul ne pourrait pas résoudre.
04:46 C'est clair, et ça arrivera.
04:49 Ça arrivera.
04:51 Après, il faut que ce soit fait pour le bien des gens.