Le 28 octobre, à l'Ensemble ministériel Fontenoy-Ségur, s’est tenu le Think & Do Tank Marie Claire "Plus de femmes dans les métiers de la Tech et de l'IA".
Visionnez cette conférence où experts et décideurs explorent les enjeux d'une intelligence artificielle éthique, transparente et respectueuse.
Visionnez cette conférence où experts et décideurs explorent les enjeux d'une intelligence artificielle éthique, transparente et respectueuse.
Category
🤖
TechnologieTranscription
00:00...
00:10On va commencer avec vous Vanessa.
00:12Est-ce que vous pouvez déjà nous parler de votre parcours ?
00:15On aime bien faire témoigner parce que je trouve que c'est parlant.
00:18Alors votre parcours Vanessa, quel est-il ?
00:21Bonjour à toutes et à tous.
00:23Actuellement, j'accompagne les métiers et les fonctions de Natixis
00:31dans l'identification et la mise en œuvre des cas d'usage d'intelligence artificielle.
00:36Natixis, c'est la banque qui porte les métiers globaux du groupe BPCE.
00:42Les métiers globaux, ce sont pour nous la banque de financement et d'investissement
00:46et la gestion d'actifs.
00:48Et BPCE, c'est le deuxième groupe bancaire français.
00:51Alors j'ai un parcours dans la finance.
00:53Je viens juste de préciser parce que quand on a préparé l'interview,
00:56vous m'avez dit double peine, finance plus tech.
01:00Et quand même, vous êtes là.
01:03Exactement, ça aurait pu être la double peine.
01:06En fait, j'ai été sensibilisée très tôt au sujet de la sous-représentation des femmes
01:12puisque déjà en terminale scientifique, nous n'étions dans ma classe que trois filles.
01:16Ensuite, j'ai été aussi sensibilisée très tôt au sujet des discriminations
01:21parce que quand j'étais en troisième cycle de marché financier à Dauphine,
01:26nous étions six filles et on avait un intervenant qui travaillait
01:32dans une banque anglo-saxonne à Londres et qui venait nous faire
01:35toute une série de cours sur la gestion obligataire.
01:39Il nous avait demandé, il avait créé un petit challenge
01:44où il nous avait demandé de créer un portefeuille virtuel composé d'obligations
01:49et que le portefeuille qui aurait la meilleure performance,
01:52celui qui l'aurait créé, remporterait un stage dans son équipe.
01:56Mon portefeuille a le mieux performé.
01:59Je n'ai jamais entendu parler du stage.
02:02Alors, des amis garçons sont allés le voir après un cours et l'ont dit
02:07alors Vanessa, est-ce qu'elle va avoir un stage dans votre équipe ?
02:10Je n'étais pas très loin, j'ai entendu sa réponse.
02:13C'était juste quatre mots.
02:15C'est une fille.
02:17C'est intéressant parce qu'il aurait pu dire non, je ne vais pas prendre Vanessa en stage
02:21comme si ces quatre mots portaient intrinsèquement la négation.
02:27Après, finalement, je n'ai pas osé postuler en salle de marché pour un stage de fin d'études,
02:32j'ai postulé dans la gestion d'actifs qui était réputée être un peu plus féminine.
02:37Le comble, c'est que je me suis retrouvée dans une équipe totalement masculine
02:41donc il ne faut pas rêver, c'était de la gestion d'actifs mais c'était de la gestion quantitative.
02:46Mais il y avait un point positif, c'est que déjà j'ai pu voir que c'était possible d'intégrer une équipe masculine.
02:52Il y avait un autre point positif, c'est que mon maître de stage m'a appris à coder
02:56et que j'ai passé tout mon stage à coder.
02:59Alors ensuite, finalement, sachant que c'était possible,
03:02j'ai intégré des salles de marché après pour mon premier job.
03:05J'ai passé une dizaine d'années en salle de marché.
03:08J'ai eu ensuite des fonctions assez diversifiées dans le secteur de la finance.
03:13Et quand j'ai voulu faire un virage vers l'IA,
03:16j'ai décidé de me former en formation continue à l'école polytechnique.
03:20Donc j'ai obtenu une certification en data science.
03:23Dans la classe, nous étions trois femmes.
03:25Donc on y revient, c'est effectivement double p.
03:30Alors, je pense quand même qu'il y a des raisons d'être optimiste.
03:36Déjà, les métiers de l'IA, ils sont quand même assez récents.
03:39On n'est pas en train de challenger plusieurs décennies de prédominance masculine
03:43comme ça peut être le cas dans d'autres secteurs, notamment les salles de marché.
03:46On en parlait tout à l'heure.
03:48Ensuite, la deuxième raison d'être optimiste, c'est que les métiers de l'IA,
03:51ils évoluent vraiment vite.
03:54Déjà, ça fait trois ans que je suis dans ce poste,
03:56j'ai vu que faire un projet d'IA, c'est plus la même chose.
04:00Il y a trois ans, on avait un data scientist qui allait travailler
04:04sur un projet pendant trois mois, six mois, etc.
04:07Maintenant, avec l'IA générative, il y a des nouvelles compétences,
04:11des nouvelles missions qui apparaissent autour de l'IA.
04:15Et notamment, par exemple, on passe un peu moins de temps sur les modèles,
04:18beaucoup de temps, par exemple, aussi sur le prompt engineering.
04:21Le prompt engineering, c'est comment on va poser la question à l'IA
04:28pour qu'elle nous donne une réponse la plus pertinente possible.
04:31Et là, il faut aussi, bien sûr, avoir des connaissances sur les modèles,
04:35mais il faut aussi avoir un esprit analytique,
04:38comprendre un contexte, avoir le sens de la formule.
04:41Je ne dis pas que les femmes ne peuvent pas coder,
04:45puisque je l'ai fait, mais pour celles qui n'ont pas envie,
04:49il y a des moyens de les faire venir aussi, de leur donner envie.
04:53Il y a plusieurs moyens, effectivement,
04:55et on a vu que les parcours sont très différents, effectivement.
05:01Peut-être que vous, Tania, aussi,
05:03vous pouvez nous parler de votre parcours qui est assez incroyable,
05:06et notamment qui se passe du côté des États-Unis.
05:10Racontez-nous.
05:12Bonjour à toutes et à tous.
05:15Je suis ravie d'être là.
05:17Effectivement, j'ai commencé ma carrière d'abord en formation
05:23à l'École d'ingénieurs de l'Université de Columbia à New York.
05:28En arrivant là, j'ai découvert que c'était justement en deuxième année
05:34que les filles étaient autorisées d'intégrer cette formation.
05:38Pouvons-nous rappeler l'année, Tania ?
05:42C'était un peu loin, mais peut-être pas si loin que ça.
05:46C'était en 1984.
05:48C'était donc la deuxième année.
05:51On a autorisé les filles d'intégrer l'université,
05:55mais dans l'école d'ingénieurs, on était 12 % des femmes.
06:00Absolument rien n'était fait encore pour les accueillir.
06:06Les dortoirs des résidences universitaires n'étaient pas adaptés.
06:12Il n'y avait pas de salles séparées.
06:15Il n'y avait même pas de toilettes séparées, ni de douche, ni rien.
06:18Donc on était vraiment des Amazones qui sont arrivés là.
06:23Mais on savait ce qu'on voulait faire et on voulait vraiment avancer.
06:28Juste pour mettre ça dans le contexte des nouvelles technologies,
06:33on était en 1984, juste avant l'ère d'Internet
06:40qui allait révolutionner les façons qu'on vit, les façons dont on fait des choses.
06:48Je me suis rendu compte qu'il n'y avait pas de femmes qui allaient travailler sur ce sujet.
06:55D'ailleurs, mon premier travail était dans une entreprise qui s'appelle Con Edison à New York.
07:05C'est un équivalent d'EDF en France.
07:08J'étais dans un département de recherche.
07:13J'ai travaillé sur les sujets d'adaptation de réseaux de distribution électrique de la ville de New York
07:19à nouvelles demandes d'ordinateurs personnels.
07:24On était 40. J'étais la seule femme.
07:29Chaque réunion par les directeurs a commencé par messieurs.
07:38Il adressait à messieurs et ensuite il avait un adresse personnel à moi qui disait messieurs et madame Perelmutter.
07:47Tous les réunions ont commencé comme ça.
07:50On voyait qu'il n'y avait pas de femmes et ça continuait.
07:57Après j'ai aussi travaillé dans le monde des finances, sur les analyses des risques.
08:04J'ai beaucoup travaillé sur les questions des données et c'était absolument le même problème.
08:10La fille rouge de toute ma carrière, c'était l'absence de femmes dans les nouvelles technologies.
08:18Ce n'est pas parce que les femmes ne voulaient pas, c'est parce qu'on n'était pas invité.
08:25Il n'y avait pas de place pour nous et il fallait faire sa place.
08:29Ce n'est pas toujours évident.
08:32J'ai cofondé la fondation Abiona il y a 6 ans avec cette idée que les nouvelles technologies,
08:43et en particulier on voyait que c'est la nouvelle technologie qui allait arriver,
08:47qu'elle doit être responsable, qu'il faut le faire de façon responsable et que l'IA doit être inclusif et sustainable.
09:00En français ce sera durable, je pense.
09:03Oui on va en parler, merci beaucoup Tania.
09:06Alors Vanessa, est-ce que vous pouvez nous expliquer comment est-ce que l'intervention humaine modifie les biais
09:14générés par les algorithmes notamment côté BPCE et NATXIS ?
09:20Tout à l'heure Claire Poirson parlait de deux domaines, les RH et l'octroi de crédit.
09:27Je vais citer des exemples dans ces deux domaines.
09:31En termes de RH, on a un outil qui permet aux collaborateurs de trouver une mobilité interne.
09:38On a un algorithme de matching qui match les offres d'emploi et les compétences.
09:46On match les compétences et pas l'historique de carrière.
09:50C'est important parce que l'historique de carrière pourrait comporter et induire des biais.
09:56On se base sur les compétences, mais on a quand même un point de vigilance
10:00parce que dans notre outil les compétences sont évaluées par le collaborateur lui-même.
10:06On sait que les femmes pourraient avoir tendance à moins bien s'évaluer que les hommes.
10:12Là c'est work in progress, on est en train de voir si on est en train de mesurer s'il y a un biais ou pas
10:19et si oui on le corrigera.
10:23Ensuite dans le domaine de l'octroi de crédit,
10:26l'Anatixis n'ayant pas de client particulier, on a des clients entreprises,
10:30mais on peut donner un exemple sur la banque de détails.
10:35On a des algorithmes de scoring de crédit et dès qu'il s'agit de décision sur un octroi,
10:43il y a une zone grise d'incertitude dans le modèle pour que ce soit un humain qui gère.
10:49Là je voudrais souligner quelque chose,
10:52c'est qu'il faut qu'il y ait de la mixité dans l'intelligence artificielle,
10:57donc chez les data scientiste,
10:59mais il y a aussi besoin de mixité dans les secteurs qui utilisent l'IA.
11:04Dans tout l'écosystème du cas d'usage, il n'y a pas que des data scientiste,
11:08il y a aussi le métier qui cadre le projet,
11:12qui fournit les données, qui fait les feedbacks,
11:15qui vérifie que le modèle est en adéquation avec son besoin fonctionnel.
11:18C'est important aussi qu'il y ait de la mixité dans les secteurs utilisateurs de l'IA.
11:24On reporte le sujet aussi sur tous les secteurs.
11:27Je sais qu'au SYNC, vous faites un travail secteur par secteur
11:31pour vous attaquer à tous les secteurs qui sont sous-féminisés.
11:37C'est super important.
11:39Absolument.
11:41Merci beaucoup Vanessa.
11:43Alors Christina, on parlait des billets,
11:45vous avez énormément travaillé sur ces billets.
11:47Est-ce que vous pouvez nous parler des solutions pour remédier à ces fameux billets ?
11:52Oui.
11:54Nous avons travaillé beaucoup sur les billets.
11:58On a créé un groupe de travail avec l'Institut Montaigne
12:02et produit un certain nombre de recommandations.
12:05Vous pouvez trouver ce rapport sur le site d'Institut.
12:10Mais les rapports, ils datent un peu.
12:13Avant de parler des solutions, je voulais juste donner un exemple un peu plus récent
12:19de comment les billets peuvent intégrer, par exemple,
12:23les large language models d'LLM dont on parle beaucoup maintenant.
12:28Les modèles comme ça, ils cherchent les données, ça s'appelle les moissonnages,
12:34ils cherchent les données sur Internet
12:37et ils les intégrent, en plus, les algorithmes analysent et exploitent ces données.
12:45Une des grandes sources de ces données, c'est simplement Wikipédia.
12:50Il y a une étude qui a été faite sur Wikipédia pour regarder les qualités des données
12:57sur les hommes et sur les femmes.
12:59Déjà, le premier constat a été fait qu'il y avait beaucoup de femmes qui étaient justement absentes.
13:05Par exemple, les prix Nobel de physique, qui étaient une femme en 2018,
13:11il n'y avait tout simplement pas d'articles sur elle sur Wikipédia.
13:17Quand les données comme ça sont intégrées dans les algorithmes,
13:21évidemment, ils vont produire des billets et un manque de représentativité des femmes.
13:27Mais les articles sur les femmes, les articles existants,
13:31ils étaient beaucoup plus courts que les articles sur les hommes.
13:36Et la plupart de ces articles commençaient par parler un peu de carrière professionnelle de ces femmes,
13:44mais aussi vite ça passait sur leur vie familiale, à qui ils sont mariés,
13:51combien de enfants ils ont et les carrières professionnelles de leur mari.
13:57Donc, si les informations comme ça sont intégrées dans les algorithmes,
14:04évidemment, on va produire des grands billets.
14:08Donc, qu'est-ce qu'on peut faire ?
14:10Évidemment, il y a les solutions techniques.
14:13Ce que je viens de dire, il faut regarder quelles données on donne à ces algorithmes
14:20et qu'il y a une représentativité des données,
14:24que les données sont bien distribuées et qu'elles montrent également la présentation des femmes et des hommes.
14:33Après, évidemment, il faut tester et auditer les algorithmes.
14:37Donc, ça, c'est quelques solutions techniques.
14:41Il y en a plus, mais je pense que le plus important, c'est la solution que j'appelle sociétale.
14:49Et pour ça, il faut intégrer les femmes dans les productions des algorithmes.
14:58Les entreprises qui travaillent sur ça doivent intégrer les femmes dans chaque étape de production des algorithmes
15:07pour qu'il y ait plus de sensibilité,
15:11qu'il y ait une reconnaissance du fait qu'il peut y avoir des billets à chaque niveau de production.
15:20Et deuxième chose, c'est former, former et former,
15:25pour que les citoyens comprennent de quoi il s'agit
15:30et qu'en plus on a une compréhension de ce qu'est un billet,
15:37moins de billets on aura.
15:39La Fondation d'ailleurs, à Béonna, a lancé un MOOC sur l'IA accessible.
15:45Oui, je peux effectivement parler.
15:49Donc, c'est un MOOC qu'on a créé avec des partenaires,
15:54avec Open Classrooms qui est spécialiste de cours en ligne
15:59et également avec l'Institut Montaigne.
16:02C'est un cours qui est accessible à tout le monde.
16:07Pour les citoyens, il n'y a pas de pratique mathématique,
16:11donc c'est assez facile à comprendre.
16:15C'est 4-5 heures et on essaie de faire en sorte que les gens comprennent ce que c'est l'IA.
16:25Parce qu'aujourd'hui, il y a aussi beaucoup de peur.
16:28En fait, c'est la peur et la fascination autour des algorithmes et autour de l'IA
16:34qui va prendre le contrôle de nos vies.
16:36Et je pense que le plus qu'on comprend, le plus facile,
16:41c'est de se dire, moi je peux imaginer faire un métier d'IA ou faire des choses comme ça.
16:50Donc, aujourd'hui, on a 350 000 personnes formées avec ce MOOC et on continue.
16:58Il y a La Poste qui a mentionné votre formation des salariés.
17:05Avec ce MOOC, on a créé 60 partenaires comme La Poste
17:11qui participent dans l'élaboration et la distribution de ce MOOC
17:16à tous leurs employés et à d'autres personnes pour que notre société soit formée aux enjeux.
17:23Merci, Tania. Alors, Vanessa en a beaucoup entendu parler de mentorat.
17:28Vous, vous faites partie d'un programme de mentoring.
17:31Vous mentorez vous-même. Expliquez-nous comment vous êtes mentor et comment vous prenez ce rôle très à cœur.
17:37Alors, effectivement, Natixis a une association qui oeuvre pour la mixité au sein de l'entreprise
17:46qui s'appelle Win, qui a créé un programme de mentorat à destination des collaboratrices.
17:52En général, ce sont des femmes qui ont des souhaits de mobilité interne et qui ont besoin d'être accompagnées.
18:00J'ai de la chance, effectivement, d'être mentor et ça me permet également de faire connaître les métiers d'intelligence artificielle.
18:06Un cas qu'on rencontre assez souvent aussi, c'est la jeune femme qui est bien dans son poste.
18:12Ça fait longtemps qu'elle l'exerce. Elle se dit pourquoi pas changer,
18:17mais elle trouve qu'elle a quand même un bon équilibre vie perso, vie pro et elle a peur que ça change.
18:23Et elle a besoin aussi d'être un peu rassurée là-dessus.
18:26Et là, je trouve que c'est en fait assez important d'avoir un modèle femme,
18:30parce que je pense qu'un homme ne peut pas se mettre à la place d'une femme sur ces sujets,
18:34même si pour les hommes, il y a aussi des hommes pour qui c'est important.
18:37Sur ces sujets et sur tous les sujets, un homme ne peut pas se mettre à la place d'une femme.
18:41Oui, effectivement. Mais il y a besoin d'un rôle modèle femme, effectivement.
18:46Et je peux parler de mon expérience aussi personnelle.
18:50Alors moi, j'étais très bonne en maths à l'école et il se trouve que j'ai un grand-père polytechnicien.
18:55Donc pour moi, la voie était finalement un peu tout tracé.
18:58Donc j'ai été encouragée et on va dire que j'étais privilégiée parce que j'avais un exemple.
19:03J'allais faire une prépa scientifique, une école d'ingénieurs.
19:08Sauf que quand je me suis retrouvée en terminale, je me suis dit OK, il y a l'école d'ingénieurs.
19:14Et moi, les exemples que j'avais dans mon entourage, c'était des ingénieurs dans le BTP ou dans l'aéronautique.
19:21Je ne crois pas me tromper que dans les années 90, le BTP et l'aéronautique, c'était très peu féminisé pour les postes d'ingénieurs.
19:28Et donc là, moment de panique en fait. Je me suis dit qu'est-ce que je vais faire après ?
19:32Et donc finalement, je n'ai pas fait l'école d'ingénieurs.
19:34Manque de rôle modèle, finalement.
19:36Voilà, exactement. Je pense qu'un modèle femme, c'est vraiment très important.
19:41Et à mon avis, il y a une génération pour qui ça va être un peu plus natif.
19:45Là, je vois l'évolution. Il y a des collections de livres pour enfants
19:50qui montrent des petites filles qui ont suivi leurs rêves et qui ont été les pionnières.
19:56Moi, je vois ma fille de 5 ans, elle sait que par exemple,
19:59Ada Lovelace a créé le premier programme informatique sur un ancêtre de l'ordinateur
20:03ou que Billie Jean King a contribué à ce que le tennis féminin soit autant reconnu que le tennis masculin.
20:09Donc, il y a une génération, je pense, pour qui ce sera natif.
20:12Mais en attendant, il y a du travail.
20:14En tout cas, vous avez souhaité vous être mentor pour justement ne pas reproduire
20:19ce que vous-même vous avez vécu.
20:21Et donc, vous accompagnez des jeunes femmes justement
20:24qui souhaitent s'engager dans ces parcours et témoigner de votre expérience.
20:29Voilà. Et je crois qu'on va terminer avec Tania un petit appel
20:34puisque c'est l'occasion aujourd'hui pour réaliser des partenariats.
20:38C'est ça avec votre fondation Abéona pour sensibiliser les jeunes filles justement
20:44et leur mère au métier de l'IA et de la tech.
20:47Allez-y, ce petit appel.
20:49Oui, merci. Je vais reprendre ce que disait Vanessa.
20:54C'est très important au moment où les jeunes filles décident ce qu'elles ont envie de faire.
21:02Et ces décisions, on sait, ça se passe dans les familles.
21:06C'est important que ces jeunes filles peuvent décider qu'elles veulent faire des maths,
21:15qu'elles n'abandonnent pas les maths et qu'elles peuvent se permettre d'aller vers les écoles d'ingénieurs.
21:21Et clairement, il n'y a pas assez.
21:23Quand j'ai commencé, il y avait 12% des femmes dans les écoles d'ingénieurs.
21:28Aujourd'hui, il y a peut-être 20%, mais ce n'est pas suffisant.
21:33Et Laurence Dibéler avait parlé, il faut commencer évidemment avec les plus jeunes âges.
21:39Ça, c'est assez clair.
21:41Mais il faut aussi continuer et accompagner les jeunes filles au moment clé de leur décision d'orientation.
21:49Et c'est là-dessus que la fondation Abéona voudrait continuer sur ces sujets-là
21:58et sensibiliser les jeunes filles et leur famille au fait qu'il y a des métiers d'IA, qu'il y en a beaucoup,
22:07que le monde de l'entreprise va être transformé.
22:11On ne va certainement pas perdre le numéro de job, mais ça va être transformé.
22:20Les personnes qui vont avoir accès à bon poste, c'est ceux qui comprennent les maths et qui comprennent ces technologies.
22:28Les applications sont nombreuses, mais il faut avoir une certaine culture et comprendre comment ces technologies marchent.
22:38Il faut que les jeunes filles se donnent la permission d'y aller et de faire, d'y intégrer.
22:45On ne va pas faire la même chose qu'on a fait à l'époque d'Internet.
22:49Il faut qu'il y ait les femmes qui sont dans ces métiers.
22:53Et pour ça, il faut que les jeunes filles choisissent ces métiers.
22:57Merci beaucoup à toutes les deux pour vos témoignages.
23:01Merci pour l'invitation.
23:15Mesdames et messieurs, je suis absolument ravie d'être avec vous ici aujourd'hui et de retrouver plein de visages connus, des amis,
23:29des personnes avec lesquelles j'ai eu des débats un peu asserrés sur le sujet.
23:34J'ai presque envie de lancer un défi au Think Tank Marie-Claire et en particulier à Gwenaëlle Thébault et Choupard-Renier.
23:43Peut-être que pour la prochaine édition, parce que moi, j'ai eu la chance de vivre avec vous pour de vrai l'une des éditions.
23:50C'était en 2021. On avait réussi à réunir Valérie Pécresse, Anne Hidalgo.
23:56Et je crois qu'il y avait également Madame Zimmermann qui avait fait la loi.
24:02Et ça avait été une session extraordinaire.
24:04Et depuis, je vous suis régulièrement et je vois la qualité du travail que vous faites.
24:08Je pense que si nous nous donnons le défi l'année prochaine, en tout cas, c'est celui que nous nous sommes donné à Femmes numériques pour nos assises annuelles.
24:16Si dans les salles, nous réussissons à réunir en plus des personnes qui sont naturellement intéressées par le sujet,
24:24des femmes et des hommes qui n'y comprennent rien et qui ne voient pas où est le problème.
24:29Peut-être, peut-être qu'on fera un pas encore plus en avant.
24:33Bien. Pour commencer, je vais vous poser une question et je vais vous demander de me répondre simplement en levant la main.
24:47Qui parmi vous ici connaît Myra Murati?
24:51Levez la main.
24:58Ah, OK.
25:00Qui connaît Sam Altman?
25:04OK.
25:06Très intéressant.
25:08Pour ceux qui ne voient pas ce qui se passe dans le fond, il y a peut-être dix mains qui se sont levées pour Myra Murati et puis à peu près toute la salle pour Sam Altman.
25:1880% d'entre vous connaissez Sam Altman, mais à peine quelques mains se sont levées pour Myra.
25:26Pourtant, figurez-vous que Myra Murati est l'une des femmes les plus influentes dans le domaine de l'intelligence artificielle contemporaine.
25:34Elle a travaillé dans la même entreprise que Sam Altman.
25:39Et elle a quitté OpenAI.
25:44Elle était Chief Technology Officer.
25:48Donc, c'est la directrice informatique d'OpenAI, celle qui a été au cœur de tous les combats et de tous les sujets que vous avez pu voir ces dernières années sur l'intelligence artificielle.
26:01Et elle continue aujourd'hui de façonner l'avenir technologique, puisqu'elle crée sa propre entreprise pour travailler sur une IA éthique.
26:10Donc, une femme qui a travaillé sur ChatGPT et qui vous dit qu'il faut amener de l'éthique dans l'IA, ça nous en dit long.
26:19Pourtant, je ne suis pas très étonnée que vous ne la connaissiez pas, parce que si on devait regarder ou compter le nombre d'articles ou de documentaires ou d'analyses qui ont été faites sur Myra versus Sam,
26:33je suis prête à parier qu'elles, 30% et lui, 70%.
26:40Je crois que ça ne surprend personne ici.
26:42Et si je vous donne cet exemple, c'est pour souligner le fait qu'il y a de très nombreuses femmes expertes en IA.
26:49Je pense notamment à Laurence De Villers, que j'ai vue tout à l'heure et qui est intervenue ici ce matin, je crois.
26:57Je pense aussi à Juliette Mattioli, je pense à Séverine Marquet, pour ne parler que de celles qui sont en France, et encore la liste est tronquée, évidemment.
27:06Alors oui, il nous faut incontestablement, incontestablement, travailler sur la nécessité du plus grand nombre de femmes dans l'IA.
27:18Mais ce serait peut-être pas mal qu'on commence par mettre en lumière celles qui existent.
27:23Ce serait pas mal de les prendre comme rôle modèle, parce que figurez-vous que ces femmes peuvent être mariées, avoir plein d'enfants, vivre dans la campagne, vivre dans les quartiers populaires.
27:35Il n'en est pas moins qu'elles travaillent, qu'elles agissent, qu'elles créent, qu'elles innovent et qu'elles inventent.
27:40Mais ces femmes-là, on n'en parle pas beaucoup.
27:43Et je suis pourtant intimement convaincue que nous susciterions davantage de vocations, aussi bien auprès des jeunes filles qu'auprès des femmes, un peu moins jeunes, même seniors,
27:56qui se reconvertissent, qui ont envie de tenter de nouvelles aventures, en utilisant des outils qui peuvent être absolument puissants entre nos mains, quand on sait correctement les utiliser.
28:07Et c'est aussi pour ça que je veux remercier le think tank Marie-Claire, parce que je sais depuis longtemps que vous continuez à porter ces combats, à mettre la lumière sur ces femmes, toutes les femmes.
28:19Et je crois que la question des rôles modèles et de la représentation est importante, quoi qu'on en dise aujourd'hui.
28:26Alors pourquoi je vous en parle de cette manière ? Parce que le problème de manque de femmes dans l'IA est exactement le même que celui du manque de femmes dans les sciences, dans les technologies, dans les mathématiques, dans l'ingénierie.
28:38C'est exactement le même problème que le manque de femmes dans les postes à responsabilité, que le manque de femmes dans l'aéronautique, dans le bâtiment ou dans l'automobile.
28:47Et en vérité, si j'avais une baguette magique, la première chose que je ferais, c'est briser ces biais, ces préjugés et ces stéréotypes qui nous font penser que certains métiers sont faits pour les femmes et d'autres pas.
29:00Ou qui nous font penser que les femmes ne peuvent pas innover technologiquement ou alors que ça doit rester un domaine gardé pour les hommes.
29:11Et parfois même, souvenez-vous des polémiques qui avaient eu lieu à la suite d'un article qui avait été publié par un collaborateur de Google, que nous ayons une intelligence qui ne nous permette pas d'aller y arriver jusqu'à ce niveau-là.
29:25J'ai travaillé pendant 20 ans dans la tech et pendant au moins une décennie, j'ai cru que le père de l'informatique, c'était Alan Turing.
29:36Et un jour, j'ai découvert Ada Lovelace dans une conférence comme celle-ci.
29:42J'ai découvert qu'un siècle avant Alan Turing, Ada Lovelace avait déjà ouvert la voie, c'était au 19e siècle, en concevant des algorithmes pour la machine analytique de Babbage, pour qui elle était stagiaire, et en posant ainsi les bases de la programmation.
30:03Et pourtant, son nom est pendant très longtemps resté dans les bas de page des livres d'histoire.
30:08Et j'imagine évidemment que certains et certaines d'entre vous ici connaissaient l'histoire de Katherine Johnson.
30:15Son histoire a été mise en lumière dans le film, il y a un peu moins de cinq ans, je crois, Les figures de l'ombre.
30:23Et je vous parle aussi d'elle parce que tout le monde reconnaît que cette femme avait une intelligence supérieure en mathématiques, qu'elle était même surdouée, et que sans elle, peut-être que la navette Apollo n'aurait pas atterri dans l'espace.
30:39Et pourtant, pendant très très très longtemps, elle a été totalement ignorée.
30:45Et je crois que ces femmes dont je viens de vous parler, je pourrais vous mentionner aussi Irene Joliot-Curie, qui est une pionnière de la physique nucléaire.
30:56Alors, la pauvre, elle a été totalement éclipsée par ses parents célèbres, mais pas que.
31:01Combien d'entre vous avait entendu parler de son histoire, de ses combats, et de ce qu'elle a pu réaliser ? Très peu.
31:07Alors, imaginez que cette intelligence artificielle soit une immense bibliothèque qui contiendrait toutes les connaissances de l'humanité, et puis que chaque livre représente une voix, une vision, une perspective.
31:22Mais dans cette bibliothèque, la moitié des ouvrages, tous les ouvrages écrits par des femmes, manqueraient dans les rayons.
31:31Ce qu'on appelle l'intelligence artificielle n'est plus alors qu'une collection totalement incomplète, construite sur une version partielle de l'histoire de l'humanité.
31:41Mais c'est exactement ce dont il s'agit aujourd'hui, parce que l'intelligence artificielle a totalement bouleversé nos vies, et elle va continuer de le faire de manière exponentielle.
31:52Du moment où on se lève le matin, jusqu'au moment où on se rend à l'école ou au travail, au moment où on s'informe, où on veut être dans les loisirs, il n'y a pas un moment où, consciemment ou inconsciemment, on ne touche pas à l'intelligence artificielle.
32:08Et sans les voix féminines, il manque dans cette intelligence artificielle des nuances, des histoires, des sensibilités.
32:16Encore une fois, je veux reprendre cette image de la bibliothèque, parce que j'espère qu'elle vous parle à tous.
32:20En fait, l'IA ne peut offrir qu'un récit biaisé s'il manque la moitié des livres.
32:25Et c'est ça qui reproduit finalement tous les préjugés, et qui aujourd'hui nous amène à une situation où, plutôt que de considérer cet outil comme un magnifique moyen de grandir, de progresser, de s'élever,
32:38beaucoup de gens en ont peur, et la plupart des conférences auxquelles je suis invitée, c'est pour parler d'éthique, de morale, de protection, où les gens se posent des questions de ce que nous allons devenir si cet outil dépasse notre humanité.
32:50Alors je vais vous partager une conviction fondamentale.
32:54Pour moi, l'intelligence artificielle n'existe pas, en tout cas le concept en tant que tel.
33:00Ce qu'on appelle l'intelligence dans les machines n'a ni conscience ni compréhension.
33:07Les machines dépendent des humains, des femmes et des hommes qui les construisent.
33:14C'est leur vision que ces machines transmettent.
33:17Ce sont leurs valeurs, leurs sens.
33:20Et s'il vous venait à l'idée de débrancher un supercalculateur, jusqu'à nouvel ordre, il n'a pas encore la capacité de se rebrancher à l'électricité tout seul pour pouvoir fonctionner.
33:31Et je crois que derrière chaque modèle d'IA, derrière chaque ligne de code, il y a des choix humains.
33:38Et si ce miroir de l'intelligence humaine ne reflète pas 50% de l'humanité, nous les femmes, alors il est totalement incomplet, totalement biaisé et extrêmement dangereux.
33:50Comme vous toutes et vous tous ici, je suis convaincue que nous avons besoin de perspectives, que nous avons besoin d'empathie.
33:56N'en déplaise à ceux qui me diront que je suis trop idéaliste.
34:02Si c'est être idéaliste que de demander un peu d'humanité dans la manière dont on considère le fonctionnement du monde aujourd'hui, alors je suis définitivement extrêmement idéaliste.
34:13Et une IA, encore une fois, sans la voix des femmes, est un miroir déformant de notre société qui reproduit tous les biais que nous autres êtres humains nous portons,
34:26qui aggrave les inégalités, alors que cet outil, encore une fois, peut apporter des solutions à tous ces préjugés, tous ces biais auxquels nous sommes collectivement confrontés.
34:38Et évidemment, tout cela crée un monde totalement déséquilibré.
34:42Et je suis là aussi convaincue que le monde se meurt de ce déséquilibre et ça provoque un manque d'harmonie, criant, que tout le monde voit mais dont on ne veut pas parler, parce que là aussi c'est trop tarte à la crème.
34:56Et ce déséquilibre, on le retrouve évidemment dans les technologies, dans l'IA, mais pas seulement, on le retrouve aussi dans les tables de décision les plus importantes.
35:07Ou encore, aujourd'hui, 50% des sièges restent vides de femmes.
35:12Et si nous construisons une IA déséquilibrée, ne soyons pas surpris que le monde continue d'être encore plus déséquilibré et qu'il mette à mal notre intelligence humaine.
35:23Ce déséquilibre a évidemment des conséquences concrètes.
35:27Je vais commencer par les systèmes de reconnaissance vocaux qui peinent à comprendre, par exemple, les voix féminines, ou comprendre d'autres accents, ou ne pas prendre en considération certains handicaps.
35:38Des algorithmes de recrutement qui sont totalement biaisés.
35:42Et là aussi, je ne vais pas vous citer des exemples, mais vous vous souvenez de tous ces algorithmes qui envoyaient toutes les annonces d'emploi de secrétaires ou d'hôtesse à des femmes.
35:51Et les métiers un peu plus importants étaient envoyés à des hommes.
35:55Je pense aussi aux applications de santé.
35:58Un homme aura beau être bienveillant et être attentif et être l'un des alliés les plus puissants de la cause des femmes, mais un homme ne vivra pas certaines situations que les femmes vivront.
36:10Il ne les vivra pas.
36:11Et par conséquent, il n'aura pas la possibilité d'y apporter les solutions que nous pourrions y apporter.
36:16Alors comment inviter plus de femmes à la table de l'IA ?
36:21On m'a demandé de répondre à cette question.
36:22Et je vous avoue que je me suis dit, mais mon Dieu, mais qu'est-ce que je peux faire pour être un peu originale et ne pas vous dire des choses que vous avez déjà entendues en long, en large et en travers ?
36:31Parce que si vous êtes ici, c'est que vous savez que ce sujet est important.
36:34Et en fait, je me suis dit que je n'allais pas réinventer l'eau chaude parce qu'en vérité, les sujets, même s'ils ne sont pas innovants, aujourd'hui, on est encore dans l'intention.
36:45Et si vous vous réunissez encore aujourd'hui ici pour en parler, c'est parce que les idées sont là, mais que la mise en pratique est extrêmement difficile.
36:52Donc je vais vous dire probablement des choses que vous savez déjà, mais en y mettant un peu aussi de l'expérience que j'ai, pas seulement lorsque j'ai piloté ces questions au gouvernement,
37:03mais parce qu'encore une fois, les 20 années que j'ai passées dans les grands groupes technologiques, alors pas dans l'IA, moi j'étais surtout sur la partie hardware,
37:11et bien je me rends compte que ce qui était vrai il y a 20 ans est encore vrai aujourd'hui.
37:16Et que c'est même pire dans la mesure où nous régressons, nous avons de moins en moins de jeunes femmes qui s'intéressent à ces questions-là.
37:23Et pourquoi je dis que c'est pire ? Parce que certains pays qui étaient beaucoup moins avancés que nous il y a 10 ou 15 ans, aujourd'hui avancent beaucoup plus rapidement que nous.
37:34Je pense à la Tunisie, je pense à l'Arménie, je pense à Singapour.
37:38Et donc ça veut dire qu'il y a quelque chose quand même, nous sommes, nous Français, extrêmement intelligents, nous sommes très très forts dans la théorisation des choses,
37:48mais parfois la mise en pratique est compliquée et c'est pour ça qu'on est là ce matin.
37:53Alors la sensibilisation dès le plus jeune âge, c'est un des sujets dont Femates numériques s'est emparée,
37:59parce qu'il n'y a pas de femmes dans les hautes responsabilités de l'IA parce qu'il y a moins de jeunes filles qui s'y intéressent à l'entrée.
38:07C'est une question de flux, s'il y a moins de jeunes filles qui étudient dans ce secteur, nous n'en aurons pas plus à la sortie, c'est mathématique.
38:14Et si on leur montre que finalement cette IA, elle n'est pas réservée à un cercle, un petit cercle d'initiés,
38:22si on fait des ateliers de découverte de l'IA pour qu'elle comprenne véritablement ce dont on parle, pour sortir encore une fois de la théorie, pour pratiquer, mettre en œuvre,
38:34et bien peut-être que les choses changeront.
38:36Une collègue avec qui je discutais de ces sujets qui était à Singapour, je lui disais « mais comment vous avez réussi en si peu de temps à exploser le score des jeunes femmes qui travaillent aujourd'hui dans le STEM ? »
38:47Elle me dit simplement « dès les classes de CP, on a appris aux jeunes filles et aux jeunes hommes à faire des robots, à coder,
38:54ce qui fait que quand elles arrivent à l'âge de 15 ans, elles ne se posent aucune question quant à leur capacité de le faire,
38:59et les garçons ne se posent aucune question à la capacité des filles de le faire parce qu'ils les auront vues pratiquer. »
39:05La deuxième chose, je crois qui est importante, c'est expliquer les métiers qui existent derrière l'IA.
39:11Alors peut-être que vous, vous êtes des experts et des expertes sur le sujet, mais est-ce que nous savons tous la liste des métiers que l'on peut faire avec l'IA ?
39:20Peut-être que si on expliquait aux jeunes filles qu'avec l'IA, on peut éduquer, on peut protéger du harcèlement par exemple,
39:27on peut connecter des personnes qui n'auraient jamais eu la chance de pouvoir se connecter.
39:33Si on expliquait à toutes ces jeunes filles que l'IA ouvre des perspectives, qu'on peut l'utiliser dans l'art, qu'on peut l'utiliser dans l'architecture,
39:41et bien si on expliquait à ces jeunes filles que les métiers de l'avenir sont essentiellement tournés vers ces thèmes,
39:49et bien peut-être qu'elles réaliseraient qu'il est temps pour elles de s'en emparer et que leur avenir professionnel repose aussi là-dessus.
39:56La troisième chose, c'est valoriser évidemment les modèles féminins.
39:59Ça a été extrêmement bien dit tout à l'heure, et je ne vais pas y revenir, mais tout dans la vie s'apprend.
40:06Tout dans la vie s'apprend.
40:08Vous connaissez peut-être cette règle des senteurs qui dit que si vous passez 18 minutes par jour sur un sujet qui vous passionne,
40:14je crois qu'au bout de cinq ans, vous devenez l'une des personnes les plus intelligentes sur ce sujet.
40:1818 minutes.
40:19Il m'arrive de rester une demi-heure à scroller sur LinkedIn ou Instagram.
40:25Je me suis donné comme objectif de passer 18 minutes par jour sur un sujet qui me passionne.
40:2918 minutes par jour sur l'IA pour comprendre ce que c'est, ce que ça fait, comment on peut l'utiliser,
40:34peut définitivement changer la manière dont on voit cet outil.
40:38Évidemment, changer les pratiques de recrutement.
40:40Je crois qu'il y a beaucoup de personnes ici qui travaillent dans les ressources humaines.
40:44Moi, quand on me dit aujourd'hui, vous savez, Madame Moreno, c'est terrible, on a été obligé de fermer parce qu'on n'a pas trouvé de talent.
40:54Je dis mais non, je ne crois pas du tout qu'il y ait une pénurie de talent.
40:59En revanche, je suis convaincue qu'il y a une pénurie d'innovation, d'audace et d'inclusivité dans le recrutement.
41:08Et que si nous arrivons à ouvrir notre regard et à nous dire qu'il n'y a pas que les grandes écoles,
41:14l'EDEX c'est génial, l'ESSEC c'est génial, l'HEC c'est génial, mais il y a de grandes écoles en province,
41:20il y a des écoles sur les territoires ultramarins, partout on peut trouver du talent.
41:25Pour peu qu'on change un peu notre regard et qu'on ose aller parler à des personnes qu'on n'a pas l'habitude de parler.
41:32Soutenir l'entrepreneuriat féminin dans l'IA.
41:36Vous le savez, Sista nous le dit depuis des lustres, il n'y a que 2% des fonds d'investissement
41:42qui sont tournés vers l'entrepreneuriat des femmes, vers les start-up des femmes, 2%.
41:47La bonne nouvelle c'est que 98% ça laisse un vaste champ de possibilités.
41:52Et on se rend compte qu'aujourd'hui on ne pose pas les mêmes questions.
41:57Je dirige aujourd'hui un fonds, enfin je dirige pas, c'est pas vrai.
42:01Je suis présidente du conseil d'administration d'un fonds à impact social et environnemental.
42:05Et figurez-vous que je me suis rendu compte qu'on ne pose pas les mêmes questions aux femmes qu'on pose aux hommes.
42:11Mais au début j'y croyais pas.
42:14Alors j'ai mis un certain temps et j'ai pris des notes.
42:17Et un jour j'ai dit à l'un de mes collègues, tu viens de lui demander comment elle allait pouvoir gérer sa vie personnelle et sa vie professionnelle.
42:26On a vu 5 personnes ce matin, il y avait 3 hommes et 2 femmes.
42:31Je ne t'ai pas entendu poser cette question aux hommes.
42:34Et il m'a regardé et il m'a dit, j'avais pas réalisé.
42:39Alors oui, nous avons tous des biais et des préjugés.
42:46Et la première manière de pouvoir travailler dessus, c'est d'en avoir conscience.
42:50Retenir les femmes dans la tech.
42:54Retenir les femmes dans la tech.
42:57Déjà il n'y en a pas beaucoup qui y entrent, mais celles qui y entrent repartent parce qu'elles n'y trouvent pas leur place,
43:03parce que c'est trop compliqué, parce que mille et une raisons.
43:06Je sais que Catherine Ladousse vous en a parlé tout à l'heure.
43:09Elle a fait avec le HEC un travail extraordinaire sur ce sujet.
43:13Catherine et moi, on a eu la chance de travailler dans une entreprise technologique qui ne manquait pas à la règle,
43:18bien qu'elle ait œuvré ardemment pour qu'il y ait plus de femmes.
43:23Il y avait évidemment dans les postes de direction beaucoup plus d'hommes que de femmes.
43:29Je ne sais pas, Catherine, si tu me permets de raconter cette anecdote, mais je vais quand même la raconter.
43:34Non. J'ai été PDG de Lenovo en France.
43:40Et je le dis, c'est en grande partie grâce à Catherine, parce qu'elle m'a aidée à prendre conscience de choses que j'ignorais.
43:48Ça s'est super bien passé.
43:50Pourtant, je n'ai fait que des études de droit, parce que je voulais défendre la veuve et l'orphelin.
43:55Finalement, j'ai été PDG de Lenovo, j'ai dirigé les grands comptes stratégiques pour Dell,
43:59j'ai été vice-présidente de Hewlett-Packard pour tout un continent de 54 pays.
44:05Mais comme nous tous et nous toutes, j'ai aussi, vous savez, cette petite voix qui vous dit
44:11« Oh là là, syndrome de l'imposteur, ils vont finir par se rendre compte que tu n'as fait que des études de droit
44:15et que normalement tu ne devrais pas être là où tu es ».
44:18Alors j'ai beaucoup travaillé et ça a pas mal marché jusqu'à ce que je devienne PDG de Lenovo.
44:22Et comme on n'était pas beaucoup de femmes, encore moins de femmes noires,
44:28les médias se sont beaucoup intéressés à moi.
44:31Figurez-vous que le jour où je suis partie,
44:39on a reproché à Catherine de m'avoir trop mise en lumière.
44:45Personne ne s'est dit que c'était parce que j'étais juste talentueuse et qu'on me proposait des opportunités.
44:52Non, c'est juste parce qu'on a trop mis la lumière sur moi.
44:56C'est hyper vexant.
44:58Et je l'ai dit à la personne.
45:02Sans lui, il n'y a que...
45:06Bref, il y a prescription.
45:11La rétention des femmes dans la tech est absolument essentielle, capitale et fondamentale
45:17parce qu'elles sont bien peu nombreuses aujourd'hui.
45:19Et ça ne demande pas des efforts colossaux.
45:23Être inclusive, ça ne demande pas une tonne d'argent.
45:27Ça demande juste un peu de considération, un peu d'intelligence dans le management de nos ressources
45:33et de nous rendre compte que c'est toujours plus difficile pour une femme
45:36qui se retrouve dans une réunion où il y a dix hommes et où elle est la seule femme.
45:40Déjà, elle a du mal à lever la main pour dire « j'ai quelque chose d'intelligent à dire ».
45:44Mais dès qu'elle commence à parler, l'homme va lui prendre la parole et lui dire « mais oui, c'est exactement ce que je voulais dire ».
45:50Et tout le monde trouve ça normal et extraordinairement brillant
45:53alors que la femme voulait dire exactement la même chose.
45:56Ce ne sont pas des exemples inventés.
46:03Ce sont des exemples vécus.
46:07Alors si on ne commence pas à régler ces problèmes-là à cette base, finalement, on n'y arrivera pas.
46:12Et c'est en prenant des actions concrètes qui sont menées de manière concertée
46:18parce que vous comprenez bien que le problème est tellement vaste, tellement immense,
46:23que l'État seul n'y arrivera pas.
46:26Je sais que Salim Assa vous a parlé d'un rapport qui va sortir, un énième rapport,
46:35pour nous dire des choses que nous savons déjà.
46:39Et je salue le fait qu'elle se saisisse de cette question.
46:44Je l'ai rencontrée avec notre déléguée générale Peggy Vicomte
46:47et elle nous a dit combien elle est engagée sur ce sujet, comme Clara Chapaz.
46:52Mais pourquoi est-ce qu'il faut encore qu'on fasse un rapport pour dire ce que nous savons déjà ?
46:59On n'a qu'à mettre les personnes qui vont travailler sur le rapport dans les écoles,
47:04dans les entreprises, avec les associations,
47:07et avancer sur ce que nous savons que nous devons faire.
47:12Mesdames et Messieurs, en conclusion, je voudrais vous dire que
47:18l'intelligence artificielle, pour devenir véritablement intelligente, a besoin des femmes.
47:26Ça vous le savez, n'est-ce pas ?
47:29Non, je ne dis pas ça. Non, non, non, non.
47:33On ne va pas reproduire ce que nous vivons aujourd'hui.
47:36Ce n'est pas les femmes contre les hommes, c'est un travail collectif
47:41qui rassemble les politiques publiques, qui rassemble les entreprises,
47:45qui rassemble les associations, les citoyens,
47:48parce que si à l'école on dit à une jeune fille qu'elle peut aller vers l'IA,
47:52qu'elle peut aller dans la cybersécurité,
47:54et que ses parents lui disent, mes jeunes filles, ce n'est pas un métier pour toi,
47:58on n'y arrivera pas.
47:59Donc on a besoin de toute la société pour avancer sur ce sujet-là.
48:03Et c'est pour ça que je crois qu'il faut sortir des bonnes intentions,
48:08parce que les intentions sont là, et aller dans l'action.
48:12Et ce n'est pas, je vous assure, ce n'est pas une question de parité superficielle.
48:18C'est un impératif éthique, c'est une nécessité pour construire un avenir équilibré,
48:23et nous devons toutes et tous veiller à ce que cette belle table ronde de l'IA
48:28devienne un espace ouvert où chaque voix puisse compter,
48:31où chaque histoire est entendue,
48:33et où la technologie devient réellement, réellement un outil au service de l'humain.
48:38Alors faisons en sorte que cette invitation soit entendue par le plus grand nombre,
48:43qu'elle soit claire, qu'elle soit inspirante, qu'elle ne fasse pas peur.
48:47Le fait que les femmes s'émancipent et cherchent à prendre leur place
48:50ne devrait pas faire peur aux hommes.
48:52Et les masculinistes devraient comprendre que si les femmes vont bien dans la société,
48:56c'est tout un pays qui va mieux.
48:58Et c'est ensemble que nous pourrons faire de cette technologie puissante
49:01quelque chose qui nous serve pour le meilleur et pas pour le pire.
49:07Qu'on puisse en faire un outil qui ne va pas susurrer à l'oreille d'un jeune adolescent
49:12que oui, il devrait peut-être ôter, sauter la vie.
49:17Et ça, ça demande un travail d'humanité extrêmement puissant.
49:21« Science sans conscience, disait Rabelais, n'est que ruine de l'âme. »
49:24Eh bien, je crois que cette citation est absolument intemporelle
49:27et qu'elle nous rappelle notre responsabilité intellectuelle, oui,
49:34mais surtout individuelle et collective pour considérer que l'IA,
49:40comme tous les outils technologiques, est un outil de progrès extraordinaire,
49:45pour peu qu'elle n'oublie personne sur le bas-côté
49:47et qu'elle doit donc être guidée par des principes éthiques
49:50pour servir l'humanité et non la servir.
49:53Je vous remercie.