L’AI Act, qui entrera complètement en vigueur le 2 août 2026, impacte fortement les entreprises européennes, considérées comme des déployeurs de systèmes d’intelligence artificielle. Pour celles qui ne respectent pas les règles, les sanctions financières peuvent être particulièrement lourdes.
Catégorie
🗞
NewsTranscription
00:00Générique
00:00...
00:00Et on termine notre émission avec Fenêtre sur l'emploi pour parler de l'IA,
00:15l'intelligence artificielle générative et en particulier de l'IA Act,
00:19qui est le document qui cadre en quelque sorte la vie des entreprises, document européen.
00:24On en parle avec une spécialiste, Julia Gori.
00:26Bonjour Julia.
00:27Bonjour.
00:27Ravi de vous accueillir. Vous êtes avocate spécialiste du droit social, entre autres,
00:31et spécialiste de ce sujet de l'IA Act. Vous avez fait beaucoup de webinaires au cabinet Simons & Simons.
00:37Je l'ai bien dit ou mal dit ?
00:38Vous l'avez bien dit, bravo.
00:39Sauvé. Un mot sur l'IA Act, qui est en fait le règlement européen sur l'intelligence artificielle.
00:45On reçoit beaucoup de DRH ici et très honnêtement, très peu nous en parlent.
00:49Pour l'instant, ce n'est pas encore tout à fait rentré dans le cerveau des DRH, ce cadre ?
00:54Non, effectivement. Et en fait, beaucoup de gens en parlent, mais peu de gens savent de quoi ils parlent, je dirais.
01:00En fait, ce règlement européen, il est entré en vigueur en août l'année dernière et il a différentes dates d'application selon les systèmes d'IA dont on parle.
01:09Il classifie les systèmes d'IA par niveau de risque et les déployeurs, c'est-à-dire en fait les utilisateurs, ont eux aussi des obligations.
01:18C'est déployeur, nouveau mot de vocabulaire.
01:20Déployeur, effectivement. Alors c'est sûrement une mauvaise traduction.
01:23C'est le déploiement en fait, c'est le qui déploie.
01:25En fait, c'est l'utilisation, puisque vous avez le fournisseur, celui qui conçoit le système d'IA, qui lui est soumis à beaucoup d'obligations.
01:31Mais vous avez aussi le déployeur, c'est-à-dire potentiellement toute entreprise, qui utilise ces systèmes, qui va également être soumise à de lourdes obligations.
01:39Mais vous êtes avocate et donc il faut que le RH et ses équipes, évidemment, ainsi que les DSI, puisqu'ils travaillent, j'imagine, la main dans la main,
01:48leur donnent quoi ? Un cahier des charges précis de ce qui est autorisé, ce qui ne l'est pas ?
01:53En fait, je pense qu'il faut prendre les choses dans l'autre sens. C'est-à-dire qu'il faut d'abord savoir de quoi on parle.
01:58Et je ne suis pas certaine qu'aujourd'hui, tout DRH sache précisément quels systèmes d'IA sont utilisés pour le recrutement, pour la gestion du personnel, etc.
02:08Donc il faut d'abord faire une sorte d'audit interne.
02:10Alors, dans les éléments à utiliser, il y a les systèmes d'IA qui sont prohibés et il y a les systèmes d'IA à haut risque.
02:19Commençons par ceux qui sont à haut risque. L'IA acte les interdit ou pas ? C'est juste une mise en garde.
02:24Attention, c'est risqué. Alors, je vois sur les recrutements et sélections, c'est tout ce qui est publicité des postes vacants, par exemple.
02:31Ils peuvent l'utiliser ou pas, ça ?
02:33Oui, ils peuvent l'utiliser. Le haut risque, c'est autorisé, mais c'est encadré.
02:38Donc, pour ce qui est des ressources humaines, la gestion des ressources humaines, vous avez deux catégories de systèmes d'IA
02:43qui sont considérés par le règlement européen comme à haut risque.
02:45Vous avez ceux qui sont utilisés, comme vous le disiez, pour le recrutement.
02:49Donc, c'est la sélection de CV, c'est même parfois faire des entretiens par des systèmes d'IA.
02:56Le classement éventuellement aussi de candidatures.
02:58Les pré-qualifs et les sélections.
03:00Exactement. Et vous avez l'autre aspect qui est pour la prise de décision au cours de la relation de travail.
03:05Donc, ça peut être la promotion, ça peut être la rupture du contrat, mais aussi juste l'attribution des tâches entre les différents salariés.
03:12Donc, ce sont ces deux systèmes d'IA qui traitent des ressources humaines, qui sont considérés par le règlement comme à haut risque et qui sont donc encadrés.
03:20Il est évoqué l'idée qu'il y ait une supervision humaine.
03:23Et je vous pose la question, vous, l'avocate, qui va expertiser ce sujet.
03:28Les DRH viennent des sciences molles.
03:30Comment voulez-vous qu'ils aient la moindre connaissance de ce qui se passe dans l'algorithme ?
03:33Ça reste très compliqué pour eux.
03:34Ça reste très compliqué, mais c'est pour ça que l'équipe un peu multidisciplinaire va être cruciale.
03:42Donc, effectivement, le responsable des services d'information, également aussi le responsable traitement des données personnelles,
03:48puisque qui dit traitement par un système d'intelligence artificielle dit forcément traitement de données personnelles.
03:53Donc, il va falloir mettre en place une équipe pluridisciplinaire.
03:56Et surtout, en fait, il ne faut pas trop, je pense, être inhibé et se dire, mon Dieu, je n'y connais rien à la technique, donc je n'ai pas mon mot à dire.
04:03Parce que, au contraire, ce que vous dit le règlement, c'est qu'il y a une supervision humaine qui est essentielle.
04:10Et il faut pouvoir vérifier, mais avec son cerveau humain, que le système est bien utilisé comme il est censé l'être.
04:17Avant de nous quitter, Julia, il y a quand même dans le système, dans ce IA Act, des systèmes d'IA prohibés.
04:22Quels sont ceux sur lesquels l'IA Act dit que c'est interdit ?
04:25Et par ailleurs, qui vérifiera qu'on ne l'utilise pas, d'ailleurs ? C'est un autre sujet.
04:28Alors là, pour vérifier, je pense qu'il va falloir s'attendre à des contrôles à terme de l'administration, qui va vous demander éventuellement de rendre des comptes.
04:36Mais ceux qui sont prohibés en droit du travail, ça va être ceux qui interprètent les données, les signes physiques, on va dire, du salarié pour interpréter leurs émotions.
04:48Les émotions, oui.
04:48Exactement. Donc, si vous êtes très frustré, que ça se sent dans votre voix et qu'on sent que vous êtes en colère contre un client que vous avez au téléphone, ça, c'est interdit.
04:56Parce qu'en fait, on est en train d'utiliser votre voix pour interpréter vos émotions. Donc ça, c'est clair, c'est interdit.
05:04Après, par contre, vous aurez, et c'est là que ça va être intéressant, peut-être pour l'avocate en droit du travail que je suis, c'est ceux qui sont à la frontière.
05:10C'est-à-dire que, est-ce que, par exemple, déceler le stress de votre salarié, c'est une émotion ? Alors, en fait, oui, c'est une émotion.
05:15Mais est-ce que je l'aide ou est-ce que je n'aide pas ?
05:17Exactement. Qu'est-ce que je fais ? Est-ce que je suis dans mon rôle de prévention des risques ?
05:22Ou est-ce que, en fait, je n'ai juste pas le droit d'utiliser ce système ? Et a priori, la réponse est, vous n'avez pas le droit d'utiliser ce système.
05:28Il nous reste une poignée de secondes, il y a la notion de lieu de travail aussi ?
05:31Tout à fait.
05:31Ça, c'est très intéressant.
05:33Ah bah, surtout que c'est une définition extrêmement large.
05:35Parce qu'on pourrait se dire, le lieu de travail, c'est quand vous êtes salarié et c'est tout.
05:38Non, en fait, c'est quand vous êtes avant d'être en salarié, mais ça peut être aussi quand vous êtes bénévole, quand vous êtes stagiaire, quand vous êtes consultant indépendant.
05:45C'est tous les gens, en fait, qui interagissent et qui interviennent dans la vie d'une entreprise.
05:49C'est passionnant, c'est le début de quelque chose, parce que les RH vont se pencher aussi sur le sujet.
05:54Ils vont embarquer, évidemment, toutes les équipes dans l'entreprise, parce qu'il faut quand même s'y pencher.
05:58Et il faut s'y pencher, puisque la date à retenir, c'est août 2026.
06:02Donc, pour les systèmes à haut risque, et ça, ça paraît loin, mais en fait, c'est demain.
06:06Donc, il faut vraiment se mettre maintenant au travail.
06:08– Merci, Julia Gori, pour cet éclairage passionnant, avocate spécialiste chez Simon & Simons sur cet IAC.
06:14Merci à vous, merci à toute l'équipe, merci pour votre fidélité, merci à Héloïse au son,
06:19merci à Andrel à la réalisation et merci, évidemment, à Nicolas Juchard, l'incontournable.
06:22Je vous dis à très bientôt. Bye bye.
06:24– Sous-titrage ST' 501