IA : quel impact sur la brand safety et la lutte contre la fraude ?
D'après NewsGuard, 3,6 millions d'articles ont été produits par un réseau de sites internet aux contenus générés par l'IA, et dont la particularité est d'intoxiquer les modèles de langage afin qu'ils régurgitent des contenus orientés, ou même de la désinformation. Nommée "LLM Laundering", la pratique, évoquée sur Minted le 12 mars dernier, et plus généralement la recrudescence des contenus générés par l'IA posent de nouveaux défis en matière de brand safety et de lutte contre la fraude. En parallèle, une enquête menée par Libération et le site Next a identifié plus d'un millier de sites d'actualité francophones plagiant ou inventant des contenus pour détourner les revenus publicitaires des éditeurs légitimes.
"L'IA permet de démultiplier le nombre de sites "MFA", pour Made for Advertising, qui sont des coquilles vides qui pullulent sur les thématiques comme le sport ou l'actualité people, et dont le seul but est d'afficher un maximum de publicités", explique Clément Bascoulergue, qui rappelle qu'IAS a également mis à jour récemment une nouvelle type de fraude : "L'IAS Threat Lab a identifié début mars une fraude d'ampleur massive que nous avons nommée Vapor Threat, car il s'agit de fausses applications Android, des écrans de fumée sans contenu, mais qui ont pour but d'afficher un interstitiel payé par les annonceurs en pure perte. On parle de 56 millions de téléchargements et de 200 millions d'impressions publicitaires..."
D'après NewsGuard, 3,6 millions d'articles ont été produits par un réseau de sites internet aux contenus générés par l'IA, et dont la particularité est d'intoxiquer les modèles de langage afin qu'ils régurgitent des contenus orientés, ou même de la désinformation. Nommée "LLM Laundering", la pratique, évoquée sur Minted le 12 mars dernier, et plus généralement la recrudescence des contenus générés par l'IA posent de nouveaux défis en matière de brand safety et de lutte contre la fraude. En parallèle, une enquête menée par Libération et le site Next a identifié plus d'un millier de sites d'actualité francophones plagiant ou inventant des contenus pour détourner les revenus publicitaires des éditeurs légitimes.
"L'IA permet de démultiplier le nombre de sites "MFA", pour Made for Advertising, qui sont des coquilles vides qui pullulent sur les thématiques comme le sport ou l'actualité people, et dont le seul but est d'afficher un maximum de publicités", explique Clément Bascoulergue, qui rappelle qu'IAS a également mis à jour récemment une nouvelle type de fraude : "L'IAS Threat Lab a identifié début mars une fraude d'ampleur massive que nous avons nommée Vapor Threat, car il s'agit de fausses applications Android, des écrans de fumée sans contenu, mais qui ont pour but d'afficher un interstitiel payé par les annonceurs en pure perte. On parle de 56 millions de téléchargements et de 200 millions d'impressions publicitaires..."
Catégorie
🤖
TechnologieTranscription
00:00Et donc une séquence chiffres que j'ai voulu dédier à la création de contenus par IA,
00:10une création qui permet de faciliter des contenus qui sont beaucoup plus faciles à
00:15créer grâce à l'IA et ça vient complexifier encore plus aussi votre travail. Je voulais
00:19vous faire réagir à deux chiffres notamment. 3,6 millions d'articles, c'est le nombre de
00:25productions créées par le réseau Pravda. Alors ça fait un petit peu l'actualité,
00:29on a eu l'occasion d'en parler sur Minted aussi récemment, des articles donc générés pour aller
00:33influencer les modèles d'IA génératives occidentaux et pour aller influencer leurs réponses ou les
00:39liens vers lesquels ils renvoient les utilisateurs. Et il y a un autre chiffre aussi sur lequel je
00:44voulais vous faire réagir, c'est le chiffre de 1 000, plus ou moins, 1 000 sites identifiés
00:49par Libération Ennex qui, lors d'une enquête, ont identifié donc des sites d'actualité qui
00:55plagient ou qui inventent carrément de l'actualité pour aller bien détourner les revenus publicitaires.
01:01Voilà, ça fait des mois qu'on parle des risques aussi de l'IA. Là on a des exemples très concrets
01:07à la fois pour le brand safety, la brand safety des annonceurs et puis aussi pour les performances
01:11directes. Une réaction peut-être messieurs à ces chiffres ? Alors je pense que Clément aura
01:15beaucoup de choses à dire. Moi je pense que vraiment en termes de message, la première des
01:21choses qui est importante c'est, encore une fois, de mesurer et notamment de pouvoir s'équiper de
01:26solutions qui nous permettent de détecter toutes ces fraudes et d'identifier ces problèmes. Après
01:35on a besoin de s'appuyer sur des experts également pour pouvoir le faire. Et sur le contenu,
01:42je dirais que tout à l'heure Clément évoquait le fait que des marques comme AXA,
01:48finançaient des publisheurs et effectivement on est très attaché en France par exemple à financer
01:58du travail journalistique et de s'appuyer sur des titres qui investissent dans ce travail parce que
02:05c'est aussi la garantie de pouvoir communiquer dans des environnements qui sont pour nous de
02:12qualité sûre et aussi de crédibiliser tout le travail et tout l'investissement de ces
02:21publisheurs. Le sujet est complexe. Quand on parle d'IA, nous on a un parti pris qui est qu'on ne va
02:34pas considérer comme problématique tout ce qui est généré par l'IA parce qu'aujourd'hui toi-même
02:38peut-être quand tu prépares ton émission tu l'utilises et si on va détecter tout ce qui est
02:41fait par Tchad GPT... Pour l'instant on n'en est pas là. On est plutôt à aller chercher les
02:47phénomènes négatifs qui sont accélérés par l'IA et donc là il y a trois grandes formes qu'on peut
02:52observer. La désinformation parce que du coup effectivement avec l'IA, c'est beaucoup plus
02:56facile de créer du contenu des informations, de le véhiculer, de le propager. Donc un sujet qui
03:00s'accélère et s'accentue là-dessus. Deuxième, ça augmente les arnaques publicitaires et ça pour
03:07le coup il y a notamment un phénomène qu'on a lancé l'an passé, une solution qu'on a lancée
03:11l'an passé qui va détecter les sites qu'on appelle made for advertising, MFA. Donc là c'est
03:16des coquilles vides. Une coquille vide qui te dit tiens découvre ce qui s'est passé pendant PSGOM,
03:22tu surfes, tu cliques et tu arrives sur deux lignes qui te disent rien du tout, une reprise
03:27de l'AFP. Donc tu t'es fait avoir, tu t'es laissé embarquer sur un site qui est une coquille vide,
03:30sauf que ce site il attire plein de pus et donc en fait ça c'est l'IA qui permet de démultiplier ce
03:36genre d'arnaques, donc des sites qui pullulent sur des thématiques comme le sport ou le people
03:41etc. Et donc ça, on sait tout savoir, on clique, on va là-dessus et donc du coup pertes publicitaires
03:46pour les annonceurs, tel cas que ça, donc il y a des enjeux importants là-dessus. Donc vraiment
03:50augmentation de ces arnaques. Et après le dernier phénomène qui est aussi augmenté par l'IA c'est
03:55la fraude. Donc là pour le coup c'est les arnaques qui sont développées avec des systèmes de bots,
03:59de robots et ça pour le coup ça aussi ça augmente et je pourrais t'en parler après si tu veux,
04:03on en a trouvé une récemment. Donc vraiment accélérer. L'IA permet d'augmenter, c'est un
04:08catalyseur pour augmenter les arnaques et les risques sur le marché. Et quels sont les parades
04:12du coup ? C'est identifier ces sites j'imagine, les blacklister, c'est on peut penser aussi par
04:18exemple le développement de KPI comme la mesure de l'attention permettrait de mieux qualifier ces
04:22inventaires ou là pour le coup ces inventaires-là sur ces coquilles vides que tu évoques, bon voilà,
04:26seraient très mal scorés. Quels sont un peu les alternateurs ? Faire des systèmes d'exclusion de
04:32sites, c'est vider la mer avec un seau. Donc pour le coup c'est manuel, chronophage et un peu vain.
04:38Donc c'est vrai que c'est pour ça qu'on a des solutions comme IAS qui existent, c'est que nous
04:41en fait on va en temps réel constamment analyser ce qui se passe et permettre d'optimiser l'achat
04:45pour les clients. Donc il faut pour le coup s'équiper de solutions qui vont permettre de
04:49filtrer ça. Après la logique d'aller chercher de l'attention c'est passionnant et c'est un sujet
04:53qu'on adresse et sur lequel on a beaucoup de choses. C'est pour autant un peu décorrélé de
04:57vérifier que déjà le socle d'achat est qualitatif. Donc nous ce qu'on recommande vraiment c'est
05:03d'abord s'assurer qu'on évite la fraude, les MFL, les sites non safe. Donc c'est épurer mon achat
05:07des problèmes et après une fois que j'ai un socle qui est qualitatif on peut aller chercher une
05:12meilleure attention sur ce socle qualitatif. Donc c'est vraiment deux travails qui sont
05:16successifs. L'attention c'est un peu la cerise sur le gâteau, aller chercher directement la cerise
05:22sans vérifier le gâteau c'est un peu dangereux. D'accord et c'est pas discriminant du coup pour
05:26aller séparer le bon grain de l'ivraie. Tu disais que vous aviez aussi identifié récemment une
05:30nouvelle fraude. Je te propose peut-être de terminer là dessus puisque après tu dois nous
05:33quitter pour aller prendre un train. Tout à fait. En fait on a annoncé il y a dix jours donc c'est
05:39tout frais. Notre laboratoire de fraude a détecté une fraude d'ampleur massive qu'ils ont appelé
05:44Vapor Threat. Donc le point ça concerne en fait des fausses applications Android qui en fait il
05:53n'y a aucun contenu. Ces applications sont juste là pour générer un interstiel donc un format
05:57pub. Donc uniquement pour récupérer l'argent d'annonceurs qui vont acheter ces impressions et
06:01finalement délivrer sur des applications vides. Donc le nom Vapor Threat c'est comme les ouragans
06:07on cherche des noms alors que c'est un phénomène un peu triste mais bon. Vapor parce qu'en fait
06:11on est sur des écrans de fumée c'est à dire que l'application n'existe pas. Derrière c'est juste
06:15un faux interstiel qui va être payé par les annonceurs donc une perte pure. Donc ça c'est
06:19vraiment des arnaques de grande ampleur. Quand je dis grande ampleur on est sur 56 millions de
06:23téléchargements. Plus de 200 millions d'impressions publicitaires achetées là dessus. Donc c'est
06:27vraiment des phénomènes massifs qu'on découvre encore. Donc c'est pour dire que la fraude, je ne
06:32veux pas être anxiogène avant de devoir vous quitter, mais c'est encore des phénomènes qui
06:35sont là à ce qu'il faut adresser. Et nous on collabore de manière très proactive avec les
06:40partenaires. C'est à dire que là on travaille avec Google et Google en travaillant avec nous
06:44a retiré des applications Android toutes ces applications négatives. Donc c'est vraiment un
06:48travail de collaboration de l'écosystème. Nous on est un partenaire de mesure mais on collabore
06:52effectivement avec les acteurs tels que Google pour les aider à améliorer l'ensemble de l'écosystème
06:56digital et permettre à des annonceurs comme AXA de maximiser ce qu'ils achètent sur le digital.
07:01Bon merci de nous avoir rassuré quand même Clément avant de nous quitter. Voilà on avait
07:05une pointe d'angoisse qui commençait à monter. Merci beaucoup en tout cas d'avoir répondu à
07:09présent. Et puis je vous propose donc d'enchaîner sur la dernière séquence de cette émission notre
07:13décryptage qui sera consacré donc au marketing mix modeling avec Florian. Merci beaucoup à tous
07:18les deux d'avoir accepté l'invitation. Merci beaucoup.