Big Data _ Internet, une menace pour la démocratie
Les données personnelles, baptisées «Big Data», sont aujourd'hui devenues une véritable mine d'or. Enquête sur ce nouvel enjeu mondial que représente l'analyse de cette masse de données. Aux Etats-Unis, les «nouveaux devins» fournissent ces analyses prédictives en temps réel autour de la consommation, de la politique, du sport ou de la sécurité. Des milliards d'informations qui permettent de nous ficher, de prévoir nos comportements et d'anticiper nos désirs. Cette vaste collecte numérique intéresse les géants d'Internet qui détiennent 80 % des données personnelles mondiales.
Transcript
00:00 Stop watching us ! Stop watching us ! Stop watching us !
00:11 Depuis quelques mois aux Etats-Unis, la colère monte.
00:15 This is what democracy looks like !
00:23 Devant le Sénat à Washington en cette belle journée d'octobre 2013, des militants des droits de l'homme scandent leur inquiétude face aux révélations d'espionnage généralisé dont sont victimes les citoyens sur internet.
00:41 Ils nous espionnent, collectent plein de données sur nous. Ils ont développé des algorithmes pour nous contrôler.
00:50 Stop watching us ! Stop watching us !
00:54 Des centaines d'associations se sont créées en quelques mois pour demander au gouvernement de réagir.
01:00 Stop watching us !
01:02 Il y a 4 mois, on a lancé cette pétition pour combattre toute cette surveillance.
01:07 Et aujourd'hui, on va remettre au Congrès 575 000 signatures.
01:14 On veut vivre libre, arrêtez de nous surveiller !
01:22 Dans la cible des manifestants, la NSA, l'agence de sécurité nationale accusée d'espionner le monde entier avec ses ordinateurs.
01:33 C'est le programme PRISM, son existence a provoqué un scandale mondial en juin 2013.
01:40 C'est l'une des violations les plus extraordinaires des principes américains.
01:44 Nous sommes l'une des plus grandes ligues de l'histoire politique américaine.
01:48 Le programme d'agence de sécurité nationale appelé PRISM.
01:50 PRISM est un programme secret.
01:53 Tous espionnés. La colère gronde jusqu'à Hollywood.
01:59 Chaque Américain est en danger de se faire attraper dans la NSA.
02:04 Les outils pour la surveillance n'ont jamais été plus puissants.
02:07 Et la menace à nos libertés civiles n'a jamais été plus forte.
02:10 L'histoire nous dit qu'il faut regarder le regard.
02:16 Mais vos données numériques ne sont pas seulement espionnées par les services de renseignement.
02:22 Appels téléphoniques, mails, discussions sur les réseaux sociaux, mouvements bancaires sont aussi captés par les géants du net.
02:32 Google, Amazon, Facebook et Apple détiennent 80% des données personnelles mondiales.
02:39 Ces masses de données, on les appelle les big data.
02:43 Les posséder et les gérer, c'est le nouvel enjeu mondial.
02:48 Avec le temps, les gens vont comprendre que la seule manière d'être malin et visionnaire, c'est d'exploiter les données.
02:55 Sport, politique, criminalité, consommation, le big data est partout.
03:01 Ces milliards d'informations permettent de nous ficher et même de prévoir nos comportements.
03:07 Des petits génies de l'informatique amassent déjà des fortunes grâce à ce big data, leur boule de cristal.
03:14 Enquête sur ces nouveaux devins qui fascinent et qui inquiètent le monde entier.
03:19 [Musique]
03:48 Les espions de la NSA qui nous surveillent se cachent derrière ces murs dans le Maryland.
03:54 Prism, leur programme d'espionnage, aurait dû rester secret.
03:58 L'homme qui a révélé son existence, c'est Edward Snowden.
04:03 - Même si vous n'avez rien à vous reprocher, vous êtes surveillé, enregistré.
04:09 Je pouvais vous surveiller de mon bureau, vous ou un juge fédéral.
04:13 Ou même un chef d'état étranger, si j'avais son adresse mail.
04:17 Edward Snowden travaillait pour la NSA.
04:20 Très vite, il réalise que tout ce que vous faites sur le net atterrit directement entre les mains des services secrets
04:27 qui vont se servir dans les bases de données des géants du net.
04:31 - Des sociétés comme Google, Facebook, Apple, Microsoft ont toutes travaillé main dans la main avec la NSA.
04:39 Elles ont fourni un accès direct à tous leurs systèmes de communication,
04:43 au stockage de leurs données qui disent tout de nos vies.
04:46 Y compris les messages que vous recevez pour votre anniversaire.
04:52 Les géants du net contestent la version de Snowden et minimisent leur implication.
04:59 Pourtant, aujourd'hui, même les grands groupes qui font du commerce sur Internet vous surveillent.
05:06 A chacun de vos clics, vous êtes espionné.
05:11 On l'a tous vécu en faisant nos courses en ligne.
05:14 Je recherche une paire de chaussures sur un site marchand.
05:18 Et dans les jours qui suivent, des offres promotionnelles pour le même type de chaussures apparaissent sur mon écran.
05:25 Tous les sites surveillent nos déplacements grâce à des fichiers cachés qu'on appelle des cookies.
05:32 Encore plus fort, grâce à ces cookies, des sites que je n'ai jamais consultés me surveillent à distance.
05:40 En voici la preuve. Alors que je me connecte sur une page d'un site d'info, d'autres sites m'observent.
05:46 Un logiciel spécialisé me permet de les visualiser.
05:51 À peine connecté, 9 sites espionnent ma navigation.
05:56 Au bout d'une heure, j'ai visité 17 sites.
05:59 Mais 272 autres m'ont espionné en toute légalité.
06:05 Leur objectif ? Connaître mes goûts et mes habitudes pour essayer d'anticiper mes désirs.
06:11 On appelle ça l'analyse prédictive. Une mine d'or pour les devins de la consommation.
06:18 Les données, c'est le nouveau pétrole.
06:32 Nous sommes dans la Silicon Valley, près de San Francisco.
06:36 La plus grosse concentration d'entreprises high-tech au monde.
06:40 Aujourd'hui, pour deviner ce que vous allez acheter, il faut être un craque en maths.
06:45 Une matière dans laquelle les Français sont mondialement reconnus.
06:49 Parmi eux, Bruno Delahaye, à la fois diplômé en maths et en commerce à HEC.
06:56 Il fait partie des 60 000 Français installés dans la région.
07:00 Tu veux pas jouer avec nous ?
07:02 C'est quasiment la campagne, parce qu'il y a des arbres partout.
07:05 Il y a vraiment des endroits super sauvages dans le parc.
07:07 Il suffit de s'arrêter 3-4 heures le week-end et on est comme en vacances.
07:11 Dans ce paradis pour geeks, le business qui a le vent en poupe, c'est l'analyse des masses de données.
07:18 Le fameux big data.
07:20 Les données, c'est le nouveau pétrole.
07:23 Et c'est pour ça qu'il y a tellement de sociétés innovantes ici,
07:27 qui se sont orientées vers ça et qui investissent de manière massive dans l'analyse prédictive.
07:34 Les données, c'est donc comme le pétrole.
07:39 Il faut les raffiner pour qu'elles prennent de la valeur.
07:42 Les raffineries, ce sont des supercalculateurs qui trient et analysent des milliards de données en temps réel
07:49 grâce à des algorithmes, des modèles mathématiques qui mettent nos comportements en équation.
07:56 Bruno Delay travaille dans une start-up fondée par des Français.
08:00 Avec ses collègues, il peaufine au quotidien des technologies de pointe.
08:04 J'ai une démo à te montrer. On a fait un nouveau package pour le dernier moteur de recommandation.
08:12 Leur business, être capable de savoir ce que vous achetez, où vous vous trouvez,
08:18 et du coup, anticiper vos comportements.
08:21 Pour réaliser cette analyse prédictive, on commence par tracer et analyser chacun de vos déplacements.
08:28 On sait à quel moment et à quel endroit les gens qui ont utilisé leur carte de crédit se trouvent
08:36 et on va extraire ce qu'on appelle des chemins.
08:39 Ce chemin tracé en rouge est réalisé en reliant les endroits où vous avez utilisé votre carte bancaire.
08:46 Multiplié par des milliers de consommateurs à l'échelle d'une ville, voilà le résultat.
08:52 Donc les gens qui vont aller à tel endroit vont après utiliser cette même carte de crédit à un autre endroit.
09:01 Donc en fait, on a des comportements d'achat qu'on voit isolés ici et qu'on peut visualiser sur la carte.
09:08 Pour comprendre comment ça marche, Bruno Delay nous emmène dans le centre de San Francisco.
09:15 Quand il passe devant une boutique où il a déjà fait des achats, son téléphone vibre.
09:21 - Juste en passant devant le magasin, on m'offre une promotion de 10% ici.
09:28 Et c'est typiquement le genre de système qu'on développe aujourd'hui,
09:31 c'est-à-dire qu'on analyse un petit peu le chemin, le profil des gens,
09:34 et à partir de là, on essaye de leur offrir des coupons qui ont du sens et qui peuvent utiliser immédiatement.
09:40 Ce système fonctionne en croisant les données de sa carte de crédit et de son smartphone.
09:46 Avec sa carte, Bruno a déjà acheté des ampoules dans ce magasin, son téléphone l'a géolocalisé.
09:53 A chaque fois qu'il repasse à proximité du magasin, il reçoit une offre personnalisée.
09:59 Espionner le déplacement des consommateurs pour une pub toujours plus ciblée, toujours plus efficace, c'est ça le business de Bruno.
10:09 Ce jour-là, il a rendez-vous avec un directeur de magasin pour lui expliquer son système.
10:15 - Salut, Kerem. - Salut, Bruno. Ça va ?
10:19 - L'idée, c'est d'analyser le parcours du consommateur.
10:23 Par exemple, si quelqu'un va dans un café juste à côté d'ici, disons qu'il est 2 heures de l'après-midi, un samedi,
10:32 nous, on peut savoir que c'est l'heure à laquelle il aime faire ses courses.
10:36 Si on peut prédire où il va aller après son café, alors on pourra l'influencer.
10:41 Sur son chemin, on peut lui envoyer un message pour lui conseiller l'un des produits que vous vendez.
10:47 Qu'est-ce que vous en dites ? Ça peut vous intéresser ?
10:49 - Bien sûr. On voit bien le potentiel de votre système pour améliorer nos ventes.
10:54 Et en même temps, faut pas matraquer nos clients avec plein d'offres quand ils s'approchent de nos boutiques.
10:59 - Je suis d'accord. Faut pas être trop intrusif.
11:02 Ce qu'il faut, c'est trouver le bon équilibre en informant l'acheteur sans le harceler.
11:07 Personne n'a intérêt à franchir la ligne rouge de la vie privée.
11:11 Pourtant, cette ligne rouge de la vie privée, les devants de la consommation la franchissent parfois.
11:20 Pour améliorer leur analyse du comportement des consommateurs,
11:24 ils puisent largement dans vos infos personnelles jusqu'à scruter vos humeurs.
11:31 - Si, en plus de votre source de données transactionnelle, vous avez une source de données sociale qui vient de votre Facebook
11:39 et on est capable, avec des choses comme l'analyse textuelle, on est capable d'isoler des sentiments,
11:45 de savoir dans quel état peut se trouver tel utilisateur Facebook,
11:49 ben là encore, on va pouvoir aller même une étape plus loin dans la personnalisation pour cet utilisateur-ci.
11:57 Exemple, avec ce logiciel qui permet aux banques de détecter leurs clients mécontents et de les rattraper avant qu'ils ne s'en aillent.
12:05 - J'ai un indicateur qui est dans le rouge, qui a un fort taux de probabilité de perdre mes clients
12:10 et je vois qu'en fait, ces clients, ce sont mes clients les plus rentables.
12:14 Et parmi ceux-là, j'ai Suzanne qui est ma cliente la plus rentable.
12:18 Je peux essayer de corréler ça avec les réseaux sociaux et je vois qu'en effet,
12:22 depuis le mois de février, elle s'est exprimée plusieurs fois et elle a exprimé son mécontentement par rapport à nos frais de gestion.
12:29 Le logiciel va alors proposer à la banque le meilleur moyen de garder sa cliente
12:34 en fonction des informations qu'elle aura laissées sur le net.
12:37 - Donc maintenant, ce que je peux faire, c'est essayer de lui proposer des offres très ciblées
12:42 pour essayer de la motiver à rester dans notre banque.
12:47 Pour savoir ce que pensent vos clients, rien de tel que Facebook, Google+, Twitter ou les pages web créées par les marques.
12:56 En cliquant dessus, on accepte de partager nos informations.
13:00 Sur les réseaux, les opinions circulent et les devins de la consommation observent.
13:07 John Xavier est journaliste web dans la Silicon Valley.
13:11 Pour lui, la plupart des internautes sont encore naïfs face au pouvoir des géants du net.
13:18 - On pourrait résumer ça en une phrase.
13:22 Si vous utilisez un service gratuitement sur Internet, alors c'est vous qui êtes le produit.
13:30 Les géants du net utilisent vos données pour vous vendre de la pub.
13:34 C'est vrai par exemple pour Google et Facebook.
13:38 Aujourd'hui, on est dans un système où les opérateurs sont justement tous à la recherche de ces informations privées.
13:48 Et ces montagnes d'informations privées, ça vaut de l'or.
13:58 Car une fois déposées gratuitement sur Internet, elles peuvent être vendues.
14:05 Mais au fait, qui vend mes données personnelles sans m'avoir demandé mon avis ?
14:10 Des grands groupes comme Twitter, mais aussi des sociétés moins connues, appelées « data brokers », des courtiers en données.
14:18 C'est un nouveau business, mais ils sont déjà une centaine aux États-Unis.
14:23 Le leader de ce marché, c'est Axiom, une société texane inconnue du grand public,
14:28 mais qui exploiterait les données de 700 millions de personnes, chiffre d'affaires 1,1 milliard de dollars.
14:35 On ne fait pas que de l'évaluation, on prédit.
14:46 Faites confiance à nos analyses de haute qualité, à haut rendement.
14:51 Pour des sociétés comme Axiom, chaque événement de votre vie a un prix.
14:56 Votre âge, votre adresse, votre sexe, c'est le tarif de base, 0,007 dollars.
15:03 Mais les prix montent vite.
15:05 Vous envisagez de vous marier ? Ça monte.
15:08 Vous attendez un enfant ? Ça progresse encore.
15:11 Vous avez une maladie du cœur ? Vous envisagez de faire du sport pour maigrir ? Ça monte encore.
15:17 Chaque somme est faible, mais multipliée par des milliards d'internautes, le montant est colossal.
15:22 315 milliards de dollars, rien que pour les données des Européens.
15:27 Un chiffre qui sera multiplié par 3 en 2020.
15:31 Et tout ça sans que vous touchiez le moindre centime.
15:35 Ce pactole du big data qui vous échappe, ça révolte cet internaute italien.
15:41 Il espère provoquer le débat en mettant ses données aux enchères sur le net.
15:46 Des grands groupes utilisent mes données pour faire du profit.
15:50 Aux États-Unis, la pub sur Internet s'apaisse 30 milliards de dollars chaque année.
15:55 Moi, je vends mes données 2 dollars.
15:57 Et si on fait tous la même chose, peut-être qu'un jour, ces géants devront nous acheter nos données.
16:02 En attendant cette révolution citoyenne, les startups spécialisées dans la gestion des données personnelles prospèrent.
16:13 Leurs analyses deviennent une science et leurs domaines d'application sont de plus en plus nombreux.
16:20 Exemple, les campagnes électorales dopées au big data.
16:27 Le premier à avoir utilisé cette nouvelle arme, c'est Barack Obama.
16:31 En 2012, il a fait appel aux devins de la politique.
16:42 Quand débute sa seconde campagne présidentielle, finit l'Obamania.
16:46 Le président américain sait que sa réélection s'annonce compliquée.
16:53 Alors, il parie sur l'analyse prédictive pour gagner.
16:57 Il confie à cet ingénieur d'origine pakistanaise, Raed Ghani, la direction de sa campagne numérique.
17:05 Sa recette, se servir du big data pour optimiser ses chances de victoire.
17:11 Vous voulez savoir à quoi nous ont servi les bases de données, tout ce big data ?
17:17 A lever des fonds, à recruter des volontaires, à mieux cibler ceux qui appréciaient Obama et n'allaient pas forcément voter pour lui.
17:26 Ça nous a aussi servi à éliminer ceux qui n'auraient jamais voté pour Obama.
17:32 En 2012, Raed Ghani règne sur le lieu le plus secret et le plus inaccessible du siège de campagne d'Obama.
17:40 La grotte.
17:41 Les images de cette war room numérique sont rares.
17:45 Depuis cette grotte, une cinquantaine d'informaticiens ont utilisé d'immenses bases de données pour cibler les électeurs indécis.
17:53 Je vous appelle pour savoir si vous voterez pour le président Obama.
17:57 Au cœur de la grotte, la stratégie est simple.
18:01 Ville par ville, quartier par quartier, maison par maison, un logiciel définit une liste d'électeurs susceptibles de voter pour Obama.
18:11 Pour y arriver, chaque trace d'opinion politique laissée sur le net est analysée.
18:16 Un citoyen américain a dit du bien d'Obama ? On ira taper à sa porte pour s'assurer qu'il ira bien voter.
18:23 Un autre l'a critiqué sur les réseaux sociaux. On ne perdra pas de temps à essayer de le convaincre.
18:29 Et ça a marché. Aux États-Unis, 2012 est considéré comme la première campagne présidentielle de l'histoire remportée grâce à l'analyse du big data.
18:41 Depuis, tout le monde s'inspire de cette méthode.
18:53 Par exemple, la France. En 2012, les équipes de François Hollande l'ont jouée à l'américaine.
19:00 Fleur Pellerin raconte, elle faisait partie du staff rapproché du futur président.
19:07 Oui, alors c'est vrai qu'en 2012, on a eu des échanges, nous, avec les équipes de la web campagne d'Obama,
19:12 qui sont d'ailleurs venues une dizaine de jours en France pour partager avec ceux qui s'occupaient au sein de l'équipe de campagne,
19:19 du porte à porte et puis de la stratégie sur les réseaux sociaux et sur Internet.
19:24 Et donc, on s'est inspiré des méthodes américaines pour jouer le porte à porte, par exemple,
19:29 pour savoir dans quelle zone géographique, dans quel territoire il fallait essayer de mettre l'accent.
19:37 La grotte à la française, ça ressemblait à ça, beaucoup moins de monde et beaucoup moins de moyens.
19:44 En première ligne pour organiser ce porte à porte ciblé, Thomas Hollande, fils du candidat socialiste.
19:51 Donc, en fait, Guillaume et Arthur font partie, avec Vincent qui est retourné aux Etats-Unis pour ses études pendant une semaine,
19:58 des trois personnes qui ont finalement vendu ce concept au Parti socialiste,
20:04 en se fondant sur ce qu'avait fait Obama aux Etats-Unis en l'adaptant à la France.
20:09 Et on a mis en place la première campagne systématisée de porte à porte à l'échelle nationale pour une élection présidentielle,
20:15 avec comme base de travail des statistiques et un objectif bien précis qui est
20:21 comment on arrive à convaincre des abstentionnistes de gauche de venir se déplacer et d'aller voter.
20:27 On a fait des études très rigoureuses pour mesurer l'effet du porte à porte sur la participation électorale.
20:31 Et un consensus qui dit que pour 14 abstentionnistes vus, un va aller voter.
20:37 Le staff de François Hollande a travaillé sur beaucoup moins de données que l'équipe d'Obama.
20:42 Et en France, à ce jour, aucun parti n'a encore utilisé les réseaux sociaux pour cibler des électeurs.
20:50 Le pays du big data, ça reste les Etats-Unis.
20:54 Et là-bas, le gourou le plus célèbre de cette nouvelle science, c'est lui, Nate Silver.
21:00 L'incroyable ascension de cet obsédé des statistiques débute en 2008.
21:08 Jusque-là, personne ne connaissait Nate Silver.
21:12 Le matheux à lunettes applique alors sa science de l'analyse prédictive au baseball et au poker
21:17 avant de s'intéresser à la politique.
21:21 En 2007, un an avant l'élection présidentielle américaine, son algorithme désigne avant tout le monde Barack Obama vainqueur.
21:30 À l'époque, certains l'espèrent. Mais lui le prédit chiffre à l'appui. L'histoire va lui donner raison.
21:38 Dans les jours qui suivent la première victoire d'Obama,
21:48 le très respecté New York Times engage Nate Silver et héberge son blog FiveThirtyEight.
21:55 Quatre ans plus tard, il est devenu une star dont les prédictions sont scrutées par toute l'Amérique.
22:01 Nous avons pu rencontrer le devin de la politique.
22:07 Pour Nate Silver, l'avenir, c'est juste une grosse équation.
22:14 En fait, les élections sont très prévisibles aux États-Unis si on étudie finement les sondages sur une longue période.
22:21 Une campagne, c'est stable, pas passionnel, contrairement à ce que vous racontent les journalistes politiques.
22:27 La plupart d'entre eux sont des idiots, des idiots qui peuvent être parfois intelligents,
22:32 mais ils ne s'appuient pas sur des informations rationnelles.
22:35 Ils veulent juste se montrer à la télé, avoir l'air intelligent auprès du grand public
22:39 qui n'a pas une approche scientifique de la politique.
22:44 Pour déterminer qui sera le vainqueur, Nate Silver compile et décrypte des milliers d'études d'opinion sur une longue période,
22:53 là où les sondeurs ne font que tester l'opinion à un moment précis.
22:57 Regardez ce que ça donne en 2012.
23:00 En juin, l'analyse prédictive de Nate Silver estime à 75% les chances d'Obama de gagner l'élection.
23:07 Au même moment, les sondeurs ne donnent à Obama que 45% de chances de l'emporter.
23:13 À six jours du vote, cette probabilité monte à 92% pour Nate Silver.
23:19 Les sondeurs, eux, donnent Obama et son challenger à égalité.
23:23 J'ai fait cette prédiction plusieurs fois, en public.
23:28 Ça a été publié sur mon blog.
23:30 J'ai pris le risque de le faire et ça s'est réalisé comme prévu.
23:33 Alors là, oui, je suis crédible.
23:37 Il est si crédible que les politiques rêvent tous de travailler avec lui.
23:41 Mais Nate refuse. Il veut garder son indépendance.
23:45 Je ne parle pas aux staffs de campagne.
23:51 Je reçois parfois des invitations pour travailler avec eux, mais ça ne m'intéresse pas.
23:56 Je n'ai pas besoin de ça pour gagner ma vie.
23:58 La politique, c'est bien la dernière chose que je ferai dans la vie.
24:04 Les oracles de Nate Silver intéressent même désormais les grands shows de la télé américaine.
24:10 L'informaticien introverti y est accueilli comme un prophète des temps modernes.
24:21 Je suis Nate Silver, l'Empereur et Dieu du algorithme.
24:27 Si votre modèle de prédiction avait été faux, ça aurait été une défaite pour l'arithmétique.
24:34 Ça aurait été mauvais. Merci, Josh.
24:37 Preuve suprême de sa popularité, le président Obama cite Nate Silver lors d'une fête traditionnelle américaine
24:47 pendant laquelle il gracie symboliquement une dinde.
24:50 Hommage blagueur d'Obama à celui qui l'a vu président avant tout le monde.
24:58 Les gagnants de la pardon de la Turquie à l'Assemblée sont choisis grâce à un vote en ligne très compétitif.
25:06 Et encore une fois, Nate Silver l'a complètement gagné.
25:11 L'homme est incroyable.
25:14 L'homme est incroyable.
25:17 Un type incroyable que s'arrachent désormais les grandes fags américaines.
25:22 Un, deux, trois.
25:27 Notre nom c'est Elena ? E-L-E-N-A, c'est ça ? C'était facile à prédire.
25:32 Un statisticien qui signe des autographes, c'est pas fréquent.
25:37 Ouais, je sais pas, c'est que le monde change.
25:42 Pendant 90 minutes, les étudiants boivent ses paroles.
25:47 Pour eux, Nate Silver et ses prédictions, c'est l'avenir.
25:53 Vous savez, les ordinateurs, ils sont rapides, mais ils sont un peu stupides.
25:56 Nous, les hommes, on est intelligents, mais lent. Faut trouver un équilibre.
25:59 Est-ce que vous voyez un potentiel dans ce secteur de l'analyse prédictive ?
26:04 Selon tous les spécialistes, la réponse est claire.
26:07 2 millions d'emplois devraient être créés d'ici 2020 dans ce secteur.
26:12 En septembre 2013, Nate Silver a changé d'employeur.
26:21 En échange d'un gros chèque, il livre désormais ses prédictions
26:24 sur les matchs de baseball et de football américain pour une chaîne de télé.
26:28 Le très respecté devin de la politique est redevenu un grand devin du sport.
26:33 Le sport et ses paris, c'est la poule aux œufs d'or pour les pros du big data.
26:45 Cet après-midi-là, à New York, les Lyons de la fac de Columbia
26:50 affrontent les aigles de Lehigh.
26:52 A chaque match, la ligue de football américain produit des tonnes de statistiques.
27:05 Chaque joueur est passé au crible, transformé en montagne de données numériques.
27:19 Un match sous surveillance électronique, ça donne ça.
27:23 A chaque phase de jeu, des dizaines, des centaines de données sont créées et enregistrées.
27:34 Force de frappe, distance parcourue, ballon réceptionné, mauvaises passes,
27:43 la hausse de la densité des plaquages, et le tout est compilé en temps réel
27:48 grâce à des logiciels d'analyse vidéo.
27:50 La prédiction sportive se nourrit de ces masses de données pour vendre sa promesse.
27:56 Devinez qui va gagner le match.
27:59 Des dizaines de start-up se partagent déjà ce marché juteux.
28:06 Leur argument de vente, le sport ne serait qu'une question de probabilité.
28:12 Un site internet propose même la formule miracle pour parier à chaque fois sur la bonne équipe.
28:17 Finie la glorieuse incertitude du sport.
28:21 Nos modèles de calcul ont été développés par Harvard et le MIT.
28:26 Ils sont aussi utilisés par les agences gouvernementales, les plus grandes entreprises et Wall Street.
28:31 Et nous, nous l'avons simplement appliqué au sport.
28:36 L'un des pionniers de ce nouveau business, c'est lui, Nick Bonadio.
28:42 Le sujet passionne tout le monde.
28:43 Le sport serait juste une question de chiffres ?
28:46 Bienvenue Nick Bonadio.
28:48 Quand les gens parient, ils devraient juste regarder les stats ?
28:51 Laisser de côté leurs émotions ?
28:53 Ouais, c'est ça la meilleure stratégie.
28:56 Salut les gars.
29:00 En deux ans, Numberfire, la société de prédiction sportive de Nick,
29:04 a multiplié ses revenus par 8.
29:06 Un million de connexions sur son site chaque mois.
29:10 Alors, vous avez avancé sur les stats ?
29:12 Nick et ses geeks sont désormais pris très au sérieux dans l'univers musclé du foot US.
29:19 Ouais, les geeks ont gagné.
29:23 Avant, les gens pensaient que par les sports, c'était réservé aux grandes gueules, aux gars pleins de muscles.
29:28 Nous les nerds, on nous disait qu'on n'y connaissait rien.
29:30 On se foutait de nous.
29:31 Mais maintenant, ça a bien changé.
29:33 On nous écoute.
29:35 Et je crois qu'on peut le dire, ouais, nous les geeks, on a gagné.
29:39 Les geeks ont gagné, je pense.
29:41 La fierté de Nick, c'est que ses analyses prédictives battent les recommandations des journalistes sportifs dans 70% des cas.
29:49 Il a voulu nous le prouver avec un cas concret.
29:52 Le match qui oppose le soir même les New York Jets aux Pittsburgh Steelers.
29:57 On prévoit que New York va battre Pittsburgh avec un score autour de 21 contre 18-19.
30:05 Et ce résultat, c'est notre algorithme qui l'a trouvé.
30:08 Comment obtient-on un résultat aussi précis ?
30:12 Nick recueille toutes les données disponibles pour analyser ce match.
30:16 Les statistiques des joueurs, poste par poste, année par année, les résultats de tous les matchs de ces deux équipes,
30:23 mais aussi ceux de toutes les équipes ayant des systèmes de jeux similaires.
30:27 Au final, une immense masse de données de laquelle on va extraire l'information recherchée.
30:33 Comment ? C'est là que l'algorithme de Nick va intervenir.
30:37 Il va permettre de fouiller, trier, analyser les données du passé pour sortir la prédiction souhaitée.
30:44 Pour le match de ce soir, ça donne une victoire serrée de New York 21-18.
30:49 Pour savoir si le logiciel de Number Fire dit vrai, direction Greenwich Village, l'un des quartiers branchés de New York.
30:58 Nick Bonadio a rendez-vous au réservoir.
31:04 Dans ce pub pour fans de foot US, tout le monde voit New York vainqueur.
31:08 Alors aujourd'hui ma prédiction, c'est une victoire des New York Jets 17-10.
31:13 Le match commence, et contrairement à ce qu'avaient prédit les ordinateurs de Nick Bonadio, Pittsburgh prend l'ascendant sur New York, 9-6 à la mi-temps.
31:30 Parmi les spectateurs, Josh Miller, ancien joueur pro de football américain, lui ne croit pas trop à l'analyse prédictive de Nick.
31:38 Je veux pas froisser Nick, mais moi j'ai été joueur, j'étais sur le terrain.
31:46 Les prédictions mathématiques, ça n'a aucun impact.
31:49 Ils peuvent toujours prédire, mais moi je vous le dis, ce sont les joueurs qui ont la clé du match.
31:57 Fin du match, victoire sans appel de Pittsburgh, 19-6.
32:01 Nick Bonadio a tout faux.
32:04 Notre devin s'est planté. La glorieuse incertitude du sport est sauvée.
32:11 Ok, ok, sur ce coup là, notre algorithme s'est trompé.
32:16 On n'est pas encore des devins avec notre boule de cristal, capables de dire "voilà, c'est ça qui va arriver".
32:22 Il y a des imprévus, il y a les blessures, il y a la météo, mais on veut être au plus proche du résultat et globalement, on a plus souvent raison que tort sur une saison.
32:30 Vérification faite, la saison dernière, Nick et ses geeks ont bien deviné le gagnant de 3 matchs sur 4.
32:40 Après la politique et le sport, les américains utilisent désormais le big data pour assurer leur sécurité.
32:51 C'est la spécialité des devins du crime.
32:54 Pour la sécurité comme pour les autres domaines, le principal problème c'est le traitement d'une multitude de données.
33:08 Une affaire l'a illustré récemment.
33:11 Boston, sur la côte est des Etats-Unis.
33:17 Le 15 avril 2013, 500 000 personnes assistent au marathon.
33:21 Sur la ligne d'arrivée, 2 bombes explosent.
33:27 3 morts et 260 blessés.
33:33 Un attentat que personne n'avait vu venir.
33:36 L'enquête démarre, le FBI commence par étudier toutes les images de caméras de surveillance.
33:45 Vous voyez, on est juste sur la ligne d'arrivée du marathon.
33:48 C'est là qu'a explosé la première bombe.
33:51 Les terroristes venaient de là-bas.
33:54 On est dans un quartier très commerçant, avec des caméras de surveillance partout.
33:59 Le FBI lance aussi un appel à témoins.
34:03 Nous appelons toute personne qui aurait des informations à nous contacter.
34:11 Quelque part, quelqu'un doit savoir qui a fait ça.
34:14 Les réponses à cet appel à témoins dépassent les espérances du FBI.
34:18 Les services secrets américains sont inondés de photos et de vidéos en lien avec l'attentat.
34:24 On a récupéré les images des caméras de surveillance des commerces de la zone.
34:31 Des milliers de vidéos de smartphones, plus nos propres images.
34:35 C'était comme chercher une aiguille dans une botte de foin.
34:40 Ce n'est pas simple quand on a autant de vidéos à analyser.
34:43 On n'a pas encore trouvé la solution miracle.
34:47 L'attentat de Boston donne lieu à la plus grande cyber-enquête de l'histoire.
34:52 Et chacun s'y met.
34:54 Sur les réseaux sociaux, les internautes mènent leur propre enquête
34:58 et désignent des dizaines de suspects potentiels.
35:01 Au bout de trois jours, le FBI finit par identifier deux suspects.
35:07 Après analyse d'une masse de vidéos et de photos,
35:10 nous avons identifié un suspect numéro un et un suspect numéro deux.
35:15 Problème, il faut mettre des noms sur ces deux visages.
35:20 Les enquêteurs comptent sur un tout nouveau logiciel de reconnaissance faciale,
35:24 un programme à un milliard de dollars.
35:27 Mais l'ordinateur échoue.
35:29 Il se noie dans la multitude de données à traiter simultanément.
35:34 La mauvaise qualité des images n'a rien arrangé.
35:36 Elles étaient trop peu précises, avec des individus de profil.
35:41 C'est finalement une bonne vieille empreinte digitale
35:47 qui permettra d'identifier les terroristes, pas le big data.
35:51 Grosse polémique à l'époque, car l'ordinateur n'a pas reconnu
35:55 la photo de l'un des suspects, pourtant répertorié dans ses fichiers.
36:01 Aux Etats-Unis, une ville pense avoir trouvé la solution
36:05 pour gérer sa sécurité avec un ordinateur.
36:08 Memphis, dans le Tennessee.
36:16 La ville est célèbre pour son fleuve, le Mississippi,
36:20 sa légende mondiale du rock, Elvis, et ses violences.
36:26 Elle appartient au top 10 des agglomérations les plus dangereuses d'Amérique.
36:30 Depuis 2006, Memphis est devenu le laboratoire
36:35 de l'analyse prédictive appliquée au crime.
36:38 Ici, la police utilise Blue Crush, un super logiciel
36:43 dont la promesse est résumée dans ce spot de pub.
36:48 -I used to think my job was all about arrests,
36:51 chasing bad guys.
36:53 Now I see my work differently.
36:55 We analyze crime data, spot patterns,
36:58 and figure out where to send patrols.
37:01 It's helped some US cities cut serious crime by up to 30%,
37:05 by stopping it before it happens.
37:10 (Musique)
37:15 -Deviner le crime avant qu'il ne soit commis,
37:18 ça ne vous rappelle rien ?
37:20 Minority Report avec Tom Cruise dans le rôle du flic du futur.
37:24 On a montré la bande-annonce du blockbuster
37:27 qui a popularisé l'analyse prédictive
37:29 à l'un des patrons de la police de Memphis.
37:32 (Musique)
37:36 (Musique)
37:40 (Bruit de feu)
37:43 (Bruit de feu)
37:45 (Bruit de feu)
37:47 -Question à notre commissaire,
37:49 la réalité a-t-elle déjà rattrapé la fiction ?
37:52 -Vous avez déjà vu ce film ?
37:55 -Oui, bien sûr.
37:57 Mais dans la vraie vie,
37:59 on n'en est pas encore à Minority Report,
38:02 même si les médias nous parlent toujours de ce film.
38:05 (Bruit de feu)
38:08 -En vérité, ça ne se passe pas du tout comme ça.
38:12 Il n'y a pas moyen de dire que tel crime va être commis
38:15 à telle adresse, par telle personne,
38:18 et envoyer quelqu'un pour l'arrêter avant qu'il passe à l'acte.
38:22 Ça, c'est juste de la fiction.
38:25 Ça, c'est Hollywood.
38:27 C'est né dans la tête d'un scénariste.
38:29 On est d'accord, son histoire est cool.
38:32 Et d'ailleurs, ce serait cool pour nous si ça marchait comme ça.
38:35 (Bruit de feu)
38:40 -OK, "Blue Crush", ce n'est pas Minority Report.
38:43 Mais depuis 2006, c'est bien ce logiciel
38:46 qui décide des interventions des policiers de Memphis.
38:49 Et c'est ici que ça se passe.
38:52 Bienvenue au centre d'analyse des données criminelles.
38:56 (Musique rythmée)
39:00 Appel téléphonique à la police,
39:03 compte rendu des patrouilles,
39:05 rapport d'enquête, plainte,
39:09 prise des images de vidéosurveillance.
39:11 Tout arrive dans l'ordinateur.
39:14 Objectif de "Blue Crush",
39:16 trier et analyser en temps réel cette immense base de données
39:20 pour guider l'action de la police.
39:23 -Police de Memphis, bonjour.
39:25 -Comment ? En indiquant où et quand les crimes
39:29 ont le plus de chances d'être commis.
39:31 Un calcul de probabilité pour prendre de vitesse les criminels.
39:36 -OK.
39:38 -Désormais à Memphis,
39:39 chaque briefing est guidé par les prédictions de "Blue Crush".
39:43 -Pour votre information,
39:45 l'entreprise Memphis Construction s'est fait voler du matériel
39:50 et son portail d'entrée a été forcé.
39:53 Aujourd'hui, d'après les calculs,
39:56 le périmètre à surveiller se situe entre la zone 3 et la zone 4.
40:01 Des questions ? Non ?
40:04 Alors vous pouvez vous lever.
40:07 -Dans cet état très religieux du sud des Etats-Unis,
40:11 prière obligatoire avant de partir chasser les délinquants.
40:16 Les policiers ne partent plus en patrouille
40:19 sans consulter leur autre bible,
40:21 les rapports quotidiens du logiciel "Blue Crush".
40:24 -Regardez comment ça se présente.
40:27 Là, on a les statistiques de chaque zone à surveiller.
40:31 On a des graphiques, des cartes, des rapports
40:35 sur tous les types de délits,
40:37 où ça s'est passé, quand ça s'est passé.
40:40 Nous, on va se concentrer sur cette zone-là.
40:43 -Après une carrière dans l'armée,
40:46 Jerry Blaysyke est devenu policier à Memphis il y a 15 ans.
40:50 Même avec "Blue Crush",
40:54 Jerry veut rester un flic à l'ancienne,
40:57 dur, mais proche des gens.
41:00 ...
41:04 -Venez ici.
41:06 Qu'est-ce que vous faisiez près de ces travaux ?
41:09 -On jouait, monsieur.
41:11 -Ouais, mais y a un trou, là. C'est dangereux.
41:14 T'as quel âge, toi ? -19 ans.
41:17 -Si je vous vois encore jouer près de ce trou,
41:20 vous aurez affaire à moi, c'est compris ?
41:22 -Oui, monsieur.
41:24 -Faut vraiment s'occuper de tout, ici.
41:29 ...
41:33 -Pour info, secteur 44e rue,
41:36 je viens de rappeler à Londres 3 jeunes mineurs noirs.
41:39 Cette information est transmise à l'ordinateur.
41:43 Même cette simple patrouille de routine
41:46 va nourrir la base de données.
41:49 -Salut, mec.
41:51 Le plus important, c'est de bien connaître
41:54 tous les gens qui habitent le quartier.
41:58 -Aujourd'hui, ce travail de proximité est devenu presque impossible.
42:02 Avec la crise, la police de Memphis a licencié 25 % de ses effectifs.
42:08 Blue Cross sert donc aussi à mieux répartir
42:11 des patrouilles moins nombreuses.
42:13 -C'est impossible de couvrir seule une zone aussi grande.
42:18 Mais avec les infos de Blue Cross,
42:21 je sais statistiquement où et quand les délits risquent d'être commis.
42:25 C'est ça, la police d'aujourd'hui.
42:27 -Pour l'assister,
42:29 Jerry peut compter sur un réseau de 500 caméras.
42:33 -Regardez là-bas, c'est une caméra reliée à Blue Cross.
42:36 Il y a une lumière bleue qui clignote.
42:39 -Et là aussi, c'est Blue Cross qui a décidé de l'emplacement des caméras
42:44 en se basant sur un calcul de probabilités des crimes
42:47 et des délits zone par zone.
42:50 Sur son téléphone portable,
42:52 Jerry reçoit les prédictions de Blue Cross.
42:56 Il les sert pour organiser ses patrouilles.
42:58 -C'est dans cette zone que les crimes et les délits
43:06 devraient se concentrer ce soir.
43:08 On prévoit beaucoup d'activités liées aux gangs.
43:11 C'est là qu'ils traînent.
43:13 -Alors que Jerry patrouille caméra sur le toit,
43:20 en salle de contrôle,
43:23 Blue Cross analyse les images en provenance de toute la ville.
43:26 -Je vous présente Joe Smith.
43:31 Pour attraper les délinquants,
43:34 c'est notre meilleur enquêteur vidéo.
43:36 Avec nos centaines de caméras,
43:39 il est quasiment capable de deviner le crime.
43:42 Quand il voit quelqu'un qui s'apprête à fracturer la portière d'une voiture,
43:46 comme ça s'est passé ce jour-là,
43:48 il prévient l'unité la plus proche
43:53 et regarde ce qui va se passer après.
43:55 -Le voleur passe à l'action
44:03 et retourne tranquillement vers sa voiture.
44:07 Il ne sait pas que la police a été prévenue par l'opérateur.
44:12 Des patrouilles sont postées au coin de la rue.
44:15 30 secondes après le vol,
44:17 les agents interviennent
44:19 et arrêtent le voleur.
44:21 Alors qu'il s'apprêtait à s'enfuir.
44:23 Le système Blue Crush aurait permis une baisse de la criminalité
44:30 de 30 % ces cinq dernières années.
44:33 -Memphis est une ville beaucoup plus sûre grâce à Blue Crush.
44:37 Je n'ai plus peur quand ma maman va faire ses courses de Noël.
44:42 -On est rassuré pour la maman du commissaire.
44:45 Mais le logiciel Blue Crush,
44:47 c'est aussi une grosse opération de com'
44:50 Regardez le genre de spot
44:52 que diffuse la police de Memphis sur les télés locales.
44:55 Les voyous sont prévenus.
44:58 Fini les voyous.
44:59 Citoyens d'en haut,
45:01 vous êtes en train de vous faire chier.
45:04 Vous êtes en train de vous faire chier.
45:07 Vous êtes en train de vous faire chier.
45:10 Vous êtes en train de vous faire chier.
45:13 Vous êtes en train de vous faire chier.
45:16 Vous êtes en train de vous faire chier.
45:19 Vous êtes en train de vous faire chier.
45:22 Vous êtes en train de vous faire chier.
45:26 -Citoyens dormaient tranquilles grâce à Blue Crush.
45:28 Mais à y regarder de plus près,
45:30 il n'y a que les vols qui sont en chute libre à Memphis.
45:33 Les atteintes aux personnes, elles, restent constantes.
45:36 Agression, viol, meurtre.
45:39 Pour les faits les plus graves,
45:41 l'ordinateur n'a pas encore trouvé la réponse.
45:44 L'analyse prédictive et ses caméras connectées
45:47 ont encore quelques progrès à faire.
45:49 A San Francisco, on y travaille déjà.
45:55 La vidéo analytique,
45:57 c'est l'un des domaines les plus prometteurs du big data.
46:00 Si un vol est commis dans un hôtel, par exemple,
46:04 le logiciel est déjà capable de retrouver,
46:07 sur des milliers d'heures enregistrées,
46:09 l'image exacte du moment où le vol s'est produit.
46:13 Pour cet ingénieur, dans un futur très proche,
46:18 des caméras pourront aller beaucoup plus loin
46:21 en devinant des attitudes potentiellement délicates.
46:24 Des attitudes potentiellement dangereuses.
46:26 On appelle cela le ciblage comportemental.
46:30 On pourrait développer un algorithme
46:39 qui détecterait les attitudes menaçantes.
46:42 Il ferait la différence entre quelqu'un
46:44 qui sort tranquillement son portefeuille de sa poche,
46:47 et quelqu'un qui dégaine brusquement une arme.
46:52 Demain, les caméras seront si précises
46:55 qu'elles pourront détecter sur votre visage
46:58 des signes de stress alarmant
47:00 pouvant annoncer que vous êtes sur le point
47:02 de commettre un délit.
47:04 Ces informations seront traitées en temps réel par l'ordinateur.
47:07 Cette technologie est sans limite ou presque.
47:11 Une autre application possible,
47:16 ce serait d'identifier l'origine des gens.
47:19 Noirs, asiatiques, caucasiens,
47:21 ce n'est qu'une question d'algorithme.
47:23 Mais si on commence à collecter ce genre de données,
47:26 il faut se demander à quoi ça va servir.
47:29 Et ça peut vite déraper vers le profilage racial.
47:32 Donc on a décidé de ne pas s'aventurer
47:34 sur ce terrain glissant.
47:36 Des citoyens de plus en plus surveillés,
47:40 des milliards de données personnelles qui nous échappent,
47:43 Big Data serait pire que Big Brother,
47:46 les cyber-résistants s'organisent.
47:49 Parmi ces cyber-résistants,
47:50 les plus connus, ce sont les Anonymous.
47:52 Dans cette vidéo,
47:54 ils sensibilisent l'opinion
47:56 contre les logiciels de reconnaissance faciale
47:58 sur le mode humoristique.
48:01 - Le masque est un moyen commun
48:02 de garder son identité cachée.
48:04 Un autre moyen d'éviter la reconnaissance faciale
48:06 est de tilter votre tête plus de 15 degrés vers le côté.
48:09 Savez-vous que un point laser
48:11 peut désactiver les caméras de surveillance ?
48:13 Avec rien de plus que un masque,
48:15 quelques LEDs infrarouges,
48:17 quelques câbles,
48:19 et une batterie de 9 volts,
48:21 vous pouvez créer des images
48:23 de la vie de la personne.
48:25 - Le masque est un moyen
48:27 de garder son identité cachée.
48:29 Un autre moyen
48:30 de garder son identité cachée
48:32 est de tilter votre tête plus de 15 degrés vers le côté
48:34 vers le côté.
48:36 Un autre moyen
48:38 de garder son identité cachée
48:40 est de tilter votre tête plus de 15 degrés vers le côté
48:42 vers le côté.
48:44 - Le masque est un moyen
48:46 de garder son identité cachée.
48:48 Un autre moyen
48:50 de garder son identité cachée
48:52 est de tilter votre tête plus de 15 degrés vers le côté
48:54 vers le côté.
48:56 - Le masque est un moyen
48:58 de garder son identité cachée.
48:59 - Le masque est un moyen
49:01 de garder son identité cachée.
49:03 - Le masque est un moyen
49:05 de garder son identité cachée.
49:07 - Le masque est un moyen
49:09 de garder son identité cachée.
49:11 - Le masque est un moyen
49:13 de garder son identité cachée.
49:15 - Le masque est un moyen
49:17 de garder son identité cachée.
49:19 - Le masque est un moyen
49:21 de garder son identité cachée.
49:23 - Le masque est un moyen
49:25 de garder son identité cachée.
49:27 - Le masque est un moyen
49:28 de garder son identité cachée.
49:30 - Le masque est un moyen
49:32 de garder son identité cachée.
49:34 - Le masque est un moyen
49:36 de garder son identité cachée.
49:38 - Le masque est un moyen
49:40 de garder son identité cachée.
49:42 - Le masque est un moyen
49:44 de garder son identité cachée.
49:46 - Le masque est un moyen
49:48 de garder son identité cachée.
49:50 - Le masque est un moyen
49:52 de garder son identité cachée.
49:54 - Le masque est un moyen
49:56 de garder son identité cachée.
49:57 - Le masque est un moyen
49:59 de garder son identité cachée.
50:01 - Le masque est un moyen
50:03 de garder son identité cachée.
50:05 - Le masque est un moyen
50:07 de garder son identité cachée.
50:09 - Le masque est un moyen
50:11 de garder son identité cachée.
50:13 - Le masque est un moyen
50:15 de garder son identité cachée.
50:17 - Le masque est un moyen
50:19 de garder son identité cachée.
50:21 - Le masque est un moyen
50:23 de garder son identité cachée.
50:25 - Le masque est un moyen
50:26 de garder son identité cachée.
50:28 - Le masque est un moyen
50:30 de garder son identité cachée.
50:32 - Le masque est un moyen
50:34 de garder son identité cachée.
50:36 - Le masque est un moyen
50:38 de garder son identité cachée.
50:40 - Le masque est un moyen
50:42 de garder son identité cachée.
50:44 - Le masque est un moyen
50:46 de garder son identité cachée.
50:48 - Le masque est un moyen
50:50 de garder son identité cachée.
50:52 - Le masque est un moyen
50:54 de garder son identité cachée.
50:55 - Le masque est un moyen
50:57 de garder son identité cachée.
50:59 - Le masque est un moyen
51:01 de garder son identité cachée.
51:03 - Le masque est un moyen
51:05 de garder son identité cachée.
51:07 - Le masque est un moyen
51:09 de garder son identité cachée.
51:11 - Le masque est un moyen
51:13 de garder son identité cachée.
51:15 - Le masque est un moyen
51:17 de garder son identité cachée.
51:19 - Le masque est un moyen
51:21 de garder son identité cachée.
51:23 - Le masque est un moyen
51:24 de garder son identité cachée.
51:26 - Le masque est un moyen
51:28 de garder son identité cachée.
51:30 - Le masque est un moyen
51:32 de garder son identité cachée.
51:34 - Le masque est un moyen
51:36 de garder son identité cachée.
51:38 - Le masque est un moyen
51:40 de garder son identité cachée.
51:42 - Le masque est un moyen
51:44 de garder son identité cachée.
51:46 - Le masque est un moyen
51:48 de garder son identité cachée.
51:50 - Le masque est un moyen
51:52 de garder son identité cachée.
51:53 - Le masque est un moyen
51:55 de garder son identité cachée.
51:57 - Le masque est un moyen
51:59 de garder son identité cachée.
52:01 - Le masque est un moyen
52:03 de garder son identité cachée.
52:05 - Le masque est un moyen
52:07 de garder son identité cachée.
52:09 - Le masque est un moyen
52:11 de garder son identité cachée.
52:13 - Le masque est un moyen
52:15 de garder son identité cachée.
52:17 - Le masque est un moyen
52:19 de garder son identité cachée.
52:21 ...
52:42 ...
52:43 ...