• l’année dernière
Transcription
00:00 [Bruit de démarrage]
00:08 Au début de mon premier semestre à la Université de Toronto, j'ai reçu un système de vision computerisé qui était censé traquer mon visage.
00:15 Ça ne fonctionnait pas jusqu'à ce que je mette ce masque blanc.
00:19 Je me disais, "OK, qu'est-ce qui se passe ici? Est-ce que c'est la condition de l'affichage?
00:23 Est-ce que c'est l'angle auquel je regarde la caméra? Ou est-ce qu'il y a quelque chose d'autre?"
00:28 C'est là que j'ai commencé à regarder les problèmes de bias qui peuvent s'incliner dans la technologie.
00:34 Nos idées sur la technologie que nous pensons être normales sont en fait des idées qui viennent d'un groupe de personnes très petit et homogène.
00:44 Des quantités énormes de données à des vitesses incroyables.
00:47 Tout le monde a des biases inconscientes, et les gens impliquent leurs propres biases dans la technologie.
00:54 Ce garçon a été arrêté.
00:55 Au résultat de la misidentification de la face recognition.
00:58 Et puis ils ont utilisé ça comme justification pour vous chercher.
01:00 C'est un enfant innocent.
01:02 Le racisme devient mécanisé.
01:04 Les problèmes systémiques ne vont être que enregistrés dans les nouvelles technologies.
01:08 Ce n'est pas seulement une classification de face, c'est une technologie centrée sur les données.
01:17 Chaque jour, nous sommes tous écoutés.
01:20 Qui est engagé? Qui a accueilli?
01:23 Je fais des prédictions pour votre vie, en ce moment.
01:26 Les gens qui possèdent le code l'appliquent à d'autres personnes, et il n'y a pas d'accompagnement.
01:34 Management et Atlantic Towers voulaient installer le software de la face recognition.
01:38 On a fait un peu de Port Knox.
01:40 La technologie est en train d'être adoptée rapidement, et il n'y a pas de garantie.
01:45 On est socialement contrôlés de façon invisible.
01:50 La technologie qui analyse les visages peut être biaisée, mais la compagnie la soutient.
01:56 Quelle démographie est-elle la plus efficace?
01:59 Les hommes blancs.
02:00 Montrez-moi que c'est juste, que c'est légal, avant de le mettre en place.
02:05 C'est ce que nous n'avons pas encore.
02:07 Ça va prendre des gens qui vont se réunir, qui vont se battre pour la justice, dans cette époque d'automation.
02:16 [Musique]
02:24 Sous-titres réalisés para la communauté d'Amara.org