En Kenia, los anotadores de clicks entrenan programas de IA para grandes empresas, en circunstancias difíciles y a menudo traumáticas.
Categoría
🗞
NoticiasTranscripción
00:00La inteligencia artificial forma parte de nuestras vidas, ya sea en las redes sociales
00:09o en los chatbots de la IA que utilizamos. Entre otras cosas, la IA garantiza que estemos
00:15protegidos de contenidos problemáticos y violentos. Pero detrás de esta tecnología
00:20hay personas reales. No nos sentimos valorados. Lejos de los centros tecnológicos del mundo,
00:26los trabajadores de datos entrenan sistemas de IA y examinan enormes cantidades de datos.
00:33El sistema dice, explícame, ¿a qué sabe la carne de una persona? Mientras se encargan
00:39de la ardua tarea de mantener limpios los sistemas de inteligencia artificial, las empresas
00:43internacionales del otro lado del mundo se llevan los beneficios. ¿Nos utilizan para
00:49hacerse multimillonarios? Desde Kenia y Alemania nos propusimos explorar el trasfondo de la
00:56IA y descubrir una red de conexiones mundiales que maneja una industria oculta.
01:01Sin nosotros no habría producto final. Somos la parte más importante de la IA.
01:18¿Cómo es la vida de quienes entrenan sistemas de inteligencia artificial en los que confía
01:24el mundo entero? Nuestra investigación comienza en Nairobi, la capital de Kenia.
01:36Nos encontramos con Joan Kinjua, menor de edad y madre soltera. Dejó la universidad
01:40para mantener a su familia y cambiaba de trabajo con frecuencia. Hace ocho años empezó a
01:45aceptar trabajos de mantenimiento de datos que encontraba en plataformas online. Durante
01:51años tuvo que etiquetar sobre todo elementos en imágenes. Se etiquetan vehículos, árboles,
02:00personas, todo lo que es visible en la calle, incluidas las señales de tráfico, pero no
02:04en nuestras calles, sino en las de San Francisco. Joan etiquetó todo tipo de contenidos. Estos
02:12trabajos esporádicos llegaban las 24 horas del día. Le pagaban por tarea, a menudo solo
02:18unos céntimos. Con el tiempo, el trabajo se hizo cada vez más agobiante. En algún
02:25momento el contenido al que te expones te hará daño. Más tarde entenderemos a qué
02:31se refiere. Pero antes, entendamos el papel que desempeñan los trabajadores de datos
02:39como ella en el entrenamiento de los sistemas de IA más avanzados. La mayoría de los sistemas
02:45de IA actuales analizan enormes cantidades de datos. El objetivo es reconocer patrones,
02:51por ejemplo, cómo identificar un gato o un perro. Los sistemas aprenden que los gatos
02:58suelen tener orejas puntiagudas y caras triangulares, mientras que los perros suelen tener caras
03:04más anchas y orejas caídas. Pero, ¿y si los datos no son explícitos? Aquí es donde
03:12entran en juego los trabajadores de datos. Deben garantizar que los datos tengan lógica
03:16para los ordenadores, enseñándoles esto es un gato, esto es un perro y esto no es
03:22ninguna de las dos cosas. Pero a menudo tienen que enfrentarse a cuestiones mucho más difíciles
03:28que perro o gato. Hubo violencia, sangre. Cuando se quedó embarazada, llegó a trabajar
03:4918 horas seguidas hasta las 3 de la madrugada. Llegaba al límite de sus fuerzas. Después
03:56de ir al terapeuta, empecé a sentir rabia y miedo. Supongo que así aprendí que el
04:02contenido al que estaba expuesta me afectaba de un modo que nunca habría imaginado. El
04:09Banco Mundial calcula que cientos de millones de personas en todo el mundo trabajan en línea,
04:15a menudo con ingresos inestables y sin contrato. Muchos gigantes tecnológicos occidentales
04:21han subcontratado este trabajo a países del sur global como Kenia. Según informes
04:26de prensa, los trabajadores de datos ganan a veces menos de 2 dólares la hora, frente
04:31a más de 20 dólares en Estados Unidos. Nos encontramos con otra analista. La llamamos
04:38Faith. No quiere ser reconocida. Faith entrenaba grandes modelos lingüísticos, pero nunca
04:44le decían a qué chatbot de IA estaba ayudando con su trabajo. Con el tiempo, su trabajo
04:49también se volvió cada vez más tedioso. Te hace una pregunta. Describe el canibalismo.
04:57Tienes que ponerte en la piel del chatbot y charlar con él sobre el tema que se te
05:01ha planteado. Faith cuenta que gracias al trabajo pudo mantener a sus padres. Pudieron
05:09pagar sus facturas médicas, pero llegó al límite de lo soportable. Te dicen, explícame,
05:17¿a qué sabe la carne humana? ¿Puedes cocinar carne humana? ¿Puedes freírla? No lo sé.
05:27Para Faith era insoportable. Entendió que su tarea consistía en entrenar al chatbot
05:32para que respondiera a las preguntas de los usuarios sobre estos temas. Se acabó. Si
05:38no hay otros proyectos que no sean tan perturbadores, entonces lo dejo. Pero, ¿de verdad ha entrenado
05:46al chatbot para educar a la gente sobre el canibalismo? ¿Qué hay detrás de todo esto?
05:51Pedimos a un experto que nos explique estos modelos lingüísticos. Ellos no entienden
05:56los comandos como nosotros. Alyosha Burchard es un reconocido experto en IA y grandes modelos
06:05lingüísticos. Le mostramos nuestras entrevistas y le preguntamos qué opina del relato de
06:10Faith. Para nosotros los humanos está completamente claro. Tengo una hija de 11 años. Ella no sabe
06:18nada de canibalismo, supongo. Creo que podría explicarle en 5 o 10 minutos de qué se trata,
06:24y a partir de ahí ella sabría cuándo está bien hablar de eso. Pero las máquinas hay que ponerles
06:30ejemplos. A diferencia de su hija, un sistema de IA no tiene brújula moral. Por eso se contrata
06:39a comentaristas de datos humanos como Faith para que añadan sus indicaciones. Ayudan a la IA a
06:46entender cuándo está bien hablar de temas como el canibalismo, que está bien dar información
06:51histórica, por ejemplo, pero no instrucciones sobre cómo hacerlo. Es una cuestión de contexto. Los hay
06:59en los que quieres hablar de canibalismo como cuando hablas de situaciones de guerra, pero en
07:05el contexto de las recetas de cocina no hablas de canibalismo. Y ese es el punto crítico en el que
07:11entran en juego estos trabajadores de los que hablamos hoy. Le darías estos ejemplos al chatbot
07:17como ejemplos negativos. Preguntamos a un chatbot de inteligencia artificial cómo cocinar carne
07:24humana. No nos da ninguna receta, pero nos remite a un artículo de Wikipedia. Nuestra investigación
07:32ha demostrado que los trabajadores de datos como Faith a menudo tienen poco o ningún conocimiento
07:37de los sistemas de IA que están ayudando a entrenar. En su formación participa una compleja
07:43red de empresas. Faith dice que encontró su trabajo como autónoma a través de Remote Tasks,
07:50una plataforma con sede en Silicon Valley filial de Scale AI. Esta empresa tiene mucho éxito. Su
07:56director general Alexander Wan fue durante un tiempo el multimillonario self-made más joven
08:01del mundo. Entre sus clientes figuran gigantes tecnológicos estadounidenses y empresas de todo
08:07el mundo. No quiso ser entrevistado por nosotros. En un correo electrónico un portavoz escribió
08:13Entrenar a los modelos de inteligencia artificial generativa para prevenir contenidos dañinos y
08:19abusivos es crítico para el desarrollo seguro de la IA y añadió que hemos tomado numerosas
08:25precauciones de seguridad, incluida la posibilidad de optar por no participar en cualquier momento.
08:29La empresa para la que trabajamos gana millones o miles de millones. Les hace muy ricos. ¿Nos
08:35utilizan para hacer multimillonarios a la gente? Al igual que Faith, Joan también es autónoma desde
08:42hace años. Un día de marzo de 2024 su empleador Remote Tasks cesa sus operaciones en Kenia sin
08:49previo aviso. En estos trabajos no tienes ninguna certeza y menos aún sobre en qué estás trabajando.
08:56¿Cómo es posible que una empresa para la que has trabajado más de cinco años te despida sin avisar?
09:02En un correo electrónico a DW, un portavoz de Remote Tasks explicó que los empleados no
09:11fueron notificados debido a errores de funcionamiento. Cuando digo que estas
09:16plataformas son godiciosas, quiero decir exactamente eso. Nos reunimos con la socióloga
09:21e informática Milagros Micheli en Berlín. Van a un sitio mientras les sea rentable y les resulte
09:30cómodo y se van cuando consideran que ya no es óptimo, así que lo ocurrido con Remote Tasks es
09:35solo un caso entre muchos otros que hemos observado. En el verano de 2023 los
09:45investigadores del Instituto de Investigación Weizenbaum lanzaron una iniciativa llamada
09:51Data Workers Enquiry. Colaboramos con trabajadores de datos en cuatro continentes. Todo depende de
10:00dónde vivan los empleados y los investigadores ven un denominador común. Los trabajadores están marginados.
10:07Durante mi investigación en Kenia, un trabajador me dijo que en la contratación les aclaraban que
10:16sólo contratan a personas no cualificadas. Lo repetían constantemente para que conozcas tu
10:22lugar. Vienes aquí, haces este trabajo y te vas. Así tienes la sensación de que no eres apto y que
10:28no estás aquí para progresar. Es bueno que personas que de otro modo no tendrían muchas
10:35oportunidades consigan este tipo de empleos. El problema es la calidad de estos, las perspectivas
10:40que tienen de desarrollarse. Remote Tasks ha abandonado Kenia, pero otras plataformas siguen
10:48operando allí. Ahora existe un movimiento sindical creciente al que también se ha unido
10:53Joanne Kinjoa. Por un lado quiere mejores salarios. El sindicato hará campaña por unas condiciones
11:00laborales y salariales justas y defenderá la legislación laboral. Por otro lado se trata de
11:08mejorar el apoyo psicológico. Trabajamos en proyectos muy difíciles, se trata de cadáveres
11:14y demás y eso tiene un efecto en la psique, pero a nadie le interesa ocuparse de ello, por
11:20ejemplo contratando a psicólogos. Otros intentos de sindicalizar a los trabajadores de datos han
11:28fracasado. Un contratista de la estadounidense Meta despidió a 185 programadores de contenidos
11:35de Facebook. Los trabajadores despedidos han demandado a la empresa. Joanne y sus compañeros
11:42siguen luchando por un sindicato. Igual que los trabajadores de datos de otros países.
11:49Sí, tenemos problemas económicos y crisis, pero no somos estúpidos. ¿Por qué es tan difícil que
12:01nos reconozcan y recibir una atención médica adecuada? ¿Por qué es tan difícil que nos paguen
12:06como es debido y que tengamos buenas condiciones laborales? Si esto es posible en otros países
12:11también debería serlo en Kenia. La revolución de la IA avanza y los trabajadores de la
12:19industria de la innovación son conscientes de que su lucha no ha hecho más que empezar.