¿La Inteligencia Artificial discrimina a la mujer? María Ximena Gutiérrez (＠XimGutierrez), investigadora del Programa Macrodatos, Inteligencia Artificial e Internet del @ceiich_unam, nos da detalles. #ElFinancieroTV
: ＠sandragrull
: ＠sandragrull
Category
🗞
NoticiasTranscripción
00:00María Jimena Gutiérrez, quien es investigadora del programa
00:03Macrodatos, Inteligencia Artificial e Internet del
00:06Centro de Investigaciones Interdisciplinarias en
00:09Ciencias y Humanidades.
00:10Bienvenida.
00:10Muchísimas gracias.
00:13Hola, ¿qué tal?
00:14Buenas tardes a todos.
00:15Buenas tardes.
00:16Gracias por acompañarnos para explicar un poquito mejor este
00:21reportaje en el que se dice que la tecnología no es neutral,
00:25que es un dispositivo de poder que puede operar en un marco de
00:29relaciones donde sí se sostiene la desigualdad entre mujeres y
00:32hombres.
00:33¿Cómo se da este fenómeno, esta desigualdad y por qué?
00:38Sí.
00:39Bueno, este es un reportaje que sacó ahora la Gaceta,
00:42donde se reúnen varias voces de investigadoras.
00:44No es solo la mía, pero un poco la línea de esta narrativa que
00:52planteamos ahí es que lo que estamos viviendo ahora,
00:55a lo que le llamamos inteligencia artificial hoy en
00:58día, es todos aquellos programas de computadora,
01:02todos aquellos enfoques que aprenden a partir de los datos.
01:05Es decir, hace algunos años, inteligencia artificial es que
01:08el humano dijera a la computadora,
01:10vas a hacer esto, esto y esto, una lista de instrucciones.
01:13Pero hoy en día no.
01:14Hoy dejamos que los sistemas, que los programas aprendan de la
01:18experiencia.
01:19Es decir, que vean un montón de datos y aprendan a resolver por
01:22ellos mismos la tarea.
01:23Entonces, bueno, esto en general se llama el aprendizaje
01:26de máquina.
01:27Es el enfoque que predomina, o machine learning,
01:29atrás de muchas de las tecnologías que estamos
01:32empezando a ocupar.
01:34Y por lo pronto, por lo mismo llega esta observación,
01:39que es que lo que sea que esté viendo el sistema en los datos,
01:46pues lo va a aprender y lo va a reproducir.
01:48Entonces, esto se le llama una reproducción de sesgos, ¿no?
01:51Lo que nosotros imprimamos en los datos,
01:54estos datos pueden ser todo lo que hemos generado en internet,
01:57en Wikipedia, en foros, pues las computadoras o los sistemas
02:01actuales van a aprender de lo que está ahí.
02:03Por lo tanto, no es extraño que capturen sesgos de diferente
02:08tipo, sociodemográficos, incluidos sesgos de género.
02:12Claro, porque entonces aquí la pregunta sería,
02:15¿cómo influimos nosotros, nuestra sociedad,
02:17la manera como vemos el día a día en la inteligencia
02:22artificial?
02:23¿Y qué de nosotros está ahí reflejado?
02:26¿Cómo va la tecnología o está la inteligencia artificial
02:31absorbiendo toda esta información?
02:35Sí, totalmente.
02:37Si nos ponemos a pensar, muchos de estos sistemas funcionan con
02:42base en un montón de repositorios digitales que ha
02:45creado la humanidad a lo largo de la historia.
02:46Por ejemplo, en los últimos años a través de la web.
02:49Y justamente si lo que tenemos son muchos datos en donde hay
02:52un sesgo visible o que hay poblaciones más representadas
02:56que otras, esto es lo que más fácilmente van a adquirir los
02:59sistemas.
03:00Lo podemos ver en género, pero lo podemos ver en cosas quizá
03:03mucho más fundamentales.
03:05Pensemos en las lenguas, en la lengua.
03:07ChatGPT, este tipo de programas que nos impresionan mucho,
03:12en realidad funcionan muy bien para el inglés,
03:14pero no funcionan tan bien para las 7,000 lenguas que se hablan
03:17en el mundo.
03:18Y la razón de esto es porque la gran cantidad de datos nada más
03:21representa a ciertas poblaciones, a ciertas lenguas.
03:25Y, bueno, lo mismo sucede con cuestiones de género y otras
03:29cuestiones sociodemográficas.
03:31Lo que esté representado ahí es lo que van a reproducir los
03:34algoritmos, por llamarlo de alguna manera.
03:37¿Y por qué, entonces, decir que la inteligencia artificial puede
03:41ser machista o puede discriminar a la mujer?
03:44En el reportaje se mencionan algunos ejemplos,
03:48por mencionar uno y para que nos ayudes con otros más,
03:52en el tema del trabajo, ¿no?
03:53De las cuestiones laborales en donde hay más presencia de
03:56hombres.
03:56Que, pues, también esto perpetúa porque los mismos hombres son
03:59los que generan la información para estas herramientas.
04:05Sí, bueno, a lo mejor decirlo así,
04:06como la IA es feminista o machista o no es feminista,
04:11o es machista o cualquier otra cosa,
04:13es verdad en el sentido de que simplemente está reflejando lo
04:16que va en los datos.
04:17Es decir, lo que está detrás son formulaciones matemáticas,
04:21modelos probabilísticos para hacer predicciones.
04:24En realidad no es como una antropomorfización de alguien
04:30que está siendo machista o feminista,
04:32es simplemente los datos.
04:35Y los ejemplos justamente que comentamos, y hay varios,
04:39es que, por ejemplo, si en los históricos de contrataciones,
04:46en empleos de tecnología, por muchos años se ha contratado a
04:50más hombres que mujeres, cuando uno entra en una inteligencia
04:53artificial que ayude a predecir con base a ciertas
04:56características a quién darle un empleo y a quién no,
04:59es muy probable que este sistema,
05:01por sus métodos probabilísticos y por lo que está habiendo en el
05:04entrenamiento, en los datos, prediga que la mejor persona
05:08para darle cierta posición o cierto trabajo es a un hombre.
05:12Entonces, este es el tipo de ejemplos que decíamos,
05:15lo cual es una realidad y también es una realidad que,
05:19como esto es tan visible en las tecnologías actuales,
05:23una gran área de la investigación hoy por hoy es
05:26hacer este tipo de sistemas, mitigar estos sesgos,
05:30porque sí es muy evidente que los tienen.
05:32Que creo que eso es lo más valioso de este reportaje y de
05:35esta información, justamente conocer cómo está la situación
05:38para poder entonces actuar en consecuencia y poder empezar a
05:42trabajar en ir equilibrando todo esto o eliminar estos sesgos.
05:47Y porque justamente sabemos que hoy la inteligencia artificial
05:50pues no nada más es una herramienta en donde hay esta
05:53probabilidad y las matemáticas, porque también ahora se habla de
05:56que está impactando a la sociedad y está incluso
05:59generando constructos sociales o participando de la manera de ser
06:04de las diferentes sociedades.
06:08Sí, como dices, yo creo que antes la inteligencia artificial,
06:11la computación, todo esto estaba como que en nuestros laboratorios
06:15y ahí como que algunas cosas servían o no,
06:17pero hoy más que nunca estas tecnologías se han adoptado
06:20impresionantemente por todos y ya va más allá,
06:24como dices, de una probabilidad o las matemáticas,
06:27sino del impacto que tienen en la vida diaria.
06:30Entonces, pues yo ahí como que el mensaje que daría o mi
06:33reflexión sería desmitificarlas un poco.
06:36Es decir, sí es impresionante que hoy en 2024 tengamos un
06:40programa que nos complete el texto,
06:42que nos escriba una nota, que nos haga un resumen,
06:45pero detrás de eso lo que hay todavía no es perfecto.
06:50Estos sistemas todavía son muy propicios a cometer errores,
06:54a no lograr razonamientos muy complejos.
06:57Es decir, son una herramienta útil,
06:59pero todavía hay mucho que perfeccionar y en este sentido
07:01no es raro que sí todos los datos que podamos obtener de
07:06estas inteligencias artificiales,
07:08de estos modelos generativos, no siempre son correctos o son
07:12propicios a caer en ciertos problemas,
07:15uno de ellos los sesgos.
07:17Y bueno, esto es una realidad y también tan es realidad que es
07:21una de las áreas de investigación fuertes hoy en
07:23día en las disciplinas de inteligencia artificial.
07:28Bien, pues interesantísimo tema,
07:31doctora María Jimena Gutiérrez,
07:33gracias por habernos acompañado para ampliar más estos temas
07:36pues tan actuales, tan importantes y que seguiremos
07:40seguramente tocando porque ahí está la investigación,
07:43es algo vivo, es algo que está todos los días cambiando y
07:45evolucionando y nos importa mucho.
07:47Muchísimas gracias y muy buenas noches.
07:50Gracias.