Category
🗞
NoticiasTranscripción
00:00Hola, buenas tardes a todos. Para que esta conversación fluya, si me permitís, la vamos
00:12a hacer en francés para que Egeek se haga este cómodo. La verdad es que Carlos ha hecho
00:18una muy buena introducción para presentar a Egeek, pero simplemente querría añadir
00:22que, en fin, es una de las voces de referencia en todo lo que es la reflexión sobre el impacto
00:28que están teniendo las tecnologías en nuestra sociedad. Por lo tanto, es una manera estupenda
00:34de abrir este foro de tendencias.
00:36Buenos días, Egeek. ¿Qué tal? Muy bien, muchas gracias. Muy bien, pues vamos a hablar
00:43un poquito de inteligencia artificial y vamos a hablar de cómo esa inteligencia artificial
00:50va a redefinir cómo somos, cómo somos como seres humanos. Así que ahora mismo, el 30
00:57de noviembre de 2022, ha dicho, será el aniversario del nacimiento de Chad-GPT, que
01:05fue un evento crucial que nos va a ofrecer progresos inimaginables. Eso está clarísimo,
01:11pero no es un término que yo utilizaría, progreso, sino desarrollo. Bueno, un desarrollo,
01:17pero presenta también grandes desafíos para la humanidad, ¿verdad?, este Chad-GPT. Entonces,
01:23me gustaría saber cuáles son los principales desafíos a los que cree que tendremos que
01:32enfrentarnos. Muy bien, pues efectivamente, dentro de unos días, será el segundo aniversario
01:39de la primera versión de Chad-GPT, que se subió el 30 de noviembre de 2022, y estamos
01:49viviendo un momento serio, un momento muy serio, yo diría, pero no lo vemos todavía,
01:57pero lo veremos. Veremos que es un momento de gran gravedad, porque he llegado a teorizar
02:04que el humano, y la señora Bueno puede que estuviese hablando de ello de alguna manera
02:09durante su introducción, puede que lo humano, y sobre todo desde el desarrollo de las tecnologías
02:19digitales desde hace unos 20 años, está viendo que le cuesta entender las cosas en
02:25el presente, nos cuesta, nos cuesta entender el presente, porque hay cosas, hay efectos
02:31de velocidad, hay efectos de transformación que hacen que nos cueste. Llegamos a entender
02:42las cosas, pero siempre con un pequeño retraso. Voy a dar un ejemplo, por ejemplo, de tabletas
02:48digitales, que hace 10 años se decía que teníamos que digitalizar al colegio en general
02:55y la universidad, 10 años después, desde hace un tiempo, investigadores y responsables
03:00de distintos centros, escuelas, profesores, neurocientíficos, dicen, no, nos hemos equivocado
03:07totalmente, pero 10 años más tarde, hace 10 años, había todo un grupo muy potente
03:12que consideraba que todo se tenía que digitalizar, todas las aplicaciones educativas, tabletas
03:18digitales, yo hace 10 años ya criticaba mucho esto, y no lo veíamos, no veíamos
03:22la importancia de estos desafíos, lo hemos visto 10 años más tarde, y nos dijimos,
03:26bueno, pues nos hemos equivocado totalmente, pero eso es gravísimo, es gravísimo porque
03:30hemos sacrificado una generación, una generación de alumnos de escuelas, y cuando digo que
03:35vivimos un momento de gran gravedad, es porque vivimos lo que yo llamo el punto de inflexión
03:44intelectual y creativo de la inteligencia artificial, desde que se subió a Internet
03:52ChatGPT por primera vez, en algunas palabras, para que entendamos a lo que nos enfrentamos,
03:56porque está la inteligencia artificial, tal y como la utilizamos en nuestras vidas, en
03:59el día a día, en nuestra vida cotidiana, en el mundo del trabajo, desde hace ya unos
04:0315 años, en muchísimos ámbitos, y luego está la inteligencia artificial de otras
04:08dimensiones que se ha añadido desde hace dos años, que es lo que yo llamo el punto
04:12de inflexión creativo e intelectual. En algunas palabras, hablamos, o no, cesamos
04:18de hablar de inteligencia artificial, pero no hemos definido correctamente la inteligencia
04:22artificial, y las definiciones son importantes para saber a qué nos enfrentamos. La inteligencia
04:28artificial en su dimensión, tal y como la vemos desde los años 2010, es principalmente,
04:36esencialmente, una potencia de interpretación de fenómenos, y cada vez, en mayor medida,
04:43a tiempo real, pero no solo eso, sino no solo una interpretación, sino también recomendaciones,
04:47por ejemplo, Waze de Google, lo que hace es interpretar los flujos de circulación, cuando
04:55le preguntamos cuál es la mejor ruta para conducir por Madrid o por Barcelona, y lo
05:00que hace es recabar una infinidad de información que ningún humano podría recabar a esa velocidad,
05:06y con tan volumen de información, y que, al mismo tiempo, interpreta el estado del
05:13tráfico en el momento en el que se le pregunta, pero no solo eso, no solo interpreta, eso
05:19es la inteligencia artificial, porque se habla mucho de ello, pero no queda claro, decimos
05:23va a hacer esto, va a hacer lo otro, sí, pero bueno, ¿de qué se trata, a qué nos
05:27enfrentamos? Y lo que digo es muy importante, porque así podemos entender las consecuencias,
05:33pero Waze, por ejemplo, a ver, hay muchísimos ejemplos, infinidad de ejemplos, pero Waze
05:38nos recomienda, a ver, este itinerario mejor que este otro, en general, dependiendo de
05:45la optimización de consumo energético y de tiempo, y nos pone en el camino correcto,
05:52sí, exacto, y es lo que estamos viviendo desde hace, pues no sé, desde los años 2010,
05:58ese punto de inflexión, lo que yo llamo ese giro, realmente, de ese momento, ese momento
06:09que realmente ha dado un cambio en la tecnología, ¿qué es lo que significa esto? Significa
06:14que por primera vez en la historia de la humanidad, por primera vez en la historia de las tecnologías,
06:21los sistemas nos sugieren, nos dicen, nos aconsejan o incluso nos empujan, no voy a
06:29dar todos los ejemplos, nos dicen que actuemos de dicha manera en vez de esta otra. Ese es
06:36el primer acontecimiento antropológico que tiene impactos jurídicos o políticos importantes,
06:43enormes, porque son sistemas los que nos están diciendo, hagan ustedes esto mejor que esto
06:48Estabamos hablando de los nuevos sistemas de contratación automatizada, bueno, pues después
06:53de 400 candidatos revisados por los robots, tan solo nos quedan tres o cuatro candidatos,
06:58esos son los candidatos con los que nos tenemos que quedar, y a día de hoy, en 2024, esos 4 o 5
07:03candidatos, al final, serán entrevistados por humanos, de carne y hueso, pero dentro de unos
07:08años, teniendo en cuenta los sistemas de inteligencia artificial y cómo se desarrollan,
07:13porque lo que les caracteriza es que su sofisticación no hace más que aumentar,
07:18dentro de tres, cuatro o cinco años, si pensamos en esa perspectiva delirante,
07:23pues el ser humano ya no estará en el loop, y entonces será el robot el que verá cuáles son
07:29las competencias y dirán, este es al que hay que contratar. Eso es lo que yo llamo la dimensión
07:36cognitiva, porque interpreta y que organiza, o que puede organizar, interpretar los comportamientos,
07:42aconsejar comprar este producto en vez de este otro, ir a ver esta película mejor que esta otra,
07:46o trabajar de esta forma en lugar de esta otra, o, por ejemplo, en los almacenes de Amazon,
07:50coger este artículo en este palet para ponerlo a esta cadencia o a esta velocidad en este otro
07:58lugar. Estos son temas de gestión que están dentro del ámbito de la inteligencia artificial,
08:06de los que nadie habla, porque habéis oído hablar algún legislador hablar de lo que pasa
08:12en el mundo de la logística con la inteligencia artificial. Nadie habla de eso, nadie dice es
08:16inaceptable, porque estamos hablando de datos personales, publicados, etcétera. Esa es la
08:20primera dimensión. Desde hace dos años, para terminar con este punto, estamos viviendo lo
08:25que yo llamo y lo que deberíamos llamar, y es un poco lo que estoy explicando. Esto conlleva temas
08:34muy importantes y no nos estamos movilizando lo suficiente por distintos motivos, porque no
08:40tenemos tiempo de explicarlo, pero hay todo un dogma, unos discursos que se imponen, y yo lo
08:49diría, señoras y señores, estos discursos que se imponen, la mayoría vienen motivados por intereses,
08:55y tendría que haber contradiscursos que presenten principios, que no es lo mismo, y que presenten
09:01también exigencias morales, lo cual no es lo mismo en absoluto. Y desde hace dos años ya estamos
09:05viviendo ese giro, ese punto de inflexión que no se sustituye a la dimensión cognitiva y
09:11organizacional, sino que se añade. Es como si no hubiese sido suficiente lo anterior, pues ahora
09:18tenemos otra capa. ¿Qué es lo que yo llamo ese giro intelectual y creativo? Lo tenemos que entender
09:25de forma literal. Es ese punto de inflexión, ese giro que está dotando a sistemas con la carga.
09:34A partir de ahora, de asegurar y de encargarse de tareas que hasta ahora movilizaban nuestras
09:44facultades intelectuales y cognitivas. Hay que decirlo literalmente. Y José Barb, de eso vamos a
09:53hablar juntos. Tenemos que entender que en la primera dimensión que he tratado de esbozar de
09:57forma rápida, hay algo que es el juicio humano, la capacidad que nosotros tenemos de determinarnos
10:04libremente, que empezó a negarse en algunos campos de la sociedad y que ahora mismo es la expresión de
10:14nuestras facultades más fundamentales. Es decir, hablar en nuestro nombre, escribir, producir
10:23imágenes, fabricar símbolos. Todas esas facultades que son las más fundamentales, cada vez en mayor
10:31medida van a ser facultades de las que se encarguen sistemas que van a encargarse de esas tareas de
10:40forma más viable y aparentemente más eficaz y que cada vez en mayor medida van a epatarnos, por así
10:47decirlo. Y para terminar sobre este punto, el 30 de noviembre de 2022 y los días que siguieron al 30
10:54de noviembre de 2022, en vez de decir, porque hemos visto centenas de millones de individuos que
11:01dijeran, no, no, no, esto es una locura, te acuerdas, José, ¿verdad? Y es cierto, pero también es muy cool,
11:08me permite ahorrar tiempo, me permite hacer un montón de cosas y ya no tengo que escribir. La
11:14gente se alegraba de no tener que escribir, pero la primera pregunta que nos teníamos que haber
11:19planteado todos y todas, pero que no nos hemos planteado, la primera pregunta fundamental que va
11:26más allá de nosotros mismos, sino que va más allá de nuestros hijos, es, entendemos lo que está por
11:33venir, papá, mamá, que nos van a plantear una pregunta dentro de dos, tres años, papá, mamá, ¿por qué voy al
11:39colegio? ¿Yo para qué voy al colegio? ¿De qué sirve que yo vaya al colegio? Si un sistema con una
11:45simple instrucción va a poder escribir en nuestro lugar. Nos la hemos planteado esa pregunta, señoras
11:50y señores, esa pregunta capital, una pregunta básica, una pregunta que nos harán nuestros hijos,
11:56entre muchas otras preguntas que nos plantearán, pero la primera pregunta que nos plantearán es esa,
12:00pero no, la gente, no, directamente se ha puesto a utilizar esas herramientas. Muchas gracias, Eric,
12:06teniendo en cuenta que todos estos sistemas de inteligencia artificial están basados en
12:11algoritmos de predicción, como los que mencionabas, como Waze, por ejemplo, tienen un impacto enorme
12:18sobre nuestras opciones, sobre nuestra forma de pensar, sobre lo que nosotros sentimos también,
12:24y por lo tanto, sobre nuestra identidad. Entonces, me gustaría saber si usted piensa que la
12:31inteligencia artificial va a modificar la naturaleza del ser humano, va a cambiar aspectos fundamentales
12:39de nuestra naturaleza como seres humanos? Sí, eso está clarísimo, eso es así. Si las cosas siguen
12:46como están, si las cosas siguen como están, significa que si las cosas siguen desarrollándose
12:53y sofisticándose, si siguen cada vez estando más presentes y si por otro lado la sociedad sigue
12:59siendo apática y se alegra de esta situación, ¿me entienden? No son esas dos condiciones, hacen falta
13:04las dos. Si no para de desarrollarse, si sigue extendiéndose, si este mundo que podemos llamar
13:11el mundo de la automatización creciente de los asuntos humanos, si no para de ampliarse y por otro
13:16lado la sociedad se alegra de esa situación y siguen utilizándolo, un exceso de utilitarismo y no hay
13:23una movilización contra algunos temas de los que vamos a hablar más adelante, entonces sí,
13:29¿qué es lo que va a cambiar? En mi opinión, pero también en otro sentido, pues será otra naturaleza,
13:35sí, pero es que es totalmente una observación clínica y objetiva, no es una observación
13:39subjetiva. Lo primero será la capacidad de mantener una relación plenamente inventiva.
13:59Porque las tecnologías digitales y en concreto la inteligencia artificial están siendo dotadas,
14:10y este es el núcleo del tema, están siendo dotadas de una superioridad cognitiva. ¿Waze qué es?
14:15Es una superioridad cognitiva. Waze sabe lo que yo no sé, entonces tiene un poder sobre mí,
14:21tiene un poder sobre mí, pero esto es cierto en muchísimas aplicaciones, nos dicen,
14:28bueno, este sistema, el ejemplo que vi antes, si no mires, ya no miramos por la ventana para ver
14:34qué tiempo hace, miramos nuestro móvil para ver qué tiempo hace. Sí, en cualquier caso es una cuestión
14:39de señales, vivimos en un mundo de señales que nos están siendo enviadas y que permiten que
14:48haya recomendaciones, acciones que hay que realizar, que se supone que son las más relevantes, las más
14:53pertinentes. Lo que pasa es que, con el ejemplo de la contratación de la que hablábamos antes,
14:59pero siguiendo qué criterios, no lo sabemos, y podría haber muchísimos candidatos que el sistema
15:07directamente ha decidido rechazar, porque a lo mejor no responden a unos criterios que podemos
15:13suponer que es la gran productividad, la capacidad de someterse a las condiciones, etc. Entonces la
15:20dimensión de señales, un poco como lo que decíamos antes, de las aplicaciones que reciben señales,
15:31esas señales tienen un espíritu, es decir, se encuadran dentro de una visión del mundo y de unos campos de interés,
15:42y hay dos, y respondo a tu pregunta en dos partes. A ver, está por un lado nuestra capacidad de autonomía,
15:48de juicio, de actuar de conformidad con nuestra conciencia, nuestro cuerpo, nuestro libre arbitrio.
15:53No es más que libre arbitrio, no, es más la forma de determinarnos en función, sí, a libre arbitrio, sí,
16:00pero en función de nuestros deseos, de nuestros valores, de nuestras capacidades, de nuestro deseo de sobrepasar
16:12nuestras capacidades. Recibimos señales de conformidad con dos dimensiones. Estoy hablando de cosas que llevo
16:18mucho tiempo analizando, así que estoy seguro de lo que digo cuando hablo de ello, y nos centramos en dos dimensiones.
16:23La primera es, recibimos señales, y es muy sencillo, no es complicado, y lo que os voy a decir es algo que vivís todos
16:31en vuestro día a día, es a la vista de poder realizar transacciones de compra-venta, es lo primero, es el primer tipo de señales,
16:41interpretación automatizada de comportamientos, recomendaciones automatizadas de comportamientos,
16:47ya está, es muy sencillo, interpretamos comportamientos, recibes una señal, cómprate estas zapatillas, mejor que estas otras,
16:54necesitas este cosmético, etcétera. Esa sería la primera, es lo que yo llamo la primera gran consecuencia de la tecnologización
17:03de nuestras existencias y de los sistemas de inteligencia artificial, y la extensión de estos sistemas de inteligencia artificial
17:09en nuestras vidas cotidianas, y la primera es muy sencilla, conlleva todo lo que llamo una mercantilización general de la vida.
17:19Los individuos interpretados y reciben señales que les invitan, es lo que decíamos al principio, a actuar de esta manera mejor que de esta otra,
17:27esa es la primera dimensión, la primera dimensión de influencia sobre las decisiones humanas.
17:33Entonces, esas son realmente situaciones que deberían considerarse desde el punto de vista jurídico, político y antropológico.
17:41Y la segunda dimensión es también muy sencilla, pero hay que verla también, a veces la sentimos y la vamos a entender mejor
17:50basándonos en lo que dije antes con respecto a los almacenes de Amazon, que obviamente es el infierno de gestión,
17:56esto es la logística, ese es el infierno, porque se basa en sistemas de inteligencia artificial, y es entrenar a los sistemas
18:06para una hiper-optimización de la sociedad, con lo cual cada acción mediante señales trata de evitar la menor pérdida y tender hacia la mayor ganancia.
18:19Estamos hablando de ganar tiempo o ganar dinero, es una ganancia económica, es eso, entonces es una visión del mundo que nos conduce,
18:28que esta automatización sin cesar, creciente de nuestras interacciones, esto es el desierto de lo humano,
18:35porque cuanta mayor automatización haya de los asuntos humanos, mayor realización habrá de esta hiper-optimización de la sociedad,
18:43que es lo que quiere, que lo que quiere es instaurar lo que podemos llamar una hiper-higienización de la sociedad, que no haya defectos,
18:51veis, un almacén de Amazon es la vida humana regulada por un procesador, y no puede haber ningún defecto de interpretación a tiempo real de los comportamientos,
19:01señales, es lo que decía antes, es la imagen al extremo de hacer de forma, de suerte que la conducta humana quede enmarcada por sistemas y por señales,
19:13para tender hacia la mayor optimización y por lo tanto reducir costes, y la segunda, el segundo tema es con la inteligencia artificial generativa,
19:22son nuestras facultades, las facultades más fundamentales, porque cómo es posible que se pueda banalizar,
19:31es muy sorprendente desde un punto de vista sociológico y antropológico, se ha banalizado el hecho de que sistemas
19:40se encarguen de escribir en nuestro lugar, de hablar en nuestro nombre, eso el humano tiene como rasgo fundamental,
19:51es la toma de decisión y la de actuar, la parte inventiva y creativa, que ahora tenemos que dar pasos atrás en esta dimensión para constantemente estar enmarcados por señales
20:03y dedicar nuestras facultades más fundamentales a sistemas, no es un mundo que me parezca una ensoñación que me haga soñar,
20:11nos quedan dos minutos, se ha pasado el tiempo muy rápido, Mariano Sigmana, un neurocientífico que va a venir,
20:18han creado un libro que se llama Artificial, la nueva inteligencia y el contorno del humano,
20:23Quería pensar un poquito más en el futuro, en el futuro a largo plazo, ellos hablan de que hay que pensar que habrá una hibridación de la biología y de la tecnología,
20:36que tendrá organismos mixtos, así como la posibilidad de transferir nuestra conciencia hacia un soporte robótico,
20:43¿qué piensa usted de todo eso? Y nos queda un minuto y medio. Sí, pues sí, sí, esas personas defienden una pesadilla, de hecho es lo que buscan, esa hibridación.
20:55Yo creo que la frase de Albert Camus en L'homme révolté, dijo que aquí han llegado demasiado lejos y ese límite no lo deberíamos superar,
21:09y yo creo que deberíamos imponernos la noción del límite, tal y como fue desarrollada por varios pensadores, sobre todo Jacques Ellu, la noción del límite,
21:18y es que el límite es justo lo que debería definir nuestro límite, es que hay algo intangible en lo humano, hay algo intangible en lo humano,
21:28y es lo que está vivo dentro de nosotros, en nuestra capacidad de actuar, de inventar, y eso es lo que está siendo sometido a una situación peligrosa.
21:42Y me gustaría distinguir un poquito esto, sí, sí, pero muy rápido, porque nos quedan 25 segundos. Sí, me gustaría distinguir entre...
21:51Relativamente a lo que se dice aquí, los efectos que pueden suscitar de espanto, siempre hablamos que la revelación nos va a salvar de todo esto,
22:03y la regulación nos va a salvar, pero no lo creo, porque la regulación está basada en una ecuación incorrecta. Tenemos que preguntar, ¿lo podemos controlar o no lo podemos controlar?
22:12Y eso es lo que deberíamos plantearnos como ecuación. Por ejemplo, con Amazon no tenemos el control, por ejemplo, los sistemas de inteligencia artificial en el aerodinamismo,
22:22que nos permiten calcular datos, que nos permiten afinar diseños aerodinámicos, ¿podemos controlarlo o no? Sí, lo podemos controlar, no hay problemas.
22:30Y el segundo criterio que debería determinar la redacción de las leyes, porque los principios están por encima de las leyes, los grandes principios están por encima de las leyes,
22:39y el segundo criterio es si esos sistemas respetan los principios fundamentales o va en contra de esos principios. Si los respeta, pues no hay problema, pero si va en contra de ellos,
22:49si los niega, entonces tenemos un problema. Y para terminar, yo daría los cinco principios fundamentales que están totalmente unidos a las preguntas fundamentales que planteabas, José.
23:01Primero, ¿respeta la libertad humana, respeta la integridad y la dignidad humana? Como por ejemplo los almacenes Amazon no, no respetan ni la integridad ni la dignidad humana,
23:10ni la gestión actual tiene metodologías inaceptables, entonces es inaceptable. ¿Respeta la creatividad humana, el ejercicio de nuestra creatividad?
23:20¿Respeta o no respeta la genialidad que cada uno de nosotros tenemos? Si es así, no hay problema, pero si lo pone en peligro, entonces es inaceptable.
23:31Y por último y para terminar, ¿respeta la necesidad de socializar que tenemos? Porque nosotros que tanto hemos sufrido, que tanto sufrimos durante el confinamiento por no poder socializar,
23:44¿esos sistemas nos permiten seguir estando juntos en nuestras diferencias, cada uno con nuestras calidades, nuestras facultades?
23:52¿O estamos yendo hacia un mundo de aislamiento colectivo en el que cada uno está en su sistema pidiendo lo que esa Markman prometió durante el segundo cumpleaños de Chad GPT,
24:03que tendríamos un superasistente, que es el futuro de los superasistentes y en todos los campos de la vida responderán todas nuestras preguntas?
24:09¿Qué significa eso? Pues que es el final de la alteridad, ya no necesito a los otros, ya no necesito a un médico, ya no necesito a un arquitecto, ya no necesito a un diseñador.
24:18Pero la sociedad significa vínculos de interdependencia, infinidad de vínculos de interdependencia, que todos necesitemos los unos a los otros, esos son los principios fundamentales.
24:30Y creo que todos nosotros deberíamos, a toda escala de la sociedad, defender de forma intangible esos principios, porque si abandonamos esos principios,
24:40pues entonces será la automatización de los asuntos humanos y eso nos llevará a la robotización de nuestras existencias.
24:46Muchísimas gracias, Eric, dos minutos y treinta y seis más, pero muchas gracias.