El auge de los deepfakes: la IA aviva nuevas amenazas para la seguridad y privacidad
En este episodio de Sci-Tech, exploramos el rápido auge de los deepfakes, impulsado por los avances en IA generativa.
Category
🗞
NewsTranscript
00:00Muchos de nosotros han recibido e-mails malos, pidiendo dinero, prometiendo cosas que son muy buenas para ser verdaderas.
00:09Ahora, la inteligencia artificial podría ser usada para intentar chuparnos.
00:13Un Deepfake es una copia producida por la AI de un ser humano.
00:17Y esta tecnología hace que la fraude de un nuevo tipo sea muy, muy posible.
00:22Un banco está luchando contra Deepfakes, con Deepfakes.
00:27Para los falsificadores, es una herramienta poderosa que pueden usar para robar tu dinero.
00:35Bienvenidos a esta edición de SciTech de Londres, donde vamos a profundizar en la creación de Deepfakes.
00:40Vídeo, audio y imágenes que parecen ser reales, pero no lo son.
00:44Al igual que esa introducción, eso no era yo.
00:47De hecho, fue mi avatar, creado usando la inteligencia artificial.
00:52¿Podrías decir la diferencia?
00:56Mi avatar fue creado con mi consentimiento a través de una plataforma dirigida por Synthesia.
01:01Produce contenidos generados por la AI para propósitos legítimos,
01:06como videos de entrenamiento, marketing y servicio al cliente,
01:10con aseguramientos estrictos en lugar.
01:13Nunca generamos un avatar de alguien sin su consentimiento explícito.
01:16El otro es el control. Aplicamos moderación de contenidos en los videos que se crean.
01:20Y el tercero es alrededor de colaboración.
01:22Así que trabajamos con grupos de industria, con gobiernos y con políticos
01:26para asegurarnos de que la tecnología sea desarrollada y utilizada responsablemente.
01:32Deepfakes que tienen un intenso intento malicioso
01:34copian la imagen de personas reales en fotos, videos y audio
01:39para misrepresentar a ellos o a una organización.
01:43El profesor Michael Woodridge, experto en la AI en la Universidad de Oxford,
01:48dice que la tecnología está mejorando rápidamente.
01:52Si puedes llevarlo hasta el punto en el que puedes estar en un grupo
01:56con alguien que piensas que es tu jefe, mirando un video de alguien,
02:00y es un video producido por la AI en el otro lado,
02:03entonces empieza a ser muy difícil saber qué es real y qué es falso.
02:08En un estudio publicado en julio,
02:10solo más del 40% de los respondientes de edad de 16 años
02:14dijeron que habían visto un Deepfake en los últimos seis meses,
02:17pero menos de 1 en 10 tenían confianza en su capacidad de verlo.
02:24Una banca ha lanzado una campaña
02:26que está desplegando su propio contenido Deepfake
02:29para dar conciencia de los peligros.
02:38Las empresas tecnológicas también están luchando contra los Deepfakes.
02:42Esta nueva fórmula de teléfono pide a la AI contra la AI,
02:46ayudando a los usuarios a ver qué es real y qué no.
02:50La AI de los dispositivos lleva a cabo un scan facial
02:53de una persona en una imagen o un video.
02:55El algoritmo analiza cosas como la composición,
02:58si hay imperfecciones de píxeles
03:00o si hay anomalías en las características faciales
03:03de la persona en esa imagen o video.
03:05Y, crucialmente, permite al usuario ver en tiempo real
03:08si esa persona es real.
03:10Veamos un ejemplo específico.
03:12Si miramos a esta señora, ¿qué piensan?
03:15¿Real o fake?
03:17Es difícil decir, ¿no?
03:19No sé si sería Deepfake o no.
03:21Veamos. Si clickeo en la cápsula mágica,
03:24se puede ver que la AI de los dispositivos
03:26está haciendo su trabajo.
03:28Está llevando a cabo un scan facial
03:30para determinar si esa persona es real.
03:32Y en segundos tenemos una respuesta.
03:34Aquí podemos ver que ha sido detectado
03:36un swap de cara sospechoso.
03:39Esto alerta al usuario de que,
03:41primero, la persona no es real,
03:43pero, segundo, y crucialmente,
03:45podría estar en riesgo de ser detenido
03:47en algún tipo de fraude o escándalo.
03:49Básicamente, ahora,
03:50tú eres una compañía tecnológica
03:52que lucha contra la tecnología.
03:54Para nosotros,
03:55esto es sobre asegurar la privacidad
03:57y la seguridad de nuestros usuarios.
03:59Creo que todos sabemos que la tecnología
04:01ha estado desarrollándose a un buen ritmo
04:03gracias, en parte, a la AI.
04:05Y, inevitablemente,
04:07a nivel de la industria,
04:08creo que hay un riesgo
04:09en todos los jugadores
04:10para jugar su parte
04:11en el aumento de fraudes
04:13avanzando.
04:15La fraude no es la única preocupación.
04:17Los fraudes son también
04:18los que alimentan
04:19el abuso de imágenes íntimas en línea.
04:21Una víctima cuya identidad real
04:23está protegida por este avatar
04:25fue fraudeada por un amigo anterior.
04:28Me sentí confundido y detenido.
04:30Un documental sobre este tipo
04:32de abuso de fraudes
04:33creó un grupo de campañas.
04:35Ahora demandan
04:36regulaciones más duras
04:38para bloquear los sitios de publicación.
04:40He hablado con más de 30 víctimas de esto
04:43y, en cada caso,
04:46sus vidas han disminuido.
04:48Ha tenido un impacto en su trabajo,
04:50en su carrera,
04:51en su sentido de cuerpo,
04:52en su sentido de identidad.
04:53Los riesgos no podrían ser más altos.