Las preocupaciones que causa la tecnología para hacer 'deepfakes'

Las preocupaciones que causa la tecnología para hacer 'deepfakes'

Desde cómo opera hasta lo que preocupa a iniciativas que combaten la desinformación.

Deepfake

Aunque los deepfake pueden ser una forma de expresión, el realismo puede traer inconvenientes en la batalla contra la desinformación

Foto:

Archivo

Por: Linda Patiño - Redacción Tecnósfera
20 de junio 2019 , 06:05 a.m.

Un video de Mark Zuckerberg en el que dice que es dueño de "todos sus secretos" generó alarma entre los expertos. No por el contenido, pues se trata de un mensaje falso, con frases que Zuckerberg nunca pronunció, sino porque la pieza, creada por una agencia para un proyecto artístico, resulta tan realista que da escalofríos.

Otro clip, en el que líderes globales como Donald Trump y Xi Jinping cantan Imagine de John Lennon y otro más en el que un personaje de Game of Thrones se disculpa ante la audiencia por la última temporada de la reconocida serie, también son falsos.
Estos clips manipulados son conocidos como deepfakes, que adquieren su nombre de la vertiente del ‘deep learning’, un tipo de aprendizaje de las máquinas que hace parte de las disciplinas de la inteligencia artificial.

En el pasado, el desarrollo se hizo conocido por una serie de escándalos con falsos videos porno creados a partir de imágenes de actrices famosas como Gal Gadot, Emma Watson y Scarlett Johansson.

¿Cómo funcionan?

Los deepfakes están diseñados para engañar al ojo humano. Es como generar una capa artificial sobre la boca de alguien y luego mimetizar la animación sobre un video real. El sistema se encargará de las sombras en el ambiente, la gesticulación y los ángulos del rostro de la persona.

Alexánder Caicedo, profesor del Programa de Matemáticas Aplicadas y Ciencias de la Computación de la Universidad del Rosario, asegura que el principio fundamental de los deepfakes son las redes generativas antagónicas (GAN por sus siglas en inglés), en las que dos algoritmos compiten entre sí por crear piezas cada vez más realistas.

Este tipo de redes se asemejan a la figura de un policía y un ladrón. Un algoritmo discriminador es entrenado para diferenciar algo entre un conjunto de datos, como por ejemplo una manzana. Para lograrlo, necesita suficiente cantidad de manzanas y de suficiente variedad para que si ve una verde o una roja sea capaz de reconocerlas y diferenciarlas.

El otro algoritmo, el generador, actúa conociendo criterios previos sobre qué sería falso o qué sería real para el discriminador. Su trabajo es generar contenidos, como fotos de manzanas creadas artificialmente, para engañar al discriminador. Si la manzana es azul, cuadrada y con hoyos, fallará en el intento. A medida que se ajusta, el algoritmo es cada vez más eficiente.

Usos más allá de la teoría

Esta clase de algoritmo es usada para muchos fines, desde producir imágenes completas hasta generar claves seguras de forma automática.

Por ejemplo, el cuadro ‘Edmond of Belamy’, que se subastó por un valor superior a los 400.000 dólares, fue generado por el colectivo francés Obvious con un algoritmo GAN que se alimentó con más de 15.000 retratos y pinturas existentes.

También hay aplicaciones en la ciencia, como en mapeos de concentración de materia negra y otro uso son algunas remasterizaciones de videojuegos, que toman títulos de baja calidad para mejorarlos gráficamente hasta calidades en 4K de forma computarizada.

Las preocupaciones

Para Caicedo, el deepfake de Mark Zuckerberg es sorprendente. “Uno piensa que es real. Después, sabiendo que es creado de forma artificial, da un poco de miedo por el uso que se le puede dar a estas tecnologías”, expresa. Agrega que podría “facilitar la creación de ‘fake news’ al poner a una persona a decir cosas que nunca dijo”.

La masificación de videos falsos en los que líderes políticos puedan confesar delitos o, incluso, declarar una guerra, podría desatar una crisis de opinión pública. No son pocas las preocupaciones para periodistas y organizaciones sociales frente a este recurso, que se sumaría al uso de textos sesgados o imágenes editadas para descontextualizar un hecho.

Tenemos muy pocas herramientas tecnológicas para descubrirlos, hay que confiar en la intuición y mientras que la tecnología para crearlos avanza nosotros nos estamos quedando atrás.

Para Pablo Medina, director de ColombiaCheck, una iniciativa de fact checking sin ánimo de lucro, los deepfakes son el problema más grande que tendremos que enfrentar como sociedad.

“Tenemos muy pocas herramientas tecnológicas para descubrirlos, hay que confiar en la intuición y mientras que la tecnología para crearlos avanza (incluso con ayuda de actores que no tienen esa intención), nosotros nos estamos quedando atrás. No tenemos el músculo financiero para desarrollar herramientas tan sofisticadas”, expresa.

Entonces, ¿ya no se puede creer en nada? Expertos apuntan que la misma tecnología podría ser la solución para enfrentarse una eventual oleada de desinformación. Caicedo cree que el mismo método “puede permitir desarrollar algoritmos que nos ayuden a detectar lo real y lo falso. La cura a esos riesgos podría ser una red antagonista que pueda cazar la otra”.

La batalla contra una próxima generación de noticias falsas podría depender, al final, de nuestra habilidad para generar algoritmos más capaces y datos de mayor calidad. El debate sobre cómo evitar la desinformación debe permitir no censurar muestras artísticas como el video de Zuckerberg o críticas como el video contra Game of Thrones.

LINDA PATIÑO 
REDACCIÓN TECNÓSFERA
@LinndaPC

Descarga la app El Tiempo. Con ella puedes escoger los temas de tu interés y recibir notificaciones de las últimas noticias. Conócela acá

Logo Boletin

Estás a un clic de recibir a diario la mejor información en tu correo. ¡Inscríbete!

*Inscripción exitosa.

*Este no es un correo electrónico válido.

*Debe aceptar los Términos y condiciones.

Logo Boletines

¡Felicidades! Tu inscripción ha sido exitosa.

Ya puedes ver los últimos contenidos de EL TIEMPO en tu bandeja de entrada

Sigue bajando para encontrar más contenido

CREA UNA CUENTA


¿Ya tienes cuenta? INGRESA

Llegaste al límite de contenidos del mes

Disfruta al máximo el contenido de EL TIEMPO DIGITAL de forma ilimitada. ¡Suscríbete ya!

Si ya eres suscriptor del impreso

actívate

* COP $900 / mes durante los dos primeros meses

Sabemos que te gusta estar siempre informado.

Crea una cuenta y podrás disfrutar de:

  • Acceso a boletines con las mejores noticias de actualidad.
  • Comentar las noticias que te interesan.
  • Guardar tus artículos favoritos.

Crea una cuenta y podrás disfrutar nuestro contenido desde cualquier dispositivo.