¿Redes sociales no logran responder contundentemente ante terrorismo?

¿Redes sociales no logran responder contundentemente ante terrorismo?

Tras ataque en Nueva Zelanda, quedan expuestas limitaciones de Facebook y YouTube.

Nueva Zelanda

Tras el ataque a dos mezquitas en Nueva Zelanda murieron 50 personas y 49 más resultaron heridas.

Foto:

Michael Bradley / AFP

Por: REDACCIÓN TECNÓSFERA*
18 de marzo 2019 , 04:21 p.m.

El pasado viernes fue un día oscuro en Nueva Zelanda. En cuestión de minutos, el hecho se convirtió en un dolor global con la rapidez de internet. Una macabra transmisión en vivo de 17 minutos en la que se evidencia, en primera persona, las intenciones asesinas y terroristas del autor material del atentado contra dos mezquitas en Nueva Zelanda, fue reproducida miles de veces en las dos redes sociales más grandes del mundo: Facebook y YouTube.

Durante los últimos años una de las principales preocupaciones de las redes sociales es el control sobre el contenido nocivo: Desde publicaciones racistas hasta transmisiones en vivo o imágenes de promoción del suicidio. Facebook es usado más de 2.300 millones de personas en el mundo y YouTube por 1.900 millones.

Facebook tiene un sistema de monitoreo de los perfiles que alertan cuando alguien podría estar pensando en atentar contra sí mismo. También utiliza inteligencia artificial para identificar los contenidos relevantes y para disminuir la visibilidad de aquellos que han sido reportados por la comunidad.

YouTube ha intentado mantener los videos violentos fuera del servicio con inteligencia artificial. El año pasado contrató a miles de moderadores humanos para solucionar dudas sobre el contexto de las publicaciones y no confiarse en el criterio únicamente de las máquinas. Lastimosamente, todo ese conjunto parece no haber sido rival para el hombre armado. 

Cuando el hecho fue transmitido en vivo por Facebook, la policía local alertó a la red social y esta eliminó el video. Para entonces, la grabación había sido capturada por otros y republicada tanto en la misma red como en YouTube.

 Por su parte, Google dijo que está "trabajando de manera vigilante para eliminar cualquier filmación violenta" y que había eliminado el video miles de veces antes del viernes por la tarde.

Tampoco pasa desapercibido que el atacante, justo antes de empezar a disparar, mencionara al youtuber con mayor cantidad de suscriptores en la red social, Pew Die Pie, quien ha sido criticado por vincular contenidos racistas.

Hace unos cinco años, Google reveló que estaba usando técnicas de inteligencia artificial como el aprendizaje automático y el reconocimiento de imágenes para mejorar muchos de sus servicios. La tecnología fue aplicada a YouTube. A principios de 2017, el 8 por ciento de los videos marcados y eliminados por extremismo violento se eliminaron con menos de 10 visitas. 

La herramienta Content ID, que ha existido por más de una década y le brinda la posibilidad a los propietarios de derechos de autor, como los estudios de cine o dueños de discografías, de reclamar una violación el contenido como propio, recibir un pago por él y eliminar las copias no autorizadas. Esta tecnología se ha usado como base para otras herramientas que permiten incluir contenidos en una lista negra otro contenido ilegal o indeseable, como el material de abuso sexual de menores y los videos de propaganda terrorista.

Por su parte Facebook informó el sábado que eliminó 1.5 millones de videos a nivel mundial del ataque a la mezquita de Nueva Zelanda. "En las primeras 24 horas eliminamos 1.5 millones de videos del ataque a nivel mundial, de los cuales más de 1.2 millones fueron bloqueados en el proceso de carga ...", dijo la compañía en un tuit. La red social dijo que por respeto a las víctimas y sus familiares estaba dando de baja las versiones editadas del video. El número de muertos en los tiroteos en las mezquitas de Nueva Zelanda llegó a 50 personas. 

El problema para las redes sociales es que en este punto, parece más eficaz la detección de un contenido que viola los derechos de autor que evitar la difusión de uno donde aparecen personas muriendo. Un gran interrogante es cómo, a pesar de mostrar armas con mensajes abiertamente racistas, la transmisión siguió en curso. 

¿Por qué no pudieron evitar que un solo video, que es claramente extremo y violento, se replicara y publicara múltiples veces en redes sociales?

Según dijo a Reuters Rasty Turek, director ejecutivo de Pex, una empresa que crea tecnología para la identificación de contenido, "hay muchas maneras de engañar a las computadoras". 

Hacer cambios menores en un video, como colocar un marco a su alrededor o aplicarle un efecto de espejo, puede eliminar las posibilidades de que sea identificado por el software que ha sido entrenado para encontrar y reconocer imágenes problemáticas.

Por último, un gran problema es que los sistemas aún no entienden en qué contexto se de una transmisión en vivo. Según Turek el software AI actual no puede analizar el contenido antes de que se cargue el clip completo. Algunas personas retransmiten el video por segunda vez para evitar que sea bajado de forma inmediata.

"Cuando YouTube reconoce lo que está pasando, el video ya se ha reproducido durante 30 segundos o un minuto, independientemente de lo bueno que sea el algoritmo", dijo Turek, para quien la transmisión en vivo "reduce esto a un nivel humano", por ello, aún, no solo las herramientas automáticas bastan para frenar el contenido. 


REDACCIÓN TECNÓSFERA*
*Con agencias

Descarga la app El Tiempo

Con ella puedes escoger los temas de tu interés y recibir notificaciones de las últimas noticias.

Conócela acá
Sigue bajando para encontrar más contenido

CREA UNA CUENTA


¿Ya tienes cuenta? INGRESA

Llegaste al límite de contenidos del mes

Disfruta al máximo el contenido de EL TIEMPO DIGITAL de forma ilimitada. ¡Suscríbete ya!

Si ya eres suscriptor del impreso

actívate

* COP $900 / mes durante los dos primeros meses

Sabemos que te gusta estar siempre informado.

Crea una cuenta y podrás disfrutar de:

  • Acceso a boletines con las mejores noticias de actualidad.
  • Comentar las noticias que te interesan.
  • Guardar tus artículos favoritos.

Crea una cuenta y podrás disfrutar nuestro contenido desde cualquier dispositivo.