Facebook entrena inteligencia artificial para detectar 'memes de odio'

Facebook entrena inteligencia artificial para detectar 'memes de odio'

La red social tiene una base de datos de 10.000 memes para tomar acciones contra discursos de odio.

Facebook aumenta sus ganancias

Los accionistas de Facebook ganaron hasta septiembre 2,05 dólares por título, frente a los 75 centavos que obtuvieron en los nueve primeros meses de 2015.

Foto:

REUTERS

Por: AFP
13 de mayo 2020 , 05:33 p.m.

Este martes Facebook dio a conocer una iniciativa para identificar  "memes de odio" usando inteligencia artificial. La red social explicó que ya creó una base de datos de 10.000 memes como parte de la intensificación de sus acciones contra los discursos de odio.

Además la tecnológica manifestó que está dando acceso a investigadores a esa base de datos como parte de un "desafío de memes de odio" para desarrollar algoritmos mejorados que permitan detectar mensajes visuales con contenido odioso, con un premio de 100.000 dólares.

"Estos esfuerzos estimularán a la comunidad de investigadores de inteligencia artificial en general a probar nuevos métodos, comparar su trabajo y cotejar sus resultados para acelerar el trabajo en la detección del discurso de odio multimodal", dijo Facebook en una publicación de blog.

La red se está apoyando fuertemente en la inteligencia artificial para filtrar contenido cuestionable durante la pandemia de coronavirus
, que ha reducido su capacidad de moderación humana como resultado de los confinamientos.

El informe de transparencia trimestral de la compañía detalla que eliminó unos 9,6 millones de publicaciones por violar las políticas de "discurso de odio"
en los primeros tres meses de este año, incluyendo 4,7 millones de contenidos "vinculados al odio organizado".

Guy Rosen, vicepresidente de integridad de Facebook, dijo que con inteligencia artificial "se puede encontrar más contenido y ahora se puede detectar casi el 90% del contenido que eliminamos antes de que alguien nos lo informe".

La tecnológica se comprometió hace un año a "interrumpir" la conducta de odio organizada tras los letales ataques en una mezquita de Nueva Zelanda, que provocaron un "llamado a la acción" por parte de los gobiernos para frenar la propagación del extremismo en línea.

Los sistemas automatizados y la inteligencia artificial pueden ser útiles, dijo Facebook, para detectar contenido extremista en varios idiomas y analizar texto incrustado en imágenes y videos para comprender su contexto completo.

Mike Schroepfer, director de tecnología de Facebook, dijo a medios nacionales que una de las técnicas que ayudaron a este esfuerzo fue un sistema para identificar imágenes "casi idénticas", con el que es posible vigilar la publicación de imágenes y videos maliciosos con pequeños cambios para evadir la detección. "Esta tecnología puede detectar coincidencias casi perfectas", dijo Schroepfer.

Heather Woods, profesora de la Universidad del Estado de Kansas que estudia memes y contenido extremista, elogió la iniciativa de Facebook y la inclusión de investigadores externos.

"Los memes son claramente complejos, no solo porque son multimodales, al incorporar imágenes y texto, como señala Facebook, sino porque son contextuales", dijo Woods.

"Me imagino que los matices y la especificidad contextual de los memes seguirán siendo un desafío para Facebook y otras plataformas que buscan eliminar el discurso de odio", añadió.

AFP

Descarga la app El Tiempo

Noticias de Colombia y el mundo al instante: Personaliza, descubre e infórmate.

CONOCE MÁS
Sigue bajando para encontrar más contenido

CREA UNA CUENTA


¿Ya tienes cuenta? INGRESA

Llegaste al límite de contenidos del mes

Disfruta al máximo el contenido de EL TIEMPO DIGITAL de forma ilimitada. ¡Suscríbete ya!

Si ya eres suscriptor del impreso

actívate

* COP $900 / mes durante los dos primeros meses

Sabemos que te gusta estar siempre informado.

Crea una cuenta y podrás disfrutar de:

  • Acceso a boletines con las mejores noticias de actualidad.
  • Comentar las noticias que te interesan.
  • Guardar tus artículos favoritos.

Crea una cuenta y podrás disfrutar nuestro contenido desde cualquier dispositivo.