Google anunció la creación de Perspective, una herramienta de inteligencia artificial para que los medios de comunicación puedan detectar de forma automática los comentarios tóxicos e irrespetuosos.
“Perspective es una tecnología que utiliza el aprendizaje automático (‘machine learning’) para identificar los comentarios tóxicos. Y por toxicidad entendemos aquellos comentarios que llevan a alguien a abandonar una conversación”, explicó el responsable de la iniciativa, Jared Cohen.
“Un número de individuos están dificultando la discusión civilizada y dinámica en las secciones de comentarios de plataformas y medios, lo que lleva a que mucha gente abandone la conversación. (...) Muchos medios han terminado cerrando esas secciones”, añadió Cohen.
El directivo es presidente de Jigsaw, el laboratorio de ideas de Alphabet –antes conocido como Google Ideas–, que ha sido el responsable del desarrollo de este proyecto de inteligencia artificial, el cual se sustenta en la tecnología de aprendizaje automático de Google, Tensorflow.
Perspective analiza los comentarios y detecta el grado de toxicidad de las conversaciones, ofreciéndoles a medios y plataformas de internet la información detallada en un marcador que va de cero a cien.
Cohen matizó que son los medios los que tienen que decidir cómo usarán ese marcador: por ejemplo, para detectar los comentarios que deben ser revisados a mano, para mostrar a los lectores ese grado de toxicidad o bien permitirles que filtren los comentarios en función del nivel que están dispuestos a tolerar. La plataforma es gratuita, pero por ahora solo existe un modelo en inglés.
