Cualquiera que le haya dado un iPad a un infante sabe lo que suele pasar: antes de que los padres se den cuenta, el niño está viendo videos de animales de colores en animación 3D que deambulan (o pelean) al son de cualquiera de las 12.000 variaciones conocidas de la canción ‘Finger Family’.
A veces, los videos tienen como protagonistas a versiones simplificadas de personajes infantiles muy conocidos: del elenco de ‘Frozen’ a Peppa Pig. Y en un número preocupante de casos, hacen más que pelear. Hay versiones ‘didácticas’ con personajes que intercambian sus cabezas. Cada vez que hay un acierto, un bebé en la imagen emite risas, pero cada error produce en el bebé digital un llanto descontrolado. Otros involucran a actores disfrazados que representan escenas de celos o de rivalidad mientras pretenden ser la Sirenita, Batman o el Guasón.
Si bien los citados podrían ser considerados ejemplos de mal gusto, hay otros casos en que los padres han hallado a sus hijos viendo escenas de violencia, algunas de las cuales incluyen escenas de dolor extremo o armas de fuego. Hay videos con una animación más elaborada que mezclan a personajes con otros que nada tienen que ver con las audiencias infantiles. Por ejemplo, uno llamado ‘Paw Patrol Babies Pretend to Die Suicide by Annabelle Hypnotized’ no solo junta a los cachorros de la serie infantil con el personaje de las cintas de terror, sino que alude al suicidio.
YouTube se encuentra en medio de señalamientos de padres descontentos que culpan a la compañía de no filtrar adecuadamente las sugerencias de su sistema de reproducción automática, en especial en su servicio YouTube Kids. Y por supuesto que debería hacerlo, pero hay dos consideraciones importantes: es algo complicado y el trabajo de cuidar a sus hijos no es exclusivo de YouTube.
YouTube ha implementado mecanismos para que los videos marcados como perjudiciales por la comunidad sean excluidos automáticamente de cualquier posibilidad de monetización (que es lo que persiguen quienes alimentan el sitio web). Cualquiera de los ejemplos mencionados en esta nota acumula entre 10 millones y 25 millones de reproducciones. Los más retorcidos, incluidos algunos con contenidos sexuales, probablemente sean obra de individuos perturbados que buscan causar daño a los niños.
El escritor James Bridle usó su blog para poner de relieve el fenómeno. En una extensa recopilación de los hallazgos de una búsqueda rápida sustentó su afirmación de que “alguien o algo (o una combinación de los dos) está usando YouTube para aterrorizar, traumatizar y abusar de los niños”.
Con todo, no es concebible que una empresa del tamaño de YouTube dependa de los usuarios para implementar controles. La mayoría de estos videos son subidos mediante algoritmos por ejércitos de bots (programas que ejecutan tareas repetitivas) y están marcados con títulos que no parecen tener mucho sentido, pero en los que están incluidas palabras claves que aseguran que estarán ubicados en la parte superior de las sugerencias de YouTube. Algo así como: ‘Frozen Elsa Anna Finger Family Song Animation Education Video’. Por cada video desmontado hay varios siendo alimentados en estos momentos. Si el problema se ha industrializado, también debe hacerlo la solución.
Google señaló en un comunicado que “el equipo de YouTube Kids está conformado por padres que se interesan por temas de seguridad y por que exista contenido apropiado en la aplicación”. La compañía asegura que actúa rápido cuando identifica videos inapropiados y que utiliza “una combinación de ‘machine learning’, algoritmos y notificación de los usuarios para determinar el contenido en la app, así como los videos publicitarios (...). Estamos de acuerdo en que es contenido inaceptable y estamos comprometidos con que la ‘app’ sea cada vez mejor”.
Pero está el segundo punto: depende de los padres monitorear lo que sus hijos hacen en internet. Darle un iPad a un niño que no sabe leer y olvidarlo durante las siguientes dos horas no funciona, independientemente del trabajo que hagan los filtros de YouTube.
“Es muy importante que los papás entiendan que YouTube Kids hace un filtrado automatizado. La protección de los niños requiere acompañamiento”, señala Viviana Quintero, coordinadora de TIC e infancia de Red Papaz, quien recomienda que los niños entre cero y 2 años no tengan acceso a pantallas y que a partir de los 3 usen los dispositivos inteligentes solo durante no más de una hora al día. La experta resalta que estas plataformas cuentan con herramientas que ayudan a aplicar un filtrado más estricto, como no permitir búsquedas e inhabilitar la reproducción automática. “Además, debajo de los contenidos hay una banderita con la que se puede hacer un reporte. Es importante que no solo nos alarmemos, sino que apoyemos el sistema de revisión –subraya–. Hay que entender que no hay herramienta infalible. Como papás, tenemos que hacer monitoreo diferencial”.
Navegar en internet debería ser un proceso que el niño aprenda a realizar bajo la atención de sus padres. Si lo deja por su cuenta, no solo estará expuesto a una multitud de mensajes (incluidos los publicitarios) sino que, según los expertos, puede desarrollar problemas de atención o impaciencia. Al igual que con la televisión, no debe subestimarse la importancia de la compañía de un adulto responsable.
Es muy importante que los papás entiendan que YouTube Kids hace un filtrado automatizado. La protección de los niños requiere acompañamiento
Google anunció que usará la tecnología para endurecer los controles al contenido en su plataforma. En el último mes, miles de videos y 50 canales han sido removidos de YouTube. La estrategia también contempla eliminar la posibilidad de que los videos inapropiados se lucren mediante avisos. Así mismo, se extenderán los controles a los comentarios, mediante una combinación de recursos humanos y automatizados. Pero Google hará más que solo borrarlos, y anunció que reportará a las autoridades a los usuarios con comportamientos agresivos o de índole sexual.
Finalmente, la empresa aseguró que trabajará con expertos para considerar el contexto a la hora de distribuir videos que pueden parecer infantiles pero no lo son. Por ejemplo, Rick and Morty podrá ser una serie animada, pero no es algo que quisiera mostrar a un niño de 5 años.
WILSON VEGA
Editor de Tecnología - EL TIEMPO@WilsonVega