TikTok no puede evitar la difusión del video de un suicidio por culpa de su algoritmo

La red social TikTok, la más elegida por niñas, niños y adolescentes, informó que sigue intentando eliminar un video en el que se observa a un hombre disparándose con un rifle. ¿El problema? Su propio algoritmo. El sistema de recomendación de la sección “Para ti” lo sigue mostrando y dificulta que la compañía frene la propagación de la secuencia en la que se puede observar un suicidio.

El video inicialmente se publicó a través de un directo de Facebook y después empezó a aparecer en otras redes sociales como Twitter, Instagram y TikTok. Como en esta plataforma los videos pueden aparecer en la sección conocida como “Para ti”, como contenido recomendado, es más difícil evitar que las personas lo vean.

Este es el ejemplo más reciente de la lucha continua de las grandes compañías tecnológicas para vigilar sus plataformas en busca de contenido dañino mientras crece la presión de los reguladores.

La compañía informó que está prohibiendo las cuentas que están intentando volver a publicar el video en cuestión. Además muchos creadores están publicando clips en los que advierten a sus seguidores que si ven una imagen de un hombre con anteojos y barba gris sentado frente a su escritorio, dejen de ver el contenido inmediatamente.

“Nuestros sistemas estuvieron detectando y marcando automáticamente estos clips por violar nuestras políticas contra contenido que muestra, elogia, glorifica o promueve el suicidio”, indicó un vocero de TikTok a The Verge.

“Estamos prohibiendo las cuentas que tratan de subir los clips repetidamente y apreciamos que los miembros de nuestra comunidad hayan informado sobre el contenido y advertido a otros de que no vean, participen o compartan estos vídeos en cualquier plataforma por respeto a la persona y su familia”, informó.

A mediados de junio, TikTok reveló algunos de los secretos sobre cómo funciona su algoritmo de recomendación de videos en el apartado “Para ti” de la plataforma.

El sistema recomienda el contenido basándose en una serie de factores, como las interacciones de los usuarios, los videos que les gustan o comparten, las cuentas que siguen, los contenidos que crean o los comentarios que publican.

También se basa en la información de los videos, como los subtítulos, sonidos y hashtags, así como en la configuración del dispositivo de la cuenta, como la preferencia de idioma, configuración de país y tipo de dispositivo, aunque este último en menor medida.