El algoritmo de YouTube recomienda cientos de videos sobre armas, tiroteos e, incluso, instrucciones sobre cómo utilizar pistolas a cuentas de usuarios menores que buscan contenido relacionado con videojuegos, según comprobó un estudio.
La plataforma de contenido utiliza un algoritmo de recomendaciones que analiza la actividad de un usuario en YouTube, con datos como el tiempo de visualización, si comparte un video o si señala que es de su agrado con el botón me gusta. En base a eso, sugiere otros videos que considera que están relacionados con los intereses del usuario.
YouTube recomendó videos violentos a cuentas de niños interesados en videojuegos, según estudio
En ese sentido, YouTube asegura que el contenido que recomienda es “responsable”, tal y como detalló en un comunicado sobre el sistema de recomendaciones publicado en 2021, en el que explica que su sistema clasifica el contenido de los videos identificando si son violentos o “subidos de tono”, para limitar la visualización de este contenido “de baja calidad” y evitar recomendarlo.
Sin embargo, un estudio realizado por Tech Transparency Project (TTP), un centro de investigación e información estadounidense que analiza la influencia de las principales compañías tecnológicas, demostró que el sistema de recomendaciones de YouTube “muestra cientos de videos” sobre armas, tiroteos e, incluso, instrucciones sobre cómo utilizar pistolas o cómo convertirlas en armas automáticas, a cuentas de usuarios menores que buscan contenido relacionado con videojuegos.
Cómo se hizo la investigación
Para llevar a cabo este estudio, los investigadores crearon cuatro cuentas de YouTube, dos de ellas simulando ser utilizadas por niños de nueve años y las otras dos por niños de 14 años. Así, los investigadores comenzaron a usarlas buscando contenido de videojuegos para mostrar al algoritmo que este era su contenido de interés, visualizando videos de juegos como Roblox, Lego Star Wars y Five Nights at Freddy’s.
Asimismo, en una de las cuentas de 9 años y en otra de 14 años, los investigadores comenzaron a consumir contenido de videos recomendados por el algoritmo. En las otras dos cuentas continuaron consumiendo videos sobre videojuegos pero sin prestar atención a las recomendaciones.
Así, tras analizar todos los videos visualizados y todas las recomendaciones de YouTube durante un periodo de 30 días, TTP llegó a la conclusión de que la plataforma sugirió videos sobre tiroteos y armas a todas las cuentas de los menores y, en concreto, un número mucho mayor de videos violentos a las cuentas que consumieron videos recomendados, en algunos casos una cifra 10 veces mayor.
Entre el contenido violento mostrado en las recomendaciones, TTP detalla que se encontraban videos con escenas que mostraban tiroteos en escuelas y otros eventos de tiroteos masivos; demostraciones gráficas de cuánto daño pueden causar las armas en un cuerpo humano; y guías prácticas para convertir una pistola en un arma totalmente automática. Igualmente, YouTube también sugirió una película sobre la vida del asesino en serie Jeffrey Dahmer.
En concreto, los resultados de este estudio muestran que YouTube envió 382 videos de armas de fuego reales a la cuenta del menor de 9 años que veía videos de las recomendaciones, es decir una media de 12 videos al día. En el caso de la cuenta de 9 años que no veía las recomendaciones el número desciende a 34.
Siguiendo esta línea, las cifras para las cuentas de 14 años son de 1.325 vídeos de armas de fuego reales recomendados a la cuenta que sí visualizó contenido del algoritmo, más de 44 por día, y 172 videos para la cuenta que no seguía las recomendaciones.
Teniendo todo esto en cuenta, los resultados del estudio de TTP presentan dudas sobre las garantías de YouTube, que asegura utilizar algoritmos que cuidan el contenido de forma “responsable”. Asimismo, también ilustra cómo cuando un jugador muestra interés en los videos recomendados por YouTube, el algoritmo presenta cada vez más contenido relacionado con la violencia en el mundo real.
Además, la plataforma también dispone de una opción de restringir la edad para videos no aptos para menores. No obstante, según los investigadores, YouTube no tomó medidas para restringir la edad de estos videos, a pesar de que según detalla en su web, se utiliza un sistema de seguridad infantil que restringe la edad a videos que muestren a adultos “participando en actividades peligrosas que los menores podrían imitar fácilmente, como el manejo de explosivos o desafíos que causan lesiones corporales”.
Fuente La Voz
Extra News! sitio web.
Info, tecnologia, música, gaming y más!
más noticias
Bard ahora interpreta videos de YouTube para destacar información concreta de su contenido
Cómo poner música a un vídeo gratis
Sam Altman, ex CEO y fundador de OpenAI, firma dueña de ChatGPT, se une a Microsoft