Arrependimentos no YouTube

A Mozilla e 37.380 usuários do YouTube realizaram um estudo para entender melhor as recomendações indesejáveis do YouTube. Estas foram as nossas constatações.

Baixe o relatório completo

Em 2019, a Mozilla reuniu inúmeras histórias de pessoas cujas vidas foram impactadas pelo algoritmo de recomendação do YouTube. As pessoas foram expostas à desinformação, criaram imagens corporais pouco saudáveis e ficaram presas em círculos viciosos bizarros. Quanto mais histórias lemos, mais percebemos como o YouTube se tornou essencial na vida de inúmeras pessoas e o quanto as recomendações do YouTube podem afetar seu bem-estar.

Porém, ao ser confrontado sobre seu algoritmo de recomendação, o YouTube responde com negações e desvios de forma sistemática.

Diante dessa recusa contínua, a Mozilla desenvolveu uma extensão para navegadores, o RegretsReporter, que permite que pessoas informem dados sobre vídeos do YouTube que elas se arrependem de ter visto na plataforma. Por meio de uma das maiores investigações sobre o YouTube realizadas com a colaboração pública, descobrimos novas informações que merecem a atenção e ação urgentes por parte das autoridades e do público.

Sabemos agora que o YouTube está recomendando vídeos que violam suas próprias políticas de conteúdo e prejudicam pessoas em todo o mundo – e isso precisa acabar.

O que é um Arrependimento no YouTube?

O conceito de um "Arrependimento no YouTube" nasceu de uma campanha com a colaboração pública lançada pela Mozilla em 2019 para coletar histórias sobre o algoritmo de recomendação do YouTube, que leva as pessoas a enveredarem por caminhos bizarros e, às vezes, perigosos. Nós propositalmente não explicamos de forma clara o que "vale" como um "Arrependimento no YouTube", para permitir que as pessoas definissem todo o espectro de experiências lamentáveis que vivenciam no YouTube.

O que uma pessoa considera Arrependimento no YouTube pode não ser igual para outra e, às vezes, os Arrependimentos no YouTube só surgem após semanas ou meses de vídeos recomendados – uma experiência que é melhor descrita por meio de histórias do que por conjuntos de dados de vídeo.

Esta abordagem intencionalmente enfoca as experiências pessoais para enriquecer o que muitas vezes é uma discussão altamente jurídica e teórica. Ela não estabelece distinções claras sobre quais tipos de vídeos devem ou não estar no YouTube ou ser promovidos pelo algoritmo da plataforma.

Estabelecemos uma regra rigorosa para os vídeos que exibimos com destaque em nossas recomendações, tanto na página inicial do YouTube como na seção Próximo.

Blog do YouTube

A categoria mais denunciada foi a desinformação, especialmente em vídeos relacionados à covid-19.

Embora nosso estudo considere o amplo espectro do Arrependimentos no YouTube, é importante notar que alguns vídeos são piores do que outros. O YouTube tem Diretrizes da Comunidade que estabelecem as regras sobre o que é permitido no YouTube e o que não é. Junto com uma equipe de assistentes de pesquisa da Universidade de Exeter, avaliamos os vídeos que nos foram denunciados de acordo com as Diretrizes da Comunidade e determinamos quais vídeos deveriam ou não estar no YouTube ou não ser recomendados pelo YouTube. Desses vídeos, a principal categoria foi a desinformação (especialmente relacionada à covid-19). As outras categorias mais comuns foram conteúdo violento ou explícito, discurso de ódio e spam/scams. Outras categorias notáveis incluem segurança infantil, assédio/cyberbullying e abuso de animais.

Tipos de Conteúdo marcado como Arrependimento

Nossa pesquisa é baseada em usuários reais do YouTube.

Especificamente: 37.380 voluntários em 190 países instalaram a extensão de navegador RegretsReporter da Mozilla no Firefox e Chrome.

PARA ESTE RELATÓRIO, COLETAMOS DADOS DE

3.362

RELATOS

1.662

VOLUNTÁRIOS

91

PAÍSES

Os relatos foram enviados entre julho de 2020 e maio de 2021. Os voluntários que baixaram a extensão mas não enviaram um relato, foram uma parte importante do nosso estudo. Seus dados – como por exemplo, a frequência com que utilizam o YouTube – foram essenciais para nossa compreensão da frequência das experiências lamentáveis no YouTube e como isso varia de país para país.

Depois de analisar os dados com uma equipe de assistentes de pesquisa da Universidade de Exeter, a Mozilla apresentou três grandes críticas às recomendações do YouTube: desde um algoritmo problemático até uma supervisão corporativa deficiente e disparidades geográficas. E nossa pesquisa anterior mostra que estes problemas podem causar males duradouros às pessoas.

Este são os nossos resultados

(CLIQUE PARA LER MAIS)

01

A maioria dos vídeos que as pessoas se arrependem de assistir vem de recomendações.

Os Arrependimentos no YouTube resultam principalmente do algoritmo de recomendação, ou seja, vídeos que o YouTube escolhe amplificar, em vez de vídeos que as pessoas pesquisaram para ver.

71% de todos os relatos de arrependimento vieram de vídeos recomendados aos nossos voluntários; tais vídeos tinham 40% mais probabilidade de causar arrependimento do que os vídeos que as pessoas pesquisaram para ver.

Os Arrependimentos no YouTube sinalizados por nossos voluntários tiveram milhares de visualizações, mas é impossível dizer quantas dessas visualizações vieram do algoritmo de recomendação, porque o YouTube não disponibiliza essa informação.

Vídeos denunciados

5.794

VISUALIZAÇÕES POR DIA

Outros vídeos

3.312

VISUALIZAÇÕES POR DIA

O que sabemos é que os vídeos denunciados pareciam acumular visualizações mais rápido do que aqueles que não o foram.

Na época em que foram denunciados, os Arrependimentos no YouTube tinham uma média de 5.794 visualizações por dia que estavam na plataforma, enquanto outros vídeos vistos por nossos voluntários tinham apenas 3.312 visualizações por dia.

02

O YouTube recomenda vídeos que violam suas próprias políticas.

Nossos dados mostram que o algoritmo do YouTube recomendou vários vídeos que foram posteriormente removidos da plataforma por violar suas próprias Diretrizes.

Em 40% dos casos em que os Arrependimentos no YouTube recomendados foram removidos da plataforma, o YouTube não forneceu dados sobre a razão dessas remoções.

O que sabemos é que na época em que foram denunciados, eles tinham alcançado 160 milhões de visualizações coletivas, uma média de 760 mil visualizações por vídeo. Essas visualizações foram acumuladas ao longo de em média 160 dias de veiculação na época em que foram relatados. É impossível dizer quantas dessas visualizações foram resultado de recomendações, porque o YouTube não revela essas informações.

160.000.000

VISUALIZAÇÕES EM CERCA DE 5 MESES

760

VISUALIZAÇÕES POR VÍDEO

03

O mundo que não fala inglês é o mais afetado.

Quando o YouTube é denunciado por recomendar conteúdo inadequado, a empresa geralmente se gaba de que suas mudanças de política levaram a uma "queda média de 70% no tempo de exibição desse tipo de conteúdo, originado de recomendações inadequadas nos EUA,". Mas e quanto ao resto do mundo?

Descobrimos que a taxa de arrependimentos é 60% maior em países onde o inglês não é o idioma principal.

Isso está relacionado às declarações feitas pelo YouTube que sugerem que essas mudanças de política foram inicialmente concentradas nos países de língua inglesa.

Índice de arrependimentos por país

Principal – Inglês

Principal – idiomas que não o inglês

*Em países onde o inglês é o idioma principal, a taxa é de 11,0 arrependimentos a cada 10.000 vídeos vistos (intervalo de confiança de 95%, entre 10,4 e 11,7). Em países onde o idioma principal não é o inglês, a taxa é 60% maior, com 17,5 arrependimentos a cada 10.000 vídeos vistos (intervalo de confiança de 95%, entre 16,8 e 18,3).

36

DOS VÍDEOS EM IDIOMAS QUE NÃO O INGLÊS ERAM RELACIONADOS À PANDEMIA

14

DOS VÍDEOS EM INGLÊS ERAM RELACIONADOS À PANDEMIA

Também descobrimos que vídeos enganosos ou prejudiciais relacionados à pandemia são especialmente prevalentes entre os Arrependimentos de pessoas em países onde o inglês não é o idioma principal.

Entre os Arrependimentos que determinamos que não deveriam estar no YouTube ou não deveriam ser recomendados pelo YouTube, constatamos que apenas 14% dos vídeos em inglês estavam relacionados à pandemia. Mas a taxa para os vídeos em um idioma que não o inglês é de 36%.

04

Os Arrependimentos no YouTube podem mudar a vida das pessoas para sempre.

Nosso estudo anterior mostrou que estas recomendações de vídeos podem causar impactos significativos na vida das pessoas.

Nossa recomendação: é preciso adotar medidas urgentes para controlar o algoritmo do YouTube.

O algoritmo do YouTube leva a 700 milhões de horas de exibição na plataforma todos os dias. As consequências disso são simplesmente grandes demais para confiar que eles resolvam isso por conta própria. Veja abaixo um resumo das recomendações da Mozilla para o YouTube, políticos e usuários do YouTube. Detalhes sobre essas recomendações podem ser encontrados no relatório completo.

Os políticos devem exigir que o YouTube divulgue dados públicos adequados sobre seu algoritmo e criar ferramentas de pesquisa e proteções legais que permitam uma fiscalização real e independente da plataforma.


O YouTube e outras empresas devem publicar auditorias de seus algoritmos e dar às pessoas um controle significativo sobre como seus dados são usados para recomendações, inclusive permitindo que as pessoas optem por não receber recomendações personalizadas.


Os usuários do YouTube devem ser informados sobre como as recomendações do YouTube funcionam e baixar o RegretsReporter para contribuir com dados para futuras pesquisas com colaboração pública.

A Mozilla continuará a utilizar o RegretsReporter como uma ferramenta independente para examinar o algoritmo de recomendação do YouTube. Planejamos atualizar a extensão para dar às pessoas uma maneira mais fácil de acessar os controles de usuário do YouTube para bloquear recomendações indesejadas. Além disso, continuaremos a publicar nossas análises e recomendações futuras.

Baixe o relatório completo

Baixar PDF

Contribua com seus dados para o RegretsReporter