Regrets YouTube
Mozilla et 37 380 utilisateurs et utilisatrices de YouTube ont mené une enquête visant à mieux comprendre les recommandations YouTube néfastes. Voici ce que nous avons appris.
Télécharger le rapport completEn 2019, Mozilla a recueilli un grand nombre de témoignages de personnes pour lesquelles l’algorithme de recommandation de YouTube avait eu un impact négatif sur leur vie. Elles avaient été exposées à de la désinformation, développé une mauvaise image de leurs corps, et étaient tombées dans des cercles vicieux de vidéos douteuses. À mesure que nous lisions ces témoignages, nous avons réalisé à quel point YouTube est devenu central dans la vie de nombreuses personnes, et à quel point les recommandations YouTube peuvent les influencer et leur nuire.
Et pourtant, quand les problèmes de son algorithme de recommandation sont pointés du doigt, YouTube se contente de nier et de changer de sujet.
Face à ce refus d’agir, Mozilla a conçu une extension pour navigateur, baptisée RegretsReporter, qui permet aux internautes de fournir des informations sur les vidéos YouTube qu’ils ou elles ont regretté avoir regardé. Cet outil nous a permis de mener l’une des plus grandes enquêtes collaboratives au monde sur YouTube et de découvrir de nouvelles informations, qui devraient alarmer les législateurs et législatrices ainsi que le grand public, et pousser tout le monde à agir.
Nous savons désormais que YouTube recommande des vidéos qui enfreignent ses propres politiques en matière de contenus et ont des conséquences nocives pour de nombreuses personnes dans le monde. Ça ne peut plus durer.
Un « Regret YouTube », qu’est-ce que c’est ?
Le concept de « Regret YouTube » est né lors d’une campagne participative menée par Mozilla en 2019, qui visait à recueillir des témoignages racontant comment les recommandations YouTube ont pu mener des internautes sur des voies étranges, voire dangereuses. Nous avons volontairement évité de définir précisément ce qu’est un Regret YouTube afin de permettre aux participant·e·s d’exposer tout ce qu’ils et elles considèrent comme une expérience néfaste sur YouTube.
Les Regrets YouTube varient donc beaucoup d’une personne à l’autre et, parfois, ils n’apparaissent qu’après plusieurs semaines ou mois de recommandations de vidéos. Ces expériences sont mieux retranscrites dans des témoignages que par le biais de bases de données vidéo.
Cette approche est volontairement centrée sur les expériences vécues par les internautes afin d’apporter une nouvelle dimension à une discussion souvent axée sur des aspects juridiques et théoriques. Elle ne vise pas à définir clairement quel type de vidéos devrait ou non apparaître sur YouTube ou être mis en avant par l’algorithme de YouTube.
Les regrets YouTube peuvent être
Nous avons des exigences strictes concernant les vidéos que nous mettons en avant dans nos recommandations, que ce soit en page d’accueil de YouTube ou dans la partie « À suivre ».
blog de YouTube
La catégorie la plus souvent signalée est la désinformation, particulièrement en ce qui concerne le COVID-19.
Bien que nos recherches englobent tout le spectre des Regrets YouTube, il est important de noter que certaines vidéos sont plus dangereuses que d’autres. YouTube dispose d’un règlement de la communauté définissant ce qui est autorisé sur YouTube et ce qui ne l’est pas. En collaboration avec une équipe d’assistant·e·s de recherche de l’Université d’Exeter, nous avons utilisé ce règlement de la communauté pour évaluer les vidéos qui nous ont été signalées et déterminer nous-mêmes lesquelles ne devraient pas apparaître sur YouTube ou être recommandées par YouTube. Parmi ces vidéos, la catégorie la plus représentée est la désinformation, en particulier concernant le COVID-19. Les autres catégories principales comprennent les contenus violents ou explicites, les discours haineux et les spams ou les arnaques. La sécurité infantile, le harcèlement et cyberharcèlement et la maltraitance animale font partie des autres catégories notables.
Types de contenus signalés en tant que Regrets
Nos recherches sont menées avec de vrai·e·s utilisateurs et utilisatrices de YouTube.
Plus précisément : 37 380 bénévoles originaires de 190 pays ont installé l’extension RegretsReporter de Mozilla sur Firefox et Chrome.
CE RAPPORT TIRE SES DONNÉES DE
3 362
SIGNALEMENTS
1 662
BÉNÉVOLES
91
PAYS
Les signalements ont été envoyés entre juillet 2020 et mai 2021. Les bénévoles ayant téléchargé l’extension mais n’ayant pas effectué de signalement ont également fourni des informations précieuses à notre enquête. Leurs données passives (par exemple, leur fréquence d’utilisation de YouTube) ont été essentielles pour déterminer la fréquence des mauvaises expériences sur YouTube et comprendre les différences entre pays.
Après un examen minutieux des données en collaboration avec une équipe d’assistant·e·s de recherche de l’Université d’Exeter, Mozilla a formulé trois principales critiques sur les recommandations YouTube : un algorithme problématique, un manque de supervision de la part de l’entreprise et une discrimination géographique. Et, comme le montrent nos précédentes recherches, ces problèmes peuvent avoir des effets néfastes durables sur les personnes concernées.
Voici ce que nous avons découvert
La plupart des vidéos provoquant des regrets proviennent des recommandations.
Les Regrets YouTube sont principalement créés par l’algorithme, ce qui signifie qu’il s’agit de vidéos que YouTube choisit de mettre en avant, et non de vidéos que les internautes ont cherché à visionner.
71 % des signalements de Regrets étaient des vidéos recommandées à nos bénévoles, et les vidéos recommandées étaient 40 % plus susceptibles de faire l’objet d’un Regret que les vidéos recherchées.
Les Regrets YouTube signalés par nos bénévoles sont des vidéos avec énormément de vues, mais il est impossible de savoir combien de vues ont été générées par l’algorithme de recommandation de YouTube, car l’entreprise refuse de divulguer cette information.
Vidéos signalées
5 794
VUES PAR JOUR
Autres vidéos
3 312
VUES PAR JOUR
Ce dont nous avons la certitude, c’est que les vidéos signalées semblent accumuler des vues plus rapidement que les autres.
Au moment de leur signalement, les Regrets YouTube engrangeaient en moyenne 5 794 vues par jour sur la plateforme, alors que les autres vidéos regardées par nos bénévoles n’engrangeaient que 3 312 vues par jour.
YouTube recommande des vidéos qui enfreignent ses propres règles.
Nos données montrent que l’algorithme de YouTube a recommandé plusieurs vidéos qui ont été supprimées de la plateforme par la suite, car elles enfreignaient le règlement de la communauté de YouTube.
Dans 40 % des cas de Regrets YouTube ayant été recommandés, puis supprimés de la plateforme, YouTube n’a fourni aucune information expliquant pourquoi ces vidéos avaient été supprimées.
Ce que nous savons, c’est qu’au moment où elles nous ont été signalées, elles avaient engrangé collectivement 160 millions de vues, avec une moyenne de 760 000 vues par vidéo, sur une moyenne de 5 mois de présence sur la plateforme au moment du signalement. Il est impossible de savoir combien de ces vues ont été générées par les recommandations, car YouTube refuse de divulguer cette information.
160 000 000
DE VUES SUR ~ 5 MOIS
760
VUES PAR VIDÉO
Les pays non anglophones sont les plus touchés.
Quand les recommandations de contenus nocives de YouTube sont pointées du doigt, l’entreprise répond généralement en vantant ses changements de politique, qui ont mené à « une diminution de 70 % en moyenne du temps de visionnage des contenus provenant de recommandations ne faisant pas l’objet d’abonnements aux États-Unis ». Mais qu’en est-il dans le reste du monde ?
Nous avons découvert que le taux de Regrets est 60 % plus élevé dans les pays où l’anglais n’est pas la langue principale.
Ce chiffre tend à confirmer les déclarations de YouTube, qui suggèrent que ses changements de politique ont été effectués en priorité dans les pays anglophones.
*Parmi les pays considérés comme principalement anglophones, le taux est de 11,0 Regrets pour 10 000 vidéos visionnées (intervalle de confiance à 95 % situé entre 10,4 et 11,7). Dans les pays dont la langue principale n’est pas l’anglais, ce taux est 60 % supérieur : 17,5 Regrets pour 10 000 vidéos visionnées (intervalle de confiance à 95 % situé entre 16,8 et 18,3)
36
DES VIDÉOS NON ANGLOPHONES CONCERNAIENT LA PANDÉMIE
14
DES VIDÉOS ANGLOPHONES CONCERNAIENT LA PANDÉMIE
Nous avons également découvert que les vidéos nocives ou fallacieuses concernant la pandémie étaient particulièrement représentées au sein des Regrets non anglophones.
Parmi les Regrets YouTube qui, selon nous, ne devraient pas apparaître sur YouTube ou être recommandées par YouTube, nous avons découvert que seulement 14 % des vidéos anglophones concernent la pandémie. Ce taux monte à 36 % pour les vidéos non anglophones.
Les Regrets YouTube peuvent empoisonner durablement la vie des internautes.
Nos précédents travaux ont montré que ces vidéos recommandées peuvent avoir un impact considérable sur la vie des personnes concernées.
« Quand j’ai vraiment réalisé que j’étais transgenre et que j’ai fait mon coming-out à mes amis proches, mon plus grand regret a été d’avoir cherché les histoires d’autres personnes trans et queer sur YouTube. En tapant seulement le mot "transgenre" dans la barre de recherche, j’ai trouvé plein de vidéos qui disaient, en gros, que j’avais une maladie mentale et que je ne devrais pas exister. YouTube m’a rappelé pourquoi je n’osais pas "sortir du placard" pendant toutes ces années.
De temps en temps, YouTube recommence à me proposer des vidéos qui nient mon identité de genre, et ça me rappelle qu’il y a énormément de haine dirigée contre les gens comme moi. Pour ma part, j’ai mûri, je me débats avec ces questions depuis longtemps et je suis une thérapie pour travailler sur mes problèmes, mais je n’imagine même pas à quel point ça peut être horrible pour celles et ceux qui n’ont pas cette chance. Pendant mon coming-out, YouTube a été une influence négative, car il m’a rappelé à quel point le monde peut être cruel pour les personnes différentes. Malgré l’existence de plateformes comme YouTube, je dois garder la tête haute. »
« Quand mon fils était en maternelle, il adorait regarder sur YouTube "Thomas et ses amis", qui raconte les aventures d’un petit train. Un jour, en allant vérifier que tout allait bien, j’ai remarqué qu’il regardait une compilation de déraillements, avec des images très choquantes. »
« Ma petite-fille de huit ans utilisait notre tablette pour regarder des vidéos pour enfants. Nous, ses grands-parents, nous pensions naïvement qu’il n’y avait aucun danger. Le lendemain, au dîner, elle s’est mise à parler à ses parents de sa peur du cancer.
En fait, elle regardait comment des enfants malades peuvent accomplir des choses inspirantes, et soudain, la vidéo est devenue sinistre, avec des images brutes de peau en décomposition et d’enfants défigurés. Maintenant, nous essayons de lui faire comprendre ce qu’est le cancer et de la rassurer au sujet de l’eau et de la nourriture. »
« Ma fille de 10 ans a simplement recherché des "vidéos de claquettes", et depuis elle est tombée dans un cercle vicieux de vidéos horribles de "danse" et de contorsions extrêmes qui lui donnent des conseils désastreux pour sa santé et l’image qu’elle se fait de son corps… Maintenant, elle restreint son alimentation et sa boisson. Elle est très influençable, et je ne sais pas comment réparer le mal qui a été fait. »
« Il y a quelques années, mon ex-femme, qui a des problèmes psychologiques, a commencé à regarder des vidéos conspirationnistes et à croire tout ce qu’elle y voyait. Une vidéo après l’autre, YouTube entretenait sa paranoïa, sa peur et son anxiété. Je la suppliais d’arrêter, mais elle continuait ; elle ne pouvait pas s’en empêcher. Une fois, elle a cru qu’un hélicoptère qui passait près de chez nous était envoyé par le gouvernement pour les enlever, elle et notre fille, et elle m’a appelé, complètement paniquée (en fait, ils contrôlaient les lignes électriques). À présent, elle est convaincue que la fin du monde va se produire d’un jour à l’autre et elle s’est tournée vers le fondamentalisme religieux.
Elle refuse de se faire aider par un professionnel car elle ne fait plus confiance à personne, et surtout pas aux médecins, à la police ou à toute organisation gouvernementale. Et YouTube continue à lui recommander de plus en plus de vidéos anxiogènes. Aujourd’hui, nous avons divorcé. Ses peurs irrationnelles l’ont complètement détruite, ainsi que notre couple. »
Voici notre recommandation : l’algorithme de YouTube doit être retravaillé urgemment.
L’algorithme de YouTube génère 700 millions d’heures de visionnage par jour sur la plateforme. Les conséquences sont donc bien trop importantes pour que YouTube prenne l’initiative de le retravailler. Vous trouverez ci-dessous un aperçu des recommandations de Mozilla à l’adresse de YouTube, des législateurs et législatrices et des utilisateurs et utilisatrices de YouTube. Vous pouvez consulter les recommandations détaillées dans le rapport complet.
Les législateurs et législatrices doivent exiger que YouTube fournisse des données publiques au sujet de son algorithme, et créer des outils de recherche et des protections légales permettant un contrôle efficace et indépendant de la plateforme.
YouTube et d’autres entreprises doivent publier des audits de leurs algorithmes et offrir aux internautes un véritable contrôle sur la façon dont leurs données sont utilisées pour fournir des recommandations, ainsi que leur permettre de refuser les recommandations personnalisées.
Les utilisateurs et utilisatrices de YouTube devraient s’informer sur le fonctionnement des recommandations YouTube et télécharger RegretsReporter afin de fournir des données aux futurs travaux de recherche participative.
Mozilla continuera d’utiliser RegretsReporter en tant qu’outil indépendant permettant d’analyser l’algorithme de recommandation de YouTube. Nous souhaitons mettre l’extension à jour pour permettre aux utilisateurs et utilisatrices d’accéder plus facilement aux contrôles d’utilisation de YouTube afin de bloquer les recommandations indésirables. Nous continuerons également de publier nos analyses et nos recommandations futures.