La peur engendre la colère. La colère mène à la haine. La haine mène à… des clics ?

La plupart des vidéos que vous trouverez sur YouTube sont gratuites pour vous et moi. Comment, alors, YouTube a-t-il engrangé 6 milliards de dollars en seulement trois mois cette année ? Comment le site est-il en passe de rivaliser avec les revenus de Netflix – un service qui facture des frais mensuels à l’ensemble de ses abonné·e·s ?

YouTube gagne des milliards chaque mois grâce à la publicité. Plus l’internaute regarde de vidéos sur YouTube, plus Google (la société mère de YouTube) peut engranger des recettes publicitaires. En termes simples, plus YouTube peut vous garder sur son site longtemps, mieux son portefeuille se porte. Voilà pourquoi, comme nous l’avons mentionné précédemment, l’algorithme de recommandation de YouTube a pour but de vous garder sur le site pour regarder des vidéos le plus longtemps possible.

Ce n’est pas toujours une mauvaise chose, mais c’est souvent le cas. Par exemple, un contenu divertissant n’est pas toujours correct ou sûr. « La haine sert à générer des clics », comme le dit Guillaume Chaslot. L’actuel Mozillien et ancien ingénieur de Google le dit dans notre dernier épisode de Mozilla explique. Cette haine, dans certains cas, peut conduire à la radicalisation - où un téléspectateur finit par tomber dans un cercle vicieux d’informations trompeuses et violentes, dans certains cas poussés par l’algorithme de recommandation de YouTube.

Les utilisateurs et utilisatrices peuvent rapidement être la proie d’un effet domino, dans lequel une vidéo conspirationniste en entraîne une autre. En fait, dans notre série Regrets sur YouTube, nous avons étudié exactement cela. Au cours d’une enquête menée auprès de sympathisant·e·s de Mozilla, nous leur avons demandé s’ils ou elles avaient eu l’impression que l’algorithme leur suggérait des contenus extrêmes. Des milliers de personnes nous ont répondu en nous racontant les recoins étranges où ils et elles ont été conduit·e·s. De la recherche de simples vidéos de danse à des vidéos sur les lésions corporelles, en passant par des vidéos sur l’estime de soi des travestis, on en arrive à des contenus anti-LGBTQ. Les utilisateurs et utilisatrices de YouTube ont été emmené·e·s dans certains recoins étranges du site, tout cela via l’algorithme de recommandation de YouTube. Si l’on prend du recul, cette séquence d’évènements reproduite à de multiples reprises, bien que rentable pour YouTube, peut être dangereuse pour la société.

Face à cette situation, que faire ? Pour commencer, vous pouvez intervenir et nous faire part d’une situation où le robot de suggestion de YouTube vous a induit·e en erreur. De plus, Guillaume Chaslot recommande aux régulateurs d’intervenir et de promulguer des lois pour commencer à endiguer ce phénomène. Toutefois, il y a une chose que vous pouvez faire également : vous munir de connaissances. « Quand vous savez que YouTube essaie de vous manipuler, alors il n’y parviendra pas aussi facilement », dit Guillaume Chaslot. La haine génère des clics, mais vous seul·e pouvez vous empêcher de basculer du côté obscur.