YouTube Regrets

Mozilla führte mit Unterstützung von 37.380 YouTube-Nutzern eine Studie durch, um fragwürdige YouTube-Empfehlungen besser zu verstehen. Hier erfahren Sie, welche Erkenntnisse wir dabei gewonnen haben.

Vollständigen Bericht herunterladen

2019 sammelte Mozilla unzählige Berichte von Menschen, deren Leben sich durch den Empfehlungsalgorithmus von YouTube verändert hat. Nutzern wurden Fehlinformationen präsentiert, entwickelten eine ungesunde Körperwahrnehmung und wurden auf bizarre Abwege gebracht. Je mehr Berichte wir lasen, desto deutlicher wurde uns bewusst, welch eine zentrale Rolle YouTube inzwischen im Leben so vieler Menschen spielt – und wie sehr sich die Empfehlungen von YouTube auf ihr Wohlergehen auswirken können.

Doch wenn YouTube mit diesen Auswirkungen seines Empfehlungsalgorithmus konfrontiert wird, reagiert das Unternehmen jedes Mal ausweichend und leugnet den Sachverhalt.

Aufgrund dieser Weigerungshaltung hat Mozilla eine Browser-Erweiterung entwickelt: RegretsReporter. Diese ermöglicht es den Nutzern, Daten über die YouTube-Videos zur Verfügung zu stellen, deren Wiedergabe sie bedauern. Bei einer der größten per Crowdsourcing finanzierten Untersuchungen zu den Abläufen auf YouTube haben wir neue Erkenntnisse gewonnen, die dringend der Aufmerksamkeit und Schritte seitens der Gesetzgeber und der Öffentlichkeit bedürfen.

Wir wissen, dass YouTube Videos empfiehlt, die gegen die eigenen Content-Richtlinien des Unternehmens verstoßen und Menschen auf der ganzen Welt schaden. Das muss ein Ende haben.

Was ist ein „YouTube Regret“?

Das YouTube Regret-Konzept entstand im Rahmen einer per Crowdsourcing finanzierten Kampagne, die Mozilla 2019 entwickelt hat, um Berichte über den Empfehlungsalgorithmus von YouTube zu sammeln, der Menschen auf bizarre und mitunter gefährliche Abwege führt. Wir haben absichtlich keine genauen Angaben dazu gemacht, was als YouTube Regret zu verstehen ist, um Menschen die Möglichkeit zu geben, das gesamte Spektrum der bedauerlichen Erfahrungen zu beschreiben, die sie auf YouTube gemacht haben.

Was für den einen Nutzer ein YouTube Regret ist, mag von einem anderen nicht als solcher empfunden werden. Und in einigen Fälle treten YouTube Regrets erst Wochen oder Monate in Erscheinung, nachdem sie als empfohlene Videos aufgeführt wurden – eine Erfahrung, die sich besser anhand von Berichten vermitteln lässt als mithilfe von Datensätzen zu Videos.

Dieser Ansatz rückt gezielt die konkreten Erfahrungen von Nutzern in den Mittelpunkt, um so die oft sehr juristisch und theoretisch geprägte Debatte zu vertiefen. Er bietet keine klaren Definitionen dazu, welche Art von Videos auf YouTube zu finden sein sollte bzw. von YouTube per Algorithmus empfohlen werden sollte.

Unsere Messlatte für die oben unter den Empfehlungen auf der YouTube-Startseite oder in der Liste 'Nächstes Video‘ angezeigten Videos liegt sehr hoch.

YouTube-Blog

Am häufigsten wurden Videos gemeldet, die in die Kategorie „Fehlinformationen“ fallen, insbesondere im Zusammenhang mit dem Coronavirus.

Auch wenn unsere Recherchen ein breites Spektrum von YouTube Regrets erfassen, so fällt doch auf, dass einige Videos schlimmer sind als andere. YouTube hat Community-Richtlinien, die die Regeln dafür vorgeben, was auf YouTube zulässig ist und was nicht. Gemeinsam mit einem Team von wissenschaftlichen Mitarbeitern der University of Exeter haben wir die gemeldeten Videos mit diesen Community-Richtlinien abgeglichen und selbst ermittelt, welche Videos nicht auf YouTube sein bzw. nicht von YouTube empfohlen werden sollten. Die meisten dieser Videos fielen in die Kategorie „Fehlinformationen“ (insbesondere im Zusammenhang mit Corona). Weitere wesentliche Kategorien waren gewalttätige und verstörende Inhalte, Hassreden und Spam/Scams. Erwähnenswerte Kategorien waren außerdem der Schutz von Kindern, Belästigung und Cybermobbing sowie Missbrauch von Tieren.

Die verschiedenen Typen fragwürdiger Inhalte

Unsere Recherchen stützen sich auf die Erfahrungen echter YouTube-Nutzer.

Im Einzelnen: 37.380 freiwillige Teilnehmer in 190 Ländern installierten die RegretsReporter-Browsererweiterungen von Mozilla für Firefox und Chrome.

FÜR DIESEN BERICHT HABEN WIR EINE VIELZAHL VON DATEN ERFASST:

3.362

BERICHTE

1.662

FREIWILLIGE TEILNEHMER

91

LÄNDER

Die Berichte wurden von Juli 2020 bis Mai 2021 eingereicht. Freiwillige Teilnehmer, die die Erweiterung heruntergeladen, aber keinen Bericht eingereicht haben, spielten bei unseren Recherchen eine wichtige Rolle. Mithilfe ihrer Daten, beispielsweise Angaben dazu, wie häufig sie YouTube nutzen, konnten wir nachvollziehen, wie oft bedauernswerte Erfahrungen auf YouTube vorkommen und wie dies von Land zu Land variiert.

Nachdem sich Mozilla zusammen mit einem Team von wissenschaftlichen Mitarbeitern der University of Exeter eingehend mit den Daten beschäftigt hatte, ergaben sich für die Organisation drei Hauptkritikpunkte an den Empfehlungen von YouTube: der problematische Algorithmus, mangelnde Überwachung durch das Unternehmen und geografische Unterschiede. Und unsere bisherigen Recherchen zeigen, dass diese Probleme Menschen nachhaltig schaden können.

Unsere Erkenntnisse

(KLICKEN SIE UNTEN, UM MEHR ZU ERFAHREN.)

01

Bei den meisten der Videos, deren Wiedergabe Nutzer bedauern, handelt es sich um Empfehlungen.

YouTube Regrets sind vor allem auf den Empfehlungsalgorithmus zurückzuführen, also auf Videos, die YouTube auswählt wurden, um ihre Verbreitung zu fördern, und nicht von Nutzern ausgesuchte Videos.

71 % aller gemeldeten YouTube Regrets beziehen sich auf Videos, die unseren freiwilligen Teilnehmern empfohlen wurden. Außerdem war die Wahrscheinlichkeit, dass die Wiedergabe empfohlener Videos bedauert werden würde, 40 % höher als bei Videos, nach denen Nutzer gesucht hatten.

Die von unseren Teilnehmern gemeldeten YouTube Regrets wiesen etliche Videoaufrufe auf. Allerdings lässt sich nicht feststellen, wie viele dieser Aufrufe auf die Empfehlungen des Algorithmus von YouTube zurückzuführen sind, da YouTube diese Informationen unter Verschluss hält.

Gemeldete Videos

5.794

AUFRUFE PRO TAG

Sonstige Videos

3.312

AUFRUFE PRO TAG

Wir wissen jedoch, dass gemeldete Videos schneller Aufrufe zu verzeichnen schienen, als solche, die nicht gemeldet wurden.

Zum Zeitpunkt, als sie gemeldet wurden, wiesen YouTube Regrets einen Mittelwert von 5.794 Aufrufen pro Tag auf, den sie sich auf der Plattform befanden, während andere Videos, die unsere Freiwilligen ansahen, nur 3.312 Aufrufe pro Tag erzielten.

02

YouTube empfiehlt Videos, die gegen die eigenen Richtlinien verstoßen.

Unsere Daten belegen, dass der YouTube-Algorithmus mehrere Videos empfohlen hat, die später wegen Verstößen gegen die Community-Richtlinien von YouTube entfernt wurden.

In 40 % der Fälle, in denen empfohlene YouTube Regrets von der Plattform genommen wurden, stellte YouTube keine Daten dazu bereit, warum diese Videos entfernt wurden.

Allerdings ist uns bekannt, dass diese zum Zeitpunkt, als sie gemeldet wurden, insgesamt 160 Millionen Aufrufe verzeichneten, also durchschnittlich 760.000 Aufrufe pro Video, die über die rund 160 Tage angesammelt wurden, die sich diese Videos auf der Plattform befanden, als sie gemeldet wurden. Wie viele dieser Aufrufe das Ergebnis von Empfehlungen waren, lässt sich nicht feststellen, da YouTube diese Informationen nicht veröffentlicht.

160.000.000

AUFRUFE ÜBER ~160 TAGE

760

AUFRUFE PRO VIDEO

03

Nutzer in nicht englischsprachigen Ländern sind am stärksten betroffen.

Wenn YouTube für das Empfehlen grenzwertiger Inhalte kritisiert wird, brüstet sich das Unternehmen in der Regel damit, dass Änderungen an seinen Richtlinien zu einem durchschnittlichen Rückgang der Anzeigedauer dieser Inhalte um 70 % geführt haben, die von Empfehlungen für Nutzer ohne Abonnement in den USA stammen. Aber wie steht es mit dem Rest der Welt?

Unseren Erkenntnissen zufolge ist der Anteil der Regrets in Ländern, in denen Englisch nicht Primärsprache ist, um 60 % höher.

Dies stimmt mit Aussagen von YouTube überein, die darauf hindeuten, dass die Richtlinienänderungen vorrangig auf englischsprachige Länder abzielen.

Regrets-Quote nach Land

Primärsprache ist Englisch

Primärsprache ist nicht Englisch

*Unter den Ländern, in denen Englisch Primärsprache ist, liegt die Quote bei 11,0 Regrets pro 10.0000 wiedergegebenen Videos (Konfidenzintervall von 95 % liegt bei 10,4 bis 11,7). In Ländern, in denen Englisch nicht Primärsprache ist, ist die Quote 1,6 Mal höher mit 17,5 Regrets pro 10.000 wiedergegebenen Videos (Konfidenzintervall von 95 % liegt bei 16,8 bis 18,3).

36 %

DER NICHT ENGLISCHSPRACHIGEN VIDEOS WAREN PANDEMIEBEZOGEN.

14 %

DER ENGLISCHSPRACHIGEN VIDEOS WAREN PANDEMIEBEZOGEN.

Wir haben außerdem herausgefunden, dass irreführende oder schädliche Videos zur Coronapandemie besonders häufig unter Regrets aus nicht englischsprachigen Ländern vorkommen.

Von den YouTube Regrets, die sich nach unseren Erkenntnissen nicht auf YouTube befinden sollten bzw. nicht von YouTube empfohlen werden sollten, waren laut unseren Untersuchungen nur 14 % der englischsprachigen Videos pandemiebezogen. Unter den nicht englischsprachigen Videos liegt die Quote bei 36 %.

04

YouTube Regrets können sich nachhaltig auf das Leben von Menschen auswirken.

Unsere bisherigen Nachforschungen haben gezeigt, dass diese Videoempfehlungen erhebliche Auswirkungen auf das Leben von Menschen haben können.

Unsere Empfehlung: Es müssen dringend Maßnahmen ergriffen werden, um den Algorithmus von YouTube zu regulieren.

Durch seinen Algorithmus bringt YouTube es auf eine Anzeigedauer von täglich 700 Millionen Stunden auf seiner Plattform. Die entsprechenden Auswirkungen sind schlicht zu gravierend, um es YouTube zu überlassen, das Problem selbst zu lösen. Nachfolgend finden Sie eine Zusammenfassung der Empfehlungen von Mozilla an YouTube, Entscheidungsträger und YouTube-Nutzer. Einzelheiten zu diesen Empfehlungen finden Sie im vollständigen Bericht.

Entscheidungsträger müssen von YouTube die Veröffentlichung adäquater öffentlicher Daten über seinen Algorithmus verlangen und Forschungsinstrumente und rechtliche Maßnahmen entwickeln, die eine echte, unabhängige Überprüfung der Plattform ermöglichen.


YouTube und andere Unternehmen müssen Audits ihrer Algorithmen veröffentlichen und Nutzern die Möglichkeit bieten, die Verwendung ihrer Daten für Empfehlungen angemessen zu kontrollieren, einschließlich der Option, personalisierte Empfehlungen abzulehnen.


Menschen, die YouTube nutzen, sollten über die Funktionsweise von YouTube-Empfehlungen informiert werden und RegretsReporter herunterladen, um Daten zu künftigen, per Crowdsourcing finanzierten Recherchen beizutragen.

Mozilla wird RegretsReporter weiterhin als unabhängiges Tool zur Untersuchung des Empfehlungsalgorithmus von YouTube anbieten. Wir planen, die Erweiterung zu aktualisieren, um Menschen einen einfacheren Zugang zu den Nutzerkontrollen von YouTube zu ermöglichen und unerwünschte Empfehlungen zu blockieren, und wir werden weiterhin Analysen und Empfehlungen veröffentlichen.

Vollständigen Bericht herunterladen

PDF herunterladen

Daten für RegretsReporter zur Verfügung stellen