Was ist „YouTube Regrets“?
YouTube Regrets ist eine über Crowdsourcing angetriebene Aufklärungskampagne, die von der gemeinnützigen Organisation Mozilla betrieben wird. Mozilla hat dafür Berichte von YouTube-Nutzern gesammelt, die davon berichten, wie die Video-Empfehlungen der Plattform ihnen immer bizarrere und teilweise sogar gefährliche Videos gezeigt hat. Die Arbeit an diesem Projekt wurde durch unsere eigenen Recherchen über Geschichten zum Thema Ethik-Leitlinien für eine vertrauenswürdige KI ; in der New York Times und andere Publikationen beschleunigt; und von YouTube-Mitarbeitern, die an die Öffentlichkeit gegangen sind.
Was genau sind „bizarre und gefährliche Inhalte“?
Das wollen wir mit unserer Kampagne herausfinden. Wir haben keine Angaben dazu gemacht, wovon die Berichte handeln sollten – also haben die Leute, die uns ihre Geschichte erzählt haben, selbst entschieden, was für sie bizarr oder gefährlich ist.
Warum ist das Thema für Mozilla von Bedeutung?
KI wird mehr und mehr Teil unseres Alltags und Mozilla setzt sich dafür ein, dass Verbrauchertechnologie der Menschheit hilft, anstatt ihr zu schaden. YouTube Regrets ist Teil unserer Anstrengungen, dies zu erreichen. Wir sind der Meinung, KI sollte für den Menschen entworfen werden. Falls also die KI eines Unternehmens jemandem Schaden zufügt, sollte es dafür zur Verantwortung gezogen werden können. Erfahren Sie hier mehr darüber, wie wir YouTube zur Verantwortung ziehen und hier mehr über Mozillas Arbeit über Ethik-Leitlinien für eine vertrauenswürdige KI.
Sollten diese Inhalte entfernt werden?
Wir setzen uns nicht dafür ein, bestimmte Inhalte verbieten oder entfernen zu lassen. Vielmehr geht es uns darum, ein Bewusstsein dafür zu schaffen, wie KI in Form von Recommendation Engines bestimmte Inhalte verbreiten kann. Und genau deswegen sind wir der Meinung, dass YouTube die Methoden, anhand derer bestimmt wird, was Nutzern empfohlen wird, transparenter machen sollte. YouTube bestimmt, welche Inhalte die Plattform ihren Nutzern empfiehlt, und deshalb ist es YouTubes Aufgabe, eine Recommendation Engine so zu konfigurieren, dass sie in gleichem Maße einer sozialen Verantwortung nachkommt wie sie für ein größtmögliches User Engagement optimiert ist.
Wie haben wir die Berichte gesammelt?
Wir haben Crowdsourcing genutzt, um ab dem 10. September zwei Wochen lang Erfahrungsberichte zu sammeln. In einer E-Mail an Newsletter-Abonnenten weltweit haben wir nach persönlichen Storys gefragt und außerdem über Twitter darum gebeten. Insgesamt haben wir so hunderte Beiträge in fünf Sprachen erhalten. Wir haben die Authentizität dieser Beitrage nicht überprüft (das wäre nicht möglich gewesen) und haben nach bestem Wissen und Gewissen ausgewählt, welche Geschichten wir in die Kampagne aufnehmen.
Was möchte Mozilla mit der Kampagne erreichen?
Anfang August haben wir YouTube einen Brief geschickt, in dem wir unsere Besorgnis über die Recommendation Engine erklären und aufgelistet, was das Unternehmen tun sollte, um sie zu verbessern. Am 20. September haben wir uns mit Vertretern von Google und YouTube getroffen, um unsere Forderungen zu diskutieren und haben sie Folgendes gefragt:
- Können YouTube und Google mit unabhängigen Forschern zusammenarbeiten und belegen, dass die Änderungen am Empfehlungsalgorithmus in den USA zu einer 50%igen Reduzierung von grenzwertigen Empfehlungen geführt hat?
- Welche Maßnahmen können Google und YouTube fortlaufend ergreifen, um mit Forschern zu arbeiten und ihnen Zugriff auf Daten zu geben, mit denen sie das Ausmaß des Problems und die implementierten Lösungen auf ihre Effizienz hin untersuchen können?
Sie können hier mehr über unsere Forderungen an YouTube erfahren, und wie das Unternehmen reagiert hat. Wir nutzen YouTube Regrets, um über die potenziellen Gefahren aufzuklären, die mit der Recommendation Engine des Unternehmens einhergehen. Außerdem werden wir in den kommenden Monaten weiter Druck ausüben, um YouTube dazu zu bringen, schnell zu reagieren und unseren Forderungen nachzukommen.