Undurchsichtig und überfordert: bei der Bundestagswahl 2021 haben die Social-Media-Plattformen bei der Eindämmung von Desinformation versagt

Zusammenfassung

Falschinformation und Desinformation in Bezug auf Wahlen sind trotz der Bemühungen der Plattformen, interne Maßnahmen gegen sie zu entwickeln, weiterhin weltweit ein großes Problem.

Im Rahmen unserer Studie zu diesem Thema konzentrierte sich die Mozilla Foundation im Sommer und Herbst 2021 auf die Bundestagswahlen am 26. September 2021. Mozilla untersuchte die Instrumente, die die Social-Media-Unternehmen bei der Bekämpfung von Desinformation einsetzten, um nachzuweisen, welche wirkten und welche nicht wirkten. Dabei wurde der „Platform Election Policy Tracker“ von Mozilla eingesetzt.

Diese Recherche in Deutschland baut auf unserer Arbeit während des US-Wahlkampfes 2020 auf. Dort lernten wir bereits, dass die Plattformen zu wenig zu spät taten – und dass Transparenz dringend nötig ist.

Bei der Bundestagswahl in Deutschland hat unser Platform Election Policy Tracker gezeigt, dass die Plattformen auch 2021 noch immer nicht in der Lage sind, Falschinformationen zur Wahl angemessen zu kontrollieren. Darüber hinaus zeigt unsere Studie, dass der Umgang mit Wahlen außerhalb der Vereinigten Staaten (insbesondere in Ländern, in denen Englisch nicht die Hauptsprache ist) nicht die gleichen Ressourcen erhält, die die verantwortlichen Unternehmen für die US-Wahlen 2020 bereit stellten.

Was Social-Media-Unternehmen während des deutschen Bundestagswahlkampfes taten oder eben nicht taten, sendet aus unserer Sicht ein bedrohliches Signal in Bezug auf ihre Bereitschaft zum Umgang mit Online-Fehl- und Desinformation bei den weltweit anstehenden Wahlen im Jahr 2022 und danach. Zusätzlich zu unseren Forschungsergebnissen veröffentlicht Mozilla daher auch „Minimum Election Standards“ – Mindestanforderungen, die Plattformen erfüllen müssen, um Desinformation zu unterbinden.

Einleitung

Nach einer folgenreichen und heftig umkämpften Bundestagswahl – zum ersten Mal seit 19 Jahren ohne Kanzlerkandidatur von Angela Merkel – bereiten sich zur Zeit mehrere Parteien in Deutschland auf eine Koalitionsregierung vor. Währenddessen hat Mozilla die Rolle von Social-Media-Plattformen in diesem Wahlkampf analysiert, um festzustellen, ob es bezüglich Wahl-Desinformation systemische Fehler und Bruchlinien gab.

Wahlkampagnen werden zunehmend online ausgetragen, gerade in Zeiten der Pandemie. Deutschland ist da keine Ausnahme. Und obwohl der deutsche Wahlkampf ziviler ablief als etwa die US-Präsidentschaftswahl im letzten Jahr, traten hier ähnliche Probleme beim Ablauf von Wahlkampagnen auf Online-Plattformen auf: Kandidat*innen, insbesondere Spitzenkandidat*innen, erlebten Hass und Falschaussagen über ihren Charakter. Gleichzeitig sorgten sich die Behörden (zu Recht) um ausländische Einmischung. Rechte Netzwerke von Gruppen und Nutzer*innen in sozialen Medien konnten nachweislich stärker davon profitieren, dass bestimmte Inhalte in ihrer Beliebtheit übertrieben aufgebläht wurden. Und in den sozialen Medien wimmelte es erneut von Desinformation – nicht nur zu Covid-19, Impfstoffen und dem Klimawandel, sondern auch in Bezug auf die Positionen von Parteien und Kandidat*innen sowie die Integrität des Wahlverfahrens selbst. Mögliche Auswirkungen waren bereits im Vorfeld der Wahl erkennbar. Eine Umfrage ergab beispielsweise, dass 28 bzw. 23 Prozent der Befragten in Deutschland fälschlicherweise glaubten, die Grünen wollten das Autofahren verbieten und die Briefwahl sei besonders anfällig für Wahlfälschung.

Was haben die großen Social-Media-Plattformen gegen all das getan? Um diese Frage zu beantworten, katalogisierte und untersuchte die Mozilla Foundation wahlbezogene Richtlinien zu Desinformation und politischer Werbung der größten Social-Media-Plattformen – Facebook, Instagram, YouTube, Twitter und TikTok – und verfolgte außerdem, wie sie auf unvorhergesehene Herausforderungen reagierten, die während des Wahlkampfes auftraten. Unsere wichtigste Erkenntnis: Während Plattformen zu vielen der oben genannten Themen eigene Richtlinien festgelegt haben, bestehen immer noch Lücken und Versäumnisse.

Noch wichtiger ist jedoch, dass die Plattformen im Zusammenhang mit der Wahl weder erkennbare Änderungen an ihren Maßgaben vorgenommen haben noch Erkenntnisse darüber weitergegeben haben, was sie auf ihren Plattformen beobachten konnten. Dies unterstreicht eine zentrale Herausforderung: Unabhängige Wissenschaftler*innen, Journalist*innen und der Gesetzgeber wissen einfach nicht genug darüber, was auf diesen Social-Media-Plattformen passiert und was Plattformen tun, um schädlichen und manipulativen Aktivitäten entgegenzuwirken. Warum? In erster Linie, weil Plattformen ihren keinen Zugriff gewähren.

Sie gleichen sich nicht: die Wahlen in Deutschland und in den USA

Obwohl die US-Wahl weniger als ein Jahr zurückliegt, schienen Social-Media-Unternehmen nicht in gleichem Maße vorbereitet, wahlbezogene Desinformation in Deutschland zu bekämpfen - wir nehmen an, dass dies daran liegt, dass sie außerhalb der USA nicht dem gleichen Maß an Aufmerksamkeit ausgesetzt waren. In früheren Recherchen hat Mozilla gezeigt, dass Plattformen im Verlauf des US-Wahlkampfes zahlreiche grundlegende Änderungen an ihren Maßnahmen gegen Falsch- und Desinformation vornahmen, insbesondere in den Wochen direkt vor und nach der Wahl.

Was wir in Deutschland beobachtet haben, war anders. Die meisten Plattformen veröffentlichten zwar Blogbeiträge über ihre Richtlinien und Maßnahmen in Bezug auf die Wahlen (mit Ausnahme von Twitter, das weder einen deutschen Blog noch deutschsprachige Blogbeiträge zu den Wahlen hat). Keine nahm jedoch wesentliche Änderungen an ihren Richtlinien vor, als die Wahl näher rückte.

Facebook hat durchaus nur 10 Tage vor der Bundestagswahl weltweit eine neue Klausel in Ergänzung seiner „Gemeinschaftsstandards" eingeführt, die sogenannte „Koordinierte Schädigung der Gesellschaft"-Regel. Es nutzte diese neue Klausel zum ersten Mal in Deutschland, um ein Netzwerk von mit der „Querdenker“-Bewegung verbundenen Konten zu entfernen, das COVID-19-Fehlinformationen verbreitete und zu Gewalt in Reaktion auf COVID-bezogene Beschränkungen aufrief. Facebooks Entscheidung in Bezug auf einige (aber bei weitem nicht alle) Konten, die mit den „Querdenkern" in Zusammenhang stehen, wurde damit zu einem Testfall für seine neue weltweite Politik und hatte durchaus Bedeutung für den Wahlkampf, in dem die COVID-Politik eine wichtige Rolle spielte.

Mehrere Maßnahmen aus dem US-amerikanischen Wahlkampf (zum Beispiel Verbote von politischer Werbung und Änderungen am Algorithmus, der über die Auswahl von gezeigten Nachrichten entscheidet) wurden sogar lange bevor die Deutschen an die Wahlurnen gerufen wurden zurückgenommen. Das muss nicht notwendigerweise schlecht sein, falls die im US-Wahlkampf genutzten Maßnahmen zuvor nicht getestet wurden und sich als nicht wirksam herausstellten.

Doch gibt es gewichtige Unterschiede in der Art und Weise, wie diese beiden Wahlen von den Social-Media-Unternehmen begleitet wurden. Ein Beispiel: Die Plattformen setzten im Vorfeld der Bundestagswahl keinerlei zeitlich begrenztes Verbot politischer Werbung durch, Dies könnte durch die Tatsache begründet sein, dass es keine Hinweise darauf gab, dass politische Werbung in ähnlicher Weise mit der Verbreitung von Desinformation in Deutschland zusammenhängt wie in den USA. Darüber hinaus stammte wahlbezogene Desinformation aus anderen Quellen: sie war in Deutschland wesentlich weniger zentralisiert und unklarer. Wie die Nichtregierungsorganisation Democracy Reporting International über die Wahl in Deutschland schrieb: „Auch wenn uns keine manipulativen viralen Inhalte begegnet sind, lässt die Menge der problematischen Inhalte einen „Tod auf Raten“ befürchten.”

Ein Versagen bei der Durchsetzung

Darauf hinzuweisen, dass Richtlinien in Bezug auf Wahlen festgelegt wurden, reicht bei weitem nicht aus. So umfassend und passend die Regeln der Unternehmen auch sind, sie bringen wenig, wenn sie nicht ausreichend durchgesetzt werden. Erneut haben Plattformen wenig bis gar keine Auskunft darüber gegeben, wie sie wahlbezogene Richtlinien durchsetzen. Doch die wenigen Hinweise, die wir haben, deuten darauf hin, dass die Plattformen ihre Zusagen nicht gehalten haben.

Untersuchungen von HateAid ergaben beispielsweise nicht nur, dass die Kanzlerkandidat*innen auf Twitter in großem Umfang mit Hass angegriffen wurden, sondern auch, dass ein erheblicher Teil dieser gegen sie gerichteten Attacken möglicherweise strafbar war. Doch nur ein kleiner Bruchteil dieser Inhalte wurde von der Plattform entfernt. Die Recherchen von Mozilla haben sowohl Mängel in TikToks Vorgehen zur Kennzeichnung von Inhalten im Zusammenhang mit der Bundestagswahl aufgezeigt. Darüber hinaus haben wir auch nachgewiesen, dass Tiktok nicht gegen Accounts vorgegangen ist, die sich als prominente deutsche Politiker*innen und Institutionen ausgeben. Weitere Mozilla-Recherchen haben gezeigt, dass Verbote politischer Werbung wenig wert sind, wenn sie, wie im Fall von TikTok, nicht effektiv durchgesetzt werden oder leicht umgangen werden können.

Wegschauen bei Wahlen außerhalb der USA

Diese Untätigkeit der großen Plattformen in Bezug auf die Bundestagswahl deutet auf ein Problem mit weitreichenden Auswirkungen hin: Social-Media-Unternehmen tun bei weitem nicht so viel für Wahlen außerhalb der USA, wo Politik und werbetreibende Unternehmen auf ihrem lukrativsten Markt nicht zuschauen. Dieser Mangel an Aufmerksamkeit und an Investitionen in die Integrität der Demokratie ist besorgniserregend, zumal Deutschland eine der größten Volkswirtschaften der Welt ist. Wenn Plattformen einem Markt wie Deutschland so wenig Aufmerksamkeit schenken, was geschieht dann mit Wahlen in kleineren oder weniger wohlhabenden Ländern?

Zumindest scheint dies mit der Herangehensweise der Plattformen in anderen Regionen der Welt übereinzustimmen, schädliche Wirkungen ihrer Dienstleistungen zu vermeiden. Mit der Content-Moderation der Plattformen beauftragte Firmen und Mitarbeiter*innen haben ihren Sitz teilweise in den USA und sprechen überproportional Englisch und andere weit verbreitete Sprachen. Wie eine aktuelle Berichterstattung des Wall Street Journals zeigte, ignoriert Facebook regelmäßig seine Wirkung außerhalb wohlhabender Länder: Nur 13% der Stunden, die bei Facebook mit der Moderation von Inhalten verbracht werden, gelten Inhalte von außerhalb der USA – während Nutzer*innen außerhalb der USA und Kanadas mehr als 90 % aller Facebook-Nutzer*innen ausmachen. Erst letzten Monat ergab eine Recherche der Mozilla-Fellows Odanga Madung und Brian Obilo, dass Twitter wenig unternimmt, um koordinierte Desinformationskampagnen gegen Journalist*innen, Richter*innen und die Zivilgesellschaft in Kenia zu stoppen.

Menschen in Frankreich, Ungarn, den Philippinen, Kenia, Brasilien und vielen anderen Ländern werden im nächsten Jahr zu Wahlen auf nationaler Ebene aufgerufen, und ein solch anhaltendes Maß an vorsätzlicher Nachlässigkeit kann tiefgreifende Auswirkungen auf die Integrität dieser Wahlen haben. Daher ist es wichtig, dass wir weiterhin genau beobachten, wie sich die Plattformen auf diese Wahlen vorbereiten und darauf reagieren. Was im Leben oft gilt, gilt auch für Plattformen bei Wahlen: „Lasst nicht nur Worte, sondern Taten sprechen.”

Das Gebot der Transparenz: Erkenntnisse zu Störung und Schädigung der Wahl teilen

Was wir über den Verlauf der Bundestagswahl in den sozialen Medien wissen, stammt weitgehend aus Mozilla-Recherchen und den Analysen anderer NGOs und Tech-Watchdogs. Aber wir wissen viel zu wenig, weil die Unternehmen weder mitteilen, was sie über illegale und schädliche Handlungen auf ihren Plattformen wissen, noch was sie genau tun, um dem entgegenzuwirken.

Wer ist für die Verbreitung von Desinformation in den sozialen Medien verantwortlich? Sind Kandidierende und Parteien an solchen Aktivitäten beteiligt und wenn ja, wie? Was sind die vorherrschenden Strategien böswilliger Akteure, um Politiker*innen und Parteien ins Visier zu nehmen oder das Vertrauen der Öffentlichkeit in den Wahlprozess zu untergraben? Wenn Plattformen zu diesen Fragen Untersuchungen anstellen (und das sollten sie!), sollte die Öffentlichkeit davon erfahren. Die Gewährleistung fairer und sicherer demokratischer Wahlen ist zu wichtig, als dass diese Erkenntnisse zurückgehalten oder nur selektiv offengelegt werden könnten.

Plattformen müssen daneben auch mehr Einblick geben, wie sie selbst mit den von ihnen identifizierten Risiken umgehen – und wie wirksam ihre Maßnahmen sind. Wie sollten wir sonst wissen, ob die Maßnahmen der Plattformen die Probleme, die sie angehen wollen, angemessen angehen oder ob es sich um ein Schaulaufen zur Beschwichtigung von Regulierungsbehörden und Öffentlichkeit handelt? Plattformen sollten zum Beispiel verlässliche Informationen darüber herausgeben, ob und wie sie offizielle Informationen oder Inhalte zur Faktenprüfung fördern, welche Auswirkungen die Kennzeichnung, Überlagerung oder Entfernung von Inhalten auf die Verbreitung von Desinformationen hat, was mit den Accounts geschieht, die solche Inhalte verbreiten, und wie viele Mitarbeiter*innen an wahlbezogenen Initiativen arbeiten. Das könnte viel dazu beitragen, mehr zum Schutz von Wahlen zu leisten. Und es würde anderen Organisationen, die sich für den Schutz von Wahlen einsetzen, mehr Informationen über wahlbezogene Risiken und Aktivitäten von Plattformen an die Hand geben und ihnen ermöglichen, ihre Bemühungen gezielter zu gestalten.

Schlussendlich bleibt stehen: Plattformen müssen ihren Einsatz beim Schutz von Wahlen weiter verstärken – unabhängig davon, wo die Leute wählen und ob die Welt dabei zuschaut.

Minimum Election Standards: Mindestanforderungen, die Plattformen zur Abwehr von Desinformation erfüllen müssen

​Auf der Grundlage unserer Untersuchungen hat Mozilla eine Liste von Anforderungen erstellt, die Regierungen und die Öffentlichkeit von den Social-Media-Plattformen im Vorfeld jeder wichtigen Wahl stellen sollten. Der Kontext ist jeweils von Land zu Land unterschiedlich, doch diese Mindestanforderungen können mit dafür sorgen, dass die Plattformen tun, was nötig ist, und nicht nur was bequem ist.

Falsche Inhalte entfernen:

• Identifizieren die Plattformen Desinformation und unternehmen sie etwas dagegen (z.B. durch Kennzeichnen, Einblenden oder Entfernen)?
• Löschen/suspendieren Plattformen zeitnah Accounts, von denen aus wiederholt Desinformation zu Wahlen verbreitet wird?

Vertrauenswürdige Quellen fördern:

• Unterstützen die Plattformen vertrauenswürdige Informationsquellen (z.B. zu Regeln zum Wahlverfahren, Terminen, Wahllokalen), unter Berücksichtigung der lokalen Gegebenheiten?

Mit lokalen und regionalen Entscheidungsträger*innen zusammenarbeiten:

• Arbeiten Plattformen mit unabhängigen Fact-Checkern zusammen?
• Sind die Fact-Checker im betreffenden Land/in der Region ansässig bzw. stammen daher?
• Arbeiten Plattformen mit der lokalen/regionalen Zivilgesellschaft zusammen, um die Wahl zu schützen (zum Beispiel durch Identifizierung von orts- und kontextspezifischen Verletzungen)?
• Unterstützen sie Organisationen der Zivilgesellschaft auch finanziell?

Wahlbezogene Informationen teilen:

• Teilen die Unternehmen wichtigen Entscheidungsträger*innen und der Öffentlichkeit mit, wie sie mit Problemen auf ihren Plattformen in Bezug auf Wahlen umgehen?
• Tun sie dies in der/den lokalen Sprache/n?
• Kommunizieren die Plattformen offen darüber, welche Schritte sie unternehmen, um Desinformation zu Wahlen und anderen damit zusammenhängenden Verletzungen begegnen?
• Teilen die Unternehmen Studien, die sie zu Desinformation auf ihren Plattformen erstellen, mit Dritten?

Transparenz zu Werbung herstellen:

• Bieten Plattformen Transparenz zu politischer Werbung durch öffentlich zugängliche und zweckmäßige Werbebibliotheken?

Angemessene Verfahren zur Wahlintegrität gewährleisten:

• Beschäftigen die Plattformen ausreichend viele Content-Moderator*innen, die mit der/den lokalen Sprache/n und den Gegebenheiten vor Ort vertraut sind?
• Haben die Plattformen ausreichend Mitarbeiter*innen, die sich speziell mit Wahlintegrität beschäftigen? Wenn nicht, warum?
• Haben die Plattformen Verfahren eingerichtet, um Empfehlungen zur Wahlintegrität mehr Gewicht zu geben und ihnen angemessene Aufmerksamkeit seitens der Unternehmensleitung zu geben?
• Bereiten sich Plattformen rechtzeitig auf Wahlen vor?

Regierungen Widerstand leisten, die die Demokratie gefährden:

• Sind Plattformen in der Lage, den Versuchen von Regierungen entgegenzutreten, Inhalte zu zensieren, Desinformation zu verbreiten, politische Gegner zu missbrauchen oder zu bedrohen oder die Dienstleistungen zu suspendieren bzw. zu blockieren?

Fazit: ein Aufruf zu verstärkten Maßnahmen vor Wahlen

Wie die Bundestagswahl gezeigt hat, sind wahlbezogene Falsch- und Desinformation außerhalb der USA nach wie vor ein großes Problem. Dies erfordert weltweit Aufmerksamkeit und wird es auf absehbare Zeit tun.

Plattformen stellen durchaus Regeln zur Bekämpfung von Falschinformationen auf, doch weist vieles darauf hin, dass diese Richtlinien nicht ausreichend wirken. Es reicht auch nicht aus, sich nur darauf zu verlassen, dass Plattformen „das Richtige tun“, um Angriffe auf demokratische Institutionen und Prozesse abzuwehren. Die Öffentlichkeit braucht mehr Information, um die Wirksamkeit von Plattformregeln angemessen beurteilen zu können, um zu verstehen, welche Ansätze funktionieren und welche lediglich Augenwischerei sind, und um zu verstehen, wo möglicherweise zusätzliche rechtliche Absicherungen erforderlich sind. Plattformen können dabei helfen: Sie sollten umgehend wesentlich mehr Transparenz bei der Umsetzung von wahlbezogenen Regeln schaffen und Daten über deren Auswirkungen veröffentlichen.

Mozillas Mindestanforderungen für Wahlen sind ein Weg, diese Fragen anzugehen, aber beileibe nicht der einzige. Wir hoffen, dass diese Standards dazu beitragen können, Plattformen beim Umgang mit Wahlen anzuleiten und sie zur Rechenschaft zu ziehen, wenn sie dabei ihr Ziel verfehlen. Wir arbeiten daran, sie weiter zu verbessern und Plattformen auf sie hinzuweisen, und laden alle dazu ein, mit uns am Kampf gegen Desinformation und zum Schutz der Demokratie auf der ganzen Welt zu arbeiten.

Anhang: Zusammenfassung von Mozillas Erkenntnissen aus dem Platform Policy Tracker

Falsch- und Desinformation

Die weit verbreitete und teilweise gezielte Verbreitung von Falsch- und Desinformationen kann im Wahlkampf gravierende Folgen haben: Sie kann beispielsweise einer faktengestützten öffentlichen Debatte entgegenwirken, Vertrauen erodieren, Wahlentscheidungen beeinflussen oder Wähler demobilisieren. Plattformen bekämpfen daher bereits aktiv die Verbreitung solcher Informationen – aber oft zu zaghaft und mit groben Lücken:

• Obwohl alle Plattformen wahlbezogene Desinformation entfernen wollen, betrifft dies bei einigen Plattformen nur Desinformation im Zusammenhang mit der Integrität des Wahlprozesses.
• Darüber hinausgehende wahlbezogene Desinformation ist zwar auf allen Plattformen gekennzeichnet. Allerdings stützen sich nicht alle Plattformen dabei auf die Überprüfung von Fakten durch Dritte; auf YouTube beispielsweise weist das Banner entsprechende Inhalte nicht unbedingt als Desinformation aus. Auch Facebook und Instagram sehen davon ab, von Politiker*innen verbreitete Inhalte einer Faktenprüfung zu unterziehen oder als Desinformation zu kennzeichnen.
• Obwohl alle Plattformen behaupten, die Verbreitung von Falschinformationen über ihre Empfehlungssysteme einzudämmen, ist meist unklar, auf welchen Kriterien dies beruht und in welchem ​​Umfang dies geschieht.
• In einigen Fällen gelten Richtlinien zu Falschinformationen über mutmaßlichen Wahlbetrug im Zusammenhang mit den US-Präsidentschaftswahlen 2020 nicht für andere Wahlen, oder es ist unklar, ob dies der Fall ist. Zudem bieten die meisten Plattformen – anders als bei der US-Wahl – keine gesonderten Informationsseiten oder Banner zu Kandidat*innen, dem Wahlprozess oder den Ergebnissen der Bundestagswahlen an.

Wahlwerbung

Neben authentischen Inhalten kann auch politische Werbung ein wesentlicher Treiber von Desinformation sein, die gezielt darauf ausgerichtet ist, Wähler zu täuschen und damit den politischen Prozess zu beeinflussen. Ein Mindestmaß an Transparenz und weitere Maßnahmen gegen schädliche politische Werbung sind daher von enormer Bedeutung. Aber auch hier ist die Bilanz dessen, wie die Plattformen mit diesem Thema umgehen, gemischt:

• Während YouTube die Ausrichtung von Wahlwerbung nur nach Alter, Geschlecht und Standort zulässt, erlauben Facebook und Instagram ein solches „Microtargeting“ von Wahlwerbung in gleichem Umfang wie herkömmliche Werbung.
• Während Facebook und Instagram Aussagen in Wahlwerbung untersagen, die von Fact-Checkern widerlegt wurden, bietet YouTube keine Faktenprüfung für Wahlwerbung an, die mehr als das Einhalten seiner Community-Richtlinien beinhaltet.

Twitter und TikTok haben politische Werbung auf ihren Plattformen komplett untersagt.