Halten Sie uns auf, wenn Ihnen das bekannt vorkommt: Die Apps, die Sie nutzen, und die Algorithmen, die sie steuern, sind voreingenommen. Das wirkt sich auf Ihre Social-Media-Feeds, Ihre Suchergebnisse und sogar auf Ihre Dating-Aussichten aus.

Ihr Online-Treffen mag sich so spontan anfühlen wie ein persönliches Treffen, aber die Algorithmen von Tinder und Hinge sind die unsichtbare Hand hinter den Kulissen, die Matches möglich machen. Möglicherweise stellen die Apps Gewinne über Partnerschaften, aber eins ist sicher: Diese Algorithmen werden von menschlichen Vorurteilen beeinflusst.

„Ich glaube, viele farbige Nutzer haben die Vorstellung oder Ahnung, dass sie isoliert werden oder dass sie nur bestimmten Typen von Menschen angezeigt werden“, sagt Apryl Williams. Apryl ist Senior Mozilla Fellow, Professorin an der Universität von Michigan und Autorin des Buches Not My Type: Automating Sexual Racism in Online Dating. „Diese Vermutung wird durch die Daten vieler Unternehmen gestützt, die die ethnische Zugehörigkeit oder den wirtschaftlichen Status oder die Bildung als Datenpunkt für die Paarbildung verwenden. Oder zumindest behaupten sie das. Es ist wirklich schwierig, weil wir nicht genau sehen können, was in ihrem Code steht, aber wir wissen, was unsere Erfahrung ist.“

Apps zur Priorisierung der Erfahrung weißer Nutzer

Als Apryl (eine schwarze Frau) ihren weißen Ehemann auf Tinder kennenlernte, stellte er fest, dass die App ihm ständig Profile von blonden Frauen schickte. Soziale Apps verwenden Techniken wie die kollaborative Filterung, um basierend auf den Interessen ähnlicher Nutzer zu erraten, was einem Nutzer gefällt. Im Fall von Apryls Mann bestand die App jedoch darauf, ihm blonde Frauen zu schicken, obwohl er ständig nach links wischte. „Viele dieser Apps gehen davon aus, dass der amerikanische westliche Idealtypus eine blondhaarige, blauäugige Frau ist“, sagt Apryl. „Um also weiterhin Nutzer anzulocken, sorgen sie dafür, dass Menschen, von denen sie glauben, dass sie diesen Typus wollen, Zugang zu einem ständigen Strom dieser Nutzer haben.“

Wir wissen nicht viel darüber, was in unseren Dating-Apps vor sich geht und wie sie funktionieren. Wir haben jedoch einige Informationen. „Oft verwenden Apps einen so genannten Relevanz-Score oder eine Relevanz-Bewertung, d. h. sie suchen nach Relevanz zwischen den Nutzern“, sagt Apryl. „Die Einzelheiten dazu sind verborgen, wir können nicht genau sagen, was sie tun. Aber wir wissen, dass sie bis zu einem gewissen Grad nach Hinweisen und sozialem Kontext suchen, die ihnen sagen, dass diese beiden Nutzer zusammenpassen würden. Oft werden diese Apps von Weißen für Weiße entwickelt, und so sind die Dinge, die sie in das Produkt einbauen, wie z. B. Relevanzbewertungen, Teil des weißen westlichen Mainstream-Ideals.“ Diese Voreingenommenheit bildet zusammen mit den versteckten Bewertungen in Dating-Apps eine gefährliche Kombination, die die Auswirkungen der Voreingenommenheit auf der Plattform vervielfacht.

Wie verhält es sich mit Vertrauen und Sicherheit bei Dating-Apps?

Die Partnersuche über eine Dating-App wird exponentiell schwieriger, wenn die Nutzer nicht auf die Sicherheit einer App vertrauen können. Leider versagen viele moderne Partnervermittlungs-Apps auch in diesem Punkt. „Unternehmen haben damit begonnen, Rassen- und Transphobie in den Schutz der Community-Guides aufzunehmen, aber es gibt keine klaren Richtlinien, wie man einen transphobischen Vorfall oder einen Vorfall von rassistischer Belästigung oder rassistischer Fetischisierung meldet“, sagt Apryl. „Da es keinen klaren Weg dafür gibt, werden die Nutzer davon abgehalten, solche Vorfälle in Momenten der Angst, des Stresses oder der Furcht zu melden, weil nicht klar ist, dass sie sich unterstützt fühlen.“

Digitales Vertrauen und Sicherheit im Dating-Bereich haben ihre Höhen und Tiefen erlebt. So kündigte Tinder im Februar eine neue Funktion an, die sich an Nutzer zwischen 18 und 25 Jahren richtet, um Fehlverhalten zu erkennen, insbesondere in Bezug auf "Authentizität, Respekt und Inklusivität", sowie eine neue Funktion zur Verbesserung der Nutzerüberprüfung. Zuvor hatten Tinder und andere Match Group-Apps jedoch bei der Hintergrundüberprüfung der Nutzer eine Pause eingelegt.

Experten wie Apryl loben die Bemühungen der Match Group, ihren Beirat mit Mitgliedern zu besetzen, die sich auf die Gesundheit von Kindern und den Sexhandel spezialisiert haben. Apryl ist jedoch besorgt, dass die Sicherheitsbemühungen des Unternehmens für farbige Nutzer und viele andere nicht so gründlich sind.

Schützen Dating-Apps farbige Nutzer ausreichend?

Untersuchungen zeigen uns, dass Menschen voreingenommen sind, und viele haben kein Problem damit, diese Voreingenommenheit in ihre Dating-App-Erfahrung einzubringen. Leider verschlimmern Algorithmen in vielen Fällen die Situation. „Die Voreingenommenheit, die wir online erleben, unterscheidet sich nicht von der Voreingenommenheit, die wir in anderen Bereichen des Lebens erleben, sie wird nur durch Algorithmen verstärkt“, sagt Apryl. „Wir sehen Dinge, bei denen wir zweimal darüber nachdenken, warum wir diese Person auf der App sehen oder mit dieser Person zusammenpassen.“

Dating-Apps neigen, wie viele andere soziale Apps, dazu, die weiße Erfahrung in den Mittelpunkt zu stellen – was farbige Nutzer oft auf der Strecke lässt. Im Fall der Dating-Apps hat diese Entscheidung jedoch niemandem geholfen. „Vertrauen und Sicherheit sind auf den Schutz weißer Frauen ausgerichtet“, sagt Apryl, „und selbst das Beste, was wir bei Vertrauen und Sicherheit gesehen haben, schützt weiße Frauen nicht ausreichend. Wenn es also die Zielgruppe nicht schützt, will ich gar nicht daran denken, wie es den Rest von uns im Stich lässt.“

Sind Dating-Apps rassistisch? Das können Tinder und andere tun, um farbige Nutzer zu schützen

Geschrieben von: Xavier Harding

Bearbeitet von: Audrey Hingle, Kevin Zawacki, Lindsay Dearlove

Zeichnungen: Shannon Zepeda