Jeśli już to słyszałeś, wciśnij „stop”: aplikacje, które wykorzystujesz, a także algorytmy, które je napędzają, cechują się stronniczością. Wpływa to na Twoje kanały w mediach społecznościowych, wyniki wyszukiwania, a nawet perspektywy randkowe.

Twoje słodkie spotkanie online może wydawać się tak spontaniczne, jak i osobiste, ale niewidzialną ręką za kulisami, która decyduje o dopasowaniach, są algorytmy na Tinderze i Hinge. Możliwe, że aplikacje nad partnerstwo przedkładają zyski, ale pewnym jest to, że wspomniane algorytmy są pod wpływem uprzedzeń ludzi.

„Myślę, że wielu niebiałych użytkowników ma pojęcie lub przeczucie, że są szufladkowani lub że są pokazywani tylko określonym typom ludzi” – mówi Apryl Williams. Apryl jest starszą stypendystką Mozilli, wykładowczynią Uniwersytetu Michigan i autorką książki Not My Type: Automating Sexual Racism in Online Dating [Nie w moim typie: automatyzacja seksualnego rasizmu w randkowaniu online]. „To przeczucie jest poparte danymi od wielu firm, które wykorzystują pochodzenie etniczne, status ekonomiczny lub wykształcenie jako punkt danych do łączenia ludzi w pary. A przynajmniej tak twierdzą. To naprawdę trudne, ponieważ nie możemy do końca zobaczyć, co znajduje się w ich kodzie, ale sami wiemy, jakie są nasze doświadczenia”.

Aplikacje zaprojektowane, aby priorytetowo traktować wrażenia białych użytkowników

Kiedy Apryl, czarnoskóra kobieta, poznała na Tinderze swojego małżonka, białego mężczyznę, ten zwrócił uwagę, że aplikacja uparcie podsuwała mu profile blondynek. Aplikacje społecznościowe wykorzystują techniki takie, jak oparte na współpracy filtrowanie, aby odgadnąć, co spodoba się danemu użytkownikowi na podstawie tego, czym zainteresowani są podobni użytkownicy. Jednak w przypadku męża Apryl aplikacja nalegała, aby mimo ciągłego przesuwania w lewo podstawiać mu blondynki. „Wiele z tych aplikacji zakłada, że amerykański zachodni ideał to złotowłosa, niebieskooka kobieta” – mówi Apryl. „Aby dalej przyciągać użytkowników, będą się starać, by osoby, które sądzą, że chcą kogoś w tym typie, miał dostęp do stałego strumienia takich użytkowników”.

Istnieje wiele rzeczy, których nie wiemy o tym, co dzieje się w naszych aplikacjach randkowych oraz o tym, jak działają. Dysponujemy jednak pewnymi informacjami. „Aplikacje często wykorzystują tak zwany wynik trafności lub ocenę trafności, więc szukają cech wspólnych użytkowników” – mówi Apryl. „Szczegóły pozostają nieznane i nie da się dokładnie stwierdzić, co tam się dzieje. Ale wiemy, że do pewnego stopnia szukają wskazówek i kontekstu społecznego, który powiedziałby im, że ci dwaj użytkownicy będą do siebie pasować. Często te aplikacje są tworzone przez białych dla białych, więc rzeczy, które tworzą produkt, jak np. punktacja dopasowania, są częścią masowego, mainstreamowego, zachodniego ideału”. Ta stronniczość łączy się z ukrytymi wynikami w aplikacjach randkowych, tworząc niebezpieczną kombinację – znacznie zwielokrotniając efekty stronniczości na platformie.

Jak zaufanie i bezpieczeństwo mają się do aplikacji randkowych?

Znalezienie partnera w aplikacji randkowej staje się nieporównywalnie trudniejsze, jeśli użytkownicy nie mogą zaufać bezpieczeństwu aplikacji. Niestety, wiele nowoczesnych aplikacji randkowych zawodzi również w tym zakresie. „Firmy zaczęły uwzględniać w przewodnikach dotyczących ochrony społeczności również rasizm i transfobię, ale nie ma jasnych wytycznych, w jaki sposób ludzie mieliby zgłaszać wystąpienie incydentu związanego z transfobią, rasizmem lub fetyszyzacją rasową” – mówi Apryl. „Jeśli nie ma jasnej ścieżki, to naprawdę zniechęca użytkowników do zgłaszania takich rzeczy w chwilach niepokoju, stresu czy strachu, ponieważ nie jest jasne, czy czuliby się wspierani”.

Cyfrowe zaufanie i bezpieczeństwo w sferze randkowej miały swoje wzloty i upadki. Dla przykładu, w lutym Tinder ogłosił uruchomienie nowej funkcji skierowanej do użytkowników w przedziale wiekowym 18–25 lat, aby wykryć niewłaściwe zachowania, szczególnie w odniesieniu do „autentyczności, szacunku i inkluzywności”, a także nową funkcję poprawiającą weryfikację użytkowników. Wcześniej jednak Tinder i inne aplikacje Match Group wstrzymały weryfikację użytkowników.

Eksperci tacy, jak Apryl, pochwalają starania Match Group o uzyskiwanie informacji od jej komitetu doradczego, którego członkowie specjalizują się w wiedzy o zdrowiu dzieci i handlu ludźmi w celach seksualnych. Mimo to Apryl martwi się, że działania firmy w zakresie bezpieczeństwa nie są aż tak staranne, jeśli chodzi użytkowników spoza rasy białej oraz wielu innych.

Czy aplikacje randkowe robią wystarczająco dużo, aby chronić niebiałych użytkowników?

Badania pokazują, że ludzie są stronniczy i wielu nie ma nic przeciwko przenoszeniu tej cechy także na aplikacje randkowe. Niestety, w wielu przypadkach sytuację pogarszają algorytmy. „Stronniczość, której doświadczamy w Internecie, niczym nie różni się od uprzedzeń, których doświadczamy w innych obszarach życia, po prostu wzmacniają ją algorytmy” – mówi Apryl. „Widzimy rzeczy, które sprawiają, że zastanawiamy się dwa razy, dlaczego widzimy daną osobę w aplikacji lub zostajemy do niej dopasowani”.

Aplikacje randkowe, podobnie jak wiele aplikacji społecznościowych, mają tendencję do skupiania się na wrażeniach osób białych – co często pozostawia ich niebiałych użytkowników na lodzie. Jeśli jednak chodzi o aplikacje randkowe, ten wybór nikomu nie pomógł. „Zaufanie i bezpieczeństwo zostały zaprojektowane z myślą o ochronie białych kobiet” – mówi Apryl – „a mimo to nawet najlepsze osiągnięcia związane z zaufaniem i bezpieczeństwem nadal nie są w stanie odpowiednio chronić nawet białych kobiet. Więc jeśli nie chronią docelowej grupy demograficznej, nie chcę nawet myśleć o tym, jak one zawodzą resztę z nas”.

Czy aplikacje randkowe są rasistkami? Oto co Tinder i inni mogą zrobić, aby chronić niebiałych użytkowników

Autor: Xavier Harding

Redakcja: Audrey Hingle, Kevin Zawacki, Lindsay Dearlove

Autor ilustracji: Shannon Zepeda