Caso já tenha ouvido essa, nos interrompa: os aplicativos que você usa e os algoritmos que os alimentam contêm viés. Isso afeta seus feeds de mídia social, seus resultados de pesquisa e até mesmo seus prospectos de namoro.

Seu encontro romântico online pode parecer tão espontâneo quanto um encontro presencial, mas os algoritmos no Tinder e no Hinge são a mão invisível nos bastidores que fazem as correspondências acontecerem. É possível que os aplicativos priorizem os lucros em detrimento das parcerias, mas o que é certo é que esses algoritmos são influenciados pelo viés humano.

"Acho que muitos usuários de cor têm uma ideia ou um palpite de que estão sendo isolados ou que estão sendo indicados apenas para certos tipos de pessoas", diz Apryl Williams. Apryl é pesquisadora sênior da Mozilla, professora da Universidade de Michigan e autora do livro Not My Type: Automating Sexual Racism in Online Dating. “Esse palpite é apoiado por dados de muitas empresas que usam etnia ou status econômico ou educação como um ponto de dados para a associação. Ou pelo menos eles afirmam. É realmente difícil, já que não conseguimos ver claramente o que está em seu código, mas sabemos qual é a nossa experiência.”

Aplicativos projetados para priorizar a experiência dos usuários brancos

Quando Apryl, uma mulher negra, conheceu seu cônjuge, um homem branco, no Tinder, ele notou que o aplicativo insistia em lhe enviar perfis de mulheres loiras. Os aplicativos sociais usam técnicas como filtragem colaborativa para adivinhar o que um usuário gostará com base no que usuários semelhantes estão interessados. No caso do marido de Apryl, no entanto, o aplicativo insistia em apresentar mulheres loiras para ele, apesar de ele continuar deslizando para a esquerda. "Muitos desses aplicativos assumem que o ideal de beleza americano ocidental é uma mulher loira de olhos azuis", diz Apryl. “Então, para continuar atraindo usuários, eles vão se certificar de que as pessoas que eles acreditam quererem esse tipo de perfil tenham acesso a um fluxo constante desses usuários.”

Há muita coisa que não sabemos sobre o que acontece dentro de nossos aplicativos de namoro e como eles funcionam. No entanto, temos algumas informações. "Muitas vezes, os aplicativos estão usando o que é chamado de pontuação de relevância ou uma avaliação de relevância, então eles estão procurando relevância entre os usuários", diz Apryl. “Os detalhes sobre isso estão escondidos, não podemos dizer exatamente o que eles estão fazendo. Mas sabemos que, até certo ponto, eles estão procurando pistas e contexto social que lhes digam que esses dois usuários combinariam. Muitas vezes, esses aplicativos são projetados para pessoas brancas por pessoas brancas e, portanto, as coisas que eles estão inserindo no produto, como pontuações de relevância, fazem parte do ideal branco ocidental predominante na cultura popular." Esse viés se combina com pontuações ocultas dentro de aplicativos de namoro para formar uma combinação perigosa — multiplicando consideravelmente os efeitos do viés na plataforma.

Como a confiança e a segurança se relacionam com os aplicativos de namoro?

Encontrar um parceiro em um aplicativo de namoro se torna exponencialmente mais difícil se os usuários não puderem confiar na segurança de um aplicativo. Infelizmente, muitos aplicativos modernos de relacionamento também falham nisso. “As empresas começaram a incluir raça e transfobia nas proteções dos guias comunitários, mas não há diretrizes claras sobre como as pessoas denunciariam um incidente transfóbico, um incidente de assédio racial ou um incidente de fetichização racial”, diz Apryl. "Por não ter um caminho claro para isso, isso realmente desencoraja os usuários a relatar essas alegações em momentos de ansiedade, estresse ou medo, porque não está claro se os usuários se sentiriam apoiados."

A confiança e a segurança digitais na esfera do namoro viram seus altos e baixos. Por exemplo, em fevereiro, o Tinder anunciou um novo recurso direcionado a usuários de 18 a 25 anos de idade para identificar mau comportamento, especificamente em relação à "autenticidade, respeito e inclusão", bem como um novo recurso para melhorar a verificação do usuário. Antes disso, no entanto, o Tinder e outros aplicativos do Match Group pausaram as verificações de antecedentes do usuário.

Especialistas como a Apryl aplaudem os esforços do Match Group ao recrutar membros para seu conselho consultivo, com membros especializados em saúde infantil e tráfico sexual. Ainda assim, Apryl teme que os esforços de segurança da empresa não sejam tão abrangentes para usuários de cor e muitos outros.

Os aplicativos de namoro estão fazendo o suficiente para proteger os usuários de cor?

Pesquisas nos mostram que as pessoas são tendenciosas e muitas não se importam em trazer esses preconceitos para a experiência do aplicativo de namoro. Infelizmente, em muitos casos, os algoritmos pioram as coisas. "O preconceito que vivenciamos online não é diferente do preconceito que vivenciamos em outras áreas da vida, é apenas amplificado por algoritmos", diz Apryl. "Vemos coisas que nos fazem hesitar sobre o motivo de estarmos vendo essa pessoa no aplicativo ou fazendo par com ela."

Aplicativos de namoro, como muitos aplicativos sociais, tendem a centralizar a experiência branca — o que muitas vezes deixa os usuários de cor na poeira. No caso de aplicativos de namoro, no entanto, a escolha não ajudou ninguém. "O fator de segurança e confiabilidade é projetado e direcionado para proteger mulheres brancas", diz Apryl, "e até mesmo os melhores que vimos em termos de confiança e segurança ainda falham em proteger adequadamente as mulheres brancas. Então, se falha em proteger o público-alvo, nem quero pensar em como está falhando com o resto de nós.”

Os aplicativos de namoro são racistas? Veja o que o Tinder e outros aplicativos podem fazer para proteger os usuários de cor

Escrito por: Xavier Harding

Editado por: Audrey Hingle, Kevin Zawacki, Lindsay Dearlove

Arte por: Shannon Zepeda