Haznos callar si has escuchado esto antes: las aplicaciones que usas y los algoritmos que las impulsan contienen sesgos. Esto tiene efectos en los feeds de tus redes sociales, en los resultados de tus búsquedas e incluso en tus citas potenciales.

Aunque tu encuentro en línea pueda parecer tan espontáneo como uno en persona, los algoritmos de Tinder y Hinge son la mano invisible detrás de escena que crea esos «match». Es posible que las aplicaciones prioricen las ganancias sobre las relaciones, pero lo cierto es que estos algoritmos están influenciados por sesgos humanos.

«Creo que muchos usuarios de color sienten o presienten que son apartados o que solo se los muestra a cierto tipo de personas», dice Apryl Williams. Apryl es miembro principal de Mozilla, profesora de la Universidad de Michigan y autora del libro Not My Type: Automating Sexual Racism in Online Dating. «Esa corazonada está respaldada por los datos de numerosas empresas que utilizan el origen étnico, el estado económico o la educación como punto de datos para crear parejas. O al menos así lo afirman. Este es un asunto realmente difícil porque no podemos ver qué hay en su código, pero sí sabemos cómo son nuestras experiencias».

Aplicaciones diseñadas para priorizar la experiencia de los usuarios blancos

Cuando Apryl, una mujer negra, conoció a su pareja, un hombre blanco, en Tinder, él notó que la aplicación insistía en enviarle perfiles de mujeres rubias. Las aplicaciones sociales utilizan técnicas como el filtrado colaborativo para adivinar lo que le gustará a un usuario en función de lo que le interesa a usuarios similares. En el caso del marido de Apryl, sin embargo, la aplicación insistió en mostrarle mujeres rubias a pesar de que deslizaba continuamente hacia la izquierda. «Muchas de estas aplicaciones suponen que el tipo ideal occidental estadounidense es una mujer rubia de ojos azules», comenta Apryl. «Entonces, para seguir atrayendo usuarios, se asegurarán de que las personas que creen que buscan ese tipo tengan acceso a un flujo constante de usuarios con esas características».

Hay muchas cosas que no sabemos sobre lo que sucede dentro de nuestras aplicaciones de citas y sobre cómo funcionan. Sin embargo, tenemos algo de información. «A menudo, las aplicaciones usan lo que se llama una puntuación o una evaluación de relevancia; es decir que buscan relevancia entre los usuarios», explica Apryl. «Estos detalles están ocultos, no podemos decir exactamente lo que hacen. Pero sí sabemos que, hasta cierto punto, buscan señales y un contexto social que les indique que estos dos usuarios podrían ir juntos. A menudo, estas aplicaciones están diseñadas por personas blancas para personas blancas, por lo que lo que incorporan en el producto, como las puntuaciones de relevancia, forman parte del ideal occidental blanco hegemónico». Este sesgo se combina con las puntuaciones ocultas dentro de las aplicaciones de citas y forma un combo peligroso que multiplica exponencialmente los efectos de los sesgos en la plataforma.

¿Cuál es la relación entre confianza y seguridad y aplicaciones de citas?

Encontrar una pareja en una aplicación de citas es mucho más difícil si los usuarios no pueden confiar en la seguridad de una aplicación. Desafortunadamente, muchas aplicaciones modernas de citas también fallan en este aspecto. «Si bien las empresas han comenzado a incluir asuntos relacionados con la raza y la transfobia en las protecciones de las guías comunitarias, no existen pautas claras sobre cómo las personas pueden denunciar un incidente de transfobia, de acoso racial o de fetichización racial», dice Apryl. «El hecho de no existir un camino claro para hacerlo, realmente desalienta a los usuarios a denunciar estas situaciones en momentos de ansiedad, estrés o miedo, ya que no está claro que recibirán apoyo».

La confianza y la seguridad digital en el ámbito de las aplicaciones de citas ha tenido sus altibajos. Por ejemplo, en febrero, Tinder anunció una nueva función dirigida a sus usuarios de 18 a 25 años, destinada a detectar comportamientos indebidos, específicamente en lo que respecta a «autenticidad, respeto e inclusión», así como una nueva función para mejorar la verificación de los usuarios. Sin embargo, antes de esto, Tinder y otras aplicaciones del grupo Match pausaron las verificaciones de antecedentes de sus usuarios.

Expertos como Apryl celebran los esfuerzos del grupo Match para conformar una junta asesora con miembros especializos en salud infantil y tráfico sexual. Aún así, a Apryl le preocupa que los esfuerzos que la empresa realiza en el ámbito de la seguridad no sean tan exhaustivos para los usuarios de color y otros grupos.

¿Las aplicaciones de citas están haciendo lo suficiente para proteger a los usuarios de color?

Las investigaciones nos muestran que las personas tienen sesgos y que muchas de ellas no tienen problema en llevar esos sesgos a sus experiencias en aplicaciones de citas. Desafortunadamente, en muchos casos, los algoritmos empeoran las cosas. «Los sesgos que experimentamos en línea no son diferentes de los que experimentamos en otras áreas de la vida, solo que se amplifican con algoritmos», comenta Apryl. «Hay cosas que nos hacen pensar dos veces por qué [estamos] viendo a esta persona en la aplicación o por qué hacemos match con esta persona».

Las aplicaciones de citas, al igual que muchas aplicaciones sociales, tienden a centrarse en la experiencia blanca, lo que a menudo deja a los usuarios de color fuera del mapa. En el caso de las aplicaciones de citas, sin embargo, la elección no ha ayudado a nadie. «La confianza y la seguridad están diseñadas para proteger a las mujeres blancas», dice Apryl, «e incluso lo mejor que hemos visto con respecto a la confianza y la seguridad aún no protege adecuadamente a las mujeres blancas. Entonces, si ni siquiera protege al grupo demográfico objetivo, no quiero ni pensar en cómo nos está fallando al resto».

¿Las aplicaciones de citas son racistas? Esto es lo que Tinder y otras empresas pueden hacer para proteger a los usuarios de color

Redactado por: Xavier Harding

Editado por: Audrey Hingle, Kevin Zawacki, Lindsay Dearlove

Arte: Shannon Zepeda